«Ante la perspectiva de una explosión de inteligencia, los humanos somos como niños pequeños jugando con una bomba. Tal es el desajuste entre el poder de nuestro juguete y la inmadurez de nuestra conducta. La superinteligencia es un reto para el que no estamos listos ahora y para el que no estaremos preparados en un largo tiempo. Tenemos poca idea de cuándo se producirá la detonación, aunque si mañana mantenemos el dispositivo cerca de nuestro oído podemos escuchar un débil sonido de tic-tac.
Para un niño con una bomba a punto de detonar en sus manos, algo sensato seria dejarla con cuidado en el suelo, salir rápidamente de la habitación, y ponerse en contacto con el adulto más cercano. Sin embargo, lo que tenemos aquí no es un niño, sino muchos, cada uno con acceso a un gatillo de disparo independiente. Las posibilidades de que todos tengamos el juicio suficiente como para abandonar los artilugios peligrosos son casi insignificantes. Algún pequeño idiota inevitablemente pulsará el botón de encendido sólo para ver qué pasa.
Tampoco podemos encontrar un lugar seguro huyendo, pues la detonación de una explosión de inteligencia haría que el firmamento se derrumbara por completo. Tampoco hay ningún adulto a la vista.»
Nick Boltrom: Superinteligencia: caminos, peligros, estrategias. Teell Editorial, pág. 260. Zaragoza, 2016.
TGO
@bocadosdefilosofia
@dias-de-la-ira-1