El nobel está asustado de su criatura

Mientras desfila el patético carnaval de destrucción institucional de México junto con las traiciones en la oposición política, en el mundo también soplan vientos dignos de atenderse.

Geoffrey Hinton, ganador del Premio Nobel de Física este año, considerado “el padrino” de la inteligencia artificial, llamó a frenar el desarrollo de lo que él fue un impulsor clave, porque va a escapar de nuestro control y será el fin de la especie humana como la conocemos.

En sus primeras declaraciones a la BBC de Londres la semana pasada, el nobel británico-canadiense dijo que mientras más avance esta tecnología, más peligrosa se volverá contra la humanidad, contra la cual “podría revelarse”.

Los trabajos de Hinton sobre redes neuronales dieron cauce a los sistemas de inteligencia artificial que lo tienen alarmado, porque permiten la mentira generalizada en redes sociales o el surgimiento de robots asesinos que respondan a códigos de conducta autónomos de la voluntad humana.

Su temor ante el desarrollo imprevisible de su criatura nos recuerda la carta del científico alemán Albert Einstein al presidente de Estados Unidos Franklin Delano Roosevelt en octubre de 1939.

Ese texto, que para algunos cambió el curso de la historia, fue llevado a la Casa Blanca por el economista estadounidense Alexander Sachs, quien se lo entregó en mano al presidente Roosevelt.

La carta de Einstein, que está disponible en los buscadores de internet, decía que los nazis estaban realizando trabajos iniciales para desarrollar armas nucleares. Le pidió a Roosevelt que Estados Unidos almacenara uranio para ganar la carrera a Hitler en la consecución de la bomba atómica.

Después de la guerra y del uso de la bomba en Hiroshima y en Nagasaki, Einstein escribió en (1947) Newsweek: “Si hubiera sabido que los alemanes no lograrían fabricar una bomba atómica, nunca habría movido un dedo”.

Algo así contestó Geoffrey Hinton a una pregunta del New York Times: “Me consuelo con la excusa normal: si no lo hubiera hecho yo, lo habría hecho alguien más”.

En la entrevista con la BBC, telefónica, luego de ganar el Nobel, dijo que la IA “va a ser maravillosa en muchos aspectos, en áreas como la atención médica”.

Pero, dijo, “también tenemos que preocuparnos por una serie de posibles consecuencias negativas. En particular, la amenaza de que estas cosas se salgan de control”.

El año pasado Hinton renunció a su trabajo en Google “para poder hablar sobre los peligros de la inteligencia artificial sin considerar cómo afecta esto a Google”, explicó.

Dos meses después de su salida del gigante tecnológico, un grupo de científicos –Elon Musk incluido– publicó una carta dirigida a los laboratorios de IA en la que pedía detener el desarrollo de sistemas más potentes, al menos durante seis meses, por los “profundos riesgos para la sociedad humana”.

El mundo, sin embargo, siguió el carnaval de lo que puede ser una nueva posibilidad para su autodestrucción.

Hinton dijo a la BBC, en la entrevista de la semana pasada, que “no tenemos experiencia sobre lo que es tener cosas más inteligentes que nosotros… No creo que deban ampliar esto hasta que hayan entendido si pueden controlarlo”.

Por ahora, dijo el nobel, los sistemas de inteligencia artificial “no son más inteligentes que nosotros, pero creo que pronto lo serán”.

¿Cuál será la consecuencia?

“Los sistemas de inteligencia artificial no sólo (podrán) generar su propio código, sino también ejecutar ese código por su cuenta”, dijo el nobel de física, padrino de la IA.

Así, la inteligencia artificial más inteligente que los humanos, con autonomía, es decir fuera de control, podrá tomar el control de nuestras vidas.

¿Ciencia ficción? Ya no.

Esto le dijo Hinton a la BBC:

“Mi suposición es que, dentro de cinco o 20 años, habrá una probabilidad de 50% de que tengamos que afrontar el problema de que la inteligencia artificial intente tomar el control de nuestras vidas”.

Se equivocó antes: “Yo pensé que estaba muy lejos, que faltaban entre 30 y 50 años o incluso más. Obviamente, ya no pienso eso”.

A diferencia de otros experimentos peligrosos, dijo el nobel, como las armas nucleares, en este caso no hay forma de saber si las empresas o los países están trabajando en la inteligencia artificial en secreto.

En síntesis, el padrino de la IA, galardonado con el Nobel de Física, pidió a los principales científicos del mundo que colaboren para desarrollar formas para controlar esta tecnología.

Preparémonos, pues, para una época en que no sabremos qué es verdad y qué es mentira, aunque lo vean nuestros ojos.