El pionero de la IA dice que su amenaza para el mundo puede ser “más urgente” que el cambio climático

Geoffrey Hinton, ampliamente conocido como uno de los “padrinos de la IA”, anunció recientemente que había dejado AlphabetGOOGL.O después de una década en la empresa, diciendo que quería hablar sobre los riesgos de la tecnología.

¿Será la IA capaz de dominar a la humanidad?

La inteligencia artificial podría representar una amenaza “más urgente” para la humanidad que el cambio climático, dijo el pionero de la IA Geoffrey Hinton a Reuters en una entrevista el viernes.

El trabajo de Hinton se considera esencial para el desarrollo de los sistemas de IA contemporáneos. En 1986, fue coautor del artículo seminal “Aprendizaje de representaciones mediante errores de propagación inversa”, un hito en el desarrollo de las redes neuronales que sustentan la tecnología de IA. En 2018, recibió el Premio Turing en reconocimiento a sus avances en investigación.

¿Podría la IA tomar el control del planeta?

Pero ahora se encuentra entre un número creciente de líderes tecnológicos que expresan públicamente su preocupación por la posible amenaza que representa la IA si las máquinas lograran una inteligencia mayor que la de los humanos y tomaran el control del planeta.

“No me gustaría devaluar el cambio climático. No me gustaría decir: ‘No deberías preocuparte por el cambio climático’. Eso también es un gran riesgo”, dijo Hinton. “Pero creo que esto podría terminar siendo más urgente”.

Agregó: “Con el cambio climático, es muy fácil recomendar lo que debe hacer: simplemente deje de quemar carbono. Si hace eso, eventualmente las cosas estarán bien. Para esto, no está nada claro lo que debe hacer”.

MSFT.O OpenAI, respaldado por Microsoft, disparó el pistoletazo de salida en una carrera armamentista tecnológica en noviembre, cuando puso a disposición del público el chatbot ChatGPT impulsado por IA . Pronto se convirtió en la aplicación de más rápido crecimiento en la historia, alcanzando los 100 millones de usuarios mensuales en dos meses.

En abril, el CEO de Twitter, Elon Musk, se unió a miles de personas para firmar una carta abierta en la que pedía una pausa de seis meses en el desarrollo de sistemas más potentes que el GPT-4 lanzado recientemente por OpenAI.

Los firmantes incluyeron al CEO de Stability AI, Emad Mostaque, investigadores de DeepMind, propiedad de Alphabet, y compañeros pioneros de AI, Yoshua Bengio y Stuart Russell.

Si bien Hinton comparte la preocupación de los signatarios de que la IA pueda resultar una amenaza existencial para la humanidad, no estuvo de acuerdo con detener la investigación.

“Es completamente irreal”, dijo. “Estoy en el campo que piensa que esto es un riesgo existencial, y está lo suficientemente cerca como para que debamos trabajar muy duro en este momento y poner muchos recursos para descubrir qué podemos hacer al respecto”.

En la Unión Europea, un comité de legisladores respondió a la carta respaldada por Musk, pidiendo al presidente de los Estados Unidos, Joe Biden, que convoque una cumbre mundial sobre la dirección futura de la tecnología con la presidenta de la Comisión Europea, Ursula von der Leyen.

La semana pasada, el comité acordó un conjunto histórico de propuestas dirigidas a la IA generativa, que obligaría a empresas como OpenAI a divulgar cualquier material con derechos de autor utilizado para entrenar sus modelos.

Mientras tanto, Biden mantuvo conversaciones con varios líderes de empresas de inteligencia artificial, incluido el director ejecutivo de Alphabet, Sundar Pichai, y el director ejecutivo de OpenAI, Sam Altman, en la Casa Blanca, y prometió una “discusión franca y constructiva” sobre la necesidad de que las empresas sean más transparentes con respecto a sus sistemas.

“Los líderes tecnológicos son quienes mejor lo entienden y los políticos deben participar”, dijo Hinton. “Nos afecta a todos, así que todos tenemos que pensar en ello”.

The Jerusalem Post