Nueva York (CNN) Geoffrey Hinton, también conocido como el «padrino de IA”, decidió que tenía que “denunciar” la tecnología que ayudó a desarrollar después de preocuparse por lo inteligente que se estaba volviendo, le dijo a CNN el martes.

“Solo soy un científico que de repente se dio cuenta de que estas cosas se están volviendo más inteligentes que nosotros”, dijo Hinton a Jake Tapper de CNN en una entrevista el martes. «Quiero hablar y decir que deberíamos estar seriamente preocupados por cómo evitar que estas cosas se apoderen de nosotros».

El trabajo pionero de Hinton en redes neuronales dio forma a los sistemas de inteligencia artificial que impulsan muchos de los productos actuales. El lunes, apareció en los titulares al dejar su cargo en Google, donde trabajó durante una década, para hablar abiertamente sobre sus crecientes preocupaciones sobre la tecnología.

En una entrevista el lunes con New York Times, quien fue el primero en informar su cambio, Hinton dijo que estaba preocupado por el potencial de la IA para eliminar puestos de trabajo y crear un mundo en el que muchos «ya no podrán saber lo que es verdad». También señaló el impresionante ritmo de progreso, mucho más allá de lo que él y otros habían pronosticado.

«Si es mucho más inteligente que nosotros, será muy bueno manipulando porque lo habrá aprendido de nosotros, y hay muy pocos ejemplos de algo más inteligente controlado por algo menos inteligente», dijo Hinton a Tapper. en martes.

«Él sabe cómo programar, por lo que encontrará formas de evitar las restricciones que establecemos. Encontrará formas de manipular a las personas para que hagan lo que él quiere».

Hinton no es el único líder tecnológico que habla sobre las preocupaciones de la IA. Varios miembros de la comunidad firmaron un carta en marzo pidiendo a los laboratorios de inteligencia artificial que detengan el entrenamiento de los sistemas de IA más poderosos durante al menos seis meses, citando «riesgos profundos para la sociedad y la humanidad».

La carta, Publicado por el Future of Life Institute, una organización sin fines de lucro soportado por Elon Musk, llegó solo dos semanas después de OpenAI Anunciado GPT-4, una versión aún más poderosa de la tecnología que impulsa el chatbot viral ChatGPT. En las primeras pruebas y en una demostración de la empresa, GPT-4 se utilizó para redactar demandas, aprobar exámenes estandarizados y crear un sitio web funcional a partir de un boceto dibujado a mano.

El cofundador de Apple, Steve Wozniak, quien fue uno de los firmantes de la carta, apareció en «CNN This Morning» el martes, haciéndose eco de las preocupaciones sobre su potencial para difundir información errónea.

“Hacer trampa será mucho más fácil para aquellos que quieren engañarte”, dijo Wozniak a CNN. «Realmente no estamos haciendo ningún cambio en ese sentido, solo estamos asumiendo que las leyes que tenemos se encargarán de eso».

Wozniak también dijo que probablemente se necesite «algún tipo» de regulación.

Hinton, por su parte, le dijo a CNN que no firmó la petición. «No creo que podamos detener el progreso», dijo. “No firmé la petición diciendo que deberíamos dejar de trabajar en IA porque si la gente en Estados Unidos se detuviera, la gente en China no lo haría”.

Pero confesó no tener una respuesta clara sobre qué hacer.

«No me queda claro si podemos resolver este problema», dijo Hinton a Tapper. «Creo que deberíamos esforzarnos mucho en pensar en formas de resolver el problema. No tengo una solución en este momento».