Existe preocupación por el desarrollo de la tecnología, se presume que el ser humano no distinguirá qué es verdad.
Nueva York (CNN) Geoffrey Hinton, (foto) también conocido como el «padrino de la inteligencia artificial», decidió que tenía que «exponer» la tecnología que él mismo ayudó a desarrollar, luego de que le generara preocupación lo inteligente que se estaba volviendo, según declaró a CNN.
«Soy solo un científico que de repente se dio cuenta de que estas cosas se están volviendo más inteligentes que nosotros«, le dijo Hinton a Jake Tapper de CNN en una entrevista. «Quiero, en cierto modo, encender una alarma y decir que deberíamos preocuparnos seriamente por cómo impedir que estas cosas nos controlen», completó.
El trabajo pionero de Hinton sobre redes neuronales dio forma a sistemas de inteligencia artificial que impulsan muchos de los productos actuales. Su nombre saltó a los titulares por renunciar a su cargo de Google, donde trabajó durante una década.
Hinton dijo que le preocupaba el potencial de la inteligencia artificial (IA) para eliminar puestos de trabajo y crear un mundo en el que muchos «ya no serán capaces de saber qué es verdad». También señaló el asombroso ritmo de avance, mucho más allá de lo que él y otros habían previsto.
«Si llega a ser mucho más inteligente que nosotros, será muy bueno manipulando porque lo habrá aprendido de nosotros, y hay muy pocos ejemplos de una cosa más inteligente controlada por algo menos inteligente», explicó Hinton a Tapper.
Hinton no es el único líder tecnológico que ha expresado su preocupación por la inteligencia artificial. Varios miembros de la comunidad firmaron en marzo una carta en la que pedían a los laboratorios de IA que detuvieran el entrenamiento de los sistemas más potentes durante al menos seis meses, citando «profundos riesgos para la sociedad y la humanidad».
Carta publicada
La carta, publicada por Future of Life Institute, una organización sin fines de lucro que respalda Elon Musk, se publicó apenas dos semanas después de que OpenAI anunció GPT-4, una versión aún más potente de la tecnología que impulsa el chatbot viral ChatGPT. En las primeras pruebas y en una demostración de la empresa, GPT-4 se utilizó para redactar demandas, aprobar exámenes estandarizados y crear un sitio web funcional a partir de un boceto dibujado a mano.
Steve Wozniak, cofundador de Apple y uno de los firmantes de la carta, participó en el programa «CNN This Morning» para hacer eco de las preocupaciones sobre su potencial para difundir desinformación.
«Engañar va a ser mucho más fácil para quienes quieran engañarte«, sentenció Wozniak en CNN. «En realidad no estamos haciendo ningún cambio en ese sentido: solo estamos asumiendo que las leyes que tenemos se encargarán de ello». Wozniak también dijo que probablemente se necesite «algún tipo» de regulación.
Hinton, por su parte, dijo a CNN que no firmó la petición. «No creo que podamos detener el progreso», dijo. «No firmé la petición diciendo que deberíamos dejar de trabajar en IA porque si la gente en Estados Unidos se detiene, la gente en China no lo haría». Pero confesó no tener una respuesta clara sobre qué hacer en su lugar.
«No tengo claro que podamos resolver este problema», dijo Hinton a Tapper. «Creo que deberíamos hacer un gran esfuerzo para pensar en formas de resolver el problema. De momento no tengo una solución».
RELATIVA
Renuncia
Geoffrey Hinton dejó su puesto en Google para alertar sobre los «peligros» de la tecnología que él mismo ayudó a desarrollar.
El trabajo pionero de Hinton sobre redes neuronales dio forma a los sistemas de inteligencia artificial que impulsan muchos de los productos actuales. Trabajó a medio tiempo en Google durante una década en las labores de desarrollo de inteligencia artificial del gigante tecnológico, pero ahora le preocupa la tecnología y el papel que desempeñó en su desarrollo.
NOTA RELATIVA
Otro despido
Hinton no es el primer empleado de Google en sonar las alarmas la IA. En julio de 2022, la empresa despidió a un ingeniero que afirmaba que un sistema de IA aún no publicado se había vuelto consciente, alegando que había infringido las políticas de empleo y de seguridad de datos. Muchos miembros de la comunidad de la IA rechazaron enérgicamente la afirmación del ingeniero.