Creadores de la IA, El científico informático de Google, Jeffrey Hinton, que ha hecho contribuciones significativas al desarrollo de la inteligencia artificial, dejó el gigante tecnológico para advertir al mundo sobre el «riesgo existencial» que los sistemas de IA representan para los humanos. El científico británico-canadiense de 75 años escribió en Twitter que se iba «para poder hablar sobre los peligros de la inteligencia artificial sin pensar en cómo podría afectar a Google».
Creadores de la IA
En una entrevista con la BBC, dijo que, en su opinión, los sistemas de IA aún no son tan inteligentes como los humanos. «Pero creo que lo serán muy pronto», dijo. Hinton citó ese riesgo para explicar por qué renunció a Google el lunes después de 10 años en la empresa. Dijo que quería hablar libremente sobre los riesgos que plantea la IA, pero enfatizó que creía que las empresas «han actuado de manera muy responsable».
“He llegado a la conclusión de que el tipo de inteligencia que estamos desarrollando es muy diferente a la que tenemos”, dijo a la cadena británica.
«La gran diferencia es que con los sistemas digitales tienes muchas copias del mismo juego de pesas, el mismo modelo del mundo», dijo Hinton. “Todas estas copias pueden aprender individualmente pero compartir su conocimiento al instante. Son como 10.000 personas, y cada vez que uno aprende algo, todos lo saben automáticamente. Por lo tanto, estos chatbots pueden comprender más que solo humanos. »
En particular, advirtió que la tecnología de inteligencia artificial podría ser manipulada por actores maliciosos, como líderes autoritarios, para usarla con fines dañinos. Por ejemplo, si el sistema introdujera la capacidad de crear sus propios «objetivos secundarios», podría comenzar a buscar el poder como mejor le parezca. El resultado, dijo, sería una «pesadilla». También dijo que los avances en inteligencia artificial en texto podrían conducir a «bots de spam muy efectivos» que podrían permitir que «líderes autoritarios manipulen a sus votantes».
Después de unirse a Google en 2013, el científico informático desarrolló algoritmos de aprendizaje automático y finalmente fue ascendido a vicepresidente. Según su perfil de Google, Hinton ha contribuido a «avances significativos en el aprendizaje profundo que han revolucionado el reconocimiento de voz y la clasificación de objetos».
En otra entrevista, Hinton le dijo al New York Times que la posibilidad de que la inteligencia artificial supere a la inteligencia humana se está convirtiendo en una realidad antes de lo que esperaba. «Creo que faltan entre 30 y 50 años, si no más. Ciertamente ya no lo creo», dijo. Hizo un llamado a los principales científicos para ayudar a monitorear la tecnología para mitigar los riesgos potenciales.
Sin embargo, también reconoció que, a diferencia de las armas nucleares, no existen estándares internacionales para prevenir o sancionar el uso encubierto de inteligencia artificial por parte de gobiernos o empresas. Otro problema inminente es que las fotos, los videos y los textos falsos pueden hacer que la mayoría de las personas «ya no sepa lo que es real». Un ejemplo fue en marzo, cuando las fotos del Papa Francisco con una bata blanca se volvieron virales, pero resultaron ser falsas. «Me consuelo con la excusa habitual: si yo fallo, alguien más lo hará», dijo a The New York Times, refiriéndose a su papel central en el desarrollo de la tecnología de IA.
«Seguimos comprometidos con un enfoque responsable de la inteligencia artificial», dijo el científico jefe de Google, Jeff Dean, en un comunicado emitido a varios medios de comunicación en respuesta a la renuncia y los comentarios de Hinton. «Estamos constantemente aprendiendo a comprender los nuevos riesgos mientras somos audaces e innovadores».
El auge y los peligros de la inteligencia artificial
Google no respondió de inmediato a la solicitud de comentarios de The Washington Post. A principios de este año, The Post informó que el lanzamiento de ChatGPT por parte de OpenAI obligó a gigantes tecnológicos como Meta y Google a lanzar sus productos de IA más rápido. Desde entonces, otros han opinado sobre los riesgos potenciales de la tecnología.
En marzo, alrededor de 1000 líderes empresariales, académicos y tecnólogos firmaron una carta abierta en la que pedían a empresas como OpenAI, Google y Microsoft que «pausen» el trabajo en sistemas de inteligencia artificial hasta que se aclaren los riesgos asociados con ellos. Sin embargo, ningún ejecutivo de empresas como OpenAI o Google se unió a la carta. Hinton es profesor emérito de la Universidad de Toronto. Recibió su doctorado en Inteligencia Artificial de la Universidad de Edimburgo en 1978 y comenzó a trabajar a tiempo parcial en Google en 2013. En 2018, Hinton fue uno de los tres informáticos galardonados con el prestigioso Premio Turing -a menudo llamado el Nobel de la tecnología- por su trabajo en inteligencia artificial.
