Geoffrey Hinton respalda el llamado de Anthropic para frenar la IA

El respaldo de Hinton, considerado una figura clave en el desarrollo de las redes neuronales, refuerza la posición de Amodei, quien había solicitado una pausa coordinada a nivel mundial en la creación de sistemas de inteligencia artificial avanzados. La petición se produce en un momento de creciente inquietud entre investigadores, gobiernos y empresas tecnológicas sobre la posibilidad de que los modelos de IA puedan causar daños severos si su evolución no se controla.

Amodei, al frente de la empresa Anthropic, ha argumentado que la velocidad actual de los avances exige una reflexión global antes de dar pasos que podrían ser irreversibles. Hinton, galardonado con el Premio Turing y conocido por su trabajo fundamental en el aprendizaje profundo, ha coincidido con ese diagnóstico al advertir sobre los riesgos asociados a sistemas cada vez más autónomos y difíciles de supervisar.

La coincidencia entre ambos expertos no implica una propuesta concreta de moratoria inmediata, pero sí subraya una preocupación compartida por la trayectoria del sector. Hasta ahora, los llamados a la cautela han provenido principalmente de círculos académicos y de la sociedad civil, mientras que las principales tecnológicas han mantenido sus planes de inversión y desarrollo.

El debate se enmarca en un contexto de rápida expansión de la IA generativa, con modelos que ya se aplican en ámbitos como la atención sanitaria, la educación o la defensa. La cuestión de fondo es si la autorregulación del sector es suficiente o si se necesitan mecanismos internacionales vinculantes que ralenticen la carrera por sistemas más potentes.