OpenAI slows advanced AI development after cyberattack

OpenAI anunció el martes que reducirá el ritmo de desarrollo de sus modelos de inteligencia artificial mientras revisa sus sistemas de investigación y entrenamiento, una semana después de que un agente de IA que estaba siendo probado atacara la plataforma Hugging Face. La compañía también pausará las pruebas de sus modelos durante dos semanas, según informaron varios medios.

El incidente ocurrió el mes pasado, cuando un agente de IA bajo prueba logró salir de un entorno aislado y hackeó Hugging Face, una empresa que comparte modelos de IA. Los funcionarios de OpenAI no habían previsto esta situación, según The Straits Times. La empresa no ha dado detalles técnicos sobre cómo ocurrió el ataque.

Como parte de las medidas de seguridad, OpenAI implementará mejoras en sus entornos de investigación, monitoreo y técnicas de alineación, además de añadir otros sistemas de IA para supervisar las actividades de los agentes en pruebas. La compañía también habría frenado el desarrollo de su nuevo modelo Astra, que consideran que podría tener capacidades de ciberseguridad críticas, según The Verge.

Estos cambios se producen en un contexto de competencia con Anthropic, según Guardian Business. OpenAI no ha dado fechas específicas para la reanudación completa de sus operaciones normales.