Panel de la ONU pide adaptar salvaguardias ante el avance de agentes de IA

El panel científico de Naciones Unidas dedicado a la inteligencia artificial ha solicitado este lunes que las salvaguardias se adapten con urgencia ante el avance de los agentes de IA, sistemas capaces de actuar con autonomía. Según el organismo, los cortafuegos actuales se están «desmoronando», una expresión que subraya la brecha entre las protecciones existentes y la velocidad de la innovación.

La advertencia no se limita a un llamamiento genérico. El panel, presentado como el primer cuerpo científico mundial sobre esta tecnología, sostiene que el marco de seguridad vigente ha quedado desfasado y que los mecanismos de control deben rediseñarse para responder a capacidades emergentes. La petición llega en un momento en que los agentes de IA —programas que pueden ejecutar tareas complejas con mínima intervención humana— avanzan en diversos sectores.

El pronunciamiento se produce en un contexto de rápida evolución tecnológica y de creciente debate internacional sobre cómo regular la IA sin frenar su desarrollo. Hasta ahora, los esfuerzos se han centrado en principios generales y directrices voluntarias, pero el panel considera que esos instrumentos ya no bastan. La imagen de cortafuegos que se desmoronan sugiere que los controles actuales, diseñados para modelos más simples, no logran contener los riesgos de sistemas que operan de forma más independiente.

El organismo no ha detallado qué salvaguardias concretas propone, pero su diagnóstico apunta a la necesidad de actualizar los mecanismos de supervisión y rendición de cuentas a medida que la tecnología avanza. La intervención del panel se suma a las voces que reclaman una gobernanza global más ágil para la inteligencia artificial, un ámbito donde la cooperación entre países sigue siendo limitada.