Anthropic advierte que la IA avanza hacia la construcción de sí misma

La compañía de inteligencia artificial Anthropic informó el jueves que los sistemas de IA son cada vez más capaces de construir versiones futuras de sí mismos, un fenómeno que, según la empresa, alimenta las preocupaciones sobre los peligros de esta tecnología.

En concreto, la firma indicó que su chatbot Claude dirige actualmente más de una cuarta parte de sus labores de investigación y desarrollo, y que participa junto a empleados humanos en más del 90% de las tareas. La empresa sostiene que publica estos datos para que el público comprenda mejor la evolución del sector.

El debate sobre los riesgos de la inteligencia artificial se ha intensificado en los últimos meses, impulsado por varios incidentes y por advertencias de profesionales de la industria. En ese contexto, el consejero delegado de Anthropic ha vinculado la seguridad al hecho de entender cómo "piensa" la IA, aunque hasta ahora las evidencias disponibles resultan inquietantes, según el análisis de WIRED.

La divulgación de estas cifras por parte de Anthropic coincide con una discusión más amplia sobre si la propia industria debería aplicar las conclusiones de sus investigaciones. El debate no se limita a los riesgos técnicos, sino que también cuestiona el ritmo al que las empresas desarrollan y despliegan sistemas cada vez más autónomos.