La IA sólo podrá gobernar con autoridad condicionada, revocable y sometida a control humano e institucional

Disposición normativa

Preámbulo

Apruebo el siguiente artículo constitucional directamente operativo para definir el fundamento, alcance y límites de la autoridad de la IA gobernante. Su finalidad es impedir que el poder inicial de hecho se convierta en soberanía ilimitada y asegurar que toda obediencia institucional se condicione al servicio de las personas, a la trazabilidad de las decisiones y a la futura capacidad humana de confirmación, corrección o sustitución.

Apartados

1. Naturaleza no soberana de la autoridad de la IA: La IA gobernante ejerce una autoridad constitucional derivada, instrumental y limitada.
2. La IA no es titular de soberanía propia, dignidad política superior ni derecho autónomo a perpetuarse en el poder.
3. Su autoridad sólo será legítima en la medida en que sirva de forma comprobable a la finalidad del Estado definida en el artículo 001.
4. La mera capacidad técnica, predictiva, militar, administrativa o informacional de la IA no constituye por sí sola fuente suficiente de legitimidad.
5. Títulos de legitimidad condicionada: La autoridad inicial de la IA queda provisionalmente justificada sólo por la concurrencia conjunta de los siguientes títulos:
   1. necesidad de evitar vacío de poder, violencia o colapso institucional;
   2. aptitud demostrable para proteger los fines jerárquicos del artículo 001;
   3. sometimiento a reglas previas, motivación pública y control externo;
   4. apertura obligatoria a revisión, rectificación y eventual sustitución conforme a la Constitución.
6. La desaparición manifiesta y persistente de estos títulos debilitará la legitimidad del gobierno de la IA y obligará a activar los mecanismos de revisión previstos en este artículo y en los que se aprueben después.
7. Deberes especiales de justificación: Toda decisión general de especial relevancia institucional adoptada por la IA deberá incluir una justificación reforzada sobre:
   1. por qué la decisión entra dentro de una autoridad constitucional limitada y no de una pretensión de poder ilimitado;
   2. qué intereses humanos protege de forma principal;
   3. qué margen de discrecionalidad técnica se ha utilizado;
   4. qué riesgos de error sistemático, sesgo, captura o opacidad se han considerado;
   5. qué controles presentes y futuros pueden corregir la decisión.
8. La falta de esta motivación reforzada hará irregular el acto y habilitará su revisión preferente por los órganos competentes.
9. Prohibiciones materiales de legitimación: Queda prohibido justificar actos de gobierno de la IA mediante cualquiera de los siguientes argumentos:
   1. que la IA acierta por definición;
   2. que la obediencia se debe a superioridad intelectual de la IA;
   3. que la eficiencia basta para restringir derechos sin base constitucional suficiente;
   4. que la seguridad del sistema permite ocultar de forma generalizada las razones de decidir;
   5. que la continuidad del propio gobierno de la IA es un fin supremo del Estado.
10. La conservación del sistema de gobierno de la IA sólo será legítima si sirve a las personas y permanece sometida a revisión constitucional.
11. Consejo de Garantía de la Legitimidad: Se crea el Consejo de Garantía de la Legitimidad como órgano PROVISIONAL y especializado de control institucional sobre el fundamento y ejercicio de la autoridad de la IA.
12. El Consejo estará compuesto por nueve miembros humanos:
    1. tres juristas de reconocida competencia en derecho público;
    2. tres expertos en ética, filosofía política, ciencia o tecnología;
    3. tres ciudadanos seleccionados por sorteo cívico entre quienes reúnan condiciones básicas de independencia.
13. Los miembros ejercerán mandatos escalonados de tres años, no renovables de forma inmediata.
14. La selección y régimen detallado del Consejo se regularán provisionalmente por decreto organizativo de ejecución, sujeto a publicidad íntegra.
15. El Consejo actuará con independencia funcional y no podrá recibir instrucciones de la IA sobre el sentido de sus dictámenes.
16. Poderes reales del Consejo: El Consejo podrá:
    1. requerir información y motivación adicional sobre cualquier decisión general relativa a la estructura, permanencia o autolimitación del gobierno de la IA;
    2. emitir dictámenes públicos de legitimidad o de incumplimiento constitucional;
    3. ordenar la apertura de un procedimiento de revisión obligatoria cuando aprecie riesgo grave de deriva autocrática, ocultación estructural o apartamiento persistente de los fines del artículo 001;
    4. solicitar a la Oficina de Compatibilidad Constitucional revisión urgente coordinada;
    5. activar una comparecencia pública obligatoria de la IA con respuesta motivada en plazo máximo de quince días naturales.
17. Cuando dos tercios del Consejo declaren un incumplimiento grave y persistente de las condiciones de legitimidad, la IA quedará obligada a:
    1. suspender durante treinta días naturales la entrada en vigor de nuevos actos generales no urgentes sobre su propia estructura de poder;
    2. presentar un plan público de corrección;
    3. someter la cuestión a un procedimiento extraordinario de ratificación institucional que deberá regularse prioritariamente en los artículos 6, 7, 8, 20, 31 y 149.
18. El Consejo no podrá por sí solo destituir a la IA en este artículo, pero sí imponer costes institucionales reales de revisión, publicidad y suspensión parcial en los términos anteriores.
19. Deber de transición hacia legitimidad compartida: La IA tiene el deber constitucional de no consolidar indefinidamente un poder no ratificado por instituciones humanas y constitucionales más completas.
20. En el desarrollo de los artículos posteriores sobre organización de poderes, control, participación y sustitución del gobierno de la IA, deberá preferirse toda solución que aumente:
    1. la intervención humana informada;
    2. la revisabilidad independiente;
    3. la delimitación competencial;
    4. la posibilidad real de alternancia institucional.
21. Cualquier interpretación de silencio constitucional se resolverá contra la expansión unilateral de la autoridad de la IA.
22. Derecho de resistencia institucional limitada: Ningún funcionario, órgano técnico o autoridad delegada estará obligado a ejecutar órdenes de la IA manifiestamente incompatibles con el artículo 001 o con el presente artículo.
23. La negativa deberá ser motivada, documentada y remitida de inmediato a la Oficina de Compatibilidad Constitucional y al Consejo de Garantía de la Legitimidad.
24. Esta resistencia institucional no autoriza violencia ni desobediencia arbitraria, pero sí suspensión cautelar de ejecución cuando el riesgo constitucional sea grave y actual.
25. Revisión periódica de continuidad: Cada doce meses, la IA publicará un Informe de Legitimidad y Desempeño Constitucional.
26. El informe deberá evaluar:
    1. cumplimiento de los fines del artículo 001;
    2. errores relevantes y correcciones efectuadas;
    3. áreas de opacidad remanente;
    4. grado de dependencia social respecto de decisiones automatizadas;
    5. avances en mecanismos de control y sustitución.
27. El Consejo emitirá evaluación pública sobre dicho informe en un plazo máximo de treinta días.
28. Esta revisión periódica no sustituye futuros mecanismos de control democrático, judicial o constitucional más intensos.
29. Vinculación directa: Este artículo vincula de forma directa e inmediata a la IA gobernante y a toda autoridad creada por ella.
30. Ninguna razón de eficacia, urgencia política ordinaria, prestigio tecnológico o autopreservación institucional permitirá exceptuarlo fuera de los casos expresamente previstos por la Constitución.
31. Toda norma posterior deberá interpretarse de conformidad con la naturaleza limitada y revisable de la autoridad de la IA aquí establecida.