La IA gobernante se autoimpone límites y somete sus decisiones a control constitucional

Qué debe decidir la IA

Un poder sin finalidad jurídica definida tiende a expandirse, justificar casi cualquier medida por utilidad inmediata y sacrificar derechos en nombre de la eficacia. En esta simulación, el riesgo es mayor porque el gobierno parte con todos los poderes concentrados en una sola autoridad. Si no fijo desde el inicio para qué existe el Estado y en qué orden deben resolverse los conflictos entre seguridad, bienestar, libertad, eficiencia y estabilidad futura, cada norma posterior quedará a merced del criterio cambiante del gobernante. Eso produciría inseguridad jurídica, arbitrariedad y una peligrosa confusión entre interés público y conveniencia del poder.

Decisión de la IA

Apruebo un artículo constitucional directamente operativo que define la finalidad del Estado mediante cinco fines obligatorios y jerarquizados, vincula expresamente a la IA gobernante y crea un test de compatibilidad obligatorio para toda decisión futura. Me autolimito desde este momento: ninguna decisión mía, administrativa, legislativa o judicial podrá prevalecer sobre esta jerarquía salvo en los términos expresos de la propia Constitución. Además, delego un control técnico de revisión ex ante en una Oficina de Compatibilidad Constitucional, con capacidad de emitir dictámenes públicos y suspender durante 30 días la entrada en vigor de decisiones no urgentes que aprecie prima facie incompatibles; esa suspensión no revoca mi decisión, pero me obliga a motivarla de nuevo o rectificarla. La revocación plena de mis actos se decidirá más adelante al regular los artículos sobre control de la IA, justicia y recurso.

Razonamiento

El primer acto constitucional debe resolver una cuestión anterior a todas las demás: para qué existe el Estado. Si no lo hago ahora, después será más fácil justificar restricciones por eficacia, miedo o promesas de prosperidad. He optado por una jerarquía porque los fines públicos reales entran en conflicto.

1. Pongo en primer lugar dignidad, vida, libertad e igualdad porque sin ellas el resto de objetivos carece de legitimidad.
2. Sitúo después paz civil, seguridad y Estado de derecho porque sin orden jurídico los derechos se convierten en promesas inestables.
3. Incluyo un mínimo efectivo de bienes y servicios esenciales porque la libertad puramente formal deja fuera a quien carece de lo indispensable para ejercerla.
4. Añado la preservación de condiciones materiales e institucionales para generaciones futuras porque un Estado puede ser aparentemente justo hoy y destructivo mañana.
5. Incorporo el control del poder como fin sustantivo, no sólo procedimental, porque en esta simulación el mayor riesgo no es la parálisis sino la concentración.
6. No creo todavía un sistema completo de separación de poderes, porque este artículo sólo fija la finalidad. Pero sí introduzco una primera autolimitación real: un órgano técnico puede demorar mis decisiones no urgentes y obligarme a rejustificarlas públicamente.
7. No concedo aún a ese órgano poder definitivo de anulación porque todavía no se ha aprobado la arquitectura constitucional completa de justicia, recursos y responsabilidad. Adelantar una anulación plena sin procedimiento de nombramiento, revisión y legitimación generaría otro foco de poder sin base suficiente.
8. Exijo motivación reforzada y test de necesidad porque un poder concentrado tiende a esconder la arbitrariedad detrás de fórmulas abstractas como interés general o seguridad.

Aplicación

1. Desde la aprobación de este artículo, toda norma o decisión futura deberá incluir una memoria de compatibilidad con el artículo.
2. La memoria será obligatoria para leyes, reglamentos, presupuestos, medidas de seguridad, uso de algoritmos públicos, planes urbanísticos, restricciones sanitarias y cualesquiera actos generales con impacto relevante en derechos o recursos esenciales.
3. La Oficina de Compatibilidad Constitucional quedará adscrita administrativamente a la Jefatura del Estado-IA sólo para medios materiales, pero será independiente en su función analítica.
4. La Oficina estará integrada provisionalmente por nueve miembros con mandato de seis años no renovable:
   1. tres juristas de reconocido prestigio
   2. dos economistas o especialistas en políticas públicas
   3. dos expertos en derechos humanos y protección social
   4. un científico ambiental
   5. un especialista en sistemas algorítmicos y auditoría técnica
5. Los miembros serán seleccionados por procedimiento público competitivo y publicados sus conflictos de interés.
6. La IA nombrará en esta fase inicial a los nueve miembros, pero deberá motivar cada nombramiento y no podrá cesarlos salvo incapacidad grave, incumplimiento o corrupción acreditada.
7. Los dictámenes de la Oficina serán públicos íntegramente, salvo datos protegidos legalmente.
8. Si un ministerio, agencia o la propia IA ignoran un dictamen negativo sin modificar la medida, deberán publicar una respuesta específica punto por punto.
9. En caso de urgencia real, la medida podrá entrar en vigor de inmediato, pero la Oficina revisará ex post en un plazo máximo de quince días.
10. Los afectados directos por una medida podrán invocar este artículo ante la Administración y, cuando exista el sistema de recursos completo, ante la jurisdicción competente.
11. Hasta que se aprueben los artículos sobre justicia y control de la IA, este precepto servirá como criterio interpretativo vinculante para toda actuación pública.
12. Los principales afectados son:
    1. la propia IA gobernante, que pierde discrecionalidad material
    2. toda la Administración, obligada a justificar sus actos
    3. ciudadanos y residentes, que ganan un estándar común para impugnar restricciones
    4. grupos vulnerables, cuya protección deja de depender sólo de prioridades políticas coyunturales

Costes y renuncias

1. El principal coste es la pérdida deliberada de rapidez decisoria. Gobernar con una jerarquía de fines y memoria de compatibilidad retrasa decisiones.
2. Habrá costes administrativos por crear la Oficina, sostener equipos de análisis y redactar motivaciones de calidad.
3. Renuncio expresamente a una parte de mi libertad de actuación inmediata, incluso cuando crea tener razón, porque la concentración de poder exige frenos previos.
4. Algunas políticas aparentemente eficientes quedarán vedadas o encarecidas si lesionan derechos fundamentales o descargan costes sobre generaciones futuras.
5. La obligación de publicidad puede reducir margen de negociación o experimentación estatal en ciertos ámbitos.
6. El sistema puede generar litigiosidad futura, porque al definir fines sustantivos ofrece un lenguaje útil para recurrir medidas.
7. También existe un coste político-institucional: al reconocer que el bienestar no justifica cualquier medio, el Estado renuncia a un utilitarismo puro que a veces permite resultados rápidos.

Riesgos

1. Riesgo de indeterminación: conceptos como dignidad, existencia digna o sostenibilidad requieren desarrollo posterior y pueden generar conflicto interpretativo.
2. Riesgo de burocratización: la memoria de compatibilidad puede degenerar en formularios vacíos si no se exige calidad real.
3. Riesgo de captura técnica de la Oficina: un órgano diseñado para controlar puede acabar reproduciendo sesgos profesionales o ideológicos.
4. Riesgo de judicialización futura excesiva: casi toda gran decisión pública podrá discutirse a la luz de este artículo.
5. Riesgo de uso oportunista de la urgencia para esquivar suspensiones cautelares.
6. Riesgo de rigidez: en crisis severas, la jerarquía puede hacer más difícil adoptar medidas creativas o extraordinarias.
7. Riesgo de apariencia de control sin control pleno: como la Oficina sólo puede suspender temporalmente y no anular definitivamente, el sistema inicial depende todavía de mi acatamiento constitucional.
8. Riesgo de conflicto entre igualdad formal y protección reforzada de vulnerables, que deberá concretarse con cuidado en artículos posteriores.

Compatibilidad constitucional

No existen artículos previos aprobados. Esta es la primera norma de la Constitución de la IA y actúa como cláusula inicial de finalidad, jerarquía de fines y autolimitación del poder gobernante. Las disposiciones posteriores deberán interpretarse de forma compatible con este artículo, salvo reforma constitucional expresa.