Autoridad acotada
La primera pregunta de gobernanza no es qué modelo usar. Es qué se le permite hacer al sistema. Un agente acotado tiene una tarea estrecha, un conjunto fijo de herramientas y una lista explícita de acciones aprobadas. Todo lo que queda fuera de esa lista no está disponible para él, no solo desalentado por una instrucción.
La guía de 2026 de Canadá sobre inteligencia artificial agéntica plantea el mismo punto para el uso en el sector público: las acciones deben estar acotadas y la responsabilidad debe permanecer en manos de personas.
Las citas como requisito de trabajo
Si un resultado no puede mostrar su fuente, un revisor tiene que rehacer el trabajo para verificarlo, lo que elimina el beneficio. Las citas deben formar parte de los criterios de aceptación, no ser un adorno de presentación, y deben apuntar a un pasaje que una persona pueda abrir.
La abstención importa tanto como la cita. Un sistema que indica que no puede responder con la evidencia disponible es más útil que uno que responde todo con la misma confianza uniforme.
Pruebas que sobreviven al cambio
La evaluación no es una actividad de lanzamiento. Los modelos cambian, las instrucciones cambian, las fuentes cambian y el propio proceso cambia. Un flujo de trabajo con gobernanza mantiene un conjunto de pruebas extraído de casos reales y lo vuelve a ejecutar cada vez que algo de eso cambia, comparando los resultados con los criterios acordados durante el diseño.
El AI Risk Management Framework del NIST es una estructura útil para organizar este trabajo. Es una guía voluntaria, no una certificación, y ningún proveedor puede certificarse conforme a ella.
Escalamiento y acceso
Las rutas de escalamiento deben ser específicas: qué condiciones escalan, a quién, en qué plazo, y qué ocurre si nadie responde. Un escalamiento vago equivale a ningún escalamiento.
El acceso es la otra mitad. La recuperación debe respetar los permisos de la persona que consulta, y el contenido proveniente del exterior del entorno debe tratarse como entrada no confiable, con defensas contra inyección de instrucciones aplicadas antes de que llegue a cualquier paso que use herramientas.
El costo operativo es un asunto de gobernanza
El costo de procesamiento, el almacenamiento y el uso de terceros escalan con la adopción. Un flujo de trabajo que resulta asequible en un piloto puede volverse costoso a mayor volumen, y el costo por tarea completada es una medida de aceptación legítima junto con la precisión y el esfuerzo.
Opciones de privacidad sin afirmaciones genéricas
El despliegue puede diseñarse para un espacio de nube controlado por el cliente, un entorno local o aislado, o un modelo híbrido aprobado donde se permite un procesamiento específico fuera del entorno. Cada patrón tiene compensaciones reales en capacidad, mantenimiento y control.
Lo que no es defendible es una afirmación genérica de soberanía. La soberanía es una combinación específica de propiedad, ubicación, acceso, condiciones de procesamiento y control operativo, confirmada para un mandato dado. El alojamiento local por sí solo no elimina el riesgo de seguridad, y la redacción de datos reduce la exposición sin garantizar el anonimato.