La gobernanza de IA se vende con marcos de 200 páginas. Los equipos de 3–10 personas necesitan otra cosa: límites claros, evidencia y dueños.
Lo mínimo que no es negociable
- Quién puede desplegar un agente o cambiar sus tools.
- Qué datos ve el modelo (y qué nunca debe ver).
- Qué acciones puede ejecutar sin humano.
- Dónde se guarda el rastro (prompt, tools, aprobación, resultado).
- Quién apaga el sistema un viernes a las 18:00.
Si no puedes responder a eso en una página, no tienes gobernanza: tienes esperanza.
EU AI Act sin pánico
No todo es “alto riesgo”. Muchos usos internos de soporte o productividad caen en obligaciones de transparencia y gestión de riesgo proporcionadas. Lo útil no es memorizar artículos: es documentar propósito, datos, supervisión humana y procedimiento de incidencia.
Una página interna bien escrita > un PDF de vendor que nadie lee.
Permisos > prompts
El prompt no es un control de acceso. Si el agente tiene credenciales de escritura en el ERP, el modelo puede “decidir” usarlas. Usa:
- Cuentas de servicio con scope mínimo
- Allowlists de tools por entorno
- Separación draft / execute
- Secrets fuera del contexto del modelo
Logs que sirven para aprender
Guarda lo suficiente para reproducir un fallo: entrada, tools llamadas, decisión humana, salida. No hace falta grabar todo el embedding space. Sí hace falta poder decir: “el martes el agente propuso X; Ana lo rechazó; el motivo fue Y”.
Ritmo de equipo pequeño
- Revisión quincenal de incidentes del agente (15 minutos).
- Lista viva de acciones prohibidas.
- Un owner nombrado (no “el equipo”).
- Kill switch documentado.
Gobernanza no es burocracia: es hacer que el error sea barato de detectar y de revertir. En equipos pequeños, eso es ventaja competitiva frente a quien despliega y mira hacia otro lado.