AIF-C01 Dominio 5: Seguridad, cumplimiento y gobernanza

Qué hay que entender

Aplicar el privilegio mínimo a lo largo del flujo de trabajo de IA. Controlar quién puede invocar modelos, acceder a datos fuente, gestionar prompts y recuperar registros. Proteger los datos en tránsito y en reposo, y comprender dónde puede entrar o salir información sensible del sistema.

• Utiliza roles y políticas IAM para acceso con alcance en lugar de credenciales compartidas.
• Utiliza cifrado y controles de clave apropiados para la clasificación de datos.
• Registra la actividad del modelo y de la aplicación para monitorización, respuesta a incidentes y auditoría.
• Revisa la inyección de prompts, la divulgación de datos sensibles y permisos excesivos de agentes.

Decisiones comunes AIF-C01

La seguridad, la privacidad y el cumplimiento están relacionados pero no son intercambiables. Un sistema técnicamente seguro aún puede violar requisitos de retención, residencia o consentimiento. La gobernanza define la propiedad, el uso aprobado, el seguimiento y la revisión.