AIF-C01 Domain 4: Responsible AI

Qué

entender La IA responsable es una preocupación del ciclo de vida. El sesgo puede influir en datos históricos, muestreo, etiquetas, diseño del modelo, umbrales o la forma en que se utiliza una aplicación. Probar solo la precisión global puede ocultar malos resultados para un subgrupo.

• La equidad pregunta si los resultados crean disparidades injustificadas.
• La explicabilidad ayuda a las personas a comprender factores influyentes y el comportamiento del modelo.
• La transparencia incluye comunicar el propósito del sistema, las limitaciones y la implicación de la IA.
• La supervisión humana es especialmente importante para decisiones de alto impacto o incertas.

Decisiones comunes del AIF-C01

Elige datos de evaluación representativa, mide subgrupos relevantes, documenta limitaciones y crea vías de escalada. Las barreras de seguridad y los filtros de contenido reducen el riesgo, pero no sustituyen la gobernanza ni la responsabilidad humana.