AIF-C01 Domain 4: Responsible AI

O que entender

A IA responsável é uma preocupação ao longo do ciclo de vida. O viés pode surgir por meio de dados históricos, amostragem, rótulos, design de modelos, limiares ou da forma como uma aplicação é utilizada. Testar apenas a precisão geral pode ocultar resultados ruins para um subgrupo.

• Justiça questiona se os resultados criam disparidades injustificadas.
• A explicabilidade ajuda as pessoas a entender fatores influentes e o comportamento do modelo.
• Transparência inclui comunicar o propósito do sistema, limitações e envolvimento da IA.
• A supervisão humana é especialmente importante para decisões de alto impacto ou incertas.

Decisões comuns do AIF-C01

Escolha dados de avaliação representativa, meça subgrupos relevantes, documente limitações e crie caminhos de escalonamento. Proteções e filtros de conteúdo reduzem riscos, mas não substituem a governança ou a responsabilidade humana.