AIF-C01 Domain 4 : Responsible AI

Ce qu'il faut comprendre

Le responsible AI est une préoccupation de cycle de vie. Le biais peut entrer via les données historiques, l'échantillonnage, les labels, la conception du modèle, les seuils ou la façon dont une application est utilisée. Tester uniquement l'accuracy globale peut masquer de mauvais résultats pour un sous-groupe.

• Fairness demande si les résultats créent des disparités injustifiées.
• Explainability aide les gens à comprendre les facteurs influents et le comportement du modèle.
• Transparency inclut la communication du but du système, des limites et de l'implication de l'IA.
• Human oversight est particulièrement important pour les décisions à fort impact ou incertaines.

Décisions AIF-C01 courantes

Choisissez des données d'évaluation représentatives, mesurez les sous-groupes pertinents, documentez les limites et créez des chemins d'escalade. Les garde-fous et filtres de contenu réduisent le risque mais ne remplacent pas la gouvernance ni la responsabilité humaine.