AIF-C01 Domain 4: Responsible AI

理解すべきこと

責任あるAIはライフサイクルの課題です。バイアスは過去のデータ、サンプリング、ラベル、モデル設計、閾値、アプリケーションの利用方法などを通じて侵入できます。全体的な精度のみをテストすることで、サブグループの悪い結果を隠すことができます。

• 公平性は、結果が不当な格差を生み出しているかどうかを問います。
• 説明可能性は、影響のある要因やモデルの行動を理解するのに役立ちます。
• 透明性には、システムの目的、制限、AI関与の伝達が含まれます。
• 人間の監督は、特に影響力の高い意思決定や不確実な意思決定において重要です。

一般的なAIF-C01の意思決定代表

的な

評価データを選択し、関連するサブグループを測定し、制限を文書化し、エスカレーションパスを作成すること。ガードレールやコンテンツフィルターはリスクを低減しますが、ガバナンスや人的説明責任に代わるものではありません。