AIF-C01 Domain 4: Responsible AI

理解责任

人工智能是一个生命周期关注点。偏见可能通过历史数据、抽样、标签、模型设计、阈值或应用使用方式进入。仅测试整体准确性可以掩盖某个子群体的不良结果。

• 公平性询问结果是否造成不合理的差异。
• 可解释性帮助人们理解影响因素和建模行为。
• 透明度包括传达系统目的、局限性和人工智能参与情况。
• 人工监督对于高影响力或不确定决策尤为重要。

常见的AIF-C01决策选择

具有代表性的评估数据，衡量相关子群体，记录局限性并创建升级路径。护栏和内容过滤器降低风险，但不能取代治理或人类问责。