AIF-C01 Domain 4: Responsible AI

이해할 점

: 책임 있는 AI는 수명 주기 문제입니다. 편향은 과거 데이터, 표본추출, 라벨, 모델 설계, 임계값 또는 애플리케이션 사용 방식을 통해 드러날 수 있습니다. 전체 정확도만 테스트하면 하위 그룹의 부실한 결과를 숨길 수 있습니다.

• 공정성은 결과가 부당한 불균형을 초래하는지 여부를 묻습니다.
• 설명 가능성은 사람들이 영향력 있는 요인과 모델 행동을 이해하는 데 도움을 줍니다.
• 투명성에는 시스템 목적, 한계, AI 참여
의사소통이 포함됩니다.
• 특히 영향력이 크거나 불확실한 결정에서는 인간의 감독이 중요합니다.

일반적인 AIF-C01 결정 대표

성

평가 데이터 선택, 관련 하위 그룹 측정, 한계 문서화 및 에스컬레이션 경로 생성. 가드레일과 콘텐츠 필터는 위험을 줄이지만, 거버넌스나 인간의 책임성을 대체하지는 않습니다.