AIF-C01 도메인 5: 보안, 준수 및 거버넌스

이해할 점

: AI 워크플로우 전반에 걸쳐 최소 권한 적용. 누가 모델을 호출하고, 소스 데이터에 접근하며, 프롬프트를 관리하고 로그를 조회할 수 있는지 통제합니다. 전송 중과 휴지 중인 데이터를 보호하고, 민감한 정보가 시스템에 어디서 들어오거나 나올 수 있는지 이해합니다.

• 공유 자격 증명 대신 범위 접근 권한을 위해 IAM 역할과 정책을 사용하세요.
• 데이터 분류에 적합한 암호화 및 키 제어를 사용하세요.
• 모니터링, 사고 대응 및 감사를 위한 로그 모델 및 애플리케이션 활동을 검토합니다.
• 프롬프트 인주젝션, 민감성 데이터 공개 및 과도한 에이전트 권한을 검토합니다.

일반적인 AIF-C01 결정

보안, 프라이버시, 컴플라이언스는 관련되어 있지만 상호 교환 가능하지 않습니다. 기술적으로 안전한 시스템도 보존, 거주 또는 동의 요건을 위반할 수 있습니다. 거버넌스는 소유권, 승인된 사용, 모니터링 및 검토를 정의합니다.