[미국] AI 권리장전을 위한 청사진(Blueprint for AI Bill of rights)에서 정의한 Data Privacy 실천방안

2022년 10월, 미국 백악관에서는 다섯가지 원칙이 담긴 AI 권리장전을 위한 청사진을 발표했습니다.
1) 안전하고 효과적인 시스템
2) 알고리즘 차별 보호
3) 데이터 프라이버시
4) 공지와 설명
5) 인간의 대안, 고려 및 Poll back
 
미국은 Privacy가 가장 중요한 국가이지만, Data privacy에 대한 규제는 다른 국가들에 비해 산업에 규제장벽이 낮은 편인데요.
AI 권리장전을 위한 청사진에서 기재된 실천방안들은 EU GDPR 뿐만 아니라 국내 개인정보보호법 전반을 포괄하는 내용이 담겨있습니다.
 
본 포스팅을 작성한 2023년 3월 기준으로, EU GDPR과 국내 개인정보보호법에서 AI의 '자동화된 처리와 결정'에서 정보주체의 권리를 보장하는 의무에 대한 실제적인 가이드라인은 학계와 함께 연구 및 논의 하에 개발중이고 아직까지 공개된 바는 없습니다. 
 
미국 빅테크 기업이 이 원칙을 권고로만 받아들일지,
실제 규제화되어 기업의 의무를 강제적으로 부과할지에 대한 방향은 앞으로 점차 지켜봐야겠습니다.
 
 
* 원문 및 번역문을 요약

---

Blueprint for AI Bill of rights - Data Privacy 주요 내용

• 합리적으로 예상되는 만큼만 데이터 수집하도록 준수
• 설계 시 개인정보 침해로부터 보호될 수 있도록 설계
• 자동화 시스템의 설계자, 개발자, 배포자는 적절한 방법으로 가능한 최대범위까지 데이터 수집/사용/접근/전송 및 삭제에 대한 정보주체의 결정을 존중하고 동의를 구해야 함
• 사용자가 잘 알아볼 수 없게 구현하거나 개인정보를 침해하는 형태로 정보주체에게 부담을 주도록 설계해선 안 됨
• 동의는 적절하고 의미있게 제공될 수 있는 경우에만 데이터 수집을 정당화하도록 적용되어야 함
• 모든 동의 요청은 간단하고 평이한 언어로 이해할 수 있어야하며, 데이터 수집 및 특정 컨텍스트 사용에 대한 권한을 제공해야 함
• 데이터의 광범위한 사용에 대해 이해할 수 없게 표현하거나 통지하는 관행은 바뀌어야 함
• 건강, 교육, 사법 및 금융, 미성년자 등과 같은 민감한 데이터는 추론을 제한하고 보호를 더 강화해야 함
• 민감한 영역에서 정보주체의 데이터와 관련 추론은 꼭 필요한 경우에만 사용되어야 하며, 윤리적 검토가 이루어져야 함
• 확인되지 않은 감시로부터 자유로워야 함
• 사생활과 시민의 자유를 보호하기 위해 잠재적 피해에 대해 배포 전 평가를 하는 등, 보다 강화된 감독이 이루어져야 함
• 지속적인 감시 및 모니터링은 정보주체의 권리나 기회, 접근성을 제한할 가능성이 있는 교육, 업무, 주거 또는 기타 상황에서 감시 기술을 사용하는 것은 적합하지 않음
• 정보주체의 결정권이 존중되었음을 확인하고, 감시 기술이 권리, 기회 또는 접근성에 미칠 수 있는 잠재적 영향을 평가해주는 리포트를 공개해야 함

 
 
 

---

자동화 시스템에 대한 기대치

1. 설계 단계에서 개인정보보호를 고려하여 구축(Privacy by Design 적용)

• 추론된 데이터에 대한 잠재적인 피해도 포함해야 함
• 데이터 수집 최소화, 정보주체에게 명확한 내용 전달
• 합법적이고 정보주체가 인지하는 경우에만 기계학습모델을 교육하거나, 테스트할 목적으로만 수집하거나 사용해야 함

 
2. 데이터 수집 및 사용범위 제한

• 데이터 수집 목적으로 엄격하게 정해진 범위에서 데이터를 최소화하여 수집해야 함
• 특정 컨텍스트 목적 기반으로 수집된 데이터는 명시적 동의를 포함하여 수집하고, 새로운 개인정보 위험을 평가하지 않거나 적절한 완화조치를 구현하지 않고 다른 컨텍스트에서 사용해서는 안 됨
• 데이터 보존에 대한 기간을 정하고, 문서화하여 가능한 빨리 데이터를 파기해야 함

 
3. 위험 식별 및 완화

• 프라이버시에 대한 위험이 이점보다 클 때, 데이터를 처리하지 않거나 위험을 완화해야 함
• 정보주체가 합리적으로 기대할 수 없는 통지나 동의 요청으로 개인정보에 대한 위험을 공유하는 것은 포함되지 않음

 
4. 개인정보보호

• 자동화된 시스템으로 데이터 및 메타데이터가 특정사례 이상으로 유출되지 않도록 설계된 가이드나 Best-Practice를 따라야 함
• 보안프로토콜, 프라이버시 강화를 위한 암호화, 세분화된 권한 및 액세스 제어 매커니즘 적용

---

확인되지 않은 감시로부터 대중을 보호

1. 감시 감독 강화

• 배포 전에 대중의 권리, 기회와 접근성을 해치지 않도록 지속적으로 잠재적 위험에 대해 평가해야 함
• 배포할 때 특정 그룹(인종, 거주지역, 특성 등...)에 따라 알고리즘 차별이 없도록 특별히 주의해야 함
• 시스템이 사용되는 한 지속적으로 재확인되어야 함

2. 제한적이고 비례적인 감사

• 정당한 목적을 달성하기 위해 꼭 필요한 경우가 아닌 감시는 피해야 함
• 설계자, 개발자, 배포자는 모니터링 수단을 통해 최소한으로 모니터링을 제한해야 함
• 법 집행 및 국가 안보 요구에 부합하는 범위 내에서 개인에게 모니터링이 발생하기 전에, 구체적인 통지를 통해 알려야 함

3. 권리와 민주적 가치를 보호하기 위한 감시범위 제한

• 인권이나 자유를 제한하는 목적으로 투표, 사생활 보호, 연설과 같은 민주적 권리행사를 감시하는 데 쓰여서는 안 됨
• 그룹 특성, 소속, 지리적 특징, 위치기반, SNS, 생체인식과 같은 신원과 관련된 정보를 알고리즘적으로 결정하는 가정(추론)은 신중하게 제한뙤어야 함

---

데이터에 대한 적절한 동의와 매커니즘을 대중에게 제공

1. 사용 별 동의

• 구체적으로 간략하게 특정 기간과 특정 범위에 대해 동의를 구해야 함
• 조건이 변경되거나 보유기간이 경과되면, 데이터 사용 전에 동의를 다시 구해야 함
• 필요 이상으로 동의를 요청해서는 안되며, 사용 사례 필요에 따라 최대 범위까지 동의 거부를 제공할 수 있어야 함

2. 간단하고 직접적인 동의 요청

• 짧고 평의한 동의 요청으로, 사용자가 데이터 및 메타데이터, 컨텍스트, 보유기간 및 엔티티를 제공하는 것을 이해할 수 있도록 표현해야 함
• 의도적으로 어두운 패턴을 적용하거나, 글씨를 작게표현 하는 등 난독화해서는 안 됨

3. 데이터 액세스 및 수정

• 자동화된 시스템에 의해 데이터가 수집, 사용, 공유, 저장되는 경우, 정보주체는 자신에 대한 데이터와 메타데이터에 접근할 수 있어야 함
• 접근할 수 있는 사람이 누구인지, 접근을 수정할 수도 있어야 함(처리하는 회사를 알게 하거나, 제한 할 수 있어야 한다는 의미로 보임)
• 다른 엔티티와 데이터를 공유하기 전에 동의를 받아야 하며, 누구와 공유하는지에 대한 기록을 유지해야 함

4. 동의 철회 및 데이터 삭제

• 법적으로 허용되는 범위 내에서 데이터 접근에 대한 동의철회를 할 수 있어야 함
• 동의 철회 시, 데이터 및 메타데이터, 파생된 데이터가 모든 시스템(기계학습모델)에 적시에 제거되어야 함

5. 자동화 시스템 지원

• 자동화 시스템을 설계, 개발, 배포하는 엔티티는 복잡한 데이터 에코시스템에서 동의, 접근제어 결정을 내리는 데 도움이 되는 기능을 설정하고 유지관리해야 함
• 표준화된 데이터 형식, 데이터 처리 권한 및 기본 설정, 데이터 출처 및 흐름, 사용 컨텍스트 및 액세스 별 태그를 표현하기 위한 메타데이터 또는 태그를 위한 모델이 포함

---

 

데이터와 개인정보보호 통제를 입증

1. 독립적인 평가

• 데이터 정책과 관련하여 독립적인 평가를 받고, 가능할 때마다 공개되어야 함
• 프라이버시와 데이터 접근에 대한 요구 사이에서 균형을 유지하기 위해 주의를 기울여야 함

 
2. 리포트

• 정보주체가 자신에 관한 데이터가 시스템에서 어떻게 사용되는지 알고자 할 때, 리포트로 신속하게 응답해야 함
• 리포트는 대부분의 사용자가 이해할 수 있어야하고, 기계로도 읽을 수 있어야 함
• 법률에서 허용하는 최대 범위까지 정보주체 또는 정보주체로부터 수집된 데이터 및 메타데이터, 수집된 시기와 방법, 방식을 모두 포함해야 함(사용중인 데이터 또는 메타데이터, 액세스 할 수 있는 사람, 데이터에 적용되는 시간제한도 포함되는 것으로 보임)
• 로그인 기능을 통해 리포트를 제공할 수 없는 경우, 신원확인 수행해야 함
• 요약보고는 데이터 및 메타데이터가 사용, 접근, 저장되는 방법에 대한 일반적인 정보와 함께 사전에 공개되어야 함
• 데이터의 보존일정, 정당성을 포함하여 감시, 가능한 독립적으로 수행된 데이터 수집에 대한 영향평가도 포함되어야 함

---

민감한 데이터에 대한 향상된 보호조치

# 민감한 도메인과 관련된 데이터 유형

• 장애 여부, 유전, 생체, 행동, 지리적 위치, 형사 사법시스템과 관련된 데이터, 관계 이력 및 법적 양육권 및 이혼정보, 갖정, 직장 또는 학교 환경 데이터와 같은 형태
• 신원 도용으로 인한 사생활 침해 또는 금전적 피해에 특정인을 노출시킬 가능성이 있는 방식으로 사용될 가능성이 있는 경우
• 미성년자 및 미성년자에 의해 생성된 데이터 및 메타데이터
• 숫자, 텍스트, 이미지, 오디오 또는 비디오 데이터에 국한하지 않음

예시)

AI Bill of right - data-privacy > 민감데이터

 
1. 필요한 기능에만 사용

• 해당 영역에 꼭 필요한 경우에만 사용되어야 함
• 필요하지 않은 기능에 대한 동의는 '선택'적으로 이루어져야 하고, 강요되어서는 안 됨

2. 윤리적 검토에 따라 사용 제한

• 권한, 기회, 접근성에 대한 민감한 데이터를 기반으로 할 때 결정은 자동화 여부와 관계없이 사전 및 정기적인 검토를 통해 철저한 윤리적 검토 및 모니터링을 거쳐야 함

3. 데이터 품질 유지

• 부정확한 데이터로 인한 의사결정으로 인해 발생하는 불리한 결과를 예방하기 위해, 데이터 품질 유지에 주의를 기울여야 함
• 정확하고 시의적절하며 완전한 데이터를 유지하기 위해 정기적이고 독립적인 감사 수행을 통해 즉각적인 시정조치를 취해야 함

 
4. 민감한 데이터와 파생데이터에 대한 접근 제한

• 민감한 데이터와 파생된 데이터는 데이터 중개 또는 기타 계약의 일부로 판매되거나 공유, 공개되어서는 안 됨

 
5. 리포트

• 민감하지 않은 데이터 프라이버시 외에도, 민감한 도메인과 관련된 기술을 개발하거나 민감한 데이터를 수집, 사용, 저장 또는 공유하는 경우, 적절할 때마다 아래 내용이 담긴 공개 보고서를 정기적으로 제공해야 함
• 민감한 데이터 유출을 초래한 모든 데이터 보안 실패 및 위반사항, 윤리적 사전 검토의 수, 유형 및 결과 판매, 공유 또는 공개된 모든 데이터에 대해 평가한 방법, 지속적인 위험 식별 및 관리절차, 위험 완화

 
 
참고)
https://www.whitehouse.gov/ostp/ai-bill-of-rights/

Blueprint for an AI Bill of Rights | OSTP | The White House

https://www.whitehouse.gov/ostp/ai-bill-of-rights/data-privacy-2/

+   Data Privacy | OSTP | The White House