구분

목적의 구체화 정도

특정목적 AI

• 의도된 목적·용도를 최대한 구체적으로 정의하는 것이 바람직함

• (예) 문서요약, 번역, 이미지 생성 등

범용 AI

• 합리적으로 예측가능한 범위에서 AI 시스템의 유형(type), 기능(functionality), 성능(capability) 등을 통해 정당한 이익의 내용을 구체화할 수 있음

구분

구체적 내용

학습데이터 수집 출처 검증·관리

• 웹사이트 이용약관과 로봇배제표준(robots.txt)을 준수하고 커먼 크롤 등 제3자가 수집한 데이터 집합 이용하는 경우 주요 데이터 출처 목록 확인

• 위원회와 한국인터넷진흥원이 식별한 특정 도메인 정보(URL)를 AI 학습데이터에서 배제 등

개인정보 유·노출 방지

• 고유식별정보, 민감정보, 계좌번호, 신용카드정보 등 개인 식별자를 삭제 또는 비식별화

• 중복제거 데이터셋 이용 또는 중복제거 도구 적용

• 차분 프라이버시(Differential Privacy) 등 개인정보 보호 강화 기술 적용 등

개인정보의 안전한 저장 및 관리

• 학습데이터가 유출되거나 이용자 DB 등과 결합되는 것을 방지하기 위해 접근제한 등 안전조치

미세조정을 통한 안전장치 추가

• 지도학습 기반 미세조정, 사람 피드백 기반 강화학습 등 미세조정 적용

프롬프트 및 출력 필터링 적용

• 개인 프로파일링 또는 사생활 침해 답변 생성을 유도하는 프롬프트에 대해 답변 생성 거절 또는 미리 정해진 답변 제공 등

• 출력물에 개인정보가 생성되는 경우 감지·제거하는 필터 기술 적용

학습 결과에서 특정 데이터 삭제

• 향후 기술 개발 추이에 따라 머신 언러닝(machine unlearning) 등 기술 도입

구분

구체적 내용

학습데이터 처리 기준 정립 및 개인정보 처리방침에 공개

• 학습데이터 수집·이용 기준(주요 수집 출처, 수집 방법, 안전조치 방안 등 포함)을 개인정보 처리방침, 기술문서, FAQ 등에 공개 등

개인정보 영향평가 수행 고려

• 학습데이터에 민감한 정보가 포함되어 있을 개연성이 높거나 정보주체 권리·의무에 중대한 영향을 미칠 수 있는 AI 서비스의 경우 특히 영향평가 실시를 고려하는 것이 바람직함

AI 프라이버시 레드팀    

• 외부 전문가가 포함된 레드팀을 구성·운영하여, 개인정보 침해 유형을 시험·확인 등

오픈소스, API 등 AI 개발·배포 특성에 따른 안전조치

• (오픈소스 모델) 이용방법과 조건의 범위를 명시한 라이선스 정책 수립·배포, 취약점 발견 시 조치방안 신속하게 강구 및 재배포 등

• (API 연계를 통한 서비스) API 이용사업자가 개인정보 보호하도록 계약상 의무 부과하고 상세한 사용지침과 기술문서 제공 등

구분

구체적 내용

AI 학습데이터 투명성 제고    

• 공개된 개인정보 수집 사실, 주요 출처, 처리 목적 등을 개인정보 처리방침, 기술문서, FAQ 등에 공개

정보주체 권리 행사 지원

• 정보주체의 개인정보 열람, 정정·삭제 등 정보주체 권리 행사에 대하여 시간, 비용 기술을 합리적으로 고려한 범위 내에서 보장하도록 노력