구분

판단 시 주요 고려사항

‘자동화된 결정’ 해당 여부

• 정당한 권한을 가진 사람의 실질적이고 의미 있는 개입 없이 완전히 자동화된 시스템에 의해 결정이 이루어졌는지 여부

• 완전히 자동화된 시스템으로 해당 정보주체의 개인정보를 분석·가공하는 등 개별적인 처리 과정을 거쳐 의미 있는 정보를 추출하는지 여부

• 해당 결정이 내려지는 단계와 관계 없이 해당 결정이 정보주체에 대한 최종적인 결정에 해당하는지 여부 등

‘중대한 영향’을 미치는 경우 해당 여부

• 사람의 생명, 신체의 안전과 관련된 정보주체의 권리 또는 의무인지 여부

• 정보주체의 권리 또는 의무에 지속적인 제한이 발생하는지 여부

• 정보주체에게 영향을 미치기 전의 상태로 회복하거나 해당 영향을 회피할 수 있는 가능성이 있는지 여부 등

거부권 제한 사유 해당 여부

• (동의) 개인정보를 수집·이용하는 과정에서 자동화된 결정이 이루어진다는 사실에 대해 정보주체가 명확하게 인지할 수 있도록 알리고 동의를 받았는지 여부

• (법률 규정) 자동화된 결정에 대하여 법률에 특별한 규정이 있거나 법령상 의무를 준수하기 위하여 자동화된 결정이 불가피한 경우에 해당하는지 여부

• (계약체결·이행) 정보주체와 체결한 계약을 이행하거나 계약을 체결하는 과정에서 정보주체의 요청에 따른 조치를 이행하기 위하여 자동화된 결정을 하는 경우로서 자동화된 결정이 이루어진다는 사실에 대해 정보주체가 명확하게 인지할 수 있도록 알렸는지 여부

구분

거절의 ‘정당한 사유’ 판단 시 주요 고려사항

거부

• 해당 조치로 인해 다른 사람의 생명, 신체를 해할 우려가 있거나 다른 사람의 재산과 그 밖의 이익을 부당하게 침해할 우려가 있는지 여부

• 해당 조치로 인해 개인정보처리자의 재산과 그 밖의 이익을 부당하게 침해할 우려가 있는 경우로서 정보주체의 자동화된 결정에 대한 권리보다 우선하는지 여부

• 해당 자동화된 결정을 적용하지 아니하면 정보주체와 약정한 서비스를 제공하지 못하는 등 계약의 이행이 곤란한 경우로서 정보주체가 그 계약의 해지 의사를 명확하게 밝히지 아니한 경우에 해당하는지 여부 등

설명요구

• 자동화된 결정에 대한 설명으로 인해 다른 사람의 생명, 신체를 해할 우려가 있거나 다른 사람의 재산과 그 밖의 이익을 부당하게 침해할 우려가 있는지 여부

• 자동화된 결정에 대한 설명으로 인해 개인정보처리자의 재산과 그 밖의 이익을 부당하게 침해할 우려가 있는 경우로서 정보주체의 자동화된 결정에 대한 권리보다 우선하는지 여부

• 자동화된 결정에 대한 설명을 요구한 사항이 정보주체가 충분히 예상할 수 있는 내용이거나 사실과 다른 내용인지 여부 등

검토요구

• 정보주체가 제출한 의견의 내용이 자동화된 결정 과정에 이미 반영되어 있거나 동일한 내용의 검토 요구가 반복적으로 제기된 것인지 여부 등

구분

주요 조치

거부

• 해당 결정의 적용을 정지하여 정보주체의 권리 또는 의무에 중대한 영향을 미치지 않도록 조치하고 그 결과를 정보주체에게 알려야 함
  ※ 다만, 사람의 개입을 통해 재처리를 하고 그 결과를 알린 경우에는 해당 결정의 적용을 정지하는 조치를 하지 않을 수 있음

설명요구

• 정보주체에게 개별적으로 의미있는 정보를 선별하여 이해하기 쉬운 방식으로 간결하고 의미있는 설명을 제공해야 함
  ※ 중대한 영향을 미치지 않는 자동화된 결정의 경우에는 미리 공개한 주요 개인정보의 유형과 자동화된 결정의 관계 등을 간결하게 알릴 수 있음

검토요구

• 반영 여부를 검토하고 반영한 경우에는 그 결과를 정보주체에게 알려야 함

구분

주요 분야별 사례

자동화된 결정
해당 사례

• 채용 등 단계적 결정 과정이 있는 경우로서 서류·적성검사 단계에서만 AI결정이 이루어지고 면접심사에서는 인적 개입이 있는 경우 서류심사 단계에서의 불합격자

• 개인정보처리자가 AI 부정거래탐지시스템을 통한 개인정보 분석 등을 통해 영구적으로 이용정지·계정박탈·계약해지 등 불이익을 주는 결정을 한 경우

자동화된 결정
제외 사례

• AI 채용과정에서 AI가 산출한 점수뿐만 아니라 추가자료(지원서류, AI면접 결과 등)를 종합적으로 검토하여 합격 여부를 결정하는 경우

• 맞춤형 광고, 뉴스 추천 등과 같이 개인정보처리자가 추천하고 이용 여부에 대한 실질적 결정은 정보주체가 하여 권리 또는 의무에 영향을 미치지 않는 경우

• AI 부정행위탐지시스템으로 계정을 임시 차단하고, 해당 조치에 대한 정보주체의 소명 후 인적 개입을 통한 최종 결정 절차를 운영하고 있는 경우