방송통신위원회와 정보통신정책연구원(KISDI)는 2022. 4. 28. ‘인공지능 미디어 추천 서비스 이용자 보호 기본원칙 해설서’를 발간하였습니다. 이는 지난 2021. 6. 방송통신위원회가 발표한 ‘인공지능 기반 미디어(매체) 추천 서비스 이용자 보호 기본원칙’(이하 “추천 서비스 기본원칙”)에서 제시된 각 항목 및 내용과 관련하여 사업자들이 참고할 수 있는 구체적인 규정취지 및 세부사항을 안내하기 위하여 마련된 것입니다.
추천 서비스 기본원칙 제안 배경
미디어 플랫폼을 통한 콘텐츠의 제공 및 유통이 활성화되면서 이를 통하여 다양한 목적과 내용의 디지털 콘텐츠를 소비하는 이용자들 역시 증가하고 있습니다. 플랫폼 사업자들은 제한된 디스플레이 영역을 통하여 좀더 많은 이용자들이 관심을 갖고 이용할 수 있는 콘텐츠를 노출 및 제공하기 위하여, 이용자들의 관심 및 사용이력 등 행태정보들을 기초로 다양한 맞춤형 추천 콘텐츠 서비스를 운영하고 있습니다. 급속도로 발전하고 있는 인공지능 기술 및 서비스는 이러한 맞춤형 추천 서비스의 고도화에 적극적으로 활용되고 있습니다.
하지만 고도화된 인공지능 기반 추천 서비스로 인해 이용자들은 특정한 내용 및 성격의 콘텐츠에 지나치게 편향되게 노출될 수 있다는 문제점이 있고, 특히 이용자들이 이러한 서비스의 작동 및 기능을 정확히 인지하지 못하여 이를 시정 및 해소할 수 있는 기회를 갖지 못한다는 점에 대한 우려도 함께 제기되고 있습니다.
추천 서비스 기본원칙은 이러한 디지털 미디어 플랫폼사업자들이 자동화된 인공지능 알고리즘에 기초하여 미디어 콘텐츠를 선별적으로 노출시키는 서비스(인공지능 기반 추천 서비스)를 제공하는 경우, 그러한 서비스가 갖추어야 할 투명성 및 다원성에 관한 권고적인 기준으로 마련되었습니다.
추천 서비스 기본원칙의 주요 내용
-
3대 핵심 원칙
- 투명성: 이용자들에게 추천서비스의 제공사실 및 그 작동의 주요 요인 및 효과 등을 공개 및 설명
- 공정성: 콘텐츠 자동 배열의 기준 및 결과의 공정성 및 그에 대한 이용자의 선택권을 확보하고 불만 처리와 평가를 위한 기술적, 관리적 조치 도입
- 책무성: 추천 서비스의 기능적 오류 등 부정적 결과의 제거 및 시정 -
5대 실행 원칙:
- 이용자를 위한 정보 공개: 이용자에 대하여 인공지능 추천서비스의 존재 및 그 소비 및 검색 이력, 조회수 등 주요 파라미터를 메인화면이나 팝업화면, 약관 등을 통하여 고지
- 이용자의 선택권 보장: 이용자가 편향되지 않은 다양한 콘텐츠에 접근할 수 있도록 인공지능 추천서비스의 주요 파라미터를 선택, 변경할 수 있는 기능 제공
- 자율검증 실행: 서비스 제공자는 추천 서비스의 위험도를 평가하고 상시적으로 관리할 수 있는 자율검증체계를 마련하고 기록하며 관련된 통제수단을 구비
- 불만 처리 및 분쟁 해결: 추천 서비스에 관한 이용자 불만 접수 및 처리 창구의 운영
- 내부 규칙 제정: 본 추천 서비스 기본원칙 준수를 위한 지침 및 기술적, 관리적 수단과 분쟁해결절차 등의 내용을 포함한 내부 규칙 마련
해설서의 주요 내용
이번 해설서는 추천 서비스 기본원칙에서 추상적이고 일반적으로 제시되었던 사항들을 좀더 구체적이고 세부적으로 설명하고 있습니다. 사업자들에게 실무적으로 의미가 있는 주요 사항을 살펴보면 아래와 같습니다.
-
인공지능 추천서비스의 정보제공 의무: 인공지능 투명성 및 설명가능성은 인공지능 서비스와 관련된 이용자 보호의 가장 핵심적인 요소로 요구되고 있습니다. 해설서는 인공지능 서비스의 투명성 및 설명의무의 범위에 영업비밀 침해의 우려가 있는 알고리즘은 포함되지 않음을 명확히 하였습니다. 다만 알고리즘의 작동에 주요하게 고려되는 각종 행태정보들은 이용자가 쉽게 확인할 수 있는 상태로 공개하여야 하며, 이러한 정보가 개인정보에 해당할 경우에는 이러한 정보공개가 좀더 명확히 요구된다고 설명하고 있습니다.
-
이용자 선택권 보장: 추천 서비스 기본원칙은 사업자가 이용자에 대하여 인공지능 추천 서비스의 주요 사항을 선택, 변경할 수 있는 기능을 제공하도록 권고 하고 있습니다. 해설서는 미디어콘텐츠를 제공하는 이용사업자는 위와 같은 선택권의 대상이 아니며, 콘텐츠를 소비하는 이용자를 위한 선택권 역시 경제적으로 합리적인 범위 내에서 실행 가능한 기능을 제공하면 충분하다는 점을 명확히 하였습니다.
-
자율검증 실행, 분쟁해결 및 규칙 제정: 해설서는 서비스 개발 전에 서비스로 야기될 수 있는 위험성을 예측 및 평가하여 그러한 위험의 발생을 사전에 예방하고, 서비스 운영 과정에서 지속적으로 서비스의 위험성을 관리하며 서비스 운영에 관한 기록을 보관 및 관리할 것을 권고하고 있습니다. 또한 이용자에 대한 민원처리 및 관련 분쟁대응에 있어서도 인공지능의 작동 및 기능에 대한 설명에 기초할 조치를 요구하고 있고, 서비스 운영과 관련된 내부 규칙 제정도 권고하고 있습니다.
의미 및 대응방안
해설서는 위 각 실행원칙과 관련하여 현재 계류 중인 각종 국내 법안 및 가이드라인 등을 함께 제시하고 있습니다. 추천 서비스 기본원칙 및 해설서는 자율적이고 권고적인 규범이지만, 다양한 법령 및 가이드라인과 함께 인공지능 서비스에 대하여 요구되는 주요 의무사항에 대한 중요한 해석지침이 될 것으로 보입니다. 방송통신위원회는 이번 해설서를 사업자들에게 배포하여 추천 서비스 기본원칙의 이행을 권고하고 올해 내로 본 추천 서비스 기본원칙에 대한 보다 구체적인 실행지침도 마련할 계획입니다.
본 해설서에 소개된 법안들을 포함하여 현재 다양한 인공지능 기본법 또는 관련 법들이 국회에 상정되어 논의가 진행 중에 있습니다. 아직 규제의 대상이 될 인공지능 시스템 및 서비스의 범위, 관련된 규제의 내용은 불확실한 부분이 많이 있는 상태이고 이를 구체화하기 위한 다양한 논의들이 진행 중에 있습니다. 특히 이용자에 대한 인공지능 서비스 기능에 있어서의 선택권 보장 등을 서비스의 구조 및 내용에 큰 영향을 미칠 수 있는 사항들에 대해서는 정부 및 국회의 논의를 계속적으로 모니터링할 필요가 있어 보입니다.
관련 이슈
