‘AI 워싱(AI washing)’이라고 들어보셨나요?
최근 휴대폰 뿐만 아니라 금융투자상품에 대해서까지 ‘AI 기술’을 사용하였다는 광고를 많이 보셨을 것입니다. AI 기술을 제대로 활용하지 않거나 제품이나 서비스의 본질과 관련이 미미함에도 불구하고, 마치 AI 기술을 적극적으로 사용하는 것처럼 과장하거나 허위로 홍보하는 현상을 ‘AI 워싱’이라고 합니다. 소비자를 보호하고 AI 기술에 대한 신뢰를 유지하기 위해서는 이러한 AI 워싱 현상을 방지하고 규제하는 것이 필요합니다.
그러나 AI의 개념 자체가 포괄적이고 모호하여 판단 기준을 수립하기가 쉽지 않고, 기업들 또한 명확한 대응 방안을 찾기 어려운 것이 현실입니다. 이에 저희는 이번 뉴스레터 시리즈를 통해 AI 워싱과 관련된 최근 논의와 규제 동향, 해외 사례, 그리고 기업들이 미리 대비해야 할 점들을 소개해 드리고자 합니다.
저희가 보내드릴 뉴스레터 시리즈는 다음과 같으며, 시리즈의 첫번째 주제로, ‘AI 워싱 유형 및 규제 동향’을 살펴 보겠습니다.
I. AI 워싱 유형 및 규제 동향
II. AI 워싱 국내외 사례
III. 공정거래위원회의 AI 워싱 실태조사 및 가이드라인
IV. AI 워싱 컴플라이언스
|
1.
|
AI 워싱의 주요 유형
AI 워싱의 대표적인 유형은 1) 기술적 용어의 남용, 2) AI 활용 범위의 과장, 3) AI 기술 근거의 미제시 등이 있으며, 세부 유형은 다음과 같습니다(한국소비자원, 소비자정책동향 제140호 참고).
|
주요 유형
|
내용
|
|
기술적 용어 남용
|
-
‘AI’, ‘머신러닝’, ‘딥러닝’, ‘생성형 AI’ 등 전문 용어를 과장하거나 불필요하게 사용하여 마치 고도의 첨단 기술이 적용된 것처럼 인식하게 만듦
-
(예시) 간단한 데이터 분석 도구를 활용하면서 ‘AI 기반 예측 모델’로 홍보
|
|
일부 활용을
전체 활용으로 포장
|
-
특정 부서나 프로젝트에서만 제한적으로 AI를 사용했음에도, 기업 전체가 AI를 폭넓게 활용하는 것처럼 과장 홍보
-
(예시) AI를 통한 제품 견적서를 발급하는 신발 공장을 ‘AI 기업’으로 홍보
|
|
본질과 무관한
기술 적용
|
|
|
타사의 기술을
자체 기술로
오인 유도
|
|
|
불투명한
정보 제공
|
-
“AI 기술로 구동되는 시스템”과 같은 모호한 문구만 사용하고, 구체적인 기술 적용 방식이나 원리를 공개하지 않아 검증이 어려움
-
(예시) AI 알고리즘과 데이터 정보를 제공하지 않으면서 ‘AI 빅데이터 분석 투자 프로그램’이라고 광고
|
|
검증되지 않은
성과 주장
|
-
AI를 통해 혁신적인 성과를 달성했다고 주장하면서도, 객관적인 데이터나 검증 자료를 제시하지 않음
-
(예시) 구체적인 데이터나 사례를 제시하지 않으면서 ‘AI로 판매량 증가 예측’하였다고 주장
|
|
|
2.
|
AI 워싱 관련 국내외 법령 및 규제 동향
국내의 경우, AI 워싱 광고는 표시∙광고의 공정화에 관한 법률(이하 “표시광고법”)상 거짓·과장·기만적 표시광고(표시광고법 제3조), 또는 전자상거래 등에서의 소비자보호에 관한 법률(이하 “전자상거래법”)상 거짓·과장된 사실을 알리거나 기만적 방법을 통한 소비자 오인 및 거래 금지행위(전자상거래법 제21조 제1항 제1호)로 규제될 수 있습니다. 공정거래위원회(이하 “공정위”)에서도 ‘2025년 주요업무 추진계획’에서 AI 워싱 행위에 대한 감시 및 실태조사를 추진하겠다고 밝힌 바 있습니다.
국내에서 본격적으로 AI 워싱을 가지고 제재한 사례는 아직 확인되지 않습니다만, 향후 AI 워싱으로 인한 소비자 피해가 증가할 것으로 예상되며, 공정위 등 규제기관의 조사와 단속 등이 이루어질 가능성도 높습니다.
다음으로, 외국에서는 AI 워싱에 관한 법령 제정 및 제재 사례가 본격화되고 있습니다. 미국의 경우 미국 공정거래위원회(FTC)는 2023. 2. AI 제품 관련 허위·과장 광고의 단속을 예고하였고, 증권거래위원회(SEC) 게리 겐슬러(Gary Gensler) 위원장은 2024. 3. AI 워싱 근절을 언급하며 기업들에게 AI 관련 허위·과장 광고를 경고하였으며, 실제로 미국 FTC 및 SEC는 AI 워싱을 이유로 기업들에게 벌금을 부과하거나 사업을 박탈하는 제재를 하고 있는 상황입니다.
EU에서도 2024. 8. 1. 발효된 AI법(EU AI Act) 제5조를 통해 실제 AI가 아니거나 위험 수준 대비 성능을 과장한 경우 등 기만적 또는 조작적 AI 사용을 “금지된 AI 관행(Prohibited AI Practices)”으로 규정하고 금지하였습니다. EU 집행위윈회는 2025. 2. 24. 금지된 AI 관행과 관련한 가이드라인 초안을 발표하였는데, AI 사용 주장은 과학적·기술적 근거로 입증되어야 한다는 입장을 밝혔습니다.
|
이러한 국내외 AI 워싱 규제 동향을 고려하면, 향후 기업들이 자사 제품의 AI 기능을 광고할 때 이를 뒷받침할 수 있는 객관적인 실증자료를 갖추었는지, 부정확한 AI 기능 광고로 인해 발생할 수 있는 소비자 피해가 있는지 등을 면밀히 살펴보아야 하며, AI 워싱에 관한 규제 동향에 대한 모니터링도 필요합니다.
저희 사무소에서 보내드리는 뉴스레터를 통해 귀사의 AI 워싱 대비에 도움이 되기를 바라며, 다음에 보내드릴 두번째 뉴스레터에서는 AI 워싱이 실제로 문제된 사례들을 보다 상세하게 소개 드리겠습니다.
[영문] Types of AI Washing and Regulatory Trends (Part 1)
