• 딥페이크 등 인공지능으로 생성한 가상의 정보에 대한 규제 동향

  인공지능으로 생성한 가상 정보의 확산이 사회적으로 문제되고 있는 가운데, ‘공직선거법’의 개정을 통해 딥페이크를 활용한 선거운동을 금지하는 등 각종 입법을 통한 대응이 추진되고 있습니다.
   

• 인공지능 시대의 저작권 및 워터마크

  문화체육관광부는 인공지능의 저작권 관련 쟁점들에 선제적으로 대응하고 정책 대안을 마련하고자 워킹그룹 운영, 가이드라인 마련 등 작업을 이어나가고 있습니다. 인공지능으로 생성된 콘텐츠에 대한 워터마크 표시 의무 관련 논의도 진행 중입니다.
   

• 개정 ‘개인정보 보호법’상 자동화된 결정을 포함한 인공지능 관련 주요 쟁점

  인공지능 서비스의 기획부터 상용화까지 각 단계별로 개인정보 관련 다양한 쟁점들이 논의되고 있습니다. 최근에는 ‘자동화된 결정’과 관련한 개인정보처리자의 의무를 규정한 개정 ‘개인정보 보호법’이 시행되었습니다.
   

• 인공지능 알고리즘을 통한 자사우대 및 데이터집중

  사업자가 알고리즘을 통해 자사 제품 등을 우선 노출하는 ‘자사우대’ 행위나 경쟁사의 영업 정보나 소비자의 개인정보를 수집하고 이용하는 ‘데이터집중’ 행위 등과 관련된 문제가 부각되고 있습니다.
   

• 인공지능에 의해 직무 배치가 결정되는 플랫폼 종사자의 근로자성

  인공지능 시스템에 의하여 업무 내용이 정해지는 플랫폼 종사자가 근로기준법상 근로자에 해당하는지 여부에 관한 논의가 진행 중입니다. 최근 법원이 플랫폼 종사자의 근로자성에 관하여 판단한 사례가 향후 많은 참고가 될 것으로 전망됩니다.
   

• 금융회사 등의 SaaS 인공지능 서비스 도입에 관한 규제 및 샌드박스 제도

  현행 전자금융거래법상 금융회사 및 전자금융업자는 내부망에서의 SaaS 이용에 제한이 있어, SaaS 형태의 인공지능 서비스 이용에도 제한이 발생할 수 있습니다. 이에 관하여서는 샌드박스 제도의 이용을 고려하여 볼 수 있습니다.
   

• 고위험 인공지능의 분류 기준 및 유형에 대한 국내 논의 동향

  EU AI Act는 고위험 인공지능 시스템에 대해 가중된 의무를 부과하고 있습니다. 현재 국내에서 논의 중인 인공지능 관련 법안 또한 고위험 인공지능에 대해 EU AI Act와 유사한 접근 방식을 취하고 있습니다. 다만, 국내에서 논의되고 있는 법안은 고위험 인공지능의 범위를 EU AI Act보다 더 넓게 규정하고 있습니다.

[영문] AI Issues and Implications in Q1, 2024 
[관련 뉴스레터] AI 주요 이슈 및 시사점 (2024년 2분기)