• 인공지능기본법상 표시의무 도입에 따른 대응 방안

최근 국회를 통과하여 2026년 1월 중 시행 예정인 인공지능기본법은 인공지능의 투명성 확보를 목적으로 인공지능의 결과물에 대한 표시의무를 규정하고 있습니다. 향후 구체화될 내용에 대한 모니터링을 기반으로, 사업자들은 표시의무의 이행 및 법적 리스크 최소화를 위하여 실무상 대응 방안을 수립할 필요가 있습니다.
 

• AI 프라이버시 리스크 관리 모델 등 가이드라인 공개

AI와 데이터의 프라이버시 친화적 활용을 위한 개인정보보호위원회의 가이드라인 정비 작업은 2024년 말에도 계속되었습니다. 새롭게 공개된 AI 프라이버시 리스크 관리 모델은 개인정보보호책임자(CPO)를 중심으로 하는 내부 관리체계를 기반으로 AI의 유형·용례별 대표적인 프라이버시 리스크에 대응할 수 있는 방안을 안내하고 있습니다. 또한, 향후 AI 학습데이터로 폭넓게 활용될 가능성이 있는 합성데이터와 관련해서도 그 생성 및 활용 시 고려해야 할 사항을 소개하는 안내서가 발표되었습니다.
 

• 생성형 AI와 클라우드 컴퓨팅 서비스의 경쟁법적 쟁점 및 규제 동향

생성형 AI 서비스가 고도화됨에 따라 AI 가치사슬에서 클라우드 서비스의 중요성이 점차 커지고 있습니다. 특히 클라우드 서비스의 확장은 생성형 AI 가치사슬 내 수직통합 등으로 이어질 수 있고, 이로 인해 대규모 클라우드 서비스에의 종속 우려, 멀티호밍 제한 등 경쟁법적 쟁점이 야기될 수 있습니다. 현재 각국 경쟁당국은 클라우드 서비스와 AI 시장에서의 시장 집중, 데이터 독점, 경쟁자 배제 등의 문제에 대해 우려를 표명하고 있고, 우리 공정거래위원회 또한 클라우드 실태조사와 AI 실태조사 등의 결과를 바탕으로 AI와 클라우드 서비스 시장에서의 경쟁법적 우려를 지속적으로 살펴보겠다는 입장입니다.
 

• 인사노무 분야 AI에 대한 국제적 규제 동향 및 한국에서의 법적 이슈

인사노무 분야에서 AI 도입이 증가함에 따라 각국의 규제와 지침이 강화되고 있습니다. 미국 노동부는 AI로 인한 근로자 위험을 완화하기 위한 8대 원칙을 제시했으며, 영국 과학혁신기술부는 AI 채용 가이드라인을 통해 AI 사용 시 차별 방지, 데이터 보호 등을 강조하였습니다. 한국에서 인공지능기본법이 제정되어 고위험 인공지능에 대한 규제가 시행될 예정인 만큼 인사노무 AI 관련 국제적 정책 프레임워크 및 규제 동향을 참고할 필요가 있습니다.
 

• 거버넌스∙위험관리 관점에서 인공지능기본법상의 주요 의무 및 향후 대응 방안

인공지능기본법은 인공지능사업자를 대상으로 다양한 의무를 규정하고 있는데, 거버넌스∙위험관리 차원에서는 특히 고영향 인공지능 사업자를 대상으로는 안전성·신뢰성 확보 조치 의무를, 학습에 사용된 누적 연산량이 일정한 기준을 초과하는 인공지능 사업자를 대상으로는 고영향 인공지능에 해당되지 않더라도 안전성 확보의무를 부과하고 있는 점에 주목할 필요가 있습니다. 세부적인 의무의 내용은 하위법령을 통해서 구체화될 예정입니다. 따라서, 향후 제정될 인공지능기본법 시행령 및 과학기술정보통신부 고시 관련 동향에 주목할 필요가 있으며, 인공지능기본법 시행에 앞서 해당 사업자에게 적용될 수 있는 의무 및 그 준수 방안을 파악하고, 법적 리스크에 대응할 필요가 있습니다. 
 

• 인공지능기본법에 따른 안전성 확보 의무: 레드티밍(Red Teaming)을 통한 의무 이행 방안

AI 서비스 안전성 확보를 위한 대응방안으로 레드티밍(Red teaming)이 주목받고 있습니다. 이미 여러 AI사업자들이 레드티밍을 통해서 AI 서비스의 안전성 이슈를 사전에 파악하고 대응하기 위하여 노력하고 있는 것으로 보입니다. 레드티밍을 통한 기술적, 관리적 안전성 확보는 인공지능기본법에서 안정성 확보의 방안으로 규정하고 있는 위험 식별, 평가 및 완화의 측면에서도 큰 의미가 있을 것으로 예상됩니다.

[영문] AI Issues and Implications in Q4, 2024
[관련 뉴스레터] AI 주요 이슈 및 시사점 (2024년 3분기)
[관련 뉴스레터] AI 주요 이슈 및 시사점 (2024년 2분기)
[관련 뉴스레터] AI 주요 이슈 및 시사점 (2024년 1분기)