1.

적용대상

인공지능기본법 제정안은 인적인 적용대상인 인공지능사업자를 인공지능산업과 관련된 사업을 하는 자로 규정하면서, 두 가지로 구분하고 있습니다(제2조 제7호). 
 

• 인공지능개발사업자: 인공지능을 개발하여 제공하는 법인, 단체, 개인 및 국가기관 등

• 인공지능이용사업자: 인공지능개발사업자가 제공한 인공지능을 이용하여 인공지능제품 또는 인공지능서비스를 제공하는 법인, 단체, 개인 및 국가기관 등
   

물적인 적용대상 관련해서는 ‘인공지능’을 학습, 추론, 지각, 판단, 언어의 이해 및 인간이 가진 지적 능력을 전자적 방법으로 구현한 것을 의미한다고 정의하고 있고, 주요 규제의 적용 대상인 ‘인공지능시스템’을 다양한 수준의 자율성과 적응성을 가지고 주어진 목표를 위하여 실제 및 가상환경에 영향을 미치는 예측, 추천, 결정 등의 결과물을 추론하는 인공지능 기반 시스템으로 정의하고 있습니다. 이와 같은 정의에 따라 단순한 규칙 기반 모델(rule-based models)이나 소프트웨어는 인공지능시스템에 포함되지 않지만 머신러닝을 활용한 인공지능은 인공지능법 제정안의 적용대상이 될 수 있겠습니다.

이에 위와 같은 정의를 고려하여 인공지능기본법 제정안의 적용 대상에 해당하는지 여부를 살펴볼 필요가 있습니다. 한편, 인공지능기본법 제정안은 인공지능개발사업자와 인공지능이용사업자의 의무를 구분하고 있지는 않으나, 향후 대통령령 등을 통해 사업자의 성격에 따라 구분되는 규제가 도입될 가능성이 있으므로, 이를 지켜 볼 필요가 있습니다.
 

2.

적용범위 및 국내대리인 제도의 도입 

인공지능기본법 제정안은 역외적용 규정을 두어 국외에서 이루어진 행위라도 국내 시장 또는 이용자에게 영향을 미치는 경우에는 동 제정안이 적용될 수 있도록 규정하고 있습니다(제4조). 또한, 그 실효성을 확보하기 위해 아래와 같은 국내대리인 제도를 도입하고 있습니다(제36조).
 

• 국내대리인 지정: 국내에 주소 또는 영업소가 없는 인공지능사업자로서 이용자 수, 매출액 등이 일정한 기준에 해당하는 자(대통령령으로 구체화 예정)는 국내에 주소 또는 영업소가 있는 자를 서면으로 국내대리인으로 지정하고, 과기정통부 장관에게 신고해야 함(제36조 제1항, 제2항)

• 국내대리인 업무: (1) 학습에 사용된 누적 연산량이 일정한 기준 이상인 인공지능시스템에 관한 사업자의 안전성 확보의무 이행 결과의 제출, (2) 고영향 인공지능 해당 여부 확인의 신청, (3) 고영향 인공지능의 안전성·신뢰성 확보조치의 이행에 필요한 지원을 대리함(제36조 제1항)

• 위반시 효과: (1) 국내대리인을 지정하지 아니할 경우 3천만 원 이하의 과태료 부과(제43조 제1항 제2호). (2) 국내대리인의 업무와 관련하여 인공지능기본법 제정안을 위반한 경우 인공지능사업자가 위반행위를 한 것으로 간주됨(제36조 제3항)
   

회사가 국내에 주소 또는 영업소가 없는 인공지능사업자에 해당한다면, 향후 국내대리인 지정기준을 구체화하는 대통령령을 지켜볼 필요가 있습니다.
 

3.

고영향 인공지능과 관련한 사업자의 의무

인공지능기본법 제정안은 고영향 인공지능 또는 이를 이용한 제품 또는 서비스를 제공하려는 인공지능사업자에게 각종 의무를 부과하고 있습니다. 
 

• 고영향 인공지능: 사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템으로서 열거된 영역(예컨대 의료기기의 개발 및 이용, 채용·대출 심사 등 개인의 권리·의무 관계에 중대한 영향을 미치는 판단 또는 평가, 교육에서의 학생 평가 등)에서 활용되는 인공지능시스템(제2조 제4호)

• 사전검토의무: 모든 인공지능사업자는 인공지능 또는 이를 이용한 제품·서비스를 제공하는 경우 그 인공지능이 고영향 인공지능에 해당하는지 여부를 사전에 검토하여야 하며, 필요한 경우 과기정통부장관에게 해당 여부의 확인을 요청할 수 있음(제33조)

• 사전고지의무: 인공지능사업자가 고영향 인공지능을 이용한 제품 또는 서비스를 제공하려는 경우 제품 또는 서비스가 해당 인공지능에 기반하여 운용된다는 사실을 이용자에게 사전에 고지하여야 함(제31조 제1항). 위반시 3천만 원 이하의 과태료를 부과(제43조 제1항 제1호)

• 안전성·신뢰성 확보조치 이행의무: 인공지능사업자가 고영향 인공지능 또는 이를 이용한 제품·서비스를 제공하는 경우 고영향 인공지능의 안전성·신뢰성을 확보하기 위하여 일련의 조치^[1]를 이행해야 함(제34조)

• 영향평가: 인공지능사업자가 고영향 인공지능을 이용한 제품 또는 서비스를 제공하려는 경우 사전에 사람의 기본권에 미치는 영향을 평가하기 위하여 노력해야 함. 공공기관(국가기관, 지방자치단체를 포함함)이 고영향 인공지능을 이용한 제품 또는 서비스를 이용하려는 경우에는 영향평가를 실시한 제품 또는 서비스를 우선적으로 고려해야 함(제35조)

• 설명요구권: 인공지능이 사람의 생명·신체의 안전 및 기본권에 중대한 영향을 미치는 경우 영향을 받는 자에게 그 결과의 이유 및 원리 등에 대하여 기술적·합리적으로 가능한 범위에서 명확하고 의미 있는 설명을 제공받을 수 있어야 함(제3조 제4항)
   

고영향 인공지능 또는 이를 이용한 제품 또는 서비스를 제공하는 경우, 사전고지의무, 안전성·신뢰성 확보조치 이행의무 등 각종 의무를 부담할 수 있습니다. 또한, 공공기관에 고영향 인공지능을 제공하기 위해서는 사실상 영향평가를 수행할 의무를 부담할 수 있으며, 인공지능이 생성하는 결과물에 대한 이용자의 설명 요구에 응할 의무도 부담할 수 있습니다. 만일 회사가 고영향 인공지능 또는 이를 이용한 제품 또는 서비스를 제공하는 경우 이상과 같은 각종 규제를 적용 받을 수 있으므로, 이를 사전에 면밀히 검토할 필요가 있습니다.
 

4.

생성형 인공지능과 관련한 사업자의 의무

인공지능기본법 제정안은 생성형 인공지능을 이용한 제품 또는 서비스를 제공하려는 인공지능사업자에게 각종 의무를 부과하고 있습니다. 
 

• 생성형 인공지능: 입력한 데이터의 구조와 특성을 모방하여 글, 소리, 그림, 영상, 그 밖의 다양한 결과물을 생성하는 인공지능시스템(제2조 제6호)

• 사전고지의무: 인공지능사업자가 생성형 인공지능을 이용한 제품 또는 서비스를 제공하려는 인공지능사업자에게 제품 또는 서비스가 해당 인공지능에 기반하여 운용된다는 사실을 이용자에게 사전에 고지하여야 함(제31조 제1항). 위반시 3천만 원 이하의 과태료를 부과(제43조 제1항 제1호)

• 표시의무: 인공지능사업자가 생성형 인공지능을 이용한 제품 또는 서비스를 제공하는 경우 그 결과물이 생성형 인공지능에 의하여 생성되었다는 사실을 표시하여야 함(제 31조 제2항)

• 딥페이크: 인공지능사업자가 인공지능시스템을 이용하여 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물을 제공하는 경우(소위 “딥페이크”), 해당 결과물이 인공지능시스템에 의하여 생성되었다는 사실을 이용자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시하여야 함. 다만 해당 결과물이 예술적·창의적 표현물에 해당하거나 그 일부를 구성하는 경우에는 전시 또는 향유 등을 저해하지 않는 방식으로 고지 또는 표시할 수 있음(제31조 제3항)

• 위 고지/표시의 구체적인 방법 및 그 예외는 추후 대통령령으로 구체화 될 예정임(제31조 제4항)
   

생성형 인공지능을 이용한 제품 또는 서비스를 제공하는 경우, 사전고지의무, 표시의무 등을 부담할 수 있으며, 소위 딥페이크에 대해서는 별도의 강화된 고지 또는 표시 의무^[2]를 부담할 수 있습니다. 만일 회사가 생성형 인공지능을 이용하는 경우 이를 사전에 면밀히 검토할 필요가 있습니다.
 

5.

학습에 사용된 누적 연산량이 높은 인공지능과 관련한 사업자의 의무

인공지능기본법 제정안은 고영향 인공지능에 해당되지 않더라도 학습에 사용된 누적 연산량이 일정한 기준 이상(대통령령으로 구체화 예정)인 인공지능시스템의 안전성을 확보하기 위해서 관련 인공지능사업자에게 (1) 인공지능 수명주기 전반에 걸친 위험 식별, 평가 및 완화, (2) 인공지능 관련 안전사고를 모니터링하고 대응하는 위험관리체계 구축을 이행하도록 하고, 그 이행 결과를 과기정통부장관에게 제출하도록 요구하고 있습니다(제32조).

상기 의무는 지난 8월 발효된 EU AI Act 및 캘리포니아주에서 입법이 진행되었으나 주지사의 거부권 행사로 시행되지 못한 ‘첨단 AI모델을 위한 안전 및 보안 혁신법(The Safe and Secure Innovation for Frontier Artificial Intelligence Models Act)’의 내용과 유사합니다. 이에 기초해 보면 본 규제의 적용대상은 한정적일 것으로 예상됩니다만, 적용대상이 되는 경우 강한 의무를 부담할 수 있으므로 향후 적용대상을 구체화하는 대통령령을 지켜볼 필요가 있습니다.
 

6.

과기정통부장관의 사실조사 및 중지·시정명령

인공지능기본법 제정안은 과기정통부 장관의 사실조사 및 중지·시정명령 권한을 규정하고 있으므로, 유의가 필요합니다(제40조). 

구체적으로, 인공지능기본법 제정안은 과기정통부 장관이 (1) 인공지능기본법에 위반되는 사항을 발견하거나 혐의가 있음을 알게 된 경우, (2) 위반에 대한 신고를 받거나 민원이 접수된 경우 인공지능사업자에 대하여 관련 자료를 제출하게 하거나, 소속 공무원으로 하여금 필요한 조사를 하게 할 수 있도록 규정하고 있습니다.

위 조사를 위하여 필요한 경우 소속 공무원은 인공지능사업자의 사무소·사업장에 출입하여 장부·서류, 그 밖의 자료나 물건을 조사할 수 있으며, 조사 결과 인공지능사업자가 해당 법을 위반한 사실이 있다고 인정되는 경우 과기정통부장관은 사업자에게 해당 위반행위의 중지나 시정을 위하여 필요한 조치를 명할 수 있습니다. 이때 위 중지·시정명령을 이행하지 아니한 자에 대하여는 3천만 원 이하의 과태료가 부과될 수 있습니다(제43조 제1항 제3호). 따라서 법문상 과태료 부과 대상인 고영향 및 생성형 인공지능 사전고지의무와 국내대리인 지정의무뿐만 아니라 그 외의 의무사항도 중지·시정명령 후 과태료 대상이 될 수 있다는 점을 유의할 필요가 있습니다
 

7.

맺음말

인공지능기본법 제정안은 인공지능 시대의 기본 법제로서 인공지능 산업 및 제품, 서비스를 직접 규율하는 첫 번째 법령이 될 전망이며 인공지능 개발 및 이용사업자 모두에 대해서 광범위하게 영향을 미칠 것으로 예상되고 있습니다. 따라서 회사가 인공지능 관련 서비스 또는 인공지능을 이용한 사업을 영위하는 경우 이번 인공지능기본법 제정안에 관심을 갖고 국회 의결 일정 및 시행령 논의 동향 등을 계속 살펴보는 것이 필요할 것으로 사료됩니다.