I. 들어가며
인공지능(AI)의 건전한 발전을 지원하고 신뢰 기반을 조성하여 국민의 삶의 질을 향상하고 국가경쟁력을 강화하기 위하여 2025. 1. ｢인공지능 발전과 신뢰 기반 조성 등에 관한 기본법｣(이하 “AI기본법”)이 제정되었고, 2026. 1. 시행될 예정입니다.
AI기본법은 학습용데이터 구축사업의 시행, 투명성 확보 의무에 따른 사전고지 또는 표시 방법에 관한 사항, 고영향 인공지능 확인절차 등에 관하여 필요한 사항 등을 시행령에 위임하고 있습니다.
이에 대한 후속 조치로 과학기술정보통신부(이하 “과기정통부”)는 2025. 9. 8. AI 기본법에서 위임한 여러 기준과 절차 등을 명확히 한 시행령 초안을 공개하였습니다.
아래에서는 과기정통부가 공개한 AI 기본법 시행령 초안의 주요 내용과 이에 대한 시사점을 살펴보겠습니다.
II. 주요내용
AI 기본법 시행령 초안은 본문 32개 조항, 부칙 2개 조항 등 총 34개 조항으로 구성되었습니다. 과기정통부는 글로벌 규범 동향과 국내 AI 산업을 고려하여 규제보다는 진흥에 무게를 두고 AI 기본법 시행령 초안에 필요 최소한의 규제 사항만을 포함하였다고 하였습니다.
1. AI 산업의 육성
1) 학습용데이터 구축 지원 사업
AI 기본법은 과기정통부 장관이 관계 중앙행정기관의 장과 협의하여 인공지능의 개발, 활용 등에 사용되는 데이터(이하 ‘학습용데이터’)의 생산, 수집, 관리, 유통 및 활용 등을 촉진하기 위하여 필요한 시책을 추진하여야 하고(AI기본법 제15조 제1항), 이를 위한 지원 대상 사업을 선정하여 예산 범위에서 지원할 수 있도록 정하고 있습니다(AI 기본법 제15조 제2항).
이 때 지원 대상 사업으로는 ① 학습용데이터 생산 및 가공 기술개발 사업, ② 인공지능서비스 개발을 위한 학습용데이터의 생산‧수집‧관리‧유통 및 활용 등에 관한 사업, ③ 법제도 연구 및 표준계약서 개발, 학습용데이터 표준ㆍ가이드 개발 등에 관한 사업, ④ 그 밖에 과학기술정보통신부장관이 필요하다고 인정한 사항이 명시되었습니다(시행령 초안 제12조 제1항).
2) AI 기술 도입∙활용 지원
AI 기본법은 국가 및 지방자치단체가 기업 및 공공기관의 인공지능기술 도입 촉진 및 활용 확산을 위하여 대통령령으로 정하는 사항을 지원할 수 있다고 정하고 있습니다(AI기본법 제16조 제1항 제5호).
이때 대통령령으로 정하는 사항이란, ① 인공지능기술에 관한 정보 제공, ② 이용자 또는 영향받는 자 보호를 위하여 필요한 교육 및 기술 지원, ③ 인공지능 컴퓨팅 인프라(인공지능을 구축하고 실행하는 데에 필요한 모든 하드웨어, 네트워크, 소프트웨어, 데이터 저장소 등을 포함하는 기반 시설을 말한다)의 구축 및 제공, ④ 그 밖에 인공지능기술 도입ㆍ활용 지원을 위하여 중앙행정기관의 장 또는 지방자치단체의 장이 필요하다고 인정하는 사항을 말합니다(시행령 초안 제15조 제1항).
2. 투명성과 안전성 확보 의무 관련
1) 투명성 확보 의무
가) 사전고지
AI 기본법은 인공지능사업자가 고영향 인공지능이나 생성형 인공지능을 이용한 제품 또는 서비스를 제공하려는 경우 제품 또는 서비스가 해당 인공지능에 기반하여 운용된다는 사실을 이용자에게 사전에 고지하여야 합니다(AI 기본법 제31조 제1항).
시행령 초안에 따르면, AI 기본법 제31조 제1항에서 정하는 사전고지는 다음 중 어느 하나의 방법으로 하여야 합니다(시행령 초안 제22조 제1항).
① 제품 또는 서비스(이하 ‘제품 등’)에 직접 기재하거나, 계약서, 사용 설명서, 이용약관 등에 기재
② 이용자의 화면 또는 단말기 등에 표시
③ 제품 등을 제공하는 장소(해당 장소와 합리적으로 관련된 범위의 장소를 포함한다)에 인식하기 쉬운 방법으로 게시
④ 그 밖에 제품 등의 특성을 고려하여 과학기술정보통신부장관이 인정하는 방법
나) 생성형 인공지능을 이용한 결과물에 대한 표시
또한 인공지능사업자는 생성형 인공지능 또는 이를 이용한 제품 또는 서비스를 제공하는 경우 그 결과물이 생성형 인공지능에 의하여 생성되었다는 사실을 표시하여야 합니다(AI 기본법 제31조 제2항).
이처럼 AI 기본법 제31조 제2항에서 정하는 결과물에 대한 ‘생성형 인공지능에 의한 생성’ 표시는 그 결과물에 사람 또는 기계가 판독할 수 있는 형식으로 할 수 있도록 하였습니다(시행령 초안 제22조 제2항), 이는 비가시적 워터마크를 인정한다는 취지로 의미가 있습니다.
다) 딥페이크 결과물에 대한 표시
인공지능사업자는 인공지능시스템을 이용하여 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물(이른바 ‘딥페이크 결과물’)을 제공하는 경우 해당 결과물이 인공지능시스템에 의하여 생성되었다는 사실을 이용자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시하여야 합니다. 이 경우 해당 결과물이 예술적ㆍ창의적 표현물에 해당하거나 그 일부를 구성하는 경우에는 전시 또는 향유 등을 저해하지 아니하는 방식으로 고지 또는 표시할 수 있습니다(AI 기본법 제31조 제3항). 이에 대한 구체적인 표시 방식은 시행령에 위임되어 있습니다.
이른바 딥페이크 결과물에 대하여는 ① 이용자가 시각, 청각 등을 통하거나 소프트웨어 등을 이용하여 쉽게 내용을 확인할 수 있는 방법으로 고지 또는 표시, ② 주된 이용자의 연령, 신체적ㆍ사회적 조건 등을 고려하여 고지 또는 표시라는 사항을 고려하여 이용자가 명확하게 인식할 수 있는 방법으로 고지 또는 표시하도록 하였습니다(시행령 초안 제22조 제3항).
라) 투명성 의무에 대한 적용 예외
인공지능사업자의 내부 업무 용도로만 사용되는 경우, 제품ㆍ서비스명, 이용자 화면이나 제품 겉면에 표시된 문구 등을 고려할 때 고영향 인공지능 또는 생성형 인공지능 기반 운용 사실이 명백한 경우에는 이러한 투명성 의무를 면제하였습니다(시행령 초안 제22조 제4항).
2) 안전성 확보 의무
AI 기본법은 학습에 사용된 누적 연산량이 일정 기준 이상인 인공지능시스템에 대하여안전성 확보를 위해, 인공지능 수명주기 전반에 걸친 위험의 식별ㆍ평가 및 완화, 인공지능 관련 안전사고를 모니터링하고 대응하는 위험관리체계 구축 의무를 규정하고 있습니다(AI기본법 제32조 제1항).
시행령 초안은 이러한 안전성 확보 의무의 적용 대상을 10의 26제곱 부동소수점 연산 이상 인공지능시스템으로서 과기정통부 장관이 인공지능기술 발전 수준, 위험도 등을 고려하여 고시하는 기준에 해당하는 인공지능시스템으로 정하였습니다(시행령 초안 제23조 제1항). 이는 EU AI Act가 정한 10의 25제곱 부동소수점 연산 기준보다 완화된 것입니다.
3) 고영향 AI 관련
사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템으로서 에너지, 보건의료, 원자력, 교통, 교육 등 특정 영역에서 활용되는 AI 시스템은 고영향 AI에 해당하고(AI 기본법 제2조 제4호), 고영향 AI에 대하여는 안전성과 신뢰성을 확보하기 위한 방안을 이행하여야 합니다(AI기본법 제34조 제1항).
이때 고영향 AI 해당 여부는 사용영역, 기본권에 대한 위험의 영향∙중대성∙빈도, 활용 영역별 특수성 등을 종합적으로 고려하여 과기정통부 장관이 판단합니다(시행령 초안 제24조 제2항).
인공지능사업자가 고영향 AI를 이용한 제품, 서비스를 제공하는 경우 ①위험관리정책 및 조직체계 등 AI 기본법 제34조 제1항 제1호에 따른 위험관리방안의 주요 내용, ② AI 기본법 제34조 제1항 제2호에 따른 인공지능의 최종결과 도출에 활용된 주요 기준, 인공지능의 개발ㆍ활용에 사용된 학습용데이터의 개요 등에 대한 설명 방안의 주요 내용, ③ 이용자 보호 방안, ④ 해당 고영향 인공지능을 관리ㆍ감독하는 사람의 성명 및 연락처를 홈페이지 등에 게시하여야 합니다(단, 영업비밀에 해당하는 사항은 제외 가능, 시행령 초안 제26조 제1항).
인공지능사업자가 고영향 AI를 이용한 제품 또는 서비스를 제공하는 경우 사전에 사람의 기본권에 미치는 영향을 평가(이하 ‘영향평가’)하기 위하여 노력해야 하는데, 그 구체적인 내용은 시행령에 위임되어 있습니다(AI 기본법 제35조 제3항). 영향평가에 포함되어야 하는 사항은 다음과 같습니다(시행령 초안 제27조 제1항).
① 해당 고영향 인공지능을 이용한 제품 또는 서비스에 의하여 기본권에 영향받을 수 있는 가능성이 있는 대상의 식별(일정한 특성을 가진 개인 또는 집단에 대한 식별)
② 해당 고영향 인공지능과 관련하여 영향을 받을 수 있는 기본권 유형의 식별
③ 해당 고영향 인공지능으로 인하여 발생할 수 있는 사람의 기본권에 대한 사회적‧경제적 영향의 내용 및 범위
④ 해당 고영향 인공지능의 사용 행태
⑤ 영향평가에서 활용한 정량적 또는 정성적 평가지표 및 결과산출 방식
⑥ 해당 고영향 인공지능으로 인한 위험의 예방, 손실의 복구 등
⑦ 영향평가의 결과, 개선이 필요한 경우 그 이행 계획에 관한 사항
3. 과태료 계도기간 운영
투명성 확보 관련 사전고지 미이행, 일정 기준 이상 해외사업자의 국내대리인 미지정, AI기본법 위반에 따른 시정명령의 미이행 시 3천만원 이하 과태료가 부과됩니다(AI기본법 제43조 제1항). 과기정통부는 AI기본법 시행 초기 기업들의 혼란을 최소화할 수 있도록 과태료 계도기간을 운영할 방침이라며, 구체적인 계도기간은 이해관계자 의견 수렴을 통해 확정하겠다고 하였습니다.
III. 시사점
AI 기본법의 시행을 앞두고, AI 산업 육성을 위한 지원 대상 및 기준, 투명성과 안전성 확보를 위한 사업자의 이행 의무 및 적용 예외 대상, 고영향 AI의 해당 여부에 대한 판단 기준 및 고영향 AI 관련 사업자의 책무 등에 대한 구체적인 내용을 규정한 시행령 초안이 공개되었다는 점에서 의미가 있습니다.
과기정통부는 이번에 공개된 시행령 초안에 대하여 의견 수렴 절차를 거쳐 10월 중 입법예고를 진행할 예정입니다. 또한 AI 투명성 및 안전성 확보, 고영향AI 사업자 책무 등에 대하여 더 구체적인 가이드라인을 공개할 예정입니다.
결국 의견 수렴 절차 및 해외 규제 동향을 고려하여 지속적으로 보완될 것으로 예상되므로, 관련 동향에 대한 지속적인 모니터링이 필요합니다.
* * *
법무법인(유한) 태평양의 AI팀은 이와 관련한 탁월한 전문성을 바탕으로 국내외 인공지능 관련 규제의 흐름을 지속적으로 모니터링하고 있으며, 기업들이 AI 기술을 안전하게 활용하면서도 법적 리스크를 최소화할 수 있도록 전방위적 자문과 적극적인 실무 지원을 제공하겠습니다. 이에 대하여 문의사항이 있으시면 언제든지 저희 법무법인으로 연락하여 주시기 바랍니다.
