I. AI 기본법 고시 및 가이드라인 공개
｢인공지능 발전과 신뢰 기반 조성 등에 관한 기본법｣(이하 ”AI기본법”)의 2026. 1. 시행을 앞두고, 과학기술정보통신부(이하 “과기정통부”)는 2025. 9. 8. 시행령 초안을 공개한 데 이어 2025. 9. 17. 고시 2개와 가이드라인 5개의 초안을 공개하고 업계 등 관계자 의견수렴 절차에 착수했습니다.
법무법인 태평양 AI팀은 2025. 9. 9.자 뉴스레터를 통하여 AI 기본법 시행령 초안의 주요 내용과 시사점에 대하여 설명드렸고, 아래에서는 고시와 가이드라인의 전체적인 개요 및 향후 일정에 대하여 말씀드리겠습니다. 이후 각 고시 및 가이드라인의 세부내용을 분석한 뉴스레터를 시리즈로 보내드릴 예정입니다.
II. 하위법령 제정의 주요 배경 및 방향
AI기본법 하위법령은 국내 AI산업의 성장과 글로벌 규범 주도 경쟁 속에서, 규제보다는 산업진흥에 초점을 맞춘 ‘한국형 균형 모델’ 구축을 기조로 설정되었습니다. 주요 법제 동향(미·EU·일 주요국)과 업계의 의견수렴(70회 이상 전문가 및 시민단체 참여)을 기반으로, 기업 부담을 줄이고 예측 가능성을 제고하는 유연한 규제 프레임워크를 지향합니다.
AI 기본법 시행령 초안은 본문 32개 조항, 부칙 2개 조항 등 총 34개 조항으로 구성되어 있고, 과태료 계도기간을 운영할 방침이라는 점이 특징적입니다. 투명성 확보 관련 사전고지 미이행, 일정 기준 이상 해외사업자의 국내대리인 미지정, AI기본법 위반에 따른 시정명령의 미이행 시 3천만원 이하 과태료가 부과되는데(AI기본법 제43조 제1항), 과기정통부는 AI기본법 시행 초기 기업들의 혼란을 최소화할 수 있도록 이해관계자 의견수렴을 통해 구체적인 과태료 계도기간 등을 확정하겠다고 하였습니다.
또한, 2개의 고시(안전성 확보 의무 고시와 사업자책무 고시)와 5개의 가이드라인(투명성 확보 가이드라인, 안전성 확보 가이드라인, 고영향AI 확인 가이드라인, 영향평가 가이드라인)은 사업자가 준수해야 할 의무와 책임의 범위를 보다 명확히 하는 데 중요한 역할을 할 것으로 기대됩니다.
III. 고시 및 가이드라인 개요
1. 안전성 확보 의무 고시
- 안전성 확보 의무는 고성능AI의 잠재적인 위험을 제거·완화하고, 사고 시 대응을 위한 필요최소한의 의무를 사업자에게 부여
- 고시는 안전성 확보 의무의 적용대상, 위험의 식별·평가·완화, 위험관리체계 구축, 결과 제출을 위한 구체적 이행방식 규정
- 여기서 ’위험‘이란 AI시스템의 이용으로 인해 기본권 등이 침해되거나, 공공의 안전이 위태로워질 가능성을 의미하며, 기술적으로 예측가능한 범위 내에 있는 경우로 한정
- 적용대상은 누적연산량이 1026 부동소수점 연산 이상인 AI시스템 중 최첨단의 AI기술을 적용한 AI시스템으로, 사람의 생명, 신체의 안전, 기본권에 광범위하고 중대한 영향을 미칠 수 있는 시스템
2. 사업자책무 고시
- AI기본법에서는 고영향AI의 신뢰·안전 확보를 위해 사업자에게 위험관리체계 마련, 설명방안 시행, 이용자보호, 인적 관리·감독 등 의무 부여
- 고영향AI 수명주기와 의무 내용에 따라 AI개발사업자·이용사업자간 의무의 차이가 발생
※ (예) 개발사업자는 고영향AI의 도출결과 등에 대한 설명방안을 수립, 이용사업자는 수립한 설명 방안을 이용자에게 실제 이행할 필요 - 고영향AI에 대한 위험관리·이용자보호 방안의 수립·운영, 주요 기준에 대한 설명방안 수립·시행 등을 위한 구체적 사항을 고시에서 규정
3. 투명성 가이드라인
- (투명성 확보 단위) AI가 생성한 최종 결과물에 표시가 필요하며, 예시 제공
- (사전고지) 제품·서비스 제공시 이용약관·계약서·사용설명서·단말기 기재 등의 방법으로 사전고지가 가능하며 실제 고지 사례 제공
- (표시) 생성형AI 결과물에 사람·기계가 판독가능한 형식으로 표시하도록 함에 따라, 글로벌 기업 사례(가시적·비가시적 포함) 제공
- (딥페이크 결과물) 이용자가 명확하게 인식할 수 있는 방법으로 고지 또는 표시하는 방법에 대한 의미와 사례를 제공
- (적용예외) 생성형·고영향AI 사용이 명백한 경우, 사업자 내부 업무 전용으로 활용하는 경우에 대한 예시 제공
4. 고성능AI 안전성 확보 가이드라인
- (적용대상) 누적연산량 기준(1026 부동소수점 연산 이상) 관련 적용 시스템의 범위, 누적연산량의 판단 시점, 누적연산량에 포함되는 사항, 구체적 산출 방법 등 안내
- (안전성 확보 조치) 글로벌 상호인정을 고려하여 EU, 美규정을 참고, 위험 식별‧평가‧완화 조치 및 위험관리체계 등 구체화 및 사례 제공
- (결과 제출) 이행 결과 문서의 작성 방법, 작성 시 고려 사항 및 근거자료에 관한 사항, 제출 절차 등 소개
5. 고영향AI 확인 가이드라인
- (판단방법) 고영향AI 해당 여부는 ➊인공지능이 활용되는 영역과 ➋그로 인한 영향(위험) 수준을 모두 고려하여 판단
- (1단계) 법 제2조제4호 각목의 10개 영역에서 사용되는 AI시스템인지 여부
➊에너지 공급, ➋먹는물 생산 공정, ➌보건의료 제공‧이용체계 구축‧운영, ➍의료기기 및 디지털의료기기 개발‧이용, ➎원자력시설 관리‧운영, ➏범죄 수사‧체포, ➐채용, 대출심사 등 권리‧의무관계 중대한 영향 미치는 판단‧평가, ➑교통수단‧시설‧체계 작동‧운영, ➒공공서비스, ➓교육분야 학생 평가 - (2단계) 고영향AI 개념 요소별로 구체적인 해석 기준 제시
- (사람 생명‧신체 안전, 기본권) 제품‧서비스 이용자와 이용결과에 따라 영향받는 자(자연인)의 생명‧신체‧기본권(권익)에 대한 영향으로 판단
- (영향‧위험) 영향은 주로 부정적 영향이 사실상 위험에 이르는 정도를 의미, 위험은 사건 발생확률(빈도)과 결과의 심각성을 종합 측정하고, AI시스템의 목적‧기능과 활용 맥락을 함께 고려
- (중대성) 위험 관련 이용자 권익(생명‧신체‧기본권) 속성과 기존 대비 위험 증가를 종합 고려, 영역별 적절한 위험 측정·검토 방법 제공
6. 고영향AI 사업자책무 가이드라인 주요 내용
| 구분 | 사업자 책무의 세부 내용(가이드라인) |
|---|---|
| 위험관리방안의 수립‧운영 (제1호) | - 위험관리정책 수립 및 이행: 위험관리 담당 조직·인력을 중심으로 위험관리계획을 수립·이행하여, 고영향AI의 잠재적 위험을 식별·평가·제거해 허용가능한 수준으로 완화 - 위험조직체계 수립 및 운영: 위험 관리 담당 조직 구성 또는 조직 내 담당 인력 지정 ※ 사업자 규모·역량을 고려하여 겸임 인력 지정도 가능 |
| 설명 방안의 수립‧시행 (제2호) | - AI 도출 결과 및 주요 기준 근거 마련: 고영향AI에 대한 설명방안 수립 시 가능 범위에서 투명성·설명가능성 제고를 위한 기술적 조치 필요 - 학습용 데이터 정보의 관리: AI에 활용된 학습용데이터의 일반적 내용과 함께 형식, 수량, 크기, 수집 및 전처리 방식 등 정보를 정의·관리 - 설명 방안의 수립·시행: 이용자에게 설명을 위한 절차, 범위, 방법 등을 검토하여 설명 방안을 수립·시행 |
| 이용자보호방안 (제3호) | - AI개발단계: ▲적법·안전한 데이터 수집, ▲안전한 알고리즘 설계·시스템 개발 수행, ▲다양한 위험에 대비 충분한 평가 수행 - 운영단계: ▲문제시 실시간 모니터링 기반 마련, ▲이용자 피드백 프로세스 구축, ▲개인정보 등 이용자의 권리 보장을 위한 정책 수립 |
| 고영향AI에 대한 사람의 관리‧감독 (제4호) | - 설계단계: 고영향AI에 대해 사람이 AI의 동작에 개입할 수 있는 기준 및 절차·방법을 마련 - 운영단계: 성능저하·오류 예방을 위한 정기적 점검 계획·방안을 마련하고 개발사업자는 이용사업자에게, 이용사업자는 이용자에게 고영향AI의 이해도 향상을 위한 교육·훈련 방안 마련 |
| 문서의 작성‧보관 (제5호) | - 위 책무사항에 관한 문서(전자문서 포함) 작성 및 주기적 점검, 최신 기술‧방법론 적용되도록 관리 |
7. AI 영향평가 가이드라인
- (영향평가 내용) AI사업자가 영향평가 수행 시 포함하여야 하는 사항에 대하여 사항별 구체적 정의 및 취지 설명
① 영향받는자 식별, ② 관련 기본권 유형 식별, ③ 사회·경제적 영향 내용·범위 파악, ④ 사용행태 분석, ⑤ 평가지표 활용, ⑥ 위험예방 및 손실복구 등에 관한 사항, ⑦ 개선계획 등 - (영향평가 방법) 영향평가 수행의 구체적 수행방법, 영향평가 양식 및 예시 제공, 후속 조치·결과 보관 방법, 전문기관을 통한 영향평가 자문 방법 안내
IV. 향후 일정
과기정통부는 9월 24주 관계부처, 이해관계자 대상 설명 및 의견수렴절차를 거치고, 1011월 입법예고, 규제심사, 법제처 심사 등 행정입법 절차를 거쳐 연내 시행령 제정을 완료하고, 가이드라인 완성본을 공개할 계획입니다.
하위법령은 의견 수렴 절차 및 해외 규제 동향을 고려하여 지속적으로 보완될 것으로 예상되므로, 관련 동향에 대하여 지속적으로 모니터링하고 적극적으로 의견을 개진하는 것이 필요합니다.
* * *
법무법인(유한) 태평양의 AI팀은 이와 관련한 탁월한 전문성을 바탕으로 국내외 인공지능 관련 규제의 흐름을 지속적으로 모니터링하고 있으며, 기업들이 AI 기술을 안전하게 활용하면서도 법적 리스크를 최소화할 수 있도록 전방위적 자문과 적극적인 실무 지원을 제공하겠습니다. 이에 대하여 문의사항이 있으시면 언제든지 저희 법무법인으로 연락하여 주시기 바랍니다.
