법무법인 태평양 AI팀은 과학기술정보통신부(이하 “과기정통부”)가 공개한 「인공지능기본법」 하위 법령 및 가이드라인을 차례로 소개하고 분석하는 시리즈 뉴스레터를 보내 드리고 있습니다. 네번째 주제는 「고영향 인공지능사업자의 책무」입니다. I. 고영향 인공지능과 관련한 사업자 책무 사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템으로서 에너지, 보건의료, 원자력, 교통, 교육 등 특정 영역에서 활용되는 AI 시스템은 고영향 AI에 해당하고(AI 기본법 제2조 제4호), 고영향 AI에 대하여는 다음 각 호의 조치와 관련된 사항을 홈페이지 등에 게시하여야 합니다(AI 기본법 제34조 제1항 및 시행령(안) 제26조). [사업자 책무 관련 사항] 호 법률 규정 사항 시행령(안) 구체화 내용 제1호 위험관리방안의 수립·운영 위험관리방안의 주요 내용(내부 정책, 조직 등) 제2호 결과 도출 주요 기준, 학습용데이터의 개요 등에 대한 설명방안 수립·시행 설명 방안의 주요 내용 (설명·안내 절차, 설명가능한 주요 안내 사항 등) 제3호 이용자 보호방안의 수립·운영 이용자 보호방안의 내용 제4호 사람의 관리·감독 관리·감독자의 성명 및 연락처 제5호 문서의 작성 및 보관 문서 작성사항(위 4개 항목), 게시방법 및 보관 기간(5년) 중복 규제 방지를 위해 개발사업자가 의무 이행 시 이용사업자의 의무는 이행한 것으로 간주하고(시행령(안) 제26조 제2항), 타법상 동일·유사 조치 이행시 AI기본법상 의무는 이행한 것으로 간주합니다(시행령(안 제26조 제5항). 과기정통부는 고영향 인공지능의 신뢰·안전 확보를 위해 사업자책무에 대한 구체적인 고시(이하 “사업자책무 고시”)와 가이드라인(이하 “고영향 인공지능 사업자책무 가이드라인”) 초안을 공개하고 업계 등 관계자 의견수렴 절차에 착수했습니다. 아래에서 그 내용을 살펴보겠습니다. II. 사업자책무 고시(안) 개요 및 주요 내용 • (위험관리방안의 수립·운영) 위험관리방안 수립·운영 시 위험관리정책 및 위험관리 조직체계를 수립·운영하도록 규정함(책무 고시(안) 제4조 제1항). 이에 따라 사업자는 위험관리방안을 문서로 작성하여 관리하고, 인공지능시스탬의 수명주기의 모든 과정에서 이를 준수해야 하며, 위험관리방안을 주기적으로 점검·갱신하고 그 변경 내역을 관리해야 함(책무 고시(안) 제4조 제2항, 제3항). • (인공지능 및 그 학습용데이터 등에 대한 설명 방안의 수립·시행) 인공지능의 투명성 및 설명가능성을 확보하고, 학습용데이터의 설명 방안은 ‘학습용데이터에 관한 정보의 체계적 관리에 관한 내용’을 포함하도록 하고, 홈페이지 게시 등으로 구체적인 설명 방안을 정하고 있음(책무 고시(안) 제5조). • (이용자 보호방안의 수립·운영) 개발 과정에서는 안전하고 적법한 데이터 수집 및 관리, 안전한 알고리즘 설계 및 모델 개발, 예외적인 상황을 고려한 시험 및 평가 수행 등의 조치를 포함하여야 하고(책무 고시(안) 제6조 제1항), 운영 과정에서는 모니터링
