법무법인 태평양 AI팀은 과학기술정보통신부(이하 “과기정통부”)가 공개한 「인공지능기본법」 하위 가이드라인을 차례로 소개하고 분석하는 시리즈 뉴스레터를 보내드리고 있습니다. 세 번째 주제는 「고영향 인공지능 판단」으로, 본 호에서는 고영향 인공지능 판단 가이드라인(이하 “본 가이드라인”)의 주요 내용과 의미를 살펴봅니다. I. 고영향 인공지능의 정의 및 판단 기준 고영향 인공지능 이란 (i) 사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템 으로서, (ii) 특정 영역(이하 I. 1. 참조)에서 활용 되는 것을 의미합니다(「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(이하 “법”) 제2조 제4호). 고영향 인공지능에 해당할 경우, 이를 이용하여 제품이나 서비스를 제공하려는 자는 고영향 인공지능에 기반하여 서비스 등이 운용된다는 사실을 이용자에게 사전에 고지하여야 하고, 신뢰성 및 안전성확보조치를 갖춰야 한다는 점에서 그 정확한 판단이 중요합니다. 1. 1단계 조건 다음 중 어느 하나의 영역에서 사용되어야 합니다. 구분 사용 영역 에너지 「에너지법」에 따른 에너지의 공급 먹는물 「먹는물관리법」에 따른 먹는물의 생산 공정 보건의료 「보건의료기본법」에 따른 보건의료의 제공 및 이용체계의 구축·운영 의료기기 「의료기기법」에 따른 의료기기 및 「디지털의료제품법」에 따른 디지털의료기기의 개발 및 이용 원자력 「원자력시설 등의 방호 및 방사능 방재 대책법」에 따른 핵물질과 원자력시설의 안전한 관리 및 운영 범죄 수사·체포 범죄 수사나 체포 업무를 위한 생체인식정보의 분석·활용 채용, 대출 심사 등 채용, 대출 심사 등 개인의 권리·의무 관계에 중대한 영향을 미치는 판단 또는 평가 교통 「교통안전법」에 따른 교통수단, 교통시설, 교통체계의 주요한 작동 및 운영 공공서비스 공공서비스 제공에 필요한 자격 확인, 결정 또는 비용징수 등 국민에게 영향을 미치는 국가기관등의 의사결정 교육 「교육기본법」에 따른 유아교육ㆍ초등교육 및 중등교육에서의 학생 평가 2. 2단계 조건 1단계의 특정 영역에서 활용되는 인공지능시스템이, 2단계 조건인 “ 사람의 생명, 신체의 안전 및 기본권의 보호에 중대한 영향을 미치거나 위험을 초래할 우려 ”가 있는 경우 고영향 인공지능에 해당하게 됩니다. 중대한 영향 및 위험성 판단에 있어서는 인공지능시스템의 의도된 목적, 기능, 활용 맥락을 다각도에서 검토하여야 합니다. 특히 위험의 중대성은 해당 권익의 본질적 속성과 위험의 증가 정도 를 종합적으로 고려하여 판단합니다. 이를 위해서는 위험 평가 시 측정 방법 및 지표를 활용하는 것이 바람직하나, 지표에 전적으로 의존하는 것 보다 인공지능시스템의 목적·기능과 활용 맥락(긍정적 효과, 사회적 수용성 등)을 균형 있게 고려해야 합니다. II. 영역별 권익 및 인공지능이 중대한 영향을 미치거나 위험을 초래하는 경우 본 가이드라인에서 제시하는 영역별 고영향 인공지능의 주요 판단 기준, 해당 사례와 비해당 사례를 정리하면 다음과 같습니
