I. 국내 인공지능 관련 법률안 소개
인공지능 관련 산업이 급격히 성장함에 따라 전세계에서 인공지능 관련 법률이 제정되고 있고, 국내에서도 이러한 세계적 흐름에 따라 인공지능 관련 법률 제정안이 발의되고 있습니다. 현재 제22대 국회에서 발의된 주요 인공지능 관련 법률안은 총 6개로 다음과 같습니다(2024. 8. 5. 기준).
II. 국내 인공지능 관련 법률안의 공통점 및 차이점
각 법률안은 공통적으로 (1) 인공지능의 산업적 활용 지원 정책(인공지능 기본계획 수립 및 연구, 기술표준, 데이터 유통, 교육 등 지원 등), (2) 고위험영역 또는 생성형 인공지능에 대한 사전 규제(신뢰성 확보조치, 사전고지 및 표시의무 등)에 관한 사항을 포함하고 있습니다. 즉, 인공지능은 우리의 생활에 편리함을 주는 점도 명확하지만, 그 발전 정도 및 활용 방식에 따라 기본권에 대한 위험을 유발할 수 있다는 우려가 있다는 점을 고려하여 관련 산업에서 인공지능의 활용이 늘어날 수 있도록 유무형 지원을 장려함과 동시에, 특정한 유형(고위험영역 또는 생성형)의 인공지능을 활용한 제품·서비스에 대해서는 표시의무 등을 부과함으로써 인공지능이 가지는 위험성을 사전에 차단하려는 취지로 이해됩니다.
한편, 각 법률안마다 규제 방법에 다소 차이가 있습니다.
우선, 안철수 의원 및 정점식 의원 발의안은 ‘생성형 인공지능’에 대해서 사업자의 사전고지 및 표시의무를 도입하고 있는 반면, 김성원 및 조인철, 민형배, 권칠승 의원 발의안은 ‘고위험영역 인공지능’에 대해서 사업자의 사전고지 및 표시의무를 도입하고 있습니다.
다음으로, 김성원 및 조인철, 민형배, 권칠승 의원 발의안은 사업자가 ‘고위험영역 인공지능’ 해당여부를 과학기술정보통신부장관에게 확인 요청할 수 있도록 하고 있어, 이를 통해 어떤 서비스가 고위험영역에 해당하는지 불명확한 경우 이를 사전에 해소함으로써 규제의 예측가능성을 담보할 수 있을 것으로 보입니다.
마지막으로, 가장 최근에 발의된 권칠승 의원 발의안은 ‘금지된 인공지능’의 원칙적 개발을 금지하고 예외적인 경우에 한하여 허용하고 있고, 의무를 위반한 자에 대해 처벌규정을 마련하고 있어, 법제화되는 경우 다른 법률안에 비하여 시장에 미치는 파급효과가 더 클 것으로 예상됩니다.
III. 향후 법제화 전망
EU 및 미국과 달리 국내에서 인공지능법의 제정은 아직 의견 수렴 단계입니다. 지난 21대 국회에서 관련 법안이 여야에 걸쳐 10개가 발의되었으나 회기 만료로 모두 폐기되었고, 현재 22대 국회에서는 앞서 살펴본 6개의 법률안이 발의되었으나 아직까지 규제 내용과 관련하여 뚜렷한 합의가 도출되지는 않은 것으로 보입니다.
다만, 이미 EU 인공지능법이 제정된 만큼 향후 국내의 경우에도 이를 고려한 입법이 이루어질 가능성이 높다고 예상됩니다.
- 고위험영역 인공지능 사업자의 의무 규정
- EU 인공지능법은 인공지능을 금지되는 인공지능, 고위험 인공지능 등으로 구분하고 고위험 인공지능에 대해 위험관리시스템, 데이터 품질 기준, 기술문서 작성과 유지, 자동 기록 기능 탑재와 이력 추적, 사용자 투명성 확보와 정보 제공 등 매우 높은 수준의 요구사항을 부과하고 있습니다.
- 국내 인공지능법도 그 규제 수준을 달리하겠지만, 원칙적으로 ‘고위험 인공지능’의 위험성을 사전에 차단하거나 최소화하는 의무를 부과할 것으로 예상됩니다.
- 생성형 인공지능에 대한 규제
- EU 인공지능법은 생성형 인공지능에 대해서는 그 자체로 고위험 인공지능으로 규정하고 있지는 않으나, 사용자에 대한 고지의무 등을 부과하고 있습니다.
- 현재 국내 인공지능 관련 법률안 중 일부 법률안에서 생성형 인공지능에 대해 별도 의무를 부과하고 있으나, 인공지능을 둘러싼 규제의 필요성 및 EU 인공지능법 내용에 비추어 보아 향후 법률이 제정될 경우 생성형 인공지능에 대해서도 사전고지 등 일정한 의무가 부과될 가능성이 높아 보입니다.
한편, 국내 인공지능법이 아직 제정되지 않았지만 인공지능 기술발전에 대응하기 위하여 정부는 이미 민관 협력 거버넌스 구축에 힘쓰고 있습니다. 지난 7월 30일 '국가인공지능위원회 설치 및 운영에 관한 규정안(이하 대통령령)'이 국무회의에서 의결되어 ‘국가인공지능위원회’가 대통령 직속으로 구성될 예정입니다. 위원회는 위원장 1명과 부위원장 1명을 포함하여 45명 이내의 위원(정부위원 및 민간위원)으로 구성되고, 인공지능 관련 주요 정책, 연구개발 및 투자전략 수립, 데이터센터 등 인프라 확충, 규제발굴 및 개선, 인공지능 윤리원칙의 확산, 인공지능 발전에 따른 교육·노동·경제 등 각 영역의 변화와 대응 등 국가 인공지능 정책 전반을 심의 및 조정하게 될 것입니다.
이와 같이 최근 국내에서도 인공지능 관련 법률안의 제정 및 정부 차원의 산업진흥 및 규제 마련의 필요성이 부각되고 있는바, 인공지능 관련 제품 또는 서비스를 제공하려는 사업자로서는 법률안 제정 동향 등을 유심히 살펴볼 필요가 있습니다.
