법무법인 태평양 AI팀은 과학기술정보통신부(이하 “과기정통부”)가 공개한 「인공지능기본법」 하위 가이드라인을 차례로 소개하고 분석하는 시리즈 뉴스레터를 보내드리고 있습니다. 마지막 다섯 번째 주제는 「인공지능 영향평가」입니다.
I. 고영향 인공지능 영향평가
인공지능사업자가 고영향 인공지능을 이용한 제품 또는 서비스를 제공하는 경우 사전에 해당 제품 또는 서비스가 사람의 기본권에 미치는 영향을 평가(이하 “영향평가”)하기 위하여 노력하여야 합니다(「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(이하 “AI기본법”) 제35조 제1항).
영향평가는 다음 사항을 포함해야 합니다(AI기본법 시행령안 제27조).
1) 해당 고영향 인공지능을 이용한 제품 또는 서비스에 의하여 사람의 생명, 신체의 안전 및 기본권에 영향받을 수 있는 가능성이 있는 대상의 식별
2) 해당 고영향 인공지능과 관련하여 영향을 받을 수 있는 기본권 유형의 식별
3) 해당 고영향 인공지능으로 인하여 발생할 수 있는 사람의 기본권에 대한 사회적·경제적 영향의 내용 및 범위
4) 해당 고영향 인공지능의 사용 행태
5) 영향평가에서 활용한 정량적 또는 정성적 평가지표 및 결과산출 방식
6) 해당 고영향 인공지능으로 인한 위험의 예방 및 손실 복구에 관한 사항
7) 영향평가의 결과, 개선이 필요한 경우 그 이행 계획에 관한 사항
영향평가는 신규 인공지능 제품 또는 서비스 제공 전에 시행하나, AI기본법 시행(2026. 1. 22.) 이전부터 제공되고 있는 인공지능 제품 또는 서비스의 경우 사업자가 자율적으로 필요성을 판단하여 현행 서비스 또는 제품을 기준으로 영향평가를 수행하는 것이 바람직합니다.
II. 영향평가 수행 단계별 주요 고려사항
1. 사전 준비 단계
인공지능사업자는 인공지능 제품·서비스를 제공하기에 앞서, 영향평가가 필요한지를 판단해야 합니다. 고영향 인공지능 해당 여부는 시리즈 세번째 순서에서 안내해드린 고영향 인공지능 판단 가이드라인을 참고하여 확인할 수 있습니다.
사업자는 평가대상이 되는 인공지능 제품·서비스의 특성을 이해하기 위한 세부 정보를 아래와 같이 작성할 수 있습니다.
2. 본 평가 수행 단계
인공지능 제품·서비스가 기본권에 미칠 수 있는 영향을 체계적으로 식별하고 분석하는 단계입니다.
가. 피영향자 분석
인공지능 제품·서비스의 제공 결과 해당 인공지능 제품·서비스의 사용으로 인해 직접 또는 간접적으로 영향을 받을 수 있는 사람과 집단, 환경을 식별하는 것입니다. 피영향자는 아래와 같이 나눌 수 있습니다.
- 직접 피영향자(영향받는 자) : 인공지능 제품 또는 서비스에 의하여 직접적으로 생명, 신체의 안전 및 기본권에 중대한 영향을 받는 자(AI 기본법 제2조 제9호)
- 간접 피영향자 : 영향받는 자와의 관계, 환경 변화 등으로 인해 간접적이거나 근접하게 영향을 받는 자
- 의도하지 않은/예상하지 못한 피영향자 : 예상하지 못하게 영향을 받을 수 있는 사람, 생물, 환경 또는 사물
나. 평가대상의 작동 원리 분석
개발 및 운영 관련 문서와 인터뷰 등을 통해 인공지능 활용 전 단계를 데이터 수집, 분석·판단, 결정, 피드백 등으로 구분하고 단계별 기술·운영상 작동원리를 파악합니다.
다. 기본권 영향 식별 및 분석
평가대상 인공지능의 작동원리를 토대로 실제 인공지능 기반 서비스 운영 과정에서 발생할 수 있는 다양한 상황을 설정하고 위협 요인에 대한 구체적 시나리오를 작성합니다. 시나리오는 ‘작동원리에 내재한 전형적인 위협 요인’을 기초로 삼거나 ‘분야별 주요하게 언급되는 기본권’을 고려하여 도출할 수 있습니다.
이러한 위험 시나리오를 바탕으로 해당 제품 또는 서비스가 기본권에 미치는 영향을 인공지능기술 일반 차원과 제품 또는 서비스 차원으로 나누어 구체적으로 판단합니다.
인공지능기술 일반 차원에서는 아래 기본권에 대한 영향을 고려할 수 있습니다.
제품 또는 서비스의 활용 맥락에서 영향받을 수 있는 기본권은 아래와 같이 정리할 수 있습니다.
3. 사후 단계
영향평가 완료 후에는 식별된 영향요소 중 부정적 영향을 완화, 제거하기 위한 개선, 보완 계획을 수립하고 인공지능 제품·서비스 운영 정책 및 절차를 업데이트하며, 부정적 영향이 현실화될 경우 취할 조치를 사전에 마련하여 시행할 것이 권장됩니다.
영향평가 수행 과정에서 수집, 작성한 근거자료와 결과 문서를 보관하고, 그 결과를 공개해야 할 법적 의무는 없습니다. 다만 영향평가를 수행하였고 그 결과와 과정이 신뢰성 있게 관리되고 있음을 보여주기 위해 사업자가 자율적으로 해당 문서와 근거자료를 보관하고, 결과를 공개할 것이 권장됩니다.
III. 시사점 및 대응
인공지능 영향평가 가이드라인(안)은 인공지능사업자가 고영향 인공지능을 이용한 제품 또는 서비스를 제공하는 경우 사전에 해당 제품 또는 서비스가 인간의 존엄성과 기본권에 미치는 영향을 식별, 분석하는 것에 대한 기준을 제시하고 있습니다.
인공지능사업자는 해당 인공지능을 활용하는 모든 단계에 대하여 기술, 운영상 작동 원리를 파악하고, 인공지능 기반 서비스 운영 과정에서 발생할 수 있는 다양한 위험에 대해 분석하는 체계를 구축할 필요가 있습니다. 또한 다양한 관점에서 해당 인공지능 제품 또는 서비스의 작동 원리를 심층분석하고 기본권 영향에 대한 시나리오를 준비하여야 합니다. 이를 토대로 해당 인공지능 제품 또는 서비스에 대한 거버넌스 절차, 이용자에 대한 지원 체계 등을 구축하여야 할 것입니다.
* * *
법무법인(유한) 태평양의 AI팀은 이와 관련한 탁월한 전문성을 바탕으로 국내외 인공지능 관련 규제의 흐름을 지속적으로 모니터링하고 있으며, 기업들이 AI 기술을 안전하게 활용하면서도 법적 리스크를 최소화할 수 있도록 전방위적 자문과 적극적인 실무 지원을 제공하겠습니다. 이에 대하여 문의사항이 있으시면 언제든지 저희 법무법인으로 연락하여 주시기 바랍니다.
