I. UN의 보고서 발행 경위
UN(United Nations)은 2023년 10월 인공지능 고위급 자문기구(AI Advisory Body)를 구성하고, 인공지능(이하 “AI”)의 발전과 규제에 필요한 글로벌 거버넌스 구축을 검토하기 시작하였습니다. 이후 UN은 2024년 5월 AI 중간 보고서를 발간하며 AI 거버넌스를 위한 전세계적인 협력과 통일된 규범이 필요하다고 강조하였습니다. UN은 2024년 9월 19일 최종 보고서를 발간하며 AI 거버넌스를 실현하기 위해 필요한 7가지 방안을 제안하였습니다.
**II. UN 보고서의 주요 내용
- 첫번째 제안: 국제적인 과학 패널 조직∙활용(International Scientific Panel on AI)**
- 제안 이유
UN은 빠르게 발전하는 AI 관련 기술을 지속적으로 확인하고, 이를 토대로 AI로 인한 기회와 위험을 조기에 분석하기 위하여 국제적인 과학 패널을 조직∙활용할 것을 제안하였습니다. 아울러 UN은 과학 패널과 발간하는 보고서 등을 활용하여, 이해관계자들에게 AI의 발전 상황을 보다 투명하게 전달할 수 있을 것으로 보았습니다.
2) 제안의 구체적인 내용
UN은 다양한 분야의 전문가들로 구성된 과학 패널을 설립하고, 이를 통해 AI 관련 기회 및 위험에 관하여 분석하고, 관련된 보고서를 수시∙분기∙연간 보고서를 작성할 것을 제안합니다.
· AI 관련 역량, 기회, 위험 및 불확실성에 대한 연간 보고서(Annual report)를 발간하여 기술 동향과 추가 연구가 필요한 분야를 식별
· AI가 지속 가능한 개발 목표(Sustainable Development Goals, 이하 “SDGs”) 달성에 기여할 수 있는 분야에 대한 연구 보고(Research digest)를 분기별로 작성(공익과 관련이 있으나, 기존에 검토되지 않은 분야 우선)
· 새로운 위험의 발생 내지 중요한 규제 공백 등 새로운 쟁점에 대하여 수시로 보고서(ad hoc report)를 발행
2. 두번째 제안: AI 규제 관련 정책 논의 (Policy Dialogue on AI Governance)
1) 제안 이유
UN은 전세계의 규제기관과 이해관계자들에게 AI 규제에 대한 논의의 장을 마련하여(연 2회) 국가간 규제의 상호운영성과 규제에 대한 예측가능성을 제고하고자 합니다. 이를 통해 UN은 AI 기술의 발전과 인권 신장에 기여하고, 나아가 전세계 국가들이 AI를 투명하고 안전하게 규제할 수 있도록 지원하고자 합니다.
2) 제안의 구체적인 내용
UN이 정책 논의에서 살펴보고자 하는 사항들은 다음과 같습니다.
· AI 기술 개발을 촉진하면서도 인권을 신장할 수 있는 규제의 모범 사례 공유
· AI 규제의 국제적 상호운용성 제고 및 이를 위한 규제기관의 AI 규제에 대한 공통의 이해 함양
· 개별 국가기관의 대응능력을 초과한 중대 AI 사건 공유
· 국제적 과학 패널이 작성한 보고서 논의
3. 세번째 제안: AI 규범간 정보 교환 (AI Standards Exchange)
- 제안 이유
다양한 국제기구들이 AI 규범을 발표하였지만, 이들이 상이한 용어와 기준을 활용하여 여러 문제가 발생하고 있습니다. 이에 UN은 공통된 AI 정의와 평가 기준 등을 마련하기 위해 다양한 국제기구들이 서로 협력하는 네트워크를 구축할 것을 제안합니다.
2) 제안의 구체적인 내용
UN은 다양한 국제기구, 정부, 기업, 시민단체 및 국제 과학 패널의 대표자 사이의 협력 네트워크를 구축하여 규범의 표준 마련 등에 관하여 논의하고자 합니다. 주요 논의 사항은 다음과 같습니다.
· AI 능력 측정∙평가와 관련된 정의∙기준 등에 관한 표준을 논의하고, 이를 지속적으로 관리
· AI 기준을 평가하는 방법
· 새로운 기준이 필요한 분야
4. 네번째 제안: 역량 개발 네트워크 구축∙활용 (Capacity Development Network)
1) 제안 이유
UN은 역량 개발 네트워크를 구축하여 AI 관련 글로벌 역량과 개발도상국을 포함한 모든 국가들의 역량을 제고하는데 기여하고자 합니다. 특히 AI 관련 역량을 발휘하기 위해서는 인재, 컴퓨팅 능력, 데이터 접근성이 필수적이므로, 해당 네트워크는 AI 훈련 프로그램 등을 제공함으로써, 개발도상국을 포함한 다양한 국가들의 역량을 함양하고 국가 간 AI 격차를 해소하는데 기여하고자 합니다.
2) 제안의 구체적인 내용
UN은 산하의 여러 역량 개발 센터를 연결하여 AI 역량 개발 네트워크 설립하고, 이를 통해 인재, 컴퓨팅 능력 및 데이터를 제공하고자 합니다. 해당 네트워크의 목적은 다음과 같습니다.
· 국가∙글로벌 AI 역량을 개발하고, 이들 간의 네트워킹을 지원∙조율
· 인권 강화 및 AI 발전 촉진을 동시에 달성하기 위하여 AI 규제 역량 강화
· 사회적 기업 등이 공공 이익을 위한 AI를 개발할 수 있도록 연산 자원과 데이터 등을 지원
- 학계 및 기업 등이 개별 지역에서 활용할 수 있는 AI를 훈련 및 모델 튜닝할 수 있도록 연산 자원 등을 지원
- AI 솔루션 테스트 및 실습을 통한 학습을 지원하는 테스트베드
- 대학생, 연구자, 사회적 기업 및 규제기관에 대한 온라인 AI 교육
- 학술 기관 및 AI 회사에서 경험을 쌓을 수 있는 펠로우십 프로그램
5. 다섯 번째 제안: 글로벌 AI 기금 조성 (Global Fund for AI)
1) 제안 이유
UN은 AI 역량 함양에 필요한 자금을 조성하기 위해 AI 기금을 조성할 것을 제안합니다. 위 기금은 AI 관련 교육, 컴퓨팅 능력, 데이터 등을 시장 가격보다 저렴하게 제공하는데 활용됩니다. 나아가 UN은 위 기금을 주로 컴퓨팅 자원과 데이터를 제공하는데 활용하여 개발도상국과 다른 국가간 AI 격차를 줄이고, 국가간 규제방식의 차이를 해결할 예정이라고 밝혔습니다.
2) 제안의 구체적인 내용
UN은 공공 및 민간 부문에서 재정적 및 현물 기여를 받아 AI 기금을 조성하고, 이를 독립적으로 관리∙운영할 예정입니다. 아울러 UN은 위 기금으로 역량 개발 네트워크를 지원하여 SDGs 등의 목표를 달성하고자 합니다. 주요 지원 내용은 다음과 같습니다:
· 모델 구축에 필요한 공유 컴퓨팅 자원을 제공하여, 현지 역량이 부족하거나 이를 확보할 수단이 없는 국가의 AI 개발자들을 지원
· 안전하고 신뢰할 수 있는 모델 개발과 데이터 거버넌스의 모범 사례를 확산하기 위한 테스트 환경과 벤치마킹 도구를 제공
· 전세계에 적용할 수 있는 규제 및 안전성과 및 상호운용성이 검증된 솔루션을 지원
· 데이터와 모델이 SDGs 관련 프로젝트에 어떻게 활용될 수 있는지 연구하고, 이를 위한 데이터 세트를 제공
· SDGs 달성을 위한 AI 모델과 선별된 데이터 세트의 저장소를 구축
6. 여섯 번째 제안: 전세계적인 AI 데이터 프레임워크 (Global AI Data Framework)
1) 제안 이유
UN은 일부 국가 및 지역의 경우 데이터 부족 문제로 AI의 도움을 받기 어렵다고 지적합니다. 나아가 UN은 데이터 수집∙생성∙활용∙수익에 관한 거버넌스를 토대로 데이터 이용 가능성을 제고하고 이에 대한 공정한 보상을 보장하는 전세계적인 집단 행동으로 위와 같은 문제와 함께 상호운용성 및 프라이버시 보호 등과 같은 목표를 달성할 수 있다고 지적합니다.
2) 제안의 구체적인 내용
UN은 AI 데이터 프레임워크를 마련할 것을 제안합니다. 아울러 UN은 UN국제상거래법위원회(UN Commission on International Trade Law)와 같은 기관이 위 프레임워크 마련을 주도하되, 다른 국제기구들 역시 참여할 것을 제안합니다. UN이 밝힌 위 프레임워크의 주된 목적은 다음과 같습니다:
· AI에 필요한 데이터 관련 전세계적인 글로벌 거버넌스를 마련하고 문화적∙언어적 다양성을 증진하기 위하여 데이터 정의 및 원칙 등을 규정
· 전세계 각국에서 활용할 수 있는 AI 데이터의 출처와 사용에 관한 공통 기준을 마련하여 투명성과 신뢰성을 제고
· 지역 기반의 AI가 성장할 수 있도록 지원하는 데이터 관리 및 교환 메커니즘을 수립하며, 여기에는 다음의 조치들이 포함
- 데이터 신탁(data trusts)
- AI에 필요한 익명 데이터를 교환하는 글로벌 시장
- 국제적 데이터 접근과 글로벌 상호운용성을 촉진하는 계약 양식(Model agreement) 마련
7. 일곱 번째 제안: UN 내 AI 사무소 설립 (AI Office within the United Nations Secretariat)
1) 제안 이유
UN은 AI 규제간 차이를 조정∙해결하기 위해서는 여러 이해관계자들과 협력할 필요가 있고, 이를 위해 UN 사무국 내에 AI 사무소를 설치하는 방안을 제안합니다.
2) 제안의 구체적인 내용
UN이 제안한 AI 사무소의 주요 역할과 임무는 다음과 같습니다.
· UN이 이 보고서에서 한 제안(e.g. 국제적인 과학 패널, AI 규제 논의 등)들을 지원하고 필요 시 글로벌 기금과 글로벌 AI 데이터 프레임워크도 지원
· 기업, 시민단체, 학계 등 다양한 이해관계자들과 소통하여 새로운 AI 문제에 대한 대처 방안 모색
· UN 사무처장에게 AI 관련 자문을 제공하고, UN 산하의 부서와 협력하여 UN이 AI에 대하여 일관된 입장을 취할 수 있도록 조력
III. 시사점
UN은 2024년 9월 22일 개최된 미래정상회의(UN Summit of the Future)에서 최종 보고서 내용을 바탕으로 전세계적인 AI 거버넌스에 관하여 논의하였으며 , 이를 토대로 AI에 관한 10개의 원칙을 담은 “인공지능에 대한 포괄적 과학적 이해에 관한 맨해튼 선언(The Manhattan Declaration on Inclusive Global Scientific Understanding of Artificial Intelligence)”을 발표하였습니다 .
이와 같이 UN은 향후 최종 보고서에서 논의된 일곱개의 제안을 실현하며 전세계적인 AI 규제를 마련하기 위해 노력할 것으로 기대됩니다. 우리나라도 UN을 비롯한 글로벌 AI 거버넌스에서 주요한 역할을 하기 위해서 AI 시대에 맞는 개인정보 보호 제도 개선 및 경쟁정책 수립을 위한 방안을 마련할 것으로 예상됩니다. 따라서 이러한 UN의 노력은 비단 우리나라 뿐만 아니라 전세계 각국의 AI 정책과 규제에 영향을 미칠 수 있으므로, 향후 UN의 활동에 더욱 주목할 필요가 있습니다.
