I. 배경
EU는 2025년 7월 10일 빠르게 발전하는 인공지능(AI) 기술에 대응하고, 투명성, 안전성 및 저작권 보호를 강화하기 위하여 「범용 AI 실천강령(The General-Purpose AI Code of Practice, 이하 “본 강령”)」을 발표하였습니다. 본 강령은 2025년 8월 2일부터 시행될 유럽연합 인공지능 규제법(EU AI Act, 이하 “AI Act”)상 범용 AI 관련 규정을 업계가 준수하도록 지원하는 자율규범의 역할을 합니다.
이 뉴스레터에서는 본 강령의 제정 경과, 성격, 주요 내용 및 시사점을 자세히 살펴보겠습니다.
II. 본 강령의 제정 경과, 성격 및 주요 내용
1. 제정 경과
본 강령은 EU AI 사무국의 주도하에 학계, AI 모델 개발자, AI 안전 전문가, EU 회원국 대표, 시민 사회 단체 등 다양한 이해관계자의 참여를 통해 마련되었습니다. 본 강령은 당초 2025년 5월 확정을 목표로 하였으나, 추가적인 논의를 거쳐 7월 10일 최종 확정되었습니다. 향후 EU 회원국과 집행위원회는 본 강령의 적정성을 평가할 예정이며, 7월 중 발표될 범용 인공지능 모델과 관련된 핵심 개념에 대한 EU 집행위원회의 지침을 통해 본 강령이 보완될 것입니다.
2. 성격
본 강령은 법적 구속력이 없는 자율규범으로, AI Act의 범용 AI 관련 규정이 2025년 8월 2일부터 발효되기에 앞서 범용 AI 모델 제공업체가 새로운 의무를 준수하도록 돕는 초기 가이드라인 역할을 합니다. 본 강령에 자발적으로 서명하는 AI 모델 제공업체는 본 강령을 준수함으로써 EU AI Act의 관련 의무를 이행했음을 입증할 수 있게 되어, 행정적 부담을 줄이고 법적 확실성을 확보할 수 있습니다.
3. 주요 내용(사업자 준수사항)
본 강령은 ‘투명성(Transparency)’, ‘저작권(Copyright)’, ‘안전 및 보안(Safety & Security)’이라는 세 개 장으로 구성되어 있습니다. ‘투명성’과 ‘저작권’ 장은 모든 범용 AI 모델 제공업체가 AI Act 제53조에 따른 의무(범용 AI 모델 제공자의 일반적 의무)를 준수하였음을 입증할 수 있는 방법을 제공합니다. ‘안전 및 보안’ 장은 시스템적 위험을 초래할 위험이 있는 범용 AI 모델 제공업체가 AI Act 제55조의 의무(시스템적 위험 완화 의무)를 준수하기 위하여 따라야 할 사항을 규정합니다. 각 장의 주요 내용은 다음과 같습니다.
1) 투명성(Transparency)
- 모델 문서화 및 유지: 모델의 학습 방식, 데이터 출처 등 모델에 대한 상세한 기술 및 운영 정보를 포함한 문서를 작성하고 최신 상태로 유지해야 합니다.
- 정보 공유: AI 사무국 및 다운스트림(Downstream) 제공업체(범용 AI 모델을 자신의 AI 시스템에 통합하려는 업체)의 요청에 따라 위 문서에 대한 접근을 허용하고 관련 정보를 공유해야 합니다.
- 문서 품질 및 무결성 관리: 문서화된 정보의 품질, 무결성 및 보안을 보장하기 위한 통제 시스템을 구축해야 합니다.
- 표준화된 양식 활용: 사용자 친화적인 '모델 문서화 양식(Model Documentation Form)'을 활용하여 필요한 정보를 쉽게 문서화할 것을 권장합니다.
2) 저작권(Copyright)
- 정책 수립 및 공개: AI 모델에 대한 저작권 준수 정책을 수립하고 이를 문서화하며, 가능하다면 그 요약본을 공개하는 것이 권장됩니다.
- 콘텐츠 수집 관리: 웹 크롤링 시 기술적 접근 제한을 존중하고, 저작권 침해 웹사이트를 제외해야 합니다. 또한, robots.txt 등 권리 유보 지침을 준수하고, 권리 보유자가 자신의 콘텐츠가 AI 모델 학습에 사용되었는지 여부 및 사용 방식 등에 관한 정보를 얻도록 지원해야 합니다.
- 저작권 침해 위험 완화: AI 모델이 저작권 침해 결과물을 생성하지 않도록 기술적 안전 장치를 마련하고, 이용 약관에 침해 목적 사용 금지를 명시해야 합니다.
- 소통 및 불만 처리: 권리 보유자와의 소통 창구를 마련하고, 불만 사항을 접수하여 신중하고 합리적인 시간 내에 처리해야 합니다.
3) 안전 및 보안(Safety & Security)
- 안전 및 보안 프레임워크 수립: 시스템적 위험을 관리하기 위한 강력한 안전 및 보안 프레임워크를 수립하고 이행해야 합니다. 위험을 식별, 평가, 완화하기 위한 절차와 조치를 정의해야 합니다.
- 위험 관리: 국가 지원 해커, 조직 범죄 집단, 내부자 등 현실적인 위협 행위자를 식별하고, 이에 대응하는 보안 조치를 마련해야 합니다. 심각한 사고 발생 시 AI 사무국에 보고해야 합니다.
- 위험 완화 조치: 유해 데이터 필터링/정제, 민감한 정보 출력 차단을 위한 모델 동작 변경, 접근 통제, 배포자를 위한 위험 완화 도구 제공 등 구체적인 완화 조치를 시행해야 합니다.
III. 시사점
본 강령은 EU AI Act의 복잡한 요구사항에 대한 구체적인 이행 가이드를 제공함으로써 기업들의 규제 준수 부담을 경감하고 법적 불확실성을 해소하는 데 기여할 것으로 보입니다. 특히, 강제력 있는 제재로 혁신을 저해하기보다 투명성, 안전성 및 저작권 보호를 위한 기업의 자율적인 노력과 혁신을 장려한다는 점에서 기존의 규제 접근 방식과는 차별화됩니다.
법무법인 태평양 AI팀은 본 강령이 제시하는 실질적인 가이드라인을 바탕으로, 기업들의 AI 개발 및 활용 과정에서 발생할 수 있는 법적 리스크를 선제적으로 점검하고, 지속 가능한 최적의 사업 운영 방안과 컴플라이언스 체계의 구축을 적극 지원하겠습니다.
