I. 배경 최근 인공지능 기술의 발전과 함께 생성형 AI로 제작된 콘텐츠가 급증하면서, 이에 대한 투명성과 책임성을 확보하기 위한 법적 제도가 세계 각국에서 마련되고 있습니다. 특히 2026. 1. 1. 시행예정인 캘리포니아의 AI 투명성법(SB 942), AI 훈련 데이터 투명성의 강화법(AB 2013), 소비자 개인정보보호법(AB 1008) 등이 미국 내 AI 규제의 선도적 역할을 하고 있으며, 이러한 움직임은 다른 주로도 확산되고 있습니다. 한국에서도 인공지능 기본법이 시행 예정이며, 유사한 규제 프레임워크가 구축되고 있는 만큼 본 뉴스레터에서는 글로벌 AI 투명성 법제화 동향과 시사점을 살펴보겠습니다. II. 주요 내용 1. 캘리포니아 소비자 개인정보보호법 개정(AB 1008) 2024. 8. 30. 캘리포니아 상원은 AB 1008 법률 개정을 통하여 캘리포니아 소비자 개인정보보호법(CCPA)상 ‘개인정보’의 범위를 ‘개인정보를 출력할 수 있는 인공지능 시스템을 포함한 추상적 디지털 형식(abstract digital formats)’으로 확장하였습니다. 즉, 개인정보가 물리적; 디지털 형식뿐만 아니라 ‘압축된 파일’, ‘메타데이터’, ‘인공지능 시스템’과 같은 추상적 디지털 형식에도 존재할 수 있다고 명시하고 있습니다. 인공지능의 학습 데이터 자체 또는 입력·출력 단계에만 개인정보가 포함된다고 해석하게 되면, 출력 억제, 학습 데이터에서의 개인정보 제외 및 비식별화와 같은 방법으로 개인정보보호법 준수가 가능합니다. 그러나 생성형 AI 모델 자체에도 개인정보가 존재한다고 해석할 경우 단순 출력 억제만으로는 개인정보보호법을 준수하기에 충분하지 않고, 이용자의 개인정보에서 파생되어 개인정보가 생성될 수 있는 토큰, 모델 가중치 또는 기타 데이터 포인트와 같은 모든 데이터를 삭제하거나 수정해야 합니다. 유럽의 규제기관들(예: 독일 함부르크, 덴마크, 아일랜드)은 생성형 AI 모델에는 개인정보가저장되지 않으므로 GDPR(General Data Protection Regulation)에 정의된 데이터 주체의 권리는 모델 자체와는 관련이 없다는 입장이나, 개인정보 식별 가능성에 대한 논의와 GDPR 관점에서의 해석은 여전히 다양합니다. 따라서 AB 1008 관련 구체적인 시행 지침은 캘리포니아 개인정보보호청(CPPA) 및 주 법무장관의 해석과 집행에 달려 있는바, 세계 각국에서 유사한 입법이 마련되는 만큼 해당 법률의 목적과 해석에 대한 진지한 검토를 통한 지침 마련이 필요할 것으로 보입니다. 2. 캘리포니아 AI 투명성법(SB 942) 동법은 캘리포니아 내에서 공개적으로 접근 가능하고 월간 방문자 또는 사용자가 100만 명을 초과하는 생성형 AI 시스템 제공자(Covered Provider)에게 (i) 인공지능 탐지 도구의 생성 및 무료 제공 의무, (ii) 인공지능 생성 콘텐츠에 워터마크를 표시할 의무를 부과하고 있습니다. 즉, 모든 Covered Provider는 사용자에게 이미지, 비디오, 오디오 또는 이들의 조합이 해당 제공자의 A
