I. 들어가며 최근 생성형 인공지능이 급속도로 발전하면서 인공지능 관련 안정성 및 보안 이슈에 대한 논의도 활발해지고 있습니다. 2026. 1. 22. 시행을 앞두고 있는 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 “ 인공지능 기본법 ”)에서도 인공지능 투명성 확보를 위한 표시의무가 규정되었고, 이러한 표시 방법으로 인공지능 식별무늬(“ 워터마크 ”)가 고려되고 있습니다. 과학기술정보통신부(이하 “ 과기부 ”)와 한국정보통신기술협회는 올해 초 ‘인공지능 생성물’의 안전한 생성과 활용을 지원하기 위해 ‘인공지능 식별무늬(AI 워터마크) 기술 동향 보고서’(이하 “ 보고서 ”)를 발간하였습니다( 보고서 링크 ). 본 뉴스레터에서는 인공지능 생성물의 오남용 사례와 이를 방지하기 위한 워터마크 기술의 활용 방안의 등 보고서의 주요내용을 간단히 소개하고자 합니다. II. 인공지능 생성물 및 오남용 사례 1. 인공지능 생성물의 의미 “생성형 인공지능”은 기존 딥러닝 1 ; 방식의 인공지능 기술과 달리 사용자 요구를 기반으로 능동적으로 데이터나 콘텐츠 등의 결과물을 생성하는 한 단계 더 진화한 기술로, 사용자가 입력한 데이터의 구조와 특성을 모방하여 글, 소리, 그림, 영상, 그 밖의 다양한 결과물을 생성하는 인공지능 시스템입니다. “인공지능 생성물”은 이러한 생성형 인공지능을 통해 생성된 정보를 의미하고, 인공지능 생성물은 인공지능을 포함한 알고리즘에 의해 크게 변경되거나 생성된 이미지, 동영상, 오디오 클립, 텍스트 등의 정보를 포함합니다. 2. 인공지능 생성물 오남용 사례 증가 최근 생성형 인공지능이 고도화됨에 따라 헬스케어, 디지털 비서 등 인간 삶의 질 개선 및 제조 분야 등 다방면에서 활용되면서, 인공지능 생성물이 사람이 만든 것인지 아닌지를 구별할 수 없어 가짜뉴스와 딥페이크 등 사회 혼란을 야기하고 있습니다. 특히 인공지능 생성물의 오남용으로 인한 가짜뉴스 생성, 보이스 피싱, 디지털 성범죄, 저작권 분쟁, 인공지능 표절 등의 다양한 문제가 실제 법적 분쟁으로도 이어지는 사례가 국내외에서 증가하고 있습니다. 일례로, 생성형 인공지능 서비스에 ‘나체’, 어린이’ 등의 텍스트를 입력하여 360개의 성착취물을 제작한 사건이 발생하였고, 법원은 해당 행위가 아동 청소년의 성보호에 관한 법률을 위반하였다고 판시하여 징역 2년 6개월이 선고된 바 있습니다 (서울고등법원 2024. 11. 1. 선고 2024노1823 판결). III. 인공지능 생성물에 대한 워터마크 활용 사례 1. 워터마크 기술 워터마크란 이미지 등의 매체에 로고나 텍스트 형태의 식별자를 추가하거나 사람이 인지할 수 없는 패턴을 삽입하여 콘텐츠의 출처 및 소유권 확인에 사용하는 기술을 의미합니다. 워터마크 표시는 사람의 눈에 인식 가능한지 여부에 따라 (1) 인지 가능 워터마크 와 (2) 인지 불가능 워터마크 로 분류되며, 이미지, 영상, 음성 등 인공지능 생성 결과물의 유형에 따라 적용되는 기술에 차이가 있습니다. 한편, 사람의 인지 여부에 따라 워터마크의 장단점이
