법무법인 태평양 AI팀은 과기정통부가 공개한 「인공지능기본법」 하위 가이드라인을 차례로 소개하고 분석하는 시리즈 뉴스레터를 시작합니다. 그 첫 번째 주제는 「투명성 확보」로, 본 호에서는 해당 가이드라인의 주요 내용과 의미를 살펴봅니다.
I. 적용 대상
투명성 확보 의무란, AI를 활용하고 있다는 사실을 미리 알리거나, 결과물이 AI가 생성한 것임을 표시해야 하는 의무를 말합니다. 투명성 확보의무는 원칙적으로는 AI 제품·서비스를 ‘이용자’에게 제공하는 최종 사업자가 부담합니다. 여기서 이용자라 함은, AI 도구를 활용해 콘텐츠를 만드는 영상·CG 제작자, AI 기반 학습 자료를 수업에 활용하는 교사, 진료 지원 도구로 AI 서비스를 사용하는 의사 등 AI 제품이나 서비스를 실제 제공받는 자(법 제2조 제8호)를 의미합니다.
예를 들어, (i) A사가 파운데이션 모델(API)을 개발하고, (ii) B사가 이 모델을 활용해 고객 상담 챗봇이나 이미지 편집 앱을 만들어 이용자에게 제공한다면, 투명성 확보 의무는 B사에게 부여됩니다. B사가 고객 상담 챗봇을 제공한다면, “이 상담은 AI가 생성한 답변입니다” 와 같은 표시를 하여야 합니다.
한편, 네이버의 클로바, OpenAI의 ChatGPT처럼 파운데이션 모델 개발사가 직접 서비스를 제공하는 경우도 있습니다. 이처럼 개발사가 자사 모델을 일반 이용자에게 바로 제공한다면, 이때는 개발사도 투명성 확보 의무를 부담하게 됩니다.
II. 투명성 조항별 적용사례
1. 고영향 또는 생성형 AI에 기반한 제품·서비스에 대한 사전고지(법31조 제1항)
고영향 또는 생성형 AI에 기반한 제품·서비스 제공하려는 경우, 제품·서비스가 해당 인공지능에 기반한다는 사실을 이용자에게 사전 고지하여야 합니다. 사전 고지라 함은 AI 제품·서비스를 이용자에게 제공하기 “전”에 이를 알리는 행위로, AI 제품·서비스 제공 중 혹은 그 직후 생성된 결과물이 생성형 AI를 통해 생성된 것임을 알리는 법31조 제2항의 표시와 구별됩니다. 이는 제품·서비스가 고영향 또는 생성형 AI에 기반되어 운용되는 것임을 미리 알려 이용자가 주의를 기울일 수 있도록 하기 위함입니다.
공개된 시행령 제22조는 적법한 사전고지의 방법을 한정하여 나열하고 있는바 구체적인 내용은 다음과 같습니다:
**•**제품 등에 직접 기재하거나, 계약서, 사용설명서, 이용약관 등에 기재
- 예: 서비스 가입절차에서 관련 내용을 고지하거나, 약관 또는 계약서 등에 생성형 AI 또는 고영향 AI를 활용함을 명시
**•**이용자의 화면 또는 단말기 등에 표시
- 예: S/W, 모바일 어플리케이션 등을 통해 서비스 제공 시 화면상에 인공지능을 활용함을 명시
**•**제품 등을 제공하는 장소(해당 장소와 합리적으로 관련된 범위의 장소를 포함)에 인식하기 쉬운 방법으로 게시
- 예: 병원 대기실에서 AI 기반 진료보조 시스템을 사용하는 경우, 접수 창구 옆 안내판에 “본 의료기관은 AI 진료보조 시스템을 활용하고 있습니다.” 라고 명시
2. 생성형 AI 표시 (법31조 제2항)
인공지능기본법 제31조 제2항은 생성형 인공지능 또는 이를 이용한 제품·서비스를 제공하는 경우, 그 결과물이 생성형 인공지능에 의해 생성된 것임을 표시할 의무를 규정하고 있습니다. 해당 표시는 ‘사람 또는 기계가 판독할 수 있는 형식’(시행령 제22조)이면, 이미지, 영상, 음성, 텍스트 등 콘텐츠별 특성을 고려하여 다양한 방식으로 이행할 수 있습니다.
그 목적은 단순한 알림을 넘어, 이용자가 AI 생성물임을 명확히 인지할 수 있도록 함으로써 혼란을 예방하고, 딥페이크 등 악용을 방지하는 데 있습니다. 아래에서는 콘텐츠 유형별 표시 방식과 사례를 살펴보겠습니다.
• 이미지 콘텐츠
[표시 방법]
이미지 위에 로고나 텍스트를 직접 삽입(가시적 워터마크)하거나, 사람이 인지할 수 없는 패턴·메타데이터를 삽입하는 기술적 방식(비가시적 워터마크) 모두 가능
[실무 예시]
- 생성형 이미지 플랫폼이 사진 하단에 “AI 생성” 로고를 삽입
- 광고 이미지에 비가시적 워터마크를 심어 사후에도 추적 가능
• 동영상 콘텐츠
[표시 방법]
이미지와 유사하게 영상 하단에 로고·텍스트 삽입 또는 비가시적 워터마크 적용. 반드시 영상 전체에 걸쳐야 하는 것은 아니며, 시작부(예: 3~5초) 표시 만으로도 충분. 이용자가 해당콘텐츠가 생성형 AI에 의한 것임을 인식할 수 있는 합리적인 수준으로 표시
[실무 예시]
- AI 기반 영상 제작툴이 영상 시작 부분에 “이 영상은 AI로 생성되었습니다”라는 라벨을 5초간 표시
- 숏폼 영상 앱이 자동으로 “AI 생성” 태그를 붙여 업로드
• 오디오 콘텐츠
[표시 방법]
음성으로 직접 안내하거나, 특정 구간에 자막·라벨 삽입, 또는 비가청적 워터마크 부착. 동영상과 동일하게 오디오 전체에 반복할 필요 없이, 초반부 안내만으로도 충분.
[실무 예시]
- AI 음성합성 서비스가 오디오 시작 5초 동안 “이 음성은 AI가 생성한 것입니다”라는 멘트 송출
- 뉴스 클립 끝부분에 “AI 보이스 사용” 자막 표시
• 텍스트 콘텐츠
[표시 방법]
챗봇이나 요약 서비스의 대화창·결과 화면에 명시적 라벨을 부착하거나, 메타데이터 형태의 비가시적 워터마크 삽입. 텍스트 결과물은 사람이 작성한 것과 구분이 어렵기 때문에, 표시 문구를 통해 이용자가 오인하지 않도록 하는 것이 핵심.
[실무 예시]
- 챗봇 답변창 하단에 “본 답변은 AI가 생성한 내용입니다. 오류가 있을 수 있습니다.” 문구 표시
- AI 요약 서비스에서 결과물 제목 옆에 “AI 요약” 아이콘을 삽입
3. 실제와 구분이 어려운 결과물의 표시 의무 (제31조 제3항)
AI기본법 제31조 제3항은, 실제와 구분하기 어려운 가상의 음향, 이미지, 영상 등을 제공할 경우, 이용자가 해당 결과물이 AI에 의해 생성되었음을 명확하게 인식할 수 있는 방식으로 고지 또는 표시하도록 규정하고 있습니다. 이러한 표시 의무의 이행할 때에는 단순히 기술적 의무를 충족하는 수준에 그치지 않고, 이용자가 오인하지 않도록 접근성과 이해도를 충분히 고려하는 것이 중요합니다. 법 시행령 22조에서는 이를 위해 다음의 사항을 고려하도록 규정하고 있습니다.
- 이용자가 시각, 청각 또는 소프트웨어 등을 통해 쉽게 확인할 수 있는 방법으로 고지할 것
- 주된 이용자의 연령, 신체적·사회적 조건 등을 고려해 이해 가능한 방식으로 표시할 것
• 적용 대상
실제와 구분하기 어려운 결과물이란, 사람의 신체·목소리 등을 실제와 거의 동일하게 모방하거나, 자연현상·인공물을 실제로 존재하는 것으로 오인할 수 있는 수준의 콘텐츠를 말합니다.
[사례]
- 한국에서 활동하는 인물이 해외에서 활동하는 영상을 생성한 경우
- 존재하지 않는 사건이나 사실을 실제처럼 오인하게 하는 콘텐츠
[딥페이크에 해당하지 않는 사례]
- 명백한 가상의 배경(화성, 우주 등)
- 공지된 사실과 양립 불가능한 자연현상(예: SF 영화 속 여러 개의 달)
• 표시 방법
[예술적·창의적 결과물의 예외]
미술, 영화, 문학, 사진, 출판, 만화, 게임, 애니메이션 등 문화예술 분야의 창작물은 전시 또는 향유를 저해하지 않는 범위 내에서 표시 가능 (예: 영화 AI 수로부인에서 AI 기술 활용 사실을 엔딩 크레딧에 명시하여, 작품 관람 경험을 방해하지 않음)
**•**법 33조 제1항(사전고지)·제2항(생성형 AI 표시)과의 관계
제3항에 따라 이용자가 명백히 인식할 수 있는 방식으로 표시를 한 경우에도, 제2항 표시 의무 또는 제1항 사전고지 의무가 면제되는 것은 아님. 다만, 명백히 인식 가능 방식으로 표시한 경우 비가시적 워터마크 활용 가능, 사전 고지는 약관·온보딩 등 간편 방식으로 가능
4. 사전고지·표시를 하지 않아도 되는 경우(제31조 제4항)
AI기본법 제31조 제4항은, 제1항부터 제3항까지 규정된 사전고지·표시 의무의 예외 사항을 대통령령으로 정할 수 있도록 하고 있습니다. 시행령 제22조에서는 구체적으로 다음과 같은 경우를 면제 대상으로 명시하고 있습니다.
• 고영향 AI 또는 생성형 AI 사용이 명백한 경우
제품명, 서비스명, 이용자 화면 또는 제품 겉면에 AI 기반 운용 사실이 명확하게 표시되어 있어, 이용자가 별도의 고지나 표시 없이도 AI 활용 여부를 쉽게 인지할 수 있는 경우입니다. 단순히 ‘AI’라는 명칭을 붙이는 것이 아니라, 이용자가 실제로 제품·서비스의 어느 부분에서 생성형 AI가 활용되는지 명확히 이해할 수 있어야 합니다. (예. 카카오뱅크의 AI검색, 우리은행의 우리 AI챗봇)
• 사업자의 내부 업무 용도
인공지능사업자가 자사 내부 업무를 위해 AI를 사용하는 경우에는 사전고지·표시 의무가 완화됩니다. 직접 개발한 AI를 사내 직원 전용으로 활용하거나, 연구개발을 위해 AI를 내부적으로 사용하는 경우 등이 이에 해당합니다. (예: 포스코DX 웍스AI: 업무 효율화를 위한 사내 에이전트; 한국원자력연구원 아토믹GPT: 내부 업무 효율화 및 연구 지원)
III. 시사점 및 대응
이번 뉴스레터에서 다룬 투명성 확보 가이드라인은, 단순히 형식적 요건을 충족하는 데 그치지 않고, 이용자가 AI 활용 사실을 명확히 인식할 수 있도록 서비스 특성과 이용자층을 고려한 세밀한 설계가 필요하다는 점을 강조합니다. 표시와 고지 방식은 엔딩 크레딧, 온보딩 안내, 캡션 등 간접적·비가시적 방법을 포함해 실무에서 유연하게 적용할 수 있습니다.
또한 AI 사용이 명백하거나 내부 업무용으로 활용되는 등 이용자 혼란 우려가 적은 경우에는 표시 의무를 완화할 수 있어, 기업 입장에서는 불필요한 부담을 줄이는 방법이 됩니다. 이번 가이드라인은 단순한 법적 준수를 넘어, 투명성과 효율성을 균형 있게 확보하면서 이용자가 안심하고 서비스를 이용할 수 있는 환경을 마련하도록 기업 실무를 안내하는 의미를 갖습니다.
* * *
법무법인(유한) 태평양의 AI팀은 이와 관련한 탁월한 전문성을 바탕으로 국내외 인공지능 관련 규제의 흐름을 지속적으로 모니터링하고 있으며, 기업들이 AI 기술을 안전하게 활용하면서도 법적 리스크를 최소화할 수 있도록 전방위적 자문과 적극적인 실무 지원을 제공하겠습니다. 이에 대하여 문의사항이 있으시면 언제든지 저희 법무법인으로 연락하여 주시기 바랍니다.
