I. 배경 및 주요 내용 방송통신위원회(이하 " 방통위 ")는 2025. 2. 28. 생성형 인공지능(generative AI) 서비스 이용 과정에서 발생할 수 있는 이용자 피해를 방지하고 보다 신뢰할 수 있는 AI 환경을 조성하기 위해 「생성형 인공지능 서비스 이용자 보호 가이드라인」(이하 “ 가이드라인 ”)을 발표하였습니다. 가이드라인은 AI 개발사 및 서비스 제공자가 준수해야 할 원칙을 명확히 하고, 책임 있는 AI 운영을 위한 실행 지침을 제시하는 것을 목표로 합니다. 여기서 ‘개발사’는 생성형 인공지능의 파운데이션 모델을 개발하고 시장에 출시하여 서비스 제공자가 모델을 사용할 수 있게 하거나 자체 서비스를 제공하는 사업자를 의미하고, ‘서비스 제공자’는 생성형 인공지능 시스템을 활용해 디지털 도구 및 서비스를 제공하는 사업자를 말합니다(가이드라인 13면). 2025. 3. 28.부터 시행되는 위 가이드라인은 개발사 및 서비스 제공자를 대상으로 서비스 전반에 걸쳐 추구해야 할 4가지 기본원칙과 이를 실현하기 위한 6가지 실행 방식을 제시합니다. II. 가이드라인의 주요 원칙 가이드라인은 생성형 인공지능 서비스 전반에 걸쳐 추구해야 할 4가지 기본 방향성을 아래와 같이 제시합니다(가이드라인 14면). (1) 생성형 인공지능 서비스는 인간의 존엄성을 보호하고 개인의 자유와 권리를 보장하며, 인간이 적절하게 통제하고 감독할 수 있는 방식으로 제공되어야 합니다. (2) 생성형 인공지능 서비스는 인공지능시스템 사용에 따른 작동 원리 및 결과, 이용자에게 미치는 영향 등에 대하여 이용자에게 알기 쉽게 설명되도록 제공되어야 합니다. (3) 생성형 인공지능 서비스는 안전하게 작동되어야 하며, 예상치 못한 피해를 최소화하고 악의적으로 이용되거나 변경되지 않도록 제공되어야 합니다. (4) 생성형 인공지능 서비스는 이용자에게 차별 또는 불공정한 결과가 발생하지 않도록 제공되어야 합니다. III. 실행 방식 및 세부 내용 가이드라인은 4가지 기본 원칙을 실현하기 위해, 개발사 및 서비스 제공자에게 6가지 실행 방식을 제시하고, 각 실행 방식마다 세부 실행 사례를 소개하고 있습니다(가이드라인 15~26면). (1) 생성형 인공지능 서비스의 이용자 인격권 보호 개발사는 생성형 인공지능 기반 시스템이 이용자의 인격권을 침해할 수 있는 요소를 발견하고 통제할 수 있는 알고리즘을 구축하도록 노력해야 하고, 서비스 제공자는 사전에 이용자가 타인의 인격권을 침해하는 결과물을 생성하지 않도록 관리할 책임을 인지하고, 내부 모니터링 체계나 이용자 신고 프로세스 등을 마련하여야 하며, 생성형 인공지능의 산출물이 이용자의 권리를 침해하지 않도록 서비스 제공 범위와 방법을 고려하여야 합니다. 구체적 실행사례로는 혐오 표현 등이 나타나지 않도록 생성 가능한 표현물 수위를 사전에 안내하거나, 이용자가 타인의 권리를 침해하는 정보 등을 입력하는 경우 경고문구를 제시 또는 일정 시간 이용자를 차단하거나, 일정한 연령대의 이용자를 보호하는 조치 등을 제시하고 있습니다. (2) 생성
