I. 한국소비자원 및 공정위의 AI 워싱 조사
한국소비자원(Korea Consumer Agency, 원장: 윤수현 전 공정위 부위원장, 분쟁조정위원회 위원장: 한용호 전 공정위 기업집단감시국장)은 2025. 5. 21.자 보도자료를 통해 온라인상 허위·과장 광고의 효율적인 감시와 시정을 위해 소비자원의 광고 실태조사(모니터링 및 자진시정)와 공정위의 직권조사를 유기적으로 연계하는 방향으로 협업을 강화한다고 밝혔습니다.
올해 공정위가 부당광고 직권조사를 계획하고 있는 육아용품 및 AI 워싱(실제 AI 기술과 무관하거나 AI 기술을 제한적으로 활용하면서도 거짓∙과장되게 광고하는 행위) 분야는 현재 소비자원에서 실태조사 중에 있습니다.
소비자원의 실태조사 과정에서 표시광고법 위반 혐의가 발견될 경우 소비자원이 개선을 권고하는 방식으로 자진시정을 유도하는데, 소비자원의 개선 권고에 응하지 않은 건이나 파급효과가 큰 중대한 위반 건에 대해서는 공정위가 직권조사를 실시하므로, 유의할 필요가 있습니다.
II. AI 워싱 관련 컴플라이언스 대응 방안
AI 워싱을 특정하여 직접적으로 규제하는 특별한 법령이나 규정이 아직 국내에서 마련되어 있지는 않습니다. 다만, 「표시광고의 공정화에 관한 법률(이하 “표시광고법”)」이 적용되고, AI 워싱과 유사한 측면이 있는 그린 워싱에 대하여 적용되는 「환경 관련 표시·광고에 관한 심사지침」 및 관련 제재 사례를 컴플라이언스 시 참고할 수 있습니다.
고려해 볼 수 있는 AI 워싱 체크리스트의 개요는 다음과 같습니다. 다만, 각 사업 및 제품의 특성에 맞게 체크리스트를 마련하여 적용함에 있어서는 표시광고법 및 AI 규제 전문가의 조언을 받는 것이 바람직할 것입니다.
♦ 제품이 실제로는 AI 기능을 가지고 있지 않음에도 AI 기능을 가지고 있다고 표시ㆍ광고1 하고 있는가?
♦ 제품이 가지고 있는 AI 기능의 특성, 용도, 혜택, 품질에 대하여 허위, 과장 또는 기만적인 표시ㆍ광고를 하고 있는가?
- 제품이 가지고 있는 AI 기능이 실제로는 일부 또는 부분에 관련되는 제한적인 기능임에도 마치 AI가 전면적으로 적용되는 핵심 기능인 것처럼 표시ㆍ광고하고 있는가? AI 기능 관련 중요한 제한 사항의 전부 또는 일부를 누락하거나 은폐하여 표시ㆍ광고하고 있는가?
- AI 기능이 실제로는 일정한 수준에 도달하지 아니하였음에도 불구하고 당해 수준에 해당하는 것처럼 표시ㆍ광고하고 있는가?
- AI 기능이 발휘될 수 있는 판단기준을 명시하지 않고 막연히 AI가 일정 성능을 발휘할 수 있는 것처럼 표시ㆍ광고하고 있는가?
- 객관적으로 확인할 수 없거나 확인되지 않은 AI 기능이 확실하게 발휘되는 것처럼 표시ㆍ광고하고 있는가?
허위 광고와 유사한 행위 양태를 가진 허위 공시 사안에서의 미국 증권거래위원회(United States Securities and Exchange Commission, 이하 “SEC”)의 집행 사례들 또한 참고가 될 수 있습니다.
[Delphia (USA) Inc. 및 Global Predictions Inc. 사건]
SEC는 2024. 3. 18. Delphia (USA) Inc.와 Global Predictions Inc.라는 투자 자문사들의 다음과 같은 ‘AI 워싱’ 행위에 대하여 위 2개사가 총 USD 400,000의 민사 벌금을 지불하기로 합의하였다고 밝혔습니다.2
- Delphia (USA) Inc.는 "우리의 인공지능을 더욱 스마트하게 만들기 위해 집단 데이터를 활용함으로써 어느 회사와 트렌드가 크게 성장할 것인지 예측하고 누구보다 먼저 투자한다"고 하였음. 하지만 실제로는 AI 및 기계 학습 기능을 갖추고 있지 않았음
- Global Predictions Inc.는 "규제 하에 있는 최초의 AI 재무 자문사"라고 하고 자사 플랫폼이 "전문적인 AI 기반 예측"을 제공했다고 하였는데, 이는 허위였음
[Presto Automation Inc. 사건]
SEC는 2025. 1. 14. Presto Automation Inc.가 AI 제품인 Presto Voice(패스트푸드 레스토랑의 드라이브 스루 주문을 자동화하기 위해 사용되는 AI 기반 음성 인식 기술 제품)의 주요한 부분에 대하여 다음과 같이 허위 공시(false and misleading statements in its SEC filings and public statements)를 한 행위에 대하여, 중지 및 금지에 대한 동의명령(consent order)을 하였습니다.3
- Presto Voice의 기반이 되는 기술이 제3자의 것이었던 기간에도 자신의 기술인 것처럼 공시
- Presto Voice가 사람의 주문 접수를 불필요하게 만든다고 주장함으로써 제품의 기능을 허위로 표현하였음. 사실은 Presto Voice가 고객의 음성을 텍스트로 전환해주면, 필리핀과 인도 등 여러 원격 지역에 있는 사람들이 이러한 텍스트를 보고 주문을 시스템에 입력하여 사람의 관여(human involvement)가 있었음
저희 법무법인(유한) 태평양은 AI와 경쟁에 관한 뉴스레터를 시리즈로 준비하여 보내 드릴예정입니다.
