I. 배경 EU 정상회의(European Council) 및 EU 이사회(Council of the European Union)는 2024년 8월 1일 ‘EU AI Act’(유럽연합 인공지능 규제법)(이하 “AI법”)를 공식 발효하였으며, 이후 2025년 2월 2일부터는 AI법 제1조부터 제4조까지의 일반 규정[제4조의 AI 리터러시(literacy) 요건 포함] 및 AI법 제5조의 금지된 AI 활동에 관한 규정 중 일부가 실제로 적용되기 시작하였습니다. AI법 제96조 제1항은 유럽연합 집행위원회(European Commission)(이하 “집행위”)가 AI법 이행을 위한 가이드라인을 마련할 것을 요구하고 있습니다. 이에 따라 집행위는 2025년 2월 4일 및 2월 6일 각각, 유해한 조작 및 기만, 취약성의 악용, 사회적 점수 평가(social scoring) 등 금지된 AI 활동에 관한 가이드라인(Guidelines on Prohibited AI Practices under the AI Act)과 인공지능 시스템의 정의(The guidelines on the AI system definition)에 관한 가이드라인을 발표하였습니다. 또한, 집행위는 AI 리터러시 실천 사례 상시 저장소(living repository of AI literacy practices)를 발간하였습니다. 이는 AI 시스템 제공자와 활용 기업·기관으로부터 수집한 AI 리터러시 실천 사례를 공유·축적하는 온라인 자료 플랫폼으로, AI 사용자들의 이해도와 역량을 높이고, 다양한 조직 간에 경험과 사례를 공유할 수 있도록 하며, AI 기술의 보다 책임 있고 효과적인 활용을 지원하는 것을 목적으로 합니다. 위와 같은 가이드라인은 법적 구속력은 없고, 향후 필요에 따라 개정될 수 있으며, 유럽연합 사법재판소(CJEU)의 판단에 따라 다른 해석이 제시될 가능성도 있습니다. 그럼에도 불구하고, AI법 주요 규정에 대한 해석 기준을 제공하고, 실무에서의 법적 명확성과 예측 가능성을 높이는 데 중요한 참고 자료가 될 수 있을 것으로 기대됩니다. II. 금지된 AI 활동에 관한 가이드라인 2025년 2월 4일 발표된 본 가이드라인은 AI법 제5조에 EU 기본권(Fundamental Rights)에 대한 본질적 침해 가능성을 이유로 규정된 총 8가지 금지된 인공지능 활용 사례(AI practices)에 대한 해석과 적용 지침을 제공합니다. 금지 사례에는 (i) 유해한 조작 및 기만(harmful manipulation and deception); (ii) 취약성의 악용(exploitation of vulnerabilities); (iii) 사회적 점수화(social scoring); (iv) 개인의 범죄행위 위험 평가 및 예측(risk assessment and prediction of criminal offences); (v) 안면인식 데이터베이스 구축을 위한 무차별적 데이터 수집(untargeted scraping); (vi) 감정 인식(emotion recognition)
