- 위해요인과 GMLP(우수 기계학습 기준) 지도원칙 중심으로 I. 들어가며 최근 인공지능 기술이 급속도로 발전함에 따라 의료 분야에서도 활발히 활용되고 있습니다. 기존에는 CT, MRI 등 영상의학 분야에서 의료영상 분석 및 진단보조에 인공지능이 주로 활용되었으나, 최근에는 생성형 인공지능 기반 챗봇을 활용한 정신건강 테라피(이른바 “ Therabot ”)의 임상시험 1 을 통해 주요우울장애, 불안장애 등에 치료 효과가 있는 것으로 확인되는 등 생성형 인공지능을 활용한 정신건강 치료로의 확대도 기대되고 있습니다. 한편, 생성형 인공지능에는 환각이나 편향 등의 문제가 수반될 수 있으며, 의료 영역에서 이러한 오류는 환자의 생명ㆍ신체에 중대한 위해를 끼칠 수 있는 만큼, 그 위해 요인은 체계적으로 통제되어야 할 것입니다. 식품의약품안전처(이하 “ 식약처 ”)는 인공지능을 활용한 의료기기 개발에 있어 2025. 1. 세계 최초로 『생성형 인공지능 의료기기 허가ㆍ심사 가이드라인』을 발간하고, 2025. 3. 의료기기 개발을 위한 우수 기계학습 기준(Good Machine Learning Practice) 10대 원칙을 발간하는 등 국제 규범 형성에 적극적으로 참여하고 있습니다. 본 뉴스레터에서는 인공지능 의료기기의 위해요인과 이를 통제하기 위한 식약처의 가이드라인들의 주요내용을 간단히 소개하고자 합니다. II. 의료기기 해당여부 판단기준 – 사용목적과 위해도 생성형 인공지능을 활용하여 사용자의 건강을 증진하는 헬스케어 앱을 개발하는 경우를 예를 들어 설명해 보겠습니다. 식약처는 해당 헬스케어 앱(AI 소프트웨어)이 의료기기에 해당하는지 여부를 그 ( 가) 사용목적과 (나) 위해도 에 따라 판단합니다 2 . 3 이 중 ( 가 ) 사용목적 이란 제품의 제조자가 의도하여 표방한 기능과 용도를 말하며 4 , 제조자가 AI 소프트웨어에 대하여 ‘질병을 진단, 치료, 예방하는 등의 목적’을 직접적으로 표방하는 경우라면 사용목적상 ‘디지털의료기기’에 해당할 가능성이 높습니다. 그러나, 생성형 인공지능을 이용하더라도, 비의료기기 또는 디지털의료ㆍ건강관리지원기기 5 에 해당하는 경우에는 ‘생성형 인공지능 의료기기’로 관리되지 않습니다. 6 한편, 제조자가 해당 제품의 사용목적을 개인 건강관리용으로 표방하는 경우라도, 그 ( 나) 위해도 가 높다면 의료기기에 해당하여 식약처장의 인허가 대상이 될 수 있습니다. ‘위해도’는 ① 생체적합성 문제를 야기하는지, ② 침습적인지, ③ 사용의도대로 작동되지 않을 경우 사용자에게 상해, 질병이 발생하는지, ④ 위급한 상황을 탐지하는 기능을 수행하는지, ⑤ 기기의 기능이나 특성을 통제ㆍ변경하는지 등의 구체적 판단 요소에 따라 판단됩니다 7 . III. 인공지능 의료기기의 위해요인 앞서 설명드린 바와 같이, 위해도는 의료기기와 비의료기기 내지 디지털의료ㆍ건강관리지원기기를 구분하는 중요한 판단기준이 됩니다. 그런데, 스마트폰에서 사용되는 헬스케어 앱 형태의 제품을 개발하는 경우와 같이, 환자의 신체와 접촉하는 요소(①, ②),
