I. RAISE 법안의 주요 내용 (뉴욕주 AI 안전법) 뉴욕주 의회는 2025년 6월 13일 RAISE(Responsible Artificial Intelligence Safety and Education) 법안을 가결하였습니다. 이 법안의 목적은 100명 이상 인명 피해 또는 10억 달러 이상의 재산 피해를 초래할 수 있는 AI 위험에 대하여 법적 안전 장치를 마련하는 것입니다. 이를 위해 일정 규모 이상의 AI 모델 개발사로 하여금 안전 및 보안 체계에 대한 투명성 보고, 위험 발생 시 즉각 보고 등을 의무로 정하고 있습니다. 그 주요 내용은 다음과 같습니다. 1. 적용 대상 훈련에 1억 달러 이상의 연산 자원(컴퓨팅 파워)이 투입된 초거대 AI 모델을 뉴욕주 주민에게 제공하는 대형 개발자(large developer)가 적용 대상입니다. 사실상 OpenAI, 구글, Anthropic과 같은 초거대 AI 기업들이 주요 대상이며, 현재 사용 가능한 어떤 AI 모델보다도 훈련 비용 기준으로 규모가 큰 ‘프런티어 모델’에 초점을 맞추고 있습니다. 스타트업이나 학계 연구에는 부담을 최소화하기 위해 범위를 좁게 설정한 것으로 해석됩니다. 2. 대형 개발자들의 의무 ① 프런티어 모델 배포 전 (a) 서면 형태의 안전 및 보안 프로토콜을 구현해야 하고, (b) 프로토콜의 무삭제 사본을 5년간 보관해야 하며, (c) 적절히 편집한 프로토콜 사본을 게시하고, 편집한 프로토콜 사본을 법무장관 등에게 전달해야 하며, (d) 프런티어 모델이 배포되는 기간 동안 프로토콜에 따라 수행된 테스트 정보 및 제3자가 테스트 절차를 재현할 수 있을 정도의 세부사항을 보관하여야 하고, (e) 중대한 피해의 비합리적 위험을 방지하기 위한 적절한 안전조치를 이행해야 합니다. ② 치명적 위해(critical harm)가 발생할 위험을 야기할 경우 프런티어 모델을 배포해서는 안 됩니다. ③ 안전 및 보안 프로토콜을 매년 검토해야 하고, 프런티어 모델의 기능이나 업계의 모범 사례에 변화가 있을 경우 이를 반영해서 수정해야 하고, 중대한 변경사항이 있을 경우 해당 프로토콜 사본을 적절히 편집하여 게시하여야 합니다. ④ 프런티어 모델에 영향을 미치는 모든 안전 사고(safety incident)에 대해 해당 사고를 인지한 시점으로부터(또는 사고가 발생했을 것이라는 합리적 판단이 가능해진 시점으로부터) 72시간 이내에 법무장관 및 국토안보 및 비상서비스국(Division Of Homeland Security And Emergency Services)에 사고내용을 보고하여야 합니다. 3. 위반 시 제재 대형 개발자들이 동법상 의무를 위반한 경우, 법무장관은 최초 위반에 대해서는 1,000만 달러 이하, 반복 위반에 대해서는 3,000만 달러 이하의 민사 벌금을 구하는 민사소송을 제기할 수 있고, 금지명령 또는 확인청구(Injunctive Or Declaratory Relief)를 할 수 있습니다. 다만, 대형 개발자들의 위반행위와 관련하여 개인이 이 법에 근거해 직접 민사 소송을
