미국 인공지능 행정명령 및 그 후속 조치에 대한 검토 및 시사점

I.    소개
2023년 10월, 바이든 미국 대통령은 AI의 개발 및 사용에 관한 행정명령(E.O. 14110)에 서명하였습니다. 행정명령은 개인정보보호, 소비자 및 근로자의 권리 보호, 형평성 및 시민권 증진, 혁신과 경쟁 촉진, AI 사용에 대한 거버넌스 강화 등 일련의 정책 목표를 제시하고 있습니다. 이를 위해 행정명령은 미국 상무부 장관의 주된 책임 하에 여러 부서에 AI에 관한 안전 및 보안 제고 등을 위한 세부 규정에 관한 초안 마련 및 그 공표를 요구하고 있습니다.
위 행정명령에 따라, 국립표준기술원(NIST)은 AI의 안전성, 보안성 및 신뢰성을 다루는 4개의 초안을 발표하였습니다. NIST에서 발표한 초안들은 생성형 AI에서의 위험 관리를 위한 리스크 관리 프레임워크 등을 다루고 있습니다. NIST는 이러한 가이드라인에 대한 피드백을 구한 바 있으며, 피드백을 고려한 후 최종 초안을 발표할 예정입니다. 

또한, 미국 상무부는 산업안보국(“BIS”)을 통해 2024년 1월에 새로운 규제규칙을 발표하였고, 2024년 4월까지 의견을 수렴하였습니다. 제안된 규칙(“BIS 제안 규칙”)은 미국 클라우드 서비스 제공업체(즉, 서비스로서의 인프라 또는 IaaS, 제공업체)에게 1) 해외 고객을 식별 및 관리하고, 2) 해외 관할권 또는 사이버 보안 관련 남용 기록이 있는 기업의 IaaS에 대한 제한 및 조건을 준수하도록 요구하도록 하고 있습니다. 그리고 3) 외국 고객이 클라우드 컴퓨팅 서비스를 사용하여 악의적인 사이버 활동에 사용될 가능성이 있는 대형 AI 모델을 학습시키는 경우 BIS에 보고하도록 정하고 있습니다.

또한, 미국 재무부는 2024년 6월 21일 중국에 기반을 둔 기업이나 중국이 소유한 기업에 대한 미국인 또는 법인에 의한 투자를 제한하는 제안된 규칙(“재무부 제안 규칙”)을 발표하였습니다. 이번 재무부 제안 규칙은 E.O. 14110에 직접 대응한 것은 아니지만 E.O. 14110의 AI 관련 의무를 다루기 위해 개정되었습니다. 

II.    NIST 가이드라인
NIST는 다양한 위험 관리 문제와 향후 AI 사용의 견고한 개발에 대한 지침을 제공하기 위해 다음과 같은 네 가지 가이드라인 초안을 발표했습니다. 또한 순서대로 이러한 목표를 달성하기 위한 일련의 모범 사례 및 기술 팁을 제공하고 있습니다.  NIST는 어떠한 법적 의무도 의무화하지 않으면서도 업계 리더와 정책 입안자를 함께 참여시키고 AI와 관련된 다양한 문제에 대해 피드백 과정을 거칠 예정이며, 적극적인 대안을 모색하고 있습니다. 

1. 인공 지능 위험 관리 체계: 생성형 인공 지능 프로파일 관련

• 본 가이드라인의 주요 목적은 이전의 AI 위험 관리 프레임워크(RMF)를 기반으로 하여 생성형 AI(“GAI”)에 관한 위험을 관리하기 위한 구체적인 지침을 제공하는 것입니다.
• 위 가이드라인은 GAI와 관련된 12가지 위험 범주를 규정하고 있으며, 이는 편견과 공정성, 허위 진술, 허위 및 남용, 데이터 보안 및 개인 정보 보호, 투명성 및 접근성, 책임 및 거버넌스로 광범위하게 분류될 수 있습니다.
• 가이드라인은 GAI의 위험을 해결할 수 있는 4가지 주요 영역을 제시하고 있습니다. 1) GAI의 사용을 감독하기 위한 구조 및 정책 수립 2) MAP – GAI와 관련된 위험 파악 및 구성, 3) GAI의 위험 및 영향 평가와 그에 대한 조치, 4) 완화 및 모니터링 계획을 관리/구현하는 것입니다.
• 이 가이드라인은 모범 사례 및 다양한 부문의 의견을 고려하여 개발자와 조직을 위한 400개 이상의 권장 조치를 제공하고 있습니다.
• 가이드라인 초안은 https://airc.nist.gov/docs/NIST.AI.600-1.GenAI-Profile.ipd.pdf 에서 확인할 수 있습니다.

2. 생성 AI 및 이중용도 기반 모델에 대한 보안 소프트웨어 개발 관행

• 본 가이드라인의 주요 목표는 GAI 및 이중 용도 기반 모델에 특별히 맞춤화된 보안 소프트웨어 개발 관행을 보다 광범위한 보안 소프트웨어 개발 프레임워크에 통합하는 것입니다.
• 가이드라인은 1) AI 모델 제작자 – 자체 GAI 및 이중 용도 기반 시스템을 개발하는 조직, 2) AI 시스템 제작자 – GAI 또는 이중 용도 기반 모델을 적용하는 소프트웨어를 개발하는 조직, 및 3) AI 시스템 인수자 - AI 시스템을 활용하는 제품 또는 서비스를 취득하는 조직에 가이드라인을 제시하고 있습니다.
• 위 가이드라인은 구현할 일련의 관행, 그러한 관행과 관련된 작업, 각 작업에 할당해야 하는 우선 순위 및 권장 사항을 제공하고 있습니다.
• 초안 발행물은 https://nvlpubs.nist.gov/nistpubs/SpecialPublications/NIST.SP.800-218A.ipd.pdf 에서 확인할 수 있습니다.

3. 합성콘텐츠로 인한 위험 감소

• 이 가이드라인의 주요 목표는 디지털 콘텐츠 투명성에 초점을 맞추어 AI 기술로 생성되는 합성 콘텐츠의 위험을 관리하고 완화하는 데에 있습니다.
• NIST가 제시한 디지털 투명성 접근법으로는 1) 콘텐츠의 출처 증명, 2) 콘텐츠 소유권 주장, 3) AI 생성 콘텐츠 식별을 위한 입증도구, 4) 유해 합성 콘텐츠의 생산 및 보급 완화 등이 있습니다.
• 디지털 투명성에 중점을 두어 허위 정보, 사생활 침해, 성적 학대 자료 등 합성 콘텐츠와 관련된 피해와 위험을 줄이는 것을 지원합니다.
• 현재 관행에는 1) 콘텐츠 인증(메타데이터 기록 및 디지털 워터마킹), 2) 출처 데이터 추적(디지털 콘텐츠의 출처 및 이력에 대한 기록 체인), 3) 합성 콘텐츠 검출이 포함됩니다. 위 가이드라인은 이러한 관행을 적용하기 위한 일련의 지침과 표준을 제공합니다.
• 가이드라인 초안은 https://airc.nist.gov/docs/NIST.AI.100-4.SyntheticContent.ipd.pdf 에서 확인할 수 있습니다.

4. AI 표준에 대한 글로벌 참여 계획

• 위 가이드라인은 AI의 안전하고 보안이 보장되며 신뢰할 수 있는 개발 및 사용을 위한 글로벌 AI 표준을 개발한다는 목표를 제시하고 있습니다. NIST는 이를 위해 국제기구 및 파트너와의 협력을 다지고 응집력 있는 접근법을 구현하며 협력, 조정 및 정보 공유를 촉진할 것을 요청하고 있습니다.
• 구체적으로 NIST는 1) 과학적으로 건전하고 제도에 순응할 수 있는 AI 표준을 채택하고, 2) 이러한 표준을 인권 원칙과 일치시키기 위한 약속을 포함하여 다양한 글로벌 이해관계자의 요구 및 의견을 반영하며, 3) 개방적이고 투명하며, 4) 국제 관계를 증진하는 것을 목표로 하고 있습니다.
• NIST는 1) 용어 및 분류, 2) 위험 측정 및 그 완화, 3) 검증 및 검증, 4) 투명성, 4) 보안 등 표준화에 대한 즉각적인 필요성을 제시합니다.
• 나아가 NIST는 1) 다양한 산업 및 국가의 주요 이해관계자를 참여시키고, 2) 연구 개발에 투자하며, 3) 글로벌 역량을 강화하기 위한 교육 및 정보 공유를 제공하고, 4) 정책 입안자를 포함한 AI 표준 구축에 대한 접근 방식의 조정을 촉진할 것을 제안합니다.
• 초안 발행물은 https://airc.nist.gov/docs/NIST.AI.100-5.Global-Plan.ipd.pdf 에서 확인할 수 있습니다.

III.    BIS 제안 규칙
BIS 제안 규칙은 미국 IaaS(Infrastructure as a Service) 제공업체가 포괄적인 고객 식별 프로그램을 시행하고, 해외 연결에 대한 보고를 하며, 악의적인 사이버 활동의 오용을 방지하기 위한 시스템을 유지하도록 요구할 것입니다. 

1. 적용 대상

• BIS 제안 규칙은 “IaaS”를 운영 체제 및 애플리케이션을 포함하여 사전 정의되지 않은 소프트웨어를 실행하기 위해 배포될 수 있는 스토리지, 네트워크 또는 기타 기본 컴퓨팅 리소스를 제공하는 제품 또는 서비스로 정의하고 있습니다.
• 미국 IaaS 제공업체에는 미국인, IaaS 제품을 판매하는 외국 법인의 미국 자회사 및 해당 제품의 미국 재판매인이 포함됩니다. 미국 IaaS 제공업체의 해외 자회사는 IaaS 제공업체에 포함되지 않지만 고객 식별 프로그램 요구 사항을 준수하여야 합니다.

2. 고객식별프로그램(“CIP”)에 필요한 사항

• 신원 확인 및 확인: CIP에는 고객 신원을 확인하고 미국인인지 외국인인지 여부를 결정하는 절차를 상세히 기술하여야 합니다. 또한 CIP에는 고객의 신원을 확인할 수 없는 경우 계정 종료 등의 개선 절차가 포함되어야 합니다.
• 데이터 수집 및 유지 관리: 미국 IaaS 제공업체는 계좌를 개설하기 전에 잠재적 외국 고객 또는 외국 실소유자로부터 이름, 주소, 수단 및 지급처, 이메일 주소, 전화 연락처 정보 및 IP 주소를 포함하는 검증 정보를 수집 및 유지하도록 규정하여야 합니다.
• 보존 및 보안 요구 사항: 미국 IaaS 제공업체는 고객 계정이 마지막으로 액세스되거나 폐쇄된 후 최대 2년 동안 기록과 데이터를 안전하게 보관해야 합니다.
• 외국 재판매인: 각 미국 IaaS 제공업체는 IaaS 제품의 외국 재판매인이 자체 서면 CIP를 구현 및 유지하도록 보장해야 하며, 요청 시 BIS에 외국 재판매인의 CIP를 제공해야 한다.
• 보고 및 감사: 미국 IaaS 제공업체는 제안된 규칙이 발효된 후 BIS로부터 CIP 요건 준수를 인증받아야 하며, 매년 이를 갱신하여야 합니다. 인증 보고서에는 이행에 관한 사항 및 해외 재판매인의 컴플라이언스에 관한 세부 정보가 포함되어야 하며, 중요한 변경 사항이 있을 경우 적시에 이를 보고하여야 합니다. 상무부는 감사를 실시하거나 변경을 요청할 수 있습니다.
• 대안 규정 준수: 미국 IaaS 제공업체 및 해외 재판매인은 IaaS 제품의 남용을 방지하는 데 필요한 보안 시스템을 구축함으로써 CIP 요건에서 면제될 수 있습니다.

 
3. 악의적인 사이버 활동 방지를 위한 조치

• “악의적인 사이버 활동”은 통신 시스템, 네트워크, 컴퓨터 또는 정보 시스템에 의해 통제되는 물리적 또는 가상 인프라 또는 해당 시스템에 포함된 정보의 기밀성, 무결성 또는 가용성을 해치려는 활동을 의미합니다.
• 상무부 장관은 1) 악의적인 사이버 활동을 위하여 미국 IaaS 제품을 남용한 사례가 많은 특정 해외 지역의 계정 및 2) 악의적인 사이버 활동을 위해 미국 IaaS 제품을 이용하는 것을 직접적으로 지원하고 있다고 밝혀진 특정 인원에 대한 계정을 차단하거나 제한을 부과할 수 있습니다.
• 본 제안 규칙은 또한 미국 IaaS 제공업체가 외국인의 이용이 1) 악의적인 사이버 활동에 사용될 수 있는 대형 AI 모델의 훈련에 이용되거나 2) 원래 그러한 훈련을 의도하지 않았지만 교육 절차 및 모델 역량의 개발 또는 업데이트로 인해 그러한 훈련을 초래할 수 있다는 점을 알거나 합리적으로 알 수 있었다면, 이러한 거래를 보고하도록 정하고 있습니다.
• “악의적인 사이버 활동에 사용될 수 있는 잠재적 능력을 가진 대형 AI 모델”은 “이중 용도 기반 모델의 기술적 조건을 가진 AI 모델 또는 기타 우려되는 기술적 매개 변수를 가진 AI 모델로 정의됩니다. 이는 사회 공학 공격, 취약성 발견, 서비스 거부 공격, 데이터 오염, 대상 선택 및 우선 순위 지정, 허위 정보 또는 잘못된 정보 생성 및/또는 전파, 사이버 원격 명령 및 제어 등을 포함하되 이에 국한되지 않는 악의적인 사이버 활동의 측면을 지원하거나 자동화하는 데 사용할 수 있는 기능을 갖추고 있는 시스템을 의미합니다.

4. 집행

• 제안된 규칙의 요건을 위반할 경우 위반 건당 최대 250,000달러 또는 거래금액의 2배에 해당하는 민사상 처벌을 받을 수 있으며, 위반 건당 최대 1,000,000달러 또는 20년 이하의 징역형에 처해질 수 있습니다.

IV.    재무부 제안 규칙
재무부 제안 규칙은 2022년에 발표된 제안 규칙 제정(Rulemaking)의 일부이지만, AI 산업에 대한 투자 제한은 위 백악관 행정명령에 대한 대응으로 최근 제안에서 추가되었습니다. 재무부 제안 규칙은 특히 특정 조건의 최종 용도 또는 컴퓨팅 능력을 충족하는 중국 AI 기업에 대한 투자를 금지하고 기타 투자의 경우 재무부에 사전 통보를 하도록 요구하고 있습니다. 

1. 준수 의무자

• 미국 시민 또는 영주권자
• 미국 또는 미국 내 주 법률에 따라 설립된 법인(해당 회사의 외국 지사 포함)
• 미국에 거주하는 자

2. 투자 대상 법인

• 재무부 제안 규칙은 중국기업이거나 대부분의 활동을 중국에서 하는 법인으로서, 아래 대상 활동에 관여하는 법인을 투자 대상 법인으로 하고 있습니다.
• “대상 외국인”은 대상 투자 법인의 의결권 또는 기업경영의 방향성에 영향력을 갖는 중국 외 법인을 포함하며, 해당 매출, 지출, 경비 또는 이익의 절반 이상이 대상 활동에 종사하는 중국 법인에 기인하는 경우를 의미합니다.
• 재무부 제안 규칙은 또한 군사적 최종 사용자 목록, 군사 정보 최종 사용자 목록 또는 상무부 산하 법인 목록을 포함한 미국 수출 통제 대상으로서 제재받은 사람들에게도 동일하게 적용된다고 규정하고 있습니다.

3 대상 활동

• 반도체/마이크로일렉트로닉스 산업, 양자 정보 기술 산업, AI 시스템 산업이 대상 활동에 포함됩니다.
• AI 시스템의 경우, 1) 군사, 정부 지능화사업 또는 대량 감시용으로 독점적으로 설계되거나 이를 의도한 시스템, 또는 2) 10^24와 10^26 사이에 제안된 임계점을 넘는 AI 시스템의 개발을 위한 활동은 금지됩니다.
• AI 시스템의 경우, 1) 군사, 정보 또는 대량 감시를 위한 비독점적 사용, 2) 사이버 보안 및 디지털 포렌식 용도, 3) 로봇 시스템의 제어, 및 4) 금지 기준치보다 낮은 특정(아직 결정되지 않은) 컴퓨팅 파워를 가진 경우에는 재무부 통지 요건을 따라야 합니다.

4. 대상 투자 활동

• 증권거래위원회에 등록된 투자회사가 공개적으로 거래 또는 거래하는 경우를 제외하고, 지분의 취득 또는 지분의 취득에 영향을 미치는 파생거래
• 지분으로 전환되거나 보유자에게 경영권을 부여하거나 이사회를 선임할 수 있는 채무 인수
• 중국 내 신규 벤처 설립을 초래할 자산 인수 또는 합작투자
• 투자 대상 기업의 활동에 관하여 투자자가 실제로 알고 있거나 합리적인 범위 내에서 알 수 있었다면, 재무부 제안 규칙이 적용됨. 이는 BIS 제안 규칙의 CIP 요건과 유사한 방식으로 합리적인 실사를 요구한다고 해석됨
• 통지가 필요한 거래에 관여한 사람도 지속적인 모니터링 요건을 준수해야 함

5. 집행

• 위반 행위에는 재무부 제안 규칙에 의해 금지된 거래에 관여하거나, 필요한 조치(통지 등)를 취하지 않거나, 통지에 중대한 허위 진술을 하거나, 본 계약의 요건을 회피하기 위한 조치가 포함됩니다.
• 민사상 처벌에는 기본 거래 가치의 최대 2배(또는 약 360,000달러)의 벌금이 포함될 수 있습니다.  투자는 무효 및/또는 매각될 수 있으며, 고의적 위반에 대해 최대 20년 징역 및 최대 100만 달러의 벌금에 처해질 수 있다.

V.    시사점
BIS의 규칙이 정해지는 데까지는 시간이 걸리겠지만, 향후 규제에 대비하는 것이 도움이 될 것입니다.  또한 BIS는 클라우드 서비스 제공업체에 영향을 미칠 수 있는 미국 수출 통제에 규정을 추가할 수 있음을 시사한 바 있습니다. 따라서, BIS의 제안 규칙은 IaaS와 관련된 더 많은 규제 및 제한을 초래할 수 있습니다. 한편, 재무부는 2024년 8월 4일까지 제안된 규칙에 대해 의견을 수렴할 예정입니다.  재무부 제안 규칙에는 대상 활동에 대한 “관여”의 정의, 계열사 또는 투자펀드를 통해 간접적으로 투자할 수 있는 범위, 거래를 시작하기 전에 필요한 실사의 범위 등 많은 모호함을 가지고 있어, 그에 대해 주목할 필요가 있습니다.