미국과 영국의 AI 규제동향


법무법인(유한) 대륙아주 이상봉 변호사
법무법인(유한) 대륙아주 황규민 변호사



1. 미국 정부의 AI 규제를 위한 행정명령 발표   

  바이든 미국 행정부는 2023. 10. AI를 규제하는 첫 행정명령(Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence)을 발표하였습니다. 기존 트럼프 행정부의 행정명령(Promoting the Use of Trustworthy Artificial Intelligence in the Federal Government)이 신뢰성 있는 AI의 사용을 통한 AI의 촉진에 집중하였다면, 바이든 행정부의 행정명령은 안전성, 보안성, 신뢰성 있는 AI의 개발과 활용을 위하여 연방정부와 기업의 책임을 강화하는, 역대 가장 포괄적인 AI 규제와 지침을 담고 있습니다. 

  바이든 정부의 위 행정명령은 국가 안보, 공공 안전 등에 영향을 미치는 AI 기술개발과 이용을 규제하겠다는 것으로, ① AI를 위한 새로운 안전 및 보안기준 마련, ② 개인정보 보호, ③ 형평과 시민권 증진, ④ 소비자 보호, ⑤ 노동자 지원, ⑥ 혁신과 경쟁 촉진, ⑦ 국제 파트너와의 협력, ⑧ 연방정부의 AI 사용과 조달을 위한 지침 개발 총 8개 부분으로 구성되어 있습니다. 

  바이든 정부의 행정명령에서 주목할 만한 부분은, 안보, 경제, 공중보건과 안전에 위협을 가할 수 있는 AI 모델의 개발자로 하여금 훈련 단계부터 정부에 고지하여야 하며, 정부검증 전문가팀(AI 레드팀)의 안전성 평가를 받아 그 결과를 정부에 보고할 것을 의무화한 부분입니다. 특히, 국방물자생산법(Defense Production Act)에 근거하여 미국 기업의 AI 기술을 이용하는 외국인(기업)도 적용대상으로 하여 외국인도 안전성 평가 및 그 결과를 보고하도록 한 점, 미국 클라우드 서비스 제공자의 외국고객 명단 신고를 의무화한 점은, 현재까지 발표된 AI 규제조치 중 가장 강력한 조치로서 세계 AI 규제 표준을 마련하고자 하는 포석이 있는 것으로 평가되고 있습니다.

  바이든 정부에서는 2024. 1. 위 행정명령 발효 후 90일간의 진전사항을 담은 Fact Sheet(Vice President Harris Announces New U.S. Initiatives to Advance the Safe and Responsible Use of Artificial Intelligence)를 통해, 국립표준기술연구소(NIST) 내에 미국 AI 안전연구소(US AISI, The United States AI Safety Institute) 신설을 발표하고, 미국 정부의 AI 활용에 대한 정책 이행 가이드라인 초안을 공개하였습니다. 특히, 미국 AI 안전연구소를 통해, 사람이 만든 콘텐츠 인증, AI 생성 콘텐츠에 대한 워터마크 표시, 유해 알고리즘 식별 등에 대한 규칙을 제정하고 시행에 필요한 기술 가이드라인을 개발할 예정이라며, 적극적으로 AI 규제를 시행할 것임을 밝혔습니다. 



2. 영국 정부의 AI 규제 로드맵 발표

  영국 과학혁신기술부(DSIT)는 2023. 3. ‘AI규제에 대한 혁신적 접근(A pro-innovation approach to AI regulation)’이라는 AI 백서를 발표하여, ‘허용할 수 없는 위험(unacceptable risk)’을 가진 AI는 엄격히 금지하고, ‘고위험 AI(high risk)’에 대하여는 엄격한 요구사항을 부과하는 EU의 강력하고 포괄적인 규제와는 차별화되는 유연한 규제 체계를 제시하였습니다. 

  위 AI 백서에서는 ① AI 주도 국가로서의 영국의 입지 강화, ② 책임있는 혁신 도모 및 규제 불확실성 감소를 통한 AI의 성장과 번영, ③ 위험 규율 및 기본가치 보호를 통한 AI에 대한 대중의 신뢰 제고라는 3가지 목표를 추구합니다. 이를 위해, 혁신을 억제할 수 있는 AI에 대한 고정 규칙이나 법안 도입은 최소화하고, (새로운 단일 규제기관을 신설하여 전권을 부여하는 것이 아니라) 기존 관련 기관이 부문별ㆍ상황별 지침을 채택하는 유연한 규제방식을 취한다는 방침을 내세우고 있습니다. 특히, 위 기관들로 하여금 AI가 활용되는 개별적 맥락을 중요시하면서도, (1) 안전ㆍ보안ㆍ견고성, (2) 투명성ㆍ설명 가능성, (3) 공정성, (4) 책임ㆍ거버넌스, (5) 이의제기ㆍ시정이라는 5가지 공통적 원칙을 제시하여, 우선순위를 정해 규제를 적용하고, 성장과 혁신을 모두 지원할 수 있는 비례적 접근을 취할 것을 제안하였습니다.

  한편, 영국은 EU와 미국의 서로 다른 규제 접근방식, 글로벌 AI 산업에서의 미국과 중국의 경쟁구도 등의 정세를 활용하여, 영국이 AI 국제표준에 중추적인 역할을 시도하고 있으며, 그러한 일환으로 2023. 11. 세계에서 처음으로 ‘AI 안전성 정상회의(AI Safety Summit)’를 개최하였습니다. AI에 대한 최초의 글로벌 정상회담으로, 미국, 중국, 캐나다, 독일, 인도, 대한민국 등 28개국 및 EU가 참석하였으며, 위 회의에서 영국은 AI 안전성 국제기구 설립을 제안하는 등 미국, 중국, EU 등 주요국 사이에서 중개자로서 AI 규제논의를 주도하고 있습니다.



3. 시사점

  해외 주요국가에서는 AI 규제를 위한 행정명령, 관련 백서 등 다양한 형태의 정책을 제시하고 있는 상황에서, 미국 기업의 AI 기술을 이용하는 외국인(기업)도 AI 모델 훈련 단계부터 정부에 고지하고, 정부검증 전문가팀(AI 레드팀)의 안전성 평가를 받아 그 결과를 정부에 보고하여야 하는 미국 행정부의 행정명령 발효로 인하여, 향후 국가별 경계를 넘어선 AI 규제가 가속화될 것으로 예상됩니다.