유럽연합, AI 규제법안에 대하여 전격 합의


법무법인(유한) 대륙아주 강우경 변호사¹



1. 합의안    

  지난 12월 8일(현지시간) 유럽연합은 지난 수개월간의 치열한 논의 끝에 세계최초로 AI를 규제하는 법안인 『EU AI Act』(이하 ‘EU 인공지능법’)에 전격 합의하였습니다. 향후 최종안이 확정되면 EU 입법 기관의 확인을 거쳐 정식 법으로 채택되어 발효될 것이고, 기업들은 2년의 유예기간 이후(일부 조항 제외) 본격적으로 법을 준수하여야 할 것입니다. 

  EU인공지능법은 위험성이 높을수록 강한 규제를 적용하는 위험기반접근방식(risk-based approach)을 채택하였습니다. 금번 합의안의 내용을 간단히 살펴보면 다음과 같습니다.


1) AI 사용의 위험성 등급 분류

  EU인공지능법의 가장 큰 특징은 AI의 용례에 따라 ① 금지된 위험(unacceptable-risk), ② 고위험(high-risk), ③ 제한적 위험(limited-risk), ④ 최소/무위험(minimal/no-risk)의 범주로 위험성 등급을 분류하여 규제하는 것입니다. 대부분의 규제는 금지된 위험 및 고위험 AI에 집중될 것으로 예상됩니다.

  EU의 가치에 반하고, 기본권에 대한 명백한 위협으로 간주되는 ‘금지된 위험’을 초래하는 AI시스템은 전면 금지됩니다. 민감한 특성(정치·종교적 신념, 성적 지향, 인종 등)을 사용하는 생체인식 분류시스템이 대표적입니다.

  건강, 사회안전, 환경, 민주주의 등에 대한 중대한 잠재적 해악이 있는 AI는 ‘고위험’으로 분류됩니다. 고위험 AI시스템의 제공자 및 배포자에게는 위험완화, 데이터 거버넌스, 투명성, 사이버보안 등과 관련된 포괄적 의무가 부여됩니다.

  챗봇이나 생체 인식 분류 시스템, 딥페이크 생성 시스템 등 ‘제한적 위험’으로 분류된 AI에는 최소한의 투명성 의무가 적용될 것입니다. 즉, 사용자가 AI와 상호작용하고 있음을 사용자에게 알리고 합성 오디오, 비디오, 텍스트 및 이미지 콘텐츠를 사용자를 위해 인위적으로 생성 또는 조작된 것으로 기계가 읽을 수 있는 형식으로 표시해야 합니다.

  그 밖에 ‘최소/무위험’으로 분류된 AI의 경우 대체로 규제를 하지 않되, 자발적인 행동 강령(자율규제)을 권장하고 있습니다.


2) 범용 AI에 대한 규제

  EU인공지능법에는 대규모 언어 모델(LLM)을 규제하는 내용도 담겼습니다. 범용 AI(AGI·이미지, 영상, 음성 등 데이터를 일반적인 인간에 가까운 지능으로 생성하는 AI)를 개발하는 기업은 AI의 학습 과정에 사용된 데이터를 요약해 보고해야 하고, AI 학습에 이용된 콘텐츠를 명시하는 등 투명성에 대한 요건도 준수해야 합니다. 이미지 생성 AI는 결과물에 ‘AI 생성 콘텐츠’란 표시를 넣어야 합니다.


3) 벌금 부과 

  금지된 AI 애플리케이션 위반 시 3,500만 유로 또는 당해기업 직전 회계년도 전세계 매출액 7% 중 더 큰 금액, AI법의 의무 위반 시 1,500만 유로 또는 전세계 매출액 3% 중 더 큰 금액, 부정확하거나 불완전한 정보 제공 시 750만 유로 또는 전세계 매출액 1.5% 중 더 큰 금액으로 벌금을 부과하는 내용을 담고 있습니다.

2. 시사점

  EU인공지능법의 세부적 기술사항은 추후 구체화되어 확정될 것이지만 금번 합의에서 AI 규제의 방향성이 정해졌고, 해당 내용이 향후 AI 규제에 관한 관련한 국제적 표준으로 기능할 가능성도 있는 만큼, 이에 대한 면밀한 검토와 대비가 필요합니다. 특히 EU에 진출했거나 진출예정인 기업의 경우 금지된 위험, 고위험으로 간주된 AI 사용 사례를 검토하여 기업의 기술 개발 및 사용과 어떤 관련이 있는지 평가하여 법 준수 전략을 사전에 수립할 필요가 있고, EU진출 예정이 없는 기업의 경우 본 법의 지침을 참고함으로써 AI 사용과 개발을 효과적으로 관리하고 잠재적 법률 리스크를 경감할 수 있을 것으로 보입니다.