미국 캘리포니아 AI 규제 도입


1. 주요 내용

2024. 9. 캘리포니아 주의 뉴섬(Gavin Newsom) 주지사는 다수의 AI 규제 법안들에 서명하였습니다. 법안들의 내용은 아래와 같습니다.

AI 훈련 데이터 투명성의 강화: AB 2013
뉴섬 주지사는 AI 시스템 개발자가 사용하는 데이터의 출처와 내용을 명확히 공개하도록 요구하는 AB 2013 법안에 서명하였습니다. 이 법안은 2026. 1. 1.부터 캘리포니아 주민들에게 제공되는 생성형 AI 시스템 또는 서비스를 개발하는 개인 및 기업이 이를 개발하는데 사용하는 데이터셋의 데이터포인트 정보, 데이터셋의 구매 혹은 라이선스 획득 여부, 데이터셋에 개인 정보 포함되었는지 여부 등을 투명하게 공개하도록 하였습니다.

성적(性的)인 딥페이크 규제: SB 926, SB 981
캘리포니아는 SB 926과 SB 981을 통해 AI 기술을 이용한 성적 이미지 또는 동영상 생성 및 배포를 불법으로 규정했습니다. SB 926은 식별 가능한 사람의 신체나 성행위를 묘사하는 이미지나 동영상을 그 사람이 심각한 정서적 피해를 입을 것을 알면서도 생성하는 행위를 불법으로 규정합니다. SB 981은 소셜 미디어 플랫폼에 성적인 딥페이크 신고 채널을 마련하도록 의무화하고, 플랫폼이 신고된 콘텐츠를 신속히 조사하고 삭제하도록 합니다.

AI 투명성법: SB 942
캘리포니아 AI 투명성법(SB 942)은 매월 100만 명 이상의 방문자 또는 사용자가 있는 AI 시스템 개발자에게 AI 콘텐츠 탐지 도구와 AI 워터마크 표시 기능을 제공하도록 요구합니다. 이는 사용자가 AI 콘텐츠를 쉽게 식별할 수 있도록 하여 AI의 투명성을 높이고자 하는 조치입니다.

AI를 통한 개인의 디지털 복제물 사용에 대한 보호: AB 2602, AB 1836
이 두 법안은 AI가 배우 및 공연자들의 개인 디지털 복제물(외모, 목소리 등)을 무단 사용하는 것을 규제합니다. AB 2602는 개인이 자신의 인격을 활용해 디지털 복제물을 생성할 때 계약상의 투명성을 보장하고 계약 협상 시 전문적인 대리인의 조력을 받아야 합니다. AB 1836은 배우의 사후 최대 70년 동안 디지털 복제물의 사용을 보호할 수 있는 권리를 상속인에게 부여합니다.

기타 AI 선거 악용 방지, 소비자 보호: AB 2655, AB 2839, AB 1008, AB 3030, SB 1120 등
그 외에도 캘리포니아 뉴섬 주지사는 AI 기술이 선거와 같은 중요한 사안에 악용되는 것을 방지하기 위한 법안들에 서명하였습니다. 대형 온라인 플랫폼이 선거와 관련된 AI 딥페이크를 삭제하거나 AI임을 표시하도록하는 AB 2655와 같은 법안이 포함되어 있습니다. 또한 AB 1008은 소비자 프라이버시법을 개정하여 AI시스템이 저장하는 정보를 포함도록 개인 정보와 관련한 정의를 명확히 하였습니다. 이에 더하여 AB 3030 및 SB 1120과 같이 AI가 포함된 의료 서비스를 규제하는 법안 및 AB 2876, SB 1288과 같이 교육 분야에서 안전하고 효과적인 AI의 사용과 관련하여 모델 정책을 담은 법안들도 시행될 예정입니다.

뉴섬 주지사의 SB 1047 거부
그러나 뉴섬 주지사는 가장 강력한 AI 규제 법안으로 고려되던 SB 1047에 대하여는 거부권을 행사하였습니다. SB 1047은 AI모델의 개발자와 운영자에게 기술적 및 조직적 통제, 안전성 시험 의무화, 제3자 감사, 내부 고발자의 보호 등 광범위한 의무를 부과하는 법안이었습니다. 이 법안은 하원과 상원을 압도적으로 통과하였지만 AI 업계 관계자들로부터 많은 반대를 받았었는데, 뉴섬 주지사는 예상과 다르게 이 법안의 서명을 거부한 것입니다.



2. 유의사항 및 시사점

미국 연방 차원의 AI 규제 부재로 인해 미국의 개별주들은 자체적으로 법안을 도입하여 그 공백을 보완하고 있는데, 캘리포니아의 AI 규제 법안 통과는 이러한 흐름의 선두주자로서 AI 기술의 급속한 발전에 대응하여 개인의 권리 보호와 사회적 책임을 강화하고자 합니다. 내년부터 일부 도입되기 시작하여 2027. 6. 전면 시행을 앞두고 있는 EU의 AI법에 맞서 미국에서는 캘리포니아가 AI 규제의 선도적인 역할을 함에 따라, 캘리포니아의 AI 법안들은 다른 주나 연방 차원의 AI 규제 나아가, 한국을 포함한 다른 국가들의 AI 규제 법안 도입에도 영향을 줄 가능성이 높습니다. 다만, SB 1047과 마찬가지로 AI 산업의 발전을 제한할 가능성이 있는 법안을 비롯하여 제안된 모든 법안이 통과된 것은 아닌 만큼, 앞으로 추가적인 법안의 통과 여부에 주의를 기울일 필요가 있습니다. 그럼에도 더 많은 주와 국가들이 캘리포니아와 같이 AI의 투명성, 책임성 등을 강조하고 남용을 방지하는 법안을 도입할 것으로 예상되며, 이는 앞으로 AI 산업 참여자들에게 더 큰 책임과 규제 준수를 요구할 것으로 보입니다.