최근 국회 본회의 통과(2024. 12. 26.)된 인공지능기본법 주요 내용


법무법인 대륙아주 이상봉 변호사
법무법인 대륙아주 이창우 변호사



1. 인공지능기본법의 도입배경

지난 2024. 12. 26. 국회 본회의에서는 “인공지능 발전과 신뢰 기반 조성 등에 관한 기본법안”(이하 “인공지능기본법”이라고 합니다)이 통과되었고, 정부 이송 절차를 거쳐 법률로 공포 및 시행될 예정입니다. 인공지능기본법은 2024. 5. 31. 안철수의원 등이 발의한 인공지능 산업 육성 및 신뢰 확보에 관한 법률안을 비롯하여 제22대 국회에서 발의한 총 19개의 법안이 병합되어 제정되었습니다.

인공지능기술은 2010년대 후반부터 딥러닝, 자연어 처리, 생성형 AI 등의 기술이 급격하게 발전하면서 국가 경쟁력 강화의 핵심 기술로 자리잡고 있습니다. 특히 미국, 유럽 연합, 중국 등의 주요국가들은 이미 인공지능 기술 개발 및 관련 정책을 마련하고 있으며, 유럽 연합의 경우 EU AI Act를 2021년에 제안하여 2024. 8. 1.에 위 법안을 발효시켰습니다.

그러나 인공지능기술의 발전 속도에 비하여 인공지능기술로 인한 개인 정보 침해, 알고리즘 편향 등의 윤리적 문제 및 사회적 신뢰적 문제를 해결하는 속도는 더딘 상황입니다. 이에 따라 고위험 인공지능시스템의 책임 소재 및 안정성 확보를 위한 규제의 필요성이 제기되었습니다. 또한 대한민국은 인공지능기술에 대한 미국 등의 주요국가에 비하여 정부 차원의 지원이 부족한 상황이었습니다. 게다가 이와 같은 인공지능기술의 발전에 필수적인 대규모 데이터 처리 및 강력한 컴퓨팅 인프라에 대한 국가적 차원의 지원도 없었습니다.

기존의 법 체계는 급변하는 인공지능기술과 산업을 제대로 규율하고, 지원하지 못하고 있었습니다. 따라서 단순힌 인공지능기술의 발전을 촉진하는데 그치지 않고, 사회적 신뢰를 구축하고 산업 생태계를 지원하고, 국가적 경쟁력을 갖추기 위한 종합적인 목적을 가지고 제정되었습니다.



2. 인공지능기본법의 주요 내용

가. 인공지능기본법의 목적(법 제1조)

“이 법은 인공지능의 건전한 발전과 신뢰 기반 조성에 필요한 기본적인 사항을 규정함으로써 국민의 권익과 존엄성을 보호하고 국민의 삶의 질 향상과 국가경쟁력을 강화하는 데 이바지함을 목적으로 한다.”라고 하여 인공지능기본법의 목적을 명확하게 밝히고 있습니다.


나. 인공지능기본법 용어의 정의(법 제2조)

인공지능, 인공지능시스템, 인공지능기술, 고영향 인공지능, 생성형 인공지능, 인공지능산업, 인공지능윤리 등 인공지능과 관련된 용어를 정의하고 있습니다.


다. 인공지능 발전을 위한 계획(법 제6조 내지 제12조)

제6조는 과학기술정보통신부장관에게 중앙행정기관의 장 및 지방자치단체의 장의 의견을 들어 3년마다 인공지능 기본계획을 수립ㆍ변경 및 시행하여야 한다는 의무를 부과하고 있으며, 인공지능의 기본계획에는 정책의 기본 방향과 전략, 전문인력 양성 및 인공지능 개발ㆍ촉진 기반 조성, 인공지능윤리에 관한 사항 등을 포함할 것을 요구하고 있습니다.

제7조 내지 제10조는 위 인공지능 기본계획 및 주요 정책 등에 관한 사항을 심의ㆍ의결하는 국가인공지능위원회에 관한 사항을 규정하고 있으며, 제11조와 제12조는 인공지능 관련 정책 이나 인공지능으로부터의 안전을 위한 인공지능정책센터, 인공지능안전연구소에 관한 사항을 규정하고 있습니다.


라. 인공지능기술 개발 및 산업 육성(법 제13조 내지 제26조)

제13조는 정부가 인공지능기술 개발 및 안전한 이용을 위한 사업을 지원할 수 있도록 규정하고 있으며, 제15조에서는 인공지능기술 개발을 위한 학습용데이터를 위한 시책을 마련할 것을 규정하고 있습니다.

제16조부터는 인공지능기술 개발 및 인공지능산업 활성화를 위한 지원을 규정하고 있습니다.


마. 인공지능 윤리 및 신뢰성 확보(법 제27조 내지 제36조)

법 제2조 제11호에서 규정하는 인공지능윤리란 “인간의 존엄성에 대한 존중을 기초로 하여, 국민의 권익과 생명ㆍ재산을 보호할 수 있는 안전하고 신뢰할 수 있는 인공지능사회를 구현하기 위하여 인공지능의 개발, 제공 및 이용 등 모든 영역에서 사회구성원이 지켜야 할 윤리적 기준을 말한다.”입니다.

법 제27조는 이와 같은 인공지능윤리의 확산을 위하여 “인공지능의 개발ㆍ활용 등의 과정에서 사람의 생명과 신체, 정신적 건강 등에 해가 되지 않도록 하는 안전성과 신뢰성에 관한 사항, 인공지능기술이 적용된 제품ㆍ서비스 등을 모든 사람이 자유롭고 편리하게 이용할 수 있는 접근성에 관한 사항, 사람의 삶과 번영에의 공헌을 위한 인공지능의 개발ㆍ활용 등에 관한 사항”이 포함된 인공지능 윤리원칙을 제정하고 공표할 수 있도록 규정하고 있습니다. 법 제28조는 위 윤리원칙의 준수 여부를 확인하거나, 이에 관한 조사, 연구, 감독, 교육 등의 업무를 수행하는 민간자율인공지능윤리위원회를 설치할 수 있도록 규정하고 있습니다.

법 제29조는 인공지능의 신뢰 기반 조성을 위한 시책을 마련할 것을 규정하고 있고, 법 제30조는정부가 인공지능 안정성과 신뢰성 검증, 인증 등을 지원할 수 있는 사업을 추진할 수 있도록 규정하고 있습니다.

또한 법 제31조는 인공지능사업자에게 인공지능의 투명성을 확보할 의무를 부과하여 고영향 인공지능, 생성형 인공지능을 이용한 경우 이를 고지할 것을 규정하고 있습니다. 법 제32조는 인공지능사업자에게 인공지능의 안정성을 확인할 의무를 부과하고 있습니다. 법 제34조는 고영향 인공지능을 이용하는 인공지능사업자에게 위험관리방안, 이용자 보호 방안 등 추가적인 의무를 부과하고 있습니다.

마지막으로 법 제36조는 국내에 주소 또는 영업소가 없는 인공지능사업자에게 이와 같은 의무를 이행할 수 있는 국내 대리인을 지정할 것을 의무화 하고 있습니다.


바. 실태조사(법 제38조)

법 제38조는 기본계획 및 인공지능등 관련 시책과 사업의 기획ㆍ수립ㆍ추진을 위하여 국내외 인공지능등에 관한 실태조사, 통계 및 지표를 작성ㆍ관리하고 공표하여야한다고 규정하고 있습니다.


사. 사실조사와 과태료 등(법 제40조, 제43조)

법 제40조는 과학기술정보통신부장관에게 제31조, 제32조 및 제34조 등 의무를 부과한 사항에 대하여 위반사항을 발견하거나 혐의가 있음을 알게된 경우, 신고를 받거나 민원이 접수된 경우에는 조사할 권한을 부여하고 있으며, 이를 위반한 사실을 발견한 경우에는 시정조치 등을 명할 수 있도록 하고 있습니다.

또한 제43조에서는 위 의무를 위반한 자에 대한 과태료 부과 조항을 규정하고 있습니다.



3. 시사점

이번에 통과된 인공지능기본법의 주요 내용은 인공지능의 발전과 인공지능윤리를 두 축으로 규정하고 있습니다. 이 법은 인공지능 발전을 위한 정책 수립과 정부의 지원을 규정하는 한편, 인공지능윤리와 같은 일반적인 사업에서 다루지 않는 규정을 추가적으로 규정하고 있습니다. 이는 인공지능 기술이 사회와 경제에 미치는 광범위한 영향력, 책임 소재의 불분명성, 기본권 침해 가능성, 그리고 의사결정 과정의 신뢰성 부족과 같은 윤리적 문제를 해결하기 위해 마련된 것입니다.

2019. 5., OECD 회원국과 일부 비회원국들은 OECD AI 윤리 원칙을 채택했으며, 여기에는 인공지능이 사회 발전과 지속 가능한 개발을 목표로 하며, 인간 중심적 가치, 공정성, 투명성, 설명 가능성, 안전성, 책임성을 준수해야 한다는 원칙이 포함되어 있습니다. 대한민국은 이를 바탕으로 2020년에 인공지능 윤리기준을 설정했습니다. 또한, 2021년 EU가 제정한 AI Act는 인공지능 시스템을 위험 수준에 따라 분류하고, 고위험 인공지능에 대해 데이터 관리, 기록 유지, 정보 제공, 인간의 감독, 안전성 및 신뢰성 확보와 같은 구체적 요구 사항을 규정했습니다.

인공지능기본법은 이러한 국제적 윤리 원칙과 EU AI Act의 규제 체계를 참고하여, 국내 실정에 맞는 윤리 원칙을 추가로 반영했습니다. 그러나 EU AI Act가 윤리 문제를 구체적으로 법적 의무로 부과하여 금지 조항과 고위험 인공지능 규제를 통해 강력한 법적 구속력을 가지는 데 반해, 대한민국의 기본법은 윤리 문제를 포괄적으로 설정하여 원칙 중심의 접근 방식을 취하고 있습니다.

현재 인공지능 기술의 발전 속도가 규제 속도를 앞서가고 있는 만큼, 이러한 원칙 중심의 접근 방식은 각 개별 사안에 대한 윤리 문제를 해결할 수 있는 유연한 법적 틀을 제공합니다. 그러나 구체적인 사안에 대한 규제는 원칙 중심의 접근 방식으로는 해결하기 어려우므로 앞으로도 구체적인 윤리 문제와 이를 해결할 법적 규제를 신속하게 마련하는데 지속적인 관심과 노력이 필요합니다.