공유하기
TMT 이슈리포트 - ｢AI 기본법｣ 개정안의 주요 내용과 시사점
｢AI 기본법｣ 개정안의 주요 내용과 시사점
법무법인 대륙아주 김성율 변호사1
1. AI 기본법 제정 배경
인공지능은 모든 산업 뿐만 아니라 사회를 바꾸는 기반 기술로 최근 인공지능의 성능이 비약적으로 발전함에 따라 우리 사회 각 분야에서 인공지능의 활용이 급속히 확대되고 있습니다. 특히, 생성형 인공지능의 등장에 따라 인공지능이 가져올 잠재적 혜택과 함께 위험성에 대한 우려가 전 세계적으로 주목받고 있습니다.
이에 인공지능 산업을 진흥하면서 동시에 인공지능 기술에 대한 기준을 마련하여야 할 필요성이 대두되었고, 국회는 총 19건의 인공지능(AI) 관련 기본법 제정안을 발의하였습니다. 국회 정보통신방송법안심사소위원회는 2024. 11. 21. 이상 19건의 법률안을 병합하여 심사한 결과, 이를 통합·조정하여 위원회의 대안을 제안하기로 하였고, 국회 과학기술정보방송통신위원회는 2024. 11. 26. 위원회 대안을 의결하였습니다.
이 법안의 정식 명칭은 “인공지능 발전과 신뢰 기반 조성 등에 관한 기본법안”(이하 “AI 기본법”이라 합니다)이며, 인공지능의 건전한 발전을 지원하고 인공지능사회의 신뢰 기반 조성에 필요한 기본적인 사항을 규정함으로써 국민의 권익과 존엄성을 보호하고 국민의 삶의 질 향상과 국가경쟁력을 강화하는데 이바지할 수 있는 대한민국 인공지능의 새로운 기준을 마련함을 목적으로 하고 있습니다.
2. AI 기본법 제정안의 주요 내용
가. 정의(제2조): 인공지능, 고영향 인공지능, 생성형 인공지능, 인공지능윤리 및 인공지능사업자 등에 대하여 정의하고 있습니다. “고영향 인공지능”이란 사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템으로서 구체적 내용을 각 목에서 열거하고 있습니다. “생성형 인공지능”이란 입력한 데이터의 구조와 특성을 모방하여 글, 소리, 그림, 영상, 그 밖의 다양한 결과물을 생성하는 인공지능시스템을 말합니다. “인공지능산업”이란 인공지능 또는 인공지능기술을 활용한 제품을 개발∙제조∙생산 또는 유통하거나 이와 관련한 서비스를 제공하는 산업을 말합니다. “인공지능사업자”란 인공지능산업과 관련된 사업을 하는 자로서 인공지능을 개발하여 제공하거나(인공지능개발자), 인공지능개발자가 제공한 인공지능을 이용하여 인공지능제품 또는 인공지능서비스를 제공하는(인공지능이용사업자) 법인, 단체, 개인 및 국가기관 등을 말합니다.
나. 인공지능 기본계획의 수립(제6조): 과학기술정보통신부장관은 3년마다 인공지능기술 및 인공지능산업의 진흥과 국가경쟁력 강화를 위하여 인공지능 기본계획을 국가인공지능위원회의 심의·의결을 거쳐 수립·시행하고, 기본계획에는 인공지능 정책의 기본 방향, 전문인력 양성, 신뢰 기반 조성 등에 관한 사항이 포함되어야 합니다.
다. 국가인공지능위원회(제7조, 제8조): 인공지능산업의 진흥 및 인공지능 신뢰 기반 조성을 위한 주요 정책 등에 관한 사항을 심의·의결하기 위하여 대통령 소속의 국가인공지능위원회를 두고, 국가인공지능위원회는 기본계획의 수립, 인공지능 활용 촉진, 고영향 인공지능 규율 등에 관한 사항을 심의·의결합니다.
라. 인공지능안전연구소(제11조, 제12조): 과학기술정보통신부장관은 인공지능 관련 정책의 개발과 국제규범 정립∙확산을 위하여 인공지능정책센터를 지정할 수 있고, 인공지능안전을 확보하기 위하여 인공지능안전연구소를 운영할 수 있습니다.
마. 인공지능기술개발 지원 및 표준화(제13조, 제14조): 정부는 인공지능기술의 개발 활성화와 안전하고 편리한 이용을 위하여 국내·외 동향 및 관련 제도의 조사, 기술의 실용화, 연구개발 등의 사업을 지원할 수 있고, 과학기술정보통신부장관은 인공지능기술과 관련된 표준화를 위하여 표준 제정 등의 사업을 추진할 수 있습니다.
바. 전문인력 확보(제21조): 과학기술정보통신부장관은 인공지능기술의 개발 및 인공지능산업의 진흥을 위하여 관련 전문인력을 양성하고, 해외 전문인력의 확보를 위한 각종 시책을 추진할 수 있습니다.
사. 인공지능집적단지 지정(제23조): 국가 및 지방자치단체는 인공지능산업의 진흥과 인공지능 개발∙활용의 경쟁력 강화를 위하여 인공지능 및 인공지능기술의 연구∙개발을 수행하는 기업, 기관이나 단체의 기능적∙물리적∙지역적 집적화를 추진할 수 있습니다.
아. 인공지능윤리원칙(제27조): 정부는 인공지능윤리의 확산을 위하여 안전성∙신뢰성, 접근성, 사람의 삶과 번영에의 공헌 등의 사항을 포함하는 인공지능 윤리원칙을 제정∙공표할 수 있고, 과학기술정보통신부장관은 인공지능 윤리원칙의 실천방안을 수립하고 이를 공개 및 홍보∙교육하여야 합니다.
자. 인공지능 투명성 확보 의무(제31조): 고영향 인공지능 또는 생성형 인공지능을 이용한 제품 또는 서비스를 제공하는 인공지능사업자는 해당 사실을 이용자에게 사전에 고지하여야 하며, 생성형 인공지능 또는 이를 이용한 제품 또는 서비스를 제공하는 경우 그 결과물이 생성형 인공지능에 의하여 생성되었다는 사실을 표시하여야 하고, 인공지능시스템을 이용하여 실제와 구분하기 어려운 가상의 결과물을 제공하는 경우 그 사실을 이용자가 명확하게 알 수 있도록 고지 또는 표시하여야 합니다.
차. 인공지능 안정성 확보 의무(제32조): 인공지능사업자는 학습에 사용된 누적 연산량이 대통령령으로 정하는 기준 이상인 인공지능시스템의 안전성을 확보하기 위하여 위험 식별∙평가∙완화 등의 사항을 이행하여야 합니다.
카. 고영향 인공지능과 관련한 사업자의 책무(제34조): 인공지능사업자는 고영향 인공지능 또는 이를 이용한 제품∙서비스를 제공하는 경우 안전성∙신뢰성을 확보하기 위한 조치를 이행하여야 합니다.
타. 인공지능 영향평가(제35조): 인공지능사업자가 고영향 인공지능을 이용한 제품 또는 서비스를 제공하는 경우 사전에 사람의 기본권에 미치는 영향을 평가하기 위하여 노력해야 합니다. 국가기관 등이 고영향 인공지능을 이용한 제품 또는 서비스를 이용하려는 경우에는 영향평가를 실시한 제품 또는 서비스를 우선적으로 고려하여야 합니다.
파. 국내대리인 지정(제36조): 국내에 주소 또는 영업소가 없는 인공지능사업자로서 이용자 수, 매출액 등이 대통령령으로 정하는 기준에 해당하는 자는 안정성 확보조치 이행결과 제출, 고영향 인공지능 해당 여부 확인 신청, 안전성∙신뢰성 확보조치의 이행에 필요한 지원 등에 관한 국내대리인을 지정하여 신고해야 합니다.
하. 사실조사 등(제40조): 과학기술정보통신부장관은 이 법에 위반되는 사항을 발견하거나 혐의가 있음을 알게 된 경우 인공지능사업자에 대하여 자료를 제출하게 하거나 소속 공무원으로 하여금 필요한 조사를 하게 할 수 있고, 위반 사실이 있다고 인정되면 위반행위의 중지나 시정을 위하여 필요한 조치를 명할 수 있습니다.
거. 과태료(제43조): 고영향 인공지능 또는 생성형 인공지능에 해당한다는 사실을 고지하지 않은 경우, 국내대리인을 지정하지 않은 경우, 중지명령이나 시정명령을 이행하지 않은 경우 3천만원 이하의 과태료가 부과됩니다.
3. 시사점
일부에서는 AI 기본법 제정안에 대하여 “고위험 AI”가 아닌 “고영향 AI”로 정의하거나 관련 업계의 의견에만 치중하여 인공지능의 위험성에 대한 충분한 검토가 미흡하고, 금지되어야 할 AI에 대한 규제가 없다는 등으로 비판하고 있기도 합니다. AI 기본법 제정안은 아직 구체적 내용을 담은 시행령이 개정되기 전이므로 향후 그러한 비판을 어떤 방식으로 수용하여 반영할 것인지에 대해서도 귀추가 주목됩니다.
AI 기본법 제정안은 당초 2024. 11. 28. 본회의 상정 예정이었으나 최근의 정치적 상황으로 인하여 현재 본회의 상정이 지연되고 있습니다. AI 기본법 제정안은 고영향 인공지능, 생성형 인공지능을 구체적으로 정의하고, 인공지능사업자에 대해 투명성∙안정성 확보의무를 부과하면서, 일정 다국적 사업자의 국내대리인 미지정에 대해서도 과태료 등 제재를 정하고 있습니다. 따라서, 인공지능사업자는 향후 제정안 시행에 따른 구체적 규제내용에 유의하여야 할 것으로 보입니다.
