딥페이크 성범죄 대응 강화에 따른 플랫폼 규제와 기업 차원의 시사점


법무법인 대륙아주 신병재 변호사
법무법인 대륙아주 임미하 변호사
법무법인 대륙아주 성보장 변호사



1. 딥페이크 성범죄 처벌수위 강화

가. 현재 시행 중인 딥페이크 처벌 개정안

  딥페이크 성범죄 대응 강화방안 관련, 24. 10. 16.부터 시행중인 성폭력범죄의처벌등에관한특례법상 딥페이크 처벌과 관련된 주요 내용은 다음과 같습니다. 먼저, 성폭력범죄의처벌등에관한특례법 제14조의2 제1항에서 ‘반포등을 할 목적’을 삭제한 것입니다. 이로써 딥페이크 허위영상물의 경우에도 목적과 상관없이 딥페이크 영상물을 편집∙합성∙가공하는 행위를 처벌할 수 있게 되었습니다.

  그리고 허위영상물을 편집∙반포 등을 한 자에 대한 처벌규정이 기존 5년 이하의 징역에서 7년 이하의 징역으로 상향되었고(제14조의2 제2항), 허위영상물의 소지∙구입∙저장∙시청하는 행위를 처벌하는 규정이 신설되었습니다(제14조의2 제4항). 그 외에도 허위영상물을 이용하여 사람을 협박∙강요한 자에 대한 처벌규정도 신설되었습니다(제14조의 3).

  아동∙청소년의성보호에관한법률에서는 아동∙청소년 성착취물을 이용한 협박∙강요에 대한 처벌규정이 신설되었고(법 제11조의2), 사법경찰관리의 신분비공개수사 사후승인제도가 신설되어 긴급한 경우 사후승인이 가능해졌습니다(법 제25조의4).


나. 추진 중인 딥페이크 성범죄 대응 강화방안 관련 개정안

  아직 국회 통과가 되지 않았지만, 현재 추진 중인 딥페이크 성범죄 대응 법안으로 성폭력범죄의처벌등에관한특례법 ‘딥페이크 허위영상물 관련 범죄수익 및 그 범죄수익에서 유래한 재산에 대한 필요적 몰수∙추징’, ‘불법촬영물 및 허위영상물 범죄의 사법협조자에 대한 형벌감면제 도입’ 개정안이 추진중에 있습니다.

  그리고 ‘아동∙청소년 성범죄의 사법협조자에 대한 형벌감면제 도입(아동∙청소년의성보호에관한법률)’, ‘기소 전 범죄수익 몰수와 추징이 가능한 독립 몰수∙추징제 도입(범죄수익은닉의규제및처벌등에관한법률)’, 불법∙허위영상물 제작 유통 피의자의 인터넷 회선 감청 허용(통신비밀보호법)’ 등 딥페이크 성범죄 관련 법안들 역시 국회 법제사법위원회에 계류 중입니다.



2. 플랫폼 사업자 의무 강화 및 딥페이크 피해자 보호강화 

가. 플랫폼 사업자 의무 강화

  정부가 발표한 『딥페이크 성범죄 대응 강화 방안』에는 딥페이크 영상물등이 여러 플랫폼들에 의하여 빠르게 확산됨에 따른 피해 방지를 위해 플랫폼 사업자에 대한 규제를 대폭 강화하는 내용이 포함되었습니다.

  정부는 정보통신망법 및 전기통신사업법 등 플랫폼 사업 관련 법령을 적극해석(구체적으로, 오픈채널 접속링크와 비밀번호를 불특정 다수에게 배포, 접속을 유도하는 것도 청소년유해물 제공·매개 및 불법촬영물 유통에 해당한다고 해석)하여 텔레그램 등에 대하여 불법촬영물 유통과 관련한 적절한 조치를 취하지 않은 사업자를 제재하는 등 국내외 사업자의 의무를 강화할 예정입니다. 만약 플랫폼사업자가 불법촬영물등의 유통방지의무를 불이행하는 경우에는 전기통신사업법에 따라 시정명령, 과징금 부과를 할 예정입니다.

  또한 텔레그램 등 해외 플랫폼 업체들을 청소년 유해물 제공·매개자로 해석하게 된다면 플랫폼 사업자에 대해 청소년보호책임자 관련 자료요구 및 지정의무 통보가 가능해지고, 국내대리인 지정 의무대상이 되며, 이와 관련한 시정명령 및 의무사항요구를 위반할 시 과태료 등 제재가 가해지게 됩니다. 

  또한 정부는 불법촬영물 등 유통방지 노력, 신고·삭제 처리 결과, 책임자 지정 내용 등 매년 제출하는 투명성보고서에 대해 미제출에 더하여 부실·허위 제출하는 경우까지 과태료를 부과하는 규정을 신설하고, 허위영상물 등 디지털 성범죄물 게재자에 대해 서비스이용 중단, 탈퇴 등 제재를 가하는 규정을 신설할 것을 추진할 예정입니다.


나. 피해자 보호 관련 플랫폼 사업자의 삭제의무

  정부는 딥페이크 성범죄 피해자 보호와 관련하여, 성범죄물 게시와 관련하여 사업자가 삭제요청을 받았을 때 성범죄물 여부 판단이 어려운 경우 선(先)차단, 후(後)심의 절차(전기통신사업법 개정)를 의무화하고, 불법영상물 등 삭제 요청시 사업자의 24시간 시한을 명시하고, 삭제결과를 방송통신심의위원회에 의무적으로 제출하는 방안을 추진하겠다고 발표하였습니다. 이는 게시물을 관리하는 플랫폼 사업자에 대한 직접적인 제재가 될 수 있습니다. 


다. 피해자 보호 관련 R&D 및 AI 위험관리 강화

  정부는 딥페이크 합성물 등이 플랫폼 등에 업로드되어 확산되는 것에 기술적으로 대응하기 위해 차단·탐지·예방 기술 개발 관련 R&D 지원을 강화하며, 사진 등 복제방지기술 개발 및 개인정보 노출 탐지·차단 시스템을 고도화 할 방침이며, 딥페이크 보안 기술을 특허 우선심사대상에 선정하여 신속심사 및 핵심특허 선정 등 민간 개발을 지원하겠다고 발표하였습니다. 

  또한, AI 등 신기술 관련하여, AI 안전연구소 설치, AI 영상 합성 대상으로 운영자가 AI 윤리기준 준수 여부를 자체 점검하는 AI 윤리 자율 점검표를 개발하여 보급하고, AI 서비스 이용에 관한 규제를 담은 ‘AI 서비스 이용자 보호법’ 제정을 추진할 예정입니다.



3. 엔터테인먼트 기업 차원에서의 시사점

  그동안 딥러닝 기술의 발전으로 허위 여부를 구분하기 힘든 정교한 딥페이크 영상물 등이 손쉽게 제작 및 배포되면서 연예인들의 인격권과 명예가 심각하게 훼손되는 경우가 많았습니다. 그리고 생성형 AI의 보편화 및 용이한 접근성으로 인해, 연예인이 아닌 인플루언서들 역시 딥페이크 범죄의 주된 대상이 되고 있습니다. 종전의 법률은 불법촬영물에 비해 처벌 수위가 약하였고, 소지나 시청 등을 한 경우 처벌할 수 있는 법적 근거가 부재하였기에, 피해자들이 적극적으로 대응하기 힘든 측면이 있었습니다. 이러한 상황에서 최근 정부의 딥페이크 성범죄 대응 강화방안은 딥페이크 허위영상물에 대한 엔터테인먼트 산업의 대응 방향에도 여러 시사점을 제시하고 있습니다.

  먼저, 딥페이크 성범죄에 대한 법정형이 상향되고 소지 등의 행위에 대한 처벌 근거가 마련되었을 뿐만 아니라 수사 대응력 또한 강화되었기에, 범죄 피해 발생 시 기존보다 적극적인 증거수집 및 형사고소가 필요합니다. 그리고 플랫폼 사업자에 대한 제재 및 모니터링이 강화되고, 향후 플랫폼 사업자의 선차단 후심의 조치가 허용될 것을 대비하여, 국내∙외 주요 플랫폼과의 긴밀한 소통이 필요하고 이에 전문가를 통한 신속한 조치 및 피해방지 및 구제가 이루어져야 할 것입니다. 

  이와 같은 딥페이크 성범죄 발생에 대한 단호한 대처 및 성범죄물의 확산 방지를 위한 적극적인 조치를 통해 엔터테인먼트 기업 입장에서는 소속 연예인들의 권익 보호를 할 수 있고, 피해 발생시 대응 및 피해확산 방지조치 역시 기존보다 더 적극적이고 다양한 방법으로 이루어질 필요가 있습니다. 이에 피해발생 확인시 즉시 법률 전문가의 신속한 조력을 통하여 피해확산 방지 및 적극적 대응전략이 필요할 것입니다.



4. 플랫폼 사업자 관점에서의 시사점

  딥페이크 성범죄와 관련하여 플랫폼 사업자에 대한 의무가 강화되는 등 정부는 플랫폼 사업자가 딥페이크 성범죄물 유통·확산 방지에 관심을 갖고 책임감 있는 업무 수행을 요구하면서도, 각종 의무화 규정의 신설 및 강화를 추진하고 있다는 점에서 의의가 있다고 할 것입니다. 

  기본적으로는 플랫폼 사업자에 대하여 자율 규제 강화를 요구하지만, 자율 규제가 준수되지 않는다면, 플랫폼 사업자에 대한 높은 수준의 규제강화 가능성도 배제할 수 없습니다.

  따라서 플랫폼 사업자는 투명성보고서 제출, 불법촬영물 삭제 관련 처리 내역에 대한 방송통신심의위원회 보고 등 딥페이크 영상물 등의 확산 방지와 관련한 각종 신설 의무조항을 준수하고 추가적인 의무 조항이 신설되는 경우 이에 대한 엄격한 준수가 요구됩니다. 

  이에 법률 개정 내지 후속 입법 및 규제 동향을 지속적으로 파악하여야 하고, 향후에도 딥페이크 성범죄 대응 관련 플랫폼 사업자에게 정부의 다양한 규제 강화가 예상되는 만큼 법률 전문가의 조력을 통하여 강화된 플랫폼 사업자 제재에 대한 예방적인 노력과 규제에 대한 신속한 대응이 필요할 것입니다.