방심위, 연예인·지인 ‘딥페이크’ 사이트 접속차단

“매우 정교해 실제와 구분하기 힘든 수준”…‘지인능욕’까지

홍우성 기자(ushong@skyedaily.com)

기사입력 2020-06-25 18:18:03

인공지능(AI) 기술의 발달이 음란영상 등의 디지털 성범죄에 이용되는 사례가 늘고 있어 방심위가 대응에 나선다.

방송통신심의위원회 디지털성범죄심의소위원회는 25일 딥페이크 기술을 이용한 허위 영상정보 52건에 대해 ‘시정요구(접속차단)’를 의결했다.

딥페이크는 딥러닝(deep learning)과 페이크(fake)의 합성어다. AI 기술 기반의 알고리즘을 활용해 이미지나 동영상을 편집·조작하는 기술이다. 온라인에 무료로 제공된 오픈소스코드와 머신러닝(ML) 알고리즘만 사용하면 누구나 만들 수 있다.

문제는 누구나 쉽게 제작이 가능한 만큼 음란물 등에 악용되는 사례가 늘어나고 있다는 것이다. 포르노 영상에 유명인은 물론 일반인의 얼굴까지 합성해 디지털 성범죄로 이어지고 있다.

이에 방심위는 우리나라 연예인의 영상을 음란한 영상과 합성해 ‘XXX 딥페이크’ 등으로 유통한 해외 딥페이크 전문 사이트 혹은 SNS 계정에 대해 시정을 요구했다. 이들 허위영상은 매우 정교하게 합성돼 실제와 구분하기 힘든 수준이라고 방심위는 전했다.

일부 사이트에서는 200여명에 달하는 연예인의 음란 허위영상 1000여건이 유통되고 있는 것으로 확인됐다. 의뢰자의 요청으로 지인의 영상을 음란한 형태로 편집해 제공하는 경우도 파악됐다.

25일부터 시행되는 성폭력처벌법 개정안에 따라 딥페이크 영상물을 제작·배포 등을 한 사람은 ‘5년 이하의 징역 또는 5000만원 이하의 벌금’에 처한다. 특히 영리 목적이 인정되면 최대 징역 7년에 처한다.

방심위는 “디지털 성범죄 피해자 보호를 위해 접속차단의 시정요구와 함께 국제공조점검단을 통해 원 정보 삭제를 추진하겠다”며 “허위영상물 제작 및 유포 행위 근절을 위해 경찰청 등 관계기관과의 공동대응도 강화할 계획이다”고 말했다.