딥페이크 ‘옷벗기기 앱’ 전 세계 확장 우려

이 시간 주요기사

뉴스 > IT·인터넷

오픈 소스 AI로 사이트·앱 생성 가능… 실존 인물 대상 성범죄 악용 우려
“해외에 서버 두고 있는 경우 국내법 처벌 어려워… 이용자도 처벌 가능”

양준규 기자 기자페이지 + 입력 2023-12-11 13:59:03

▲ 인공지능을 사용해 옷을 벗기는 딥페이크 웹사이트 이용자가 올해 크게 증가한 것으로 나타났다. 게티이미지뱅크

이미 존재하는 사진에 인공지능(AI)을 사용해 옷을 벗기는 딥페이크 웹사이트 이용자가 올해 크게 증가한 것으로 나타났다. 이러한 웹사이트는 성범죄에 악용될 수 있는 가능성이 큰 만큼 AI의 위험성에 대한 경각심이 커지고 있다.

10일 블룸버그 통신 등 외신에 따르면 올해 9월 기준 딥페이크 웹사이트 이용자가 2400만 명에 달한 것으로 알려졌다.

이러한 웹사이트는 ‘누디파이’라고 불리며 사진 속 인물이 옷을 벗고 있는 이미지를 만들어주며 사진 속 인물은 대부분 여성이었다. 이러한 옷 벗기기 사이트나 앱을 누구나 사용할 수 있는 오픈 소스 AI를 통해 만들 수 있는 점도 지적됐다.

딥페이크 기술을 활용한 음란물의 경우 이전에도 유명인의 얼굴을 합성한 음란 동영상이 나도는 등의 사례가 나온 바 있다. 특히 기술이 발전할수록 이러한 문제가 더욱 심화될 것으로 예상된다.

실제로 해당 통계를 작성한 소셜네트워크 분석 기업 그래피카는 이미지를 생성하는 AI의 성능이 크게 발전하면서 누디파이 사이트의 인기가 올해 초부터 급격히 증가했다고 설명했다.

블룸버그통신은 이러한 옷벗기기 앱이 범죄에 사용될 수 있다고 지적했다. 소셜 미디어 등을 통해 쉽게 구할 수 있는 특정인의 사진을 당사자의 동의나 인지 없이 음란물로 만들어 배포할 수 있기 때문에 심각한 법적·윤리적 문제가 될 수 있다는 것이다.

실제로 소셜 미디어 X(트위터)를 통해 특정인의 사진을 나체 이미지로 변환한 후 그 사람에게 다시 보낼 수 있다는 내용의 광고가 올라오기도 했고 광고를 게시하지 않아도 검색을 통해 쉽게 접근할 수 있는 것으로 알려졌다.

전문가에게 이러한 딥페이크 웹사이트의 법적 처벌 가능성에 대해 물었다. 양진영 법무법인 민후 변호사는 “딥페이크를 활용한 음란물 배포는 ‘정보통신망 이용법 및 정보보호 등에 관한 법률’이나 ‘성폭력 범죄의 처벌 등에 관한 특별법’ 등 기존 법률만으로 처벌할 수 있기 때문에 새로운 법률이나 규제를 만들 필요는 없어 보인다”며 “다만 해외에 서버를 두고 있는 경우에는 국내법으로 처벌이 어려워 보인다”고 말했다.

이어 “앱 사용자의 경우 해외 사이트를 사용하더라도 국내 정보통신망을 이용했다면 처벌이 가능하다”며 “다만 단순히 사이트를 이용하는 것이 아니라 사람을 선택하고 저장했을 경우에 처벌이 가능하다”고 말했다.

양준규 기자 jgyang@skyedaily.com 기자페이지 +

후원하기

정기 후원
일반 후원
무통장입금: 하나은행 158-910019-39504 스카이데일리
스카이데일리는 온라인 판 스카이데일리닷컴과 32면 대판으로
매일 발행되는 일간종합신문 스카이데일리(조간)를 통해 독자 여러분들과 만나고 있습니다. 후원자 분들께는 지면광고를 하고자 하실 경우
특별 할인가격이 제공됩니다.