딥페이크·딥보이스·가짜뉴스 싹 다 잡는다

이 시간 주요기사

뉴스 > 연구·개발

경찰, 허위 조작 콘텐츠 판별 시스템 개발 착수

정수희 기자 기자페이지 + 입력 2025-02-02 11:54:38

▲ 경찰이 딥페이크·딥보이스·가짜뉴스 탐지를 위한 기술 개발 등에 연구비 총 91억 원을 약 3년간 지원하는 사업 계획을 공고했다. 경찰청 공고 갈무리

인공지능(AI)을 이용한 이미지 조작 행위인 ‘딥페이크’ 피해 사례가 만연한 가운데, 경찰이 이러한 허위 조작 콘텐츠 진위 여부를 판별하는 시스템 개발에 나섰다.

경찰은 최근 딥페이크·딥보이스·가짜뉴스 탐지를 위한 기술 개발 등에 연구비 총 91억 원을 약 3년간 지원하는 사업 계획을 공고했다.

허위 조작 콘텐츠에 주로 사용되는 딥페이크를 활용한 영상형 허위 조작 콘텐츠를 중심으로 음성형·텍스트형 콘텐츠의 조작 여부를 탐지하기 위한 데이터셋을 구축하고 통합 관리 시스템을 개발하는 내용이다.

2일 경찰청에 따르면 현재 수사 인력은 실제 인물처럼 영상을 만드는 딥페이크와 소리를 복제하거나 가짜 음성을 생성하는 딥보이스 등을 일일이 확인하며 수사 중이다. 기술 발전과 함께 늘어나는 신종 범죄에 대한 대응력을 키워야 한다는 목소리가 나오는 지점이다.

이러한 실정을 반영하듯 경찰청은 최근 AI의 급격한 발전으로 악용 범죄가 증가하면서 콘텐츠 판별에 오랜 시간이 투입되는 문제를 해결하기 위해 이번 사업을 추진한다고 밝혔다.

멀티모달(복합 정보 처리) 형태의 탐지 알고리즘을 개발해 딥페이크를 탐지하고, 음성 주파수와 시간 분석 등을 활용해 딥보이스를 정교하게 분석·탐지한다는 계획이다. 또 가짜뉴스에는 생성형 AI를 동원, 에코 체임버(유사한 정보나 뉴스가 증폭돼 나타나는 현상)를 분석해 원천 게시물을 추적하고 ‘퍼 나르기식’ 가짜뉴스에도 조기 대응한다는 구상이다.

한편 방송통신심의위원회가 시정 요구한 딥페이크 성적 허위 영상물은 △2021년 1913건 △2022년 3574건 △2023년 7187건으로 해마다 급증했으며, 지난해 상반기에만 6071건이 발생한 것으로 집계됐다.

지난달에는 ‘자경단’이라는 이름으로 텔레그램에서 미성년자 159명을 포함해 남녀 234명을 성 착취한 일당이 경찰에 발각된 가운데, 지인의 딥페이크 성 착취물을 만들어 제공하는 등 자경단에게 포섭돼 사이버 성폭력에 가담한 73명이 특정되고 40명이 검거된 것으로 전해졌다.

정수희 기자 jsh@skyedaily.com 기자페이지 +

#딥페이크 # 딥보이스 # 가짜뉴스 # 경찰 # 시스템 # 통합 # 관리 # 연구 # 개발 # 허위 # 콘텐츠 # AI

후원하기

정기 후원
일반 후원
무통장입금: 하나은행 158-910019-39504 스카이데일리
시대의 금기를 깨는 정론지 스카이데일리는
여러분의 후원으로 만들어집니다.

정기 후원 독자께는
스카이데일리가 주최하는 각종 행사에
초대, 할인 혜택 등을 드립니다.

매월 5만 원 이상 정기 후원 독자께는
스카이데일리 신문과
스카이데일리가 발행하는 최신 단행본을
보내드립니다.