6월 대선 앞두고 딥페이크 위협 커진다

이 시간 주요기사

뉴스 > IT·인터넷

트럼프·머스크·젤렌스키 등 해외 정치 관련 인물 사례 다수
워터마크 부착 내년부터… 허위 영상 100% 방지는 불가능

양준규 기자 기자페이지 + 입력 2025-04-17 11:56:17

▲ 젤렌스키 대통령이 트럼프 대통령을 때려눕히는 딥페이크 영상. X 캡쳐.

6월 대선을 앞두고 딥페이크 허위 영상에 대한 경각심이 커지고 있다. 해외 사례에서 이미 딥페이크의 위험성이 입증됐고 국내 정치인들에 대한 딥페이크 또한 퍼지고 있는 만큼 허위 딥페이크 영상의 위험성이 계속될 것으로 보인다.

16일 법조계에 따르면 이재명 더불어민주당 대선 예비후보 선거대책위원회가 딥페이크 영상 유포자와 허위사실 유포자 등 17명에 대한 법적 대응에 나섰다. 최근 이 예비후보가 부인 김혜경 씨에게 욕설을 하는 모습을 합성한 딥페이크 영상이 SNS 등을 통해 퍼진 것이 원인이 된 것으로 보인다.

윤석열 전 대통령 부부가 속옷과 수영복 차림으로 거리를 걷는 허위 영상이나 한동훈 전 국민의 힘 대표가 가발을 벗는 허위 영상 등이 퍼지는 등 딥페이크 허위 영상은 여야 유력 정치인을 대상으로 제작되고 있다.

딥페이크를 이용한 허위 영상물에 따른 피해는 주로 성범죄 문제가 주목받아 왔다. 딥페이크 성범죄의 주요 온상이었던 성적 허위 영상물의 경우 허위 영상 유포의 매개체로 취급받았던 텔레그램과의 협조가 이뤄지며 어느 정도 성과를 보고 있다.

실제로 경찰청이 2024년 8월28일까지 2025년 3월31일까지 약 7개월간 허위 영상물 범죄 집중 단속을 실시한 결과 집중 단속 시행 이전 대비 260% 증가한 963명이 검거됐으며 59명이 구속됐다. 6월 대선을 앞둔 시점에서 정치인을 합성한 딥페이크 영상에 대한 경각심도 커지고 있다.

최근 딥페이크 기술을 활용한 정치인 합성 사례는 도널드 트럼프 미국 대통령과 일론 머스크 테슬라 최고 책임자(CEO)의 사례가 꼽힌다. 사회 관계망 서비스(SNS)를 통해 트럼프 대통령이 머스크 CEO의 발에 키스하는 영상이 퍼졌으며 ‘진짜 왕 만세(LONG LIVE THE REAL KING)’이라는 자막이 추가됐다.

당시 머스크 CEO가 지나치게 많은 권한을 행사한다는 여론이 커지며 진짜 대통령 역할을 하고 있다는 인식이 딥페이크 합성물로 제작된 것이다.

볼로디미르 젤렌스키 우크라이나 대통령이 트럼프 대통령과의 정상 회담에서 주먹을 날리는 딥페이크 영상 또한 SNS에서 쉽게 찾을 수 있었다. 해당 영상들의 경우 허위 사실임이 명확한 내용이기 때문에 SNS 안의 이슈 이상을 벗어나지는 않았다. 그러나 AI를 활용한 영상 제작 기술이 실제 촬영한 영상과 구별하기 힘들 정도로 발전했다는 것을 보여주는 사례기 때문에 악용 가능성 또한 높아지고 있다.

현존하는 AI 서비스들은 허위 영상 제작으로 발생하는 문제를 막기 위해 실제 인물의 사진이나 영상을 제작할 때 제한을 두고 있으며 AI로 생성한 결과물에는 관련 워터마크를 붙이는 등의 방안이 검토되고 있다.

그러나 이미 AI의 제한 코드를 제거하는 ‘탈옥’이 활성화 돼 있기 때문에 허위 영상 제작을 완전히 막을 수는 없는 상황이다. 워터마크 부착의 경우에도 AI 기본법에 따라 법제화가 진행되고 있으나 2026년 1월22일부터 시행되는 만큼 이번 대선에서는 적용되지 않는다.

한 인공지능 업계 관계자는 “딥페이크 영상을 막는 확실한 방법이 있냐고 하면 100%는 없다고 답할 수밖에 없다”며 “이용자들이 딥페이크의 위험성을 인지하고 직접 걸러내는 방법밖에 없다”고 말했다.

양준규 기자 jgyang@skyedaily.com 기자페이지 +

후원하기

정기 후원
일반 후원
무통장입금: 하나은행 158-910019-39504 스카이데일리
스카이데일리는 온라인 판 스카이데일리닷컴과 32면 대판으로
매일 발행되는 일간종합신문 스카이데일리(조간)를 통해 독자 여러분들과 만나고 있습니다. 후원자 분들께는 지면광고를 하고자 하실 경우
특별 할인가격이 제공됩니다.