AI 열풍 어쩌나… 생성이미지로 가짜정보 급증

이 시간 주요기사

뉴스 > 국제사회

누구나 손쉽게 허위정보 척척… 여론조작 가능성 무한

임한상 기자 기자페이지 + 입력 2024-05-30 11:30:11

▲ AI가 제작한 흰색 롱패딩의 교황 모습. 가짜이미지로 판명나기 전까지 아무도 의심하지 않았다. 레딧 캡처

최근 인공지능(AI) 성능이 고도화되면서 ‘생성형AI 이미지’가 무차별적으로 사용되는 것으로 나타났다. 29일(현지시간) 미국 NBC방송이2023년 이후 AI가 생성한 가짜 이미지의 급증을 보도했다. AI로 인한 편리한 세상이 기대를 모으는 한편 우려의 경보음도 높아지고 있다.

구글과 듀크대 연구팀이 팩트체크 매체 스노프스가 진위를 확인했던 1995년 이후 2023년 11월까지 13만6000건의 팩트체크 사례를 분석한 결과를 보면, 지난해 3월 프란치스코 교황이 허리춤을 강조한 흰색 롱패딩을 입은 가짜 사진이 소셜미디어(SNS)에 퍼진 시기가 하나의 변곡점이 돼 있다.

해당 사진은 당시 소셜미디어(SNS)에 공개돼 수백만 조회수를 기록했다. “교향의 새로운 패션 센스” “교황이 스타일리스트를 새로 고용했느냐”며 화제를 모았고 이미지 생성AI ‘미드저니’가 만든 것으로 판명나기까지 아무도 의심하지 않았을 만큼 자연스러웠다. 이후 생생형AI를 이용한 가짜이미지는 빠르게 늘었다.

2022년 11월 출시된 오픈AI의 챗GPT 이후 AI 열풍이 불면서 AI로 인한 가짜이미지의 대중화는 사실상 예고된 것이나 다름없다. AI 주요 기업들이 시장을 선점하기 위해 너나 할 것 없이 생성형AI 이미지 도구를 내놓았기 때문이다. 이들 AI이미지 생성 앱들의 활용 양상은 이미 ‘포토샵’ 수준인 것으로 조사됐다. 사진 손질을 통칭한 신조어 ‘포샵’이 자리잡을 만큼 보편화된 도구가 포토샵이었다.

AI 생성형 이미지 사용이 늘면서 소셜미디어도 몸살을 앓는 중이다. 사람들의 관심을 끄는 유명인의 가짜 이미지들이 범람하며 심각한 명예훼손, 특히 음란물 생성과 확산 또한 뜨거운 감자로 부각되고 있다.

AI에 기반해 영상과 이미지·음성을 합성하는 고도의 조작 기술인 딥페이크가 악용될 경우 피해는 상상을 초월한다. 가짜임을 육안으로 판별하기란 대부분 불가능하다. 특히 선정적 음란물 제작·유포자들이 늘면서 AI 관련 법적 규제를 강화해야 한다는 목소리도 커지고 있다.

올 초 미국의 세계적인 여성 가수 테일러 스위프트의 얼굴 사진을 합성한 악의적인 딥페이크 음란물이 온라인에 유포됐으며 3월엔 도널드 트럼프 전 대통령이 수감을 찬 채 경찰관들에게 둘러싸여 끌려가는 사진이 퍼지기도 했다.

AI에 의해 조작된 이미지가 진짜처럼 받아들여져 여론 조작에 악용될 가능성은 무한해 보인다. 렉시오스 만찰리스 국제팩트체킹네트워크 전 국장 말대로 “생성형 AI 도구로 누구나 온라인에서 허위 정보를 쉽게 퍼뜨릴 수 있는 세상”이다.

임한상 기자 hsrim@skyedaily.com 기자페이지 +

후원하기

정기 후원
일반 후원
무통장입금: 하나은행 158-910019-39504 스카이데일리
시대의 금기를 깨는 정론지 스카이데일리는
여러분의 후원으로 만들어집니다.

정기 후원 독자께는
스카이데일리가 주최하는 각종 행사에
초대, 할인 혜택 등을 드립니다.

매월 5만 원 이상 정기 후원 독자께는
스카이데일리 신문과
스카이데일리가 발행하는 최신 단행본을
보내드립니다.