제5회 인공지능 윤리 대전 콘퍼런스 성료

이 시간 주요기사

뉴스 > IT·인터넷

딥페이크 기술·탐지 기술 발전 현황·현장 AI 윤리 교육 등 공유
“딥페이크 악용 시 인간의 존엄성 침해·사회 신뢰 붕괴 이어질 수 있어”

양준규 기자 기자페이지 + 입력 2024-12-21 15:09:39

▲ 제5회 인공지능 윤리 대전 콘퍼런스 토론 세션에서 참가자들이 질문에 응답하고 있다. ⓒ스카이데일리

인공지능(AI) 전문가와 산업 종사자들이 다 함께 AI 윤리에 대해 논의하는 자리가 마련됐다. 2024년 가장 큰 이슈로 떠오른 딥페이크가 이번 컨퍼런스의 중점이 됐다.

국제 인공지능 윤리 협회(IAAE)는 21일 서울시 마포구에서 제5회 인공지능 윤리 대전 콘퍼런스를 개최했다. 박미애 경북대 인공지능 혁신 융합 대학사업단 계약교수는 ‘딥페이크 기술과 활용의 윤리적 이슈와 해결 방안’을 주제로 강연했다.

박 교수는 딥페이크를 활용한 이미지와 영상 편집 사례를 시연하며 딥페이크 기술의 발전 현황을 소개했다. 딥페이크 기술을 좋은 의도로 사용한다면 놀라운 결과물을 낼 수 있으나 악용 또한 가능함을 강조했다. 대표적인 예로 도널드 트럼프 미국 대통령 당선인에 대한 합성 영상과 미국 기관에 허위 회의 자료를 제출해 지원금을 받아낸 사례 등을 제시했다.

박 교수는 “이미지 한 장과 명령어 두세 개만 입력하면 AI 영상을 만들 수 있고 코딩 작업까지 한다면 더 구체적이고 해상도도 좋은 영상을 만들 수 있다”며 “당사자의 동의 없이 인간의 존엄성을 해치거나 사회 전체의 신뢰가 붕괴되는 결과로 이어질 수 있다”고 말했다.

박 교수는 이러한 문제들을 해결할 방안으로 △기술의 투명성 유지 △윤리적 협력과 규제 강화 △교육과 인식 개선 등을 제시했다.

다음으로 고영상 홈플러스 개발 팀장이 ‘딥페이크 탐지 기술의 개발 현황과 활용 방안’을 주제로 강연했다.

고 팀장은 다중 모달 분석 탐지과 딥러닝 기반 이상 패턴 탐지 등 딥페이크 기법들과 이를 방지하기 위한 딥페이크 탐지 기술 사례를 소개했다.

고 팀장은 “기술은 여러 사람을 편리하게 하는 도구이며 기술자로서 더 많이 발전되면 좋겠지만 부작용을 막기 위한 기술 또한 따라왔으면 한다”고 말했다.

다음으로 홍선기 동국대 법학과 교수가 ‘딥페이크 관련 국내외 법과 정책의 현황과 전망’을 주제로 강연했다.

홍 교수는 딥페이크로 제작한 윤석열 대통령의 발언 영상이나 조 바이든 미국 대통령의 허위 영상 등 딥페이크가 법적으로 문제가 됐던 사례를 소개하며 딥페이크에 대한 법률 개정 사례를 소개했다. 이에 더해 딥페이크 영상으로 저작권·초상권·퍼블리시티권 등을 침해한 사례와 정치권의 입법 움직임을 공유했다.

또한 최근 딥페이크 영상물을 반포할 목적으로 제작하는 것뿐만 아니라 제작 후 개인이 소장할 경우에도 처벌이 가능하게 하는 등 국내법 현황과 미국과 유럽 주요 국가들의 AI 관련 법안 추진 현황과 법무부의 딥페이크 방안 등을 소개했다.

마지막으로 손형주 원곡초등학교 교사가 ‘딥페이크 관련 국내외 인공지능 윤리 교육 현황과 제언’을 주제로 현장의 교육 실태를 전달했다.

손 교사는 최근 학교 내 딥페이크 피해자 중 학생 피해 비율이 높은 것을 제시하며 학생들 사이에서 딥페이크 피해자가 될 수 있다는 불안감이 커지고 있다고 설명했다.

한국의 경우 초등학교에서 놀이를 바탕으로 AI 윤리를 교육하고 있으며 중학교에서는 체험 위주로 진행하며 고등학교 과정에서는 심화 교육을 진행하고 있다. 이에 더해 각계 기관이 연계해 학생들에게 AI 윤리 교육을 진행 중이다.

손 교사는 더 나아가 △학생 주도형 프로젝트 기반 학습 활성화 △교육자료 개발 및 확산 △교사와 학생의 협업 플랫폼 마련 등을 통해 AI 윤리의식을 키울 것을 제시했다.

손 교사는 “딥페이크 문제가 대두된 이후 중학생이 이틀 만에 딥페이크 지도를 제작한 사례가 있다”며 “학생들이 직접 딥페이크 방지 콘텐츠를 만들고 이를 지원하거나 교사와 합생이 합께하는 윤리 교육을 진행하는 것은 어떨까 싶다”고 말했다.

전창배 IAAE 이사장은 “IAAE는 2020년부터 매년 국내 최초 유일의 AI 윤리 주제 컨퍼런스를 개최하며 우리 사회와 시민을 위한 AI 윤리 인식과 확산을 위해 노력해 왔다”며 “2025년에는 전 세계 국가와 기업들의 AI 기술 경쟁이 더욱 치열해질 것으로 예상되는 만큼 우리 인간과 인류를 위한 올바른 AI가 개발되고 활용될 수 있도록 정진하고 노력하겠다”고 말했다.

양준규 기자 jgyang@skyedaily.com 기자페이지 +

후원하기

정기 후원
일반 후원
무통장입금: 하나은행 158-910019-39504 스카이데일리
시대의 금기를 깨는 정론지 스카이데일리는
여러분의 후원으로 만들어집니다.

정기 후원 독자께는
스카이데일리가 주최하는 각종 행사에
초대, 할인 혜택 등을 드립니다.

매월 5만 원 이상 정기 후원 독자께는
스카이데일리 신문과
스카이데일리가 발행하는 최신 단행본을
보내드립니다.