오픈AI “사람보다 AI에 情들면 위험” 경고

이 시간 주요기사

뉴스 > 국제일반

“감정적 의존·과도 신뢰… 대인관계에 영향 줄 수도”
애리조나大 교수 “기업이 문제 해결할 책임 있어”

임명신 기자 기자페이지 + 입력 2024-08-11 17:58:10

생성형 인공지능(AI)의 눈부신 발전을 대중은 ‘기대 반 우려 반’으로 지켜보고 있다. 챗GPT 개발사이자 이 분야의 선두주자인 오픈AI가 GPT-4o 관련 보고서를 냈다고 CNN이 9일(현지시간) 보도했다. 흡사 사람과 대화하는 듯한 경험을 하면서 사용자들이 AI에 감정적으로 의존하게 될 수 있다는 점과 그에 따른 문제점이 보고서의 골자다.

5월 공개된 GPT-4o는 딱딱한 기계음 대신 자연스러운 사람 목소리를 내고 사용자와 실시간 음성 대화가 가능하다. 서비스 첫 공개 당시 인간이 AI 비서와 사랑에 빠지는 영화 ‘그녀’(Her·2013년 개봉)의 현실화라는 점에서 큰 주목을 받았다. 다만 GPT-4o에 사용된 음성이 영화 ‘그녀’ 속 AI비서 목소리의 주인공인 스칼 요한슨 같다는 반응 속에 논란이 일어 서비스가 잠정 중단됐고, 이후 선택지에서 해당 목소리를 뺀 나머지 네 종류 음성만으로 다시 서비스되기 시작했다.

오픈AI 보고서에 따르면 “사용자들이 챗GPT와 음성 모드로 대화하면서 공유된 유대감을 표현하는 현상이 관찰됐다.” 영화 속에서 AI와 사랑에 빠진 주인공 모습이 더 이상 허구일 수만은 없음을 일깨운 셈이다. 또 “사용자가 AI와 사회적 관계를 형성하면서 다른 사람과의 상호작용에 대한 필요성을 줄일 수 있다”고 보고서는 지적했다. AI에 밀착될수록 인간관계 자체가 줄어들기 쉽기 때문일 것이다. 그러므로 “외로운 개인에겐 잠재적 도움을 줄 수 있지만 다른 사람과의 건강한 관계에도 영향을 미칠 수 있다.”

생성형AI가 잘못된 정보를 알려줄 수 있음에도 실제 사람처럼 착각하다 보면 과도한 신뢰를 할 수 있다는 것 또한 두려운 일이다. 또한 GPT-4o의 음성 모드 기능이 장기간에 걸쳐 사람들 간의 정상적인 사회적 상호작용 방식에 영향을 미칠 수 있다. AI 답변 도중 사용자가 언제든 개입해 답변을 멈추고 사용자의 음성을 입력할 수 있게 설계됐기 때문이다. 이것에 익숙해지면 상대방 말을 자르며 끼어드는 게 당연해진다. 자연히 타인과의 소통 방식에 문제를 일으킬 수 있다.

오픈AI는 보고서에서 “AI를 안전하게 만들기 위해 최선을 다하고 있으며 사용자의 ‘감정적 의존’ 가능성에 대해 연구를 계속할 계획”이라고 밝혔다. 기술과 인간 소통을 연구해 온 리젤 샤라비 애리조나 주립대 교수는 CNN 인터뷰에서 “기업이 윤리적이며 책임감 있는 방식으로 이 문제를 해결해야 한다”고 짚었다. 샤라비 교수 말대로 “모든 게 실험적인 단계에 있다”는 점에선 위험을 최대한 피하기 위해 준비할 시간적 여유가 있다는 뜻이기도 하다.

임명신 기자 imms@skyedaily.com 기자페이지 +

후원하기

정기 후원
일반 후원
무통장입금: 하나은행 158-910019-39504 스카이데일리
시대의 금기를 깨는 정론지 스카이데일리는
여러분의 후원으로 만들어집니다.

정기 후원 독자께는
스카이데일리가 주최하는 각종 행사에
초대, 할인 혜택 등을 드립니다.

매월 5만 원 이상 정기 후원 독자께는
스카이데일리 신문과
스카이데일리가 발행하는 최신 단행본을
보내드립니다.