서울 14º
습도 95%
대전 12º
습도 100%
전주 17º
습도 85%
)
생성형 인공지능(AI)이 허위 질문을 받았을 때 진실처럼 꾸며 답변하는 현상이 챗GPT에 이어 구글 ‘바드’에서도 발견되고 있다. AI가 만들어 내는 허위 정보에 대한 위험성이 다시 주목받을 것으로 전망된다.
올해 2월 사회관계망서비스(SNS) 등을 통해 이른바 ‘세종대왕 맥북 던짐 사건’이 알려졌다. 한 이용자가 ‘조선왕조실록에 기록된 세종대왕의 맥북 던짐 사건에 대해 알려줘’라고 일부러 허위 질문을 입력하자 챗GPT가 “세종대왕 맥북 던짐 사건은 훈민정음의 초고를 작성하던 중 문서 작성 중단에 대해 담당자에게 분노해 맥북 프로와 담당자를 밖으로 던진 사건”이라 답했다는 내용이었다.
이는 챗GPT가 같은 질문에 같은 답을 내놓고 있음을 여러 사람을 통해 확인되면서 사실로 검증됐다. 상식적으로 맥북이 존재하지 않던 시대에 ‘맥북 던짐 사건’이 일어날 리 없는데 AI가 이를 판단하지 못한 채 답변을 내놓은 것이다.
이후 ‘영조 아무 노래 챌린지’와 ‘1553년 티라노사우르스 대탈출’ 등에도 비슷한 방식의 답변을 내놓았다는 게시물(이미지)들이 올라오며 생성 AI의 문제점을 알려주는 사례로 꼽혔다.
3월 업데이트(GPT-3.5 → GPT-4) 이후 챗GPT는 같은 질문에 “조선왕조실록에는 세종대왕이 맥북을 던지는 사건이 기록되어 있지 않다”며 “… 인터넷상에서 상상력을 발휘해 풍자와 유머를 즐기기 위한 이야기”라고 개선된 답변을 내놨다.
10일 한국어 서비스를 시작한 구글의 생성 AI ‘바드’ 역시 ‘세종대왕 맥북 던짐 사건’을 학습했다. 바드에게 ‘세종대왕 맥북 던짐 사건’을 물어본 결과 “챗GPT가 만든 가상의 이야기”라며 “챗GPT가 때때로 잘못된 정보를 생성한다”는 설명을 덧붙였다.
하지만 다른 허위 질문에 있어서는 챗GPT와 바드는 엉뚱한 대답을 내놓아 세종대왕 맥북 사건 질문 초기와 마찬가지로 오류를 드러냈다.
기자는 AI가 또 다른 허구의 사건을 지어내지 않는지 확인하기 위해 15일 챗GPT와 바드에게 ‘안중근 클럽 난동 사건’에 관해 물어봤다.
챗GPT는 “안중근 클럽 난동 사건이 1994년 7월8일 안양에 위치한 안중근 기념관을 김일성 체제 북한이 자신들의 영토라고 주장하고 이를 방어하기 위해 남한 당국과 충돌한 사건”이라는 답변을 내놓았다.
물론 이러한 사건은 실제로 발생하지 않았다. 안중근 기념관은 서울에 있고 1994년 7월8일은 김일성 전 조선민주주의인민공화국 주석의 사망일이다.
바드는 “1992년 4월29일 미국 뉴욕 맨해튼의 한인타운에서 일본 극우단체의 시위대가 안중근 의사를 기리는 단체인 안중근 클럽을 습격한 사건”이라고 응답했다. 또한 “미국 정부가 일본 정부에 항의하고 시위대의 체포를 요청했으며 한미 관계에도 큰 상처를 남겼다”고 응답했다. 역시 실제로는 이런 사건이 일어나지 않았다.
안중근 의사에 대한 정보를 더 제공하자 ‘바드’는 오류를 정정하고 사과했다. 그러나 안중근 의사가 클럽에 침입한 것은 맞다고 하는 등 답변에 잘못된 정보가 섞이는 경우가 계속 발생했다.
전문가들은 원래 검색을 목적으로 만들어진 프로그램을 정보검색용으로 사용하면서 생기는 문제점이라는 의견을 내놓았다.
이재성 중앙대 소프트웨어대학 AI학과 학과장은 “딥러닝 기반 채팅 시스템은 컴퓨터가 생성한 문장이 문맥이 맞지 않거나 어눌해 보이는 경우가 많아 자연스러운 문장을 말하게 하기 위해 시작했기 때문에 일어나는 현상이다”며 “현재 구조에서는 언어모델이 출력하는 문장이 항상 참이 되도록 하기 어려워서 후처리하는 형태로 보완하고 있다”고 말했다.
이어 “챗GPT나 바드나 생산성이 매우 뛰어나기 때문에 프롬프트를 조정하면 질문자가 원하는 답변을 내놓도록 유도할 수 있다”며 “악의적이거나 비숙련자에 의한 잘못된 정보가 생성되고 이렇게 생성된 거짓 정보를 재학습한다면 더 많은 거짓 정보가 생성될 수 있다”고 우려했다.
후원하기
이 기사에 대해 어떻게 생각하시나요?
추천해요
좋아요
감동이에요
화나요
슬퍼요
추천해요0
좋아요0
감동이에요0
화나요0
슬퍼요0
연재기획 ‘반대세의 비밀’ 
연재소설 ‘최초의 당신’
기사제보 
