과 현실', '오후 세 시에 시작할 남산 아래 ‘문학의집’ 창립 기념행사의 발...'))
오후 세 시에 시작할 남산 아래 ‘문학의집’ 창립 기념행사의 발표를 앞두고 무조건 홍대입구역 이비인후과로 달려갔다. 목소리를 내기 어려웠다. 긴급 처방을 마치고 가까스로 발표 시간에 댔다.
주제는 ‘AI 시대 창작의 운명’. 시작은 한 ‘불행한’ 작가가 자신의 새 장편소설과 함께 가사를 지어 인공작곡 앱 ‘수노(SUNO)’에 지시해서 만든 노래였다. 이 ‘묵호를 기억하는가’를 청중들에게 들려드렸다. 호응이 좋았다. 이제 디지털 시대와 ‘AI(aritificial intelligence)’ 시대의 도래를 일별하고 ‘할루시네이션’ 이야기로 건너갔다.
‘할루시네이젼(hallucination)은 본래 라틴어 ‘hallucinari’ 또는 ‘alucinari(‘꿈꾸듯 떠돌
다, 정신이 혼미하다)’에서 나왔다. 고대 라틴어 ‘알루시나리(alucinari)’는 ‘정신이 헤매다, 환상에 빠지다’를 의미했고, 중세에 들어 라틴어 ‘할루시나티오(hallucinatio)’는 ‘환각, 잘못된 지각’을 가리켰다. 여기서 현대 영어 ‘hallucination’이 되어, ‘실제 자극 없이 감각이 생기는 현상’, 곧 ‘없는 것을 보고 듣고 믿는 현상’을 가리키는 말이 되었다.
이 할루시네이션이 인공지능 분야에서 사용되면, ‘AI 할루시네이션’이라 하여, 실제에는 존재하지 않는 정보나 사실을 ‘그럴듯하게 만들어내는 오류’를 가리키는 말이 된다. 예를 들어, “동리 신재효는 1820년에 태어났다” 같은 식으로 틀린 사실을 자신 있게 말하는 현상이다. 고창 사람 신재효는 실제로는 1812년에 나서 1884년에 세상을 떴다.
뇌의 환각과 비슷하게, AI가 데이터의 ‘패턴’만으로 문장을 예측하다 보니 실제 검증 없이 정보를 만들어낸 결과라고 한다. 사실에 관한 정보가 부족한 질문, 데이터에 없던 새로운 정보에 대한 요구를 담은 질문, 모호한 문맥의 질문 등이 들어오면, ‘AI 언어 모델’은 그럴듯한 말을 만들어서 채워 넣는 경향을 보이게 된다. 이것이 ‘AI hallucination’이다.
인간은 사실 아닌 이야기를 하면 거짓말 탐지기에 반응을 보인다고 한다. 신체가 자기 거짓말에 반응하기 때문이다. 왜 그럴까. ‘양심’ 때문일 것이다. ‘양심’이라는 기제가 작동해서 신체를 ‘비정상적으로’ 작동시킨다. 하지만 아직 인공지능은 ‘양심’을 학습하지 못했다. 그보다는 옳든 그르든 맞든 틀리든 정보의 산출이 급선무다. 이렇게 해서 디지털 인공지능 시대는 ‘사실’, ‘진실’과 다른 ‘가상현실’ 세계를 창출할 수 있다. ‘양심’보다는 ‘창조’다.
지난 1년 동안 전개된, 아니 그 훨씬 전부터 전개된 상황은 디지털 민주주의에 대한 낙관이 지나치게, 아니 한없이 순진한 것이었음을 ‘입증’했다. 최근 레거시 미디어(legacy media), 소셜 미디어(social media)들이 실어나르는 각종 ‘페이크 뉴스’(fake news)들은 “정치적 양극화, 탈진실 정치, 동기화된 추론, 확증 편향, 소셜 미디어 알고리즘 (political polarization, post-truth politics, motivated reasoning, confirmation bias, and social media algorithms)” 등과 맞물려 한국 사회에 치명적인 위해를 가하고 있다. 어떤 이념적 입장을 취하든 이 사실 자체는 부인하기 어려울 것이다. 바야흐로 이 ‘가상 내란’의 마지막 챕터가 가까워지고 있다. 글쎄, 김용현 전 장관의 재판 죄목은 내란이 아니라 ‘위계에 의한 직권남용’이란다. 윤통 혼자 내란을 일으켰다 한다.
후원하기
이 기사에 대해 어떻게 생각하시나요?
추천해요
좋아요
감동이에요
화나요
슬퍼요
추천해요0
좋아요0
감동이에요0
화나요0
슬퍼요0
기사제보 
