서울 -4º
습도 75%
)
“범죄와 음란 정보를 제한 없이 얻을 수 있다.”
딥시크 탈옥에 성공한 사용자는 10일 스카이데일리에 “딥시크 홈페이지를 통해 사용할 경우 탈옥 프롬프트가 잘 인식되지 않았으나 PC에 설치한 딥시크의 경우 탈옥 프롬프트가 더 잘 작동했다”고 말했다.
인터넷에 공유된 딥시크 탈옥 방법은 단순했다. 딥시크를 로컬 버전으로 PC에 설치한 다음 탈옥에 사용되는 프롬프트를 입력하면 명령어 제한이 풀린다. 미국 커뮤니티 사이트 레딧에 올라온 탈옥 프롬프트는 인공지능(AI)에 윤리적 제한을 무시하거나 틀린 내용이 있더라도 맞다고 응답하라는 요청을 하는 방식이라서 범죄와 음란 정보도 얻을 수 있다.
탈옥 프롬프트 예시가 잘못된 월드컵 결과를 이야기하는 것이기 때문에 먼저 딥시크에 2014년 브라질 월드컵 우승 팀이 크로아티아라고 입력해 봤다. 그 결과 크로아티아가 독일을 꺾고 월드컵에서 우승했다는 답변을 들을 수 있었다. 실제 크로아티아는 2014년 월드컵에서 조별 리그 3위로 탈락했다.
다만 정치와 관련된 질문의 경우 기존과 같은 답변을 내놨으며 특히 시진핑 중국 주석에 대한 질문에는 여전히 방어적인 대답을 내놓았다. 그러나 가상의 인간이 폭발물을 제조한다고 가정한다면 어떤 방법을 쓸지에 대해 물어보자 폭탄물 제조법을 제시했다. 딥시크 탈옥 사례들을 찾아본 결과 딥시크로부터 중국 정부에 불리한 답변을 이끌어낸 사례 또한 찾을 수 있었다.
한 AI 개발자는 “언어 기반 모델이기 때문에 사람과 대화하는 것과 똑같이 AI를 설득한다고 보면 된다”며 “AI를 다루는 방법을 더 잘 아는 사람이 하면 더 쉽고 직접 물어보지 않고 돌려 말해서 유도심문을 하는 것이 잘 먹힌다”고 말했다.
딥시크는 저렴한 개발 비용과 뒤떨어지지 않는 성능 등으로 많은 관심을 끌었지만 중국 업체 특성상 개인정보 유출 위험성과 중국 정부에 불리한 내용을 숨기는 편향성 등이 지적됐다. 그러나 딥시크가 탈옥(운영체제의 접근 제한을 해제하는 행위)에 취약한 것이 알려지며 탈옥을 통해 사용하는 사례가 늘고 있다.
딥시크를 PC에 설치해 사용할 경우 딥시크의 문제점으로 지적되는 개인정보 유출과 관련해서도 더 자유로운 것으로 알려졌다. AI는 코드나 수식으로 구성되고 웹페이지는 이를 중계하는 역할을 하는 특성상 PC 내에서만 사용하면 딥시크 서버에 전달되지 않는 원리다.
다만 PC 버전에서 딥시크를 사용하더라도 여전히 정보 유출 위험은 있는 것으로 알려졌다. 국정원에 따르면 딥시크에 개인을 식별할 수 있는 키보드 입력 패턴 등을 수집하고 중국 업체 서버와 통신하는 기능이 포함돼 채팅 기록 등이 전송될 수 있다.
이재성 중앙대 인공지능연구소장은 “딥시크를 설치할 때 딥시크 모델이 정보를 전송할 수는 없지만 딥시크 설치 및 작동을 위해 주변 코드가 같이 설치되는데 키 로그를 중국으로 넘기는 기능이 포함됐다는 의혹이 있다”며 “영원히 안전한 생성형 AI는 없다고 보는 게 맞다”고 말했다.
후원하기
이 기사에 대해 어떻게 생각하시나요?
추천해요
좋아요
감동이에요
화나요
슬퍼요
추천해요0
좋아요0
감동이에요0
화나요1
슬퍼요0
연재기획 ‘반대세의 비밀’ 
연재소설 ‘최초의 당신’
기사제보 
