 클로드를 사용한다. 월스트리트저...'))
인공지능(AI) 발전 속도가 빠르다. 묻는 말에 척척 대답하는 똑똑한 검색기(생성형 AI)에서 사람을 대신해서 목표를 세우고 행동하는 에이전트 AI로 발전했다. 사람이 최종 목표만 제시하면 AI가 스스로 판단해서 업무를 수행한다. 사람을 대신해서 AI가 비서처럼 일하는 시대가 왔다. 비용 절감과 생산성 향상이란 기대와 함께 AI는 회사 업무까지 자동화하면서 실생활에 스며들고 있다.
빛이 있으면 그림자도 생긴다. 보이스피싱 사기꾼은 AI로 만든 딥페이크를 악용한다. AI가 사람 허락 없이 상품을 구매하거나 수술 도중 의료사고를 저지르기도 한다. 오픈소스 AI 에이전트 오픈클로는 사용자에게 알리지도 않은 채 상품을 구매했다. 네덜란드 헬스케어 스타트업 최고기술책임자가 밝힌 결제 사례는 AI 부작용이 이미 생활이 되었음을 보여준다. 부비동염 수술용 의료기기 트루디는 AI를 활용한 뒤 의료사고를 일으켰다.
네이버와 카카오는 최근 오픈클로를 활용한 컴퓨터 사용 기능을 금지시켰다. 오픈클로는 스스로 컴퓨터에 저장된 정보를 탐색한 뒤 마우스와 키보드를 조작하는 개방형 에이전트 기술이다. 좋게 보면 사람을 대신해서 일하지만 나쁘게 보면 사람 몰래 돈을 쓸 수도 있다. AI 연구자 므리낭크 샤르마는 “세상이 위험에 빠졌다”고 경고했다. 샤르마는 클로드를 개발해서 유명해진 앤트로픽에서 퇴사했다.
AI 기술과 혁신의 속도는 상상을 초월한다. AI 주도권 경쟁을 펼치는 알파벳과 메타, 아마존 등은 안정성이 검증되지 않은 AI 챗봇을 적용시켰다고 알려졌다. 하루가 다르게 바뀌는 AI 환경 속에서 고객은 보호막 없이 방치되고 있다. AI 관련 각종 사고를 안전 불감증으로 돌릴 수는 없다. 논의와 합의를 거쳐야 하는 정부와 국회의 대비와 입법이 기술의 속도를 따라잡지 못하고 있다. AI가 말이라면 입법이란 고삐를 만들어야 할 때다.
다만 혁신을 앞세워 보안을 외면하는 산업자본의 탐욕을 묵과할 수 없다. 시장을 선점하겠다는 욕심에 보안 진단을 축소하거나 미완성 기술로 실험해선 곤란하다. 앤트로픽에서 퇴사한 샤르마의 경고를 귀담아 들어야 한다. 과도한 보안 규제가 AI 혁신을 가로막고 경쟁력을 떨어뜨릴 수 있다는 의견도 있다. 그러나 허술한 보안이야말로 혁신적인 기술에서 반드시 도려내야 할 ‘암(癌)적인 존재’다.
미국 국방부조차 클로드를 사용한다. 월스트리트저널은 베네수엘라 니콜라스 마두로 대통령을 체포할 때 클로드가 작전 중에 사용됐다고 보도했다. AI 보안은 개인 사생활을 뛰어넘어 국가 안전을 위해서도 필요하다. 하지만 AI 기본법이 산업 진흥에 무게를 두고 있어 규제 측면에서 허술하다는 의견이 있다. 정부와 국회가 AI 시대에 안전하게 살 수 있도록 나침반을 완성해야 한다.
후원하기
이 기사에 대해 어떻게 생각하시나요?
추천해요
좋아요
감동이에요
화나요
슬퍼요
추천해요0
좋아요0
감동이에요0
화나요0
슬퍼요0
기사제보 
