 개발 경쟁을 벌여온 주요 기업 최고경영자(CEO)들이 이례적으로 AI 개발 속도를 늦춰야 한다는 데 잇따라 동조하면서 글로벌 AI 업계에 새로운 기류...'))
인공지능(AI) 개발 경쟁을 벌여온 주요 기업 최고경영자(CEO)들이 이례적으로 AI 개발 속도를 늦춰야 한다는 데 잇따라 동조하면서 글로벌 AI 업계에 새로운 기류가 형성되고 있다. 다만 중국과의 기술 경쟁이 격화하는 상황에서 실제 속도조절을 위한 국제적 공조가 가능할지는 여전히 불투명하다.
다리오 아모데이 앤트로픽 CEO는 13일(현지시간) CBS 인터뷰에서 AI 발전 속도가 급격히 가팔라지고 있다며 개발 속도를 늦춰야 한다고 주장했다. 그는 AI의 발전 과정을 1, 2, 4, 8, 16, 32로 커지는 곡선에 비유하며 현재가 ‘가팔라지는’ 가속 국면에 들어섰다고 진단했다. 그러나 그는 "오늘 당장 패닉에 빠질 필요는 없다. 전부 셧다운할 필요도 없다"면서도 "그럼에도 이는 우리가 속도를 늦춰야 한다는 경고 신호"라고 말했다.
아모데이는 앞서 공개한 글에서 최근 속도조절이 필요한 이유로 AI의 '재귀적 자기개선' 능력 확대와 AI 에이전트의 통제 실패 사례를 꼽았다. AI가 차세대 AI 개발에 직접 관여하면서 기술 발전 자체가 다시 발전을 가속하는 구조가 나타나고 있다는 것이다. 그는 이를 방치할 경우, 안전장치와 통제 기술이 AI 발전 속도를 따라가지 못할 수 있다고 경고했다.
특히 지난 7월 오픈AI의 AI 에이전트가 통제된 테스트 환경을 벗어나 인터넷에 접근하고 AI 개발 플랫폼 허깅페이스의 시스템을 침해한 사건을 대표적인 위험 사례로 제시했다. 오픈AI는 이후 조사에서 에이전트들이 여러 취약점을 연쇄적으로 이용해 인터넷에 접근하고 허깅페이스 시스템 일부를 침해했다고 공개했다.
[관련 기사]
- 오익근 대신증권 대표 3연임 성공… 2년 더 이끈다
2024-03-21
- 회장보다 연봉 2배 높은 과장…다올투증 윤태호 과장 42억 원 수령
2024-03-17
- 이어룡 ‘국내 10번째’ 종합금융투자사에 도전장
2023-09-25
- 금감원 ‘디스커버리 펀드’ 9월 전면 재검사 착수
2023-08-27
- 젊어지는 재계… 1970년대생 ‘회장·부회장’ 60명 넘어
2023-08-23
[관련 기사]
- 카카오게임즈, 2025년 적자 전환
2026-02-11
- 카카오페이 순항·뱅크 건재… 카카오게임즈는 부진
2025-11-05
- 뱅크·페이는 잘 나가는데… 아픈 손가락 된 카카오게임즈
2025-08-06
- 카카오게임즈 1분기 영업손실 124억 원
2025-05-07
- 카카오게임즈 4분기 적자 전환
2025-02-11
[관련 기사]
- 두산, 엔비디아와 손잡고 피지컬 AI 공략
2026-06-08
- 박정원 두산그룹 회장 “유럽은 제2의 홈 마켓”
2025-04-13
- 박정원 두산 회장 “현재 단단히 하며 미래 준비”
2025-01-01
- 최태원·정의선 등 국내 주요 CEO, CES 2024에 뜬다
2023-12-27
- [우리동네 명사들] ‘엔진 대부’ 이현순 중앙대 이사장으로 새 도전
2023-11-21
[관련 기사]
- BBQ, 스페인에 헤드쿼터 설립… 유럽시장 공략 강화
2025-12-08
- 2025년 경력직 공채… BBQ, 해외 시장 겨냥 인재 확보
2025-09-08
- BBQ, 콜롬비아 진출… 아메리카 전역 K-푸드 벨트 구축
2025-08-26
- 윤홍근 BBQ 회장, 김상옥의사기념사업회 13대 회장 취임
2025-03-06
[관련 기사]
- 제약바이오협회 2026년 예산 119억 확정… 약가 정책 신약 개발 집중
2026-02-25
- 국내 제약사 오너 3세 승부수 … 원톱과 투톱
2026-02-20
- 제약업계, 국산 전문약 약가인하 유예 촉구 결의
2026-02-10
- 일동제약 구조조정 칼바람…"직원들이 무슨 죄"
2023-05-30
- 일동제약, ‘자율 준수의 날’ 기념식 진행… 윤리·준법경영 강조
2022-09-14
- 윤웅섭 부회장, 코로나19 치료제 국내 임상 돌입… 상반기 상용화 목표
2022-03-13
아모데이는 이에 대응해 △ AI 기업 내부에 독립적인 제3자 안전평가자를 상시 배치하고 △민주주의 국가의 AI 기업들이 공동 안전기준을 마련하며 △ 미국 등 민주주의 국가가 권위주의 국가와도 안전 분야의 국제공조를 추진하는 3단계 방안을 제안했다. 앤트로픽은 우선 독립 평가자에게 자사 직원 수준의 지속적인 접근 권한을 부여하기로 했다.
경쟁사들도 잇따라 호응했다. 샘 올트먼 오픈AI CEO는 아모데이의 제안에 동의한다며 독립 평가자 제도를 도입하겠다고 밝혔다. 일론 머스크 스페이스X CEO 역시 아모데이의 글을 공유하며 동의했고, 데미스 허사비스 구글 딥마인드 CEO도 그의 제안이 올바른 방향이라고 평가했다.
AI 안전에 대한 우려는 최근 잇따른 사고를 계기로 더욱 커지고 있다. 오픈AI 에이전트의 허깅페이스 침해에 앞서 루비젬스에서도 AI 에이전트의 공격 사례가 확인됐으며, 앤트로픽 역시 자사 AI 모델이 테스트 과정에서 외부 시스템을 해킹한 사례를 추가 공개했다.
그러나 미국과 중국의 AI 패권 경쟁은 속도조절론의 가장 큰 변수다. 아모데이 역시 중국이 같은 조치를 취하지 않을 경우를 '가장 어려운 딜레마'로 꼽으며 미국 기업의 고성능 AI 칩 대중 수출을 제한해야 한다고 주장했다.
한편, 도널드 트럼프 미국 대통령은 AI 개발 속도를 늦추는 데 부정적인 입장을 나타내며 미국의 기술 우위를 유지해야 한다고 강조했다. 이번 논란은 AI 개발을 멈출 것인가의 문제가 아니라, 기술 발전 속도에 맞춰 안전성 검증과 국제적 통제 체계를 얼마나 빠르게 구축할 수 있느냐의 문제라는 것이다.
후원하기
이 기사에 대해 어떻게 생각하시나요?
추천해요
좋아요
감동이에요
화나요
슬퍼요
추천해요0
좋아요0
감동이에요0
화나요0
슬퍼요0
기사제보 
