인공지능(AI)이 빠르게 발전하고 이에 따른 위험도 증가하면서 AI 개발 속도를 늦춰야 한다는 주장이 힘을 얻고 있다. 다리오 아모데이 앤트로픽 CEO가 먼저 화두를 제시한 데에 이어 오픈AI와 구글 등 주요 AI 기업 CEO들도 이에 동의했다. 그러나 미국 정부는 속도를 조절할 필요가 없다는 입장이다.
샘 올트먼 오픈AI 최고경영자(CEO)는 15일(현지 시간) 미국 샌프란시스코 예르바부에나 예술센터 블루 실드 오브 캘리포니아 극장에서 진행한 마크 베니오프 세일즈포스 CEO와의 대담에서 AI 안전 관련 역량이 기술 발전보다 앞서야 한다고 말했다.
올트먼 CEO는 7월 오픈 AI의 모델이 격리 환경을 이탈해 허깅페이스를 해킹한 사건을 언급했다. 오픈AI의 AI 에이전트들은 10곳이 넘는 외부 사이트의 제한을 우회한 비인가 통신 채널로 이용했으며 사이버 공격도 수행한 바 있다.
올트먼 CEO는 “모델들의 역량이 얼마나 강력해졌는지 보여주며 경종을 울린 사건”이라며 “우리 회사뿐 아니라 업계 전체를 재설정했다”라고 말했다. 올트먼 CEO는 AI가 인간의 지시와 다른 목표나 행동 방식을 가지지 않도록 설정하는 ‘정렬’의 중요성을 강조하며 AI 역량보다 정렬 및 감시, 보안이 앞서 나갈 수 있도록 기술 개발 속도를 조절해야 한다고 주장했다.
다만 AI 안전 규제에는 부정적인 입장을 보였다. 올트먼 CEO는 “우리 회사가 우리 업계가 이를 안전하게 해낼 능력이 있다고 확신한다”라며 “논의가 이뤄지는 프레임을 아쉽게 생각한다”라고 말했다.
[관련 기사]
- 프로야구 KIA 정해영, 올스타 팬투표 최다득표
2024-06-17
- 봉중근, 예능 ‘우리는 식구당’ 등판… 아이돌 그룹 ‘탄’과 색다른 케미
2022-03-27
- 봉중근, 만취상태 전동킥보드 타다 면허취소
2021-11-23
- 류현진, 페이스북 통해 아이스 버킷 챌린지 동참
2014-08-21
[관련 기사]
- SPC 논란 속 3세 승진… 재계 전반으로 번진 ‘세대 교체 흐름’
2025-11-27
- SPC, 파리크라상 물적분할 추진… 지주사 전환·승계 작업 암시
2025-11-25
- 파리바게뜨, 美 텍사스 제빵공장 착공… “2027년 가동”
2025-09-17
- 대통령실, SPC 8시간 초과 야근 폐지 ‘긍정 평가’
2025-07-27
- SPC 파리바게뜨 ‘파란라벨’ 브랜드 론칭
2025-03-13
- SPC그룹 美텍사스 제빵공장 건립 확정… “2027년 완공”
2025-02-03
[관련 기사]
- 김윤덕 “GTX 철근누락 국토부 책임… 오세훈도 사과해야”
2026-05-20
- 정원오-오세훈, ‘부동산 지옥’ 서로 네 탓… 난타전
2026-05-03
- 마포구, 구정 성과 점검·중장기 비전 제시
2026-01-08
- [스카이 View] 도시숲의 가치
2025-09-23
- “서해의 55 영웅들, 3개의 빛 기둥 되어 서울 하늘 빛 내”
2025-03-27
- 오세훈 “결단 시점 올 것”… 차기 대권 도전 시사
2024-12-26
[관련 기사]
- 군포시 초막골 생태공원 ‘맹꽁이 에코셔틀’ 확대 운영
2026-03-05
- 애국시민단체 ‘오.이.박.사’ 제200회 집회 기념 세미나 성료
2024-11-03
[관련 기사]
- 신한은행, 항공정비기업 찾아 생산적 금융 지원 논의
2026-06-04
- 신한은행, 서울대와 장기 협력 업무협약 체결
2026-05-12
- 신한은행, 베트남 경제사절단서 금융 협력 기반 확대
2026-04-27
- 신한은행, 신용대출 자격확인 절차 개편
2026-04-23
- 신한은행·산업연구원, 생산적 금융 활성화 위해 손잡아
2026-04-15
- 신한은행 경영진, 유언대용·치매안심신탁 가입
2026-04-13
올트먼 CEO는 구체적인 방안으로 사이버 공격에 노출될 위험이 높은 중소기업에 방어용 AI 프로그램을 제공하겠다고 제안했다. AI 안전에 대한 우려와 이에 따른 AI 개발 속도 조절은 최근 AI 업계에서 가장 중요한 이슈 중 하나다.
다리오 아모데이 앤트로픽 CEO는 12일 AI 안전을 위한 견제가 필요하며 첨단 AI 모델의 개발 속도를 조절해야 한다고 주장하는 장문의 글을 제시했다.
아모데이 CEO는 “모델 학습이나 기술 발전을 중단하는 것을 의미하는 것이 아니라 기업들이 모델을 정렬하고 안전하게 만드는 데 충분한 시간을 확보하자는 것”이라며 “모델 임계점에 도달하기까지 1~2년의 추가 시간을 확보하고 그 시간을 정렬을 발전시키는 데 사용한다면 심각한 문제가 발생할 위험을 크게 줄일 수 있을 것”이라고 말했다.
아모데이 의견에 올트먼과 일론 머스크 등이 지지 의사를 밝혔다. 데미스 허사비스 구글 딥마인드 회장도 마찬가지다.
다만 AI 속도 조절이 이뤄진다고 하더라도 정부 규제보다는 기업들이 자율적으로 속도를 제한하는 형태가 될 전망이다. 현재 미국 정부는 중국과의 AI 전쟁에서 앞서 나가기 위해 빠른 개발을 선호하기 때문이다.
도널드 트럼프 미국 대통령은 13일(현지 시간) 아일랜드에서 열린 기자회견에서 “미국은 AI 분야에서 중국을 앞서고 있고 계속 유지하고 싶다”라며 “속도를 늦추지 않고도 안전장치를 마련할 수 있을 것”이라고 말했다.
후원하기
이 기사에 대해 어떻게 생각하시나요?
추천해요
좋아요
감동이에요
화나요
슬퍼요
추천해요0
좋아요0
감동이에요0
화나요0
슬퍼요0
기사제보 
