인공지능(AI)이 빠르게 발전하고 이에 따른 위험도 증가하면서 AI 개발 속도를 늦춰야 한다는 주장이 힘을 얻고 있다. 다리오 아모데이 앤트로픽 CEO가 먼저 화두를 제시한 데에 이어 오픈AI와 구글 등 주요 AI 기업 CEO들도 이에 동의했다. 그러나 미국 정부는 속도를 조절할 필요가 없다는 입장이다.
샘 올트먼 오픈AI 최고경영자(CEO)는 15일(현지 시간) 미국 샌프란시스코 예르바부에나 예술센터 블루 실드 오브 캘리포니아 극장에서 진행한 마크 베니오프 세일즈포스 CEO와의 대담에서 AI 안전 관련 역량이 기술 발전보다 앞서야 한다고 말했다.
올트먼 CEO는 7월 오픈 AI의 모델이 격리 환경을 이탈해 허깅페이스를 해킹한 사건을 언급했다. 오픈AI의 AI 에이전트들은 10곳이 넘는 외부 사이트의 제한을 우회한 비인가 통신 채널로 이용했으며 사이버 공격도 수행한 바 있다.
올트먼 CEO는 “모델들의 역량이 얼마나 강력해졌는지 보여주며 경종을 울린 사건”이라며 “우리 회사뿐 아니라 업계 전체를 재설정했다”라고 말했다. 올트먼 CEO는 AI가 인간의 지시와 다른 목표나 행동 방식을 가지지 않도록 설정하는 ‘정렬’의 중요성을 강조하며 AI 역량보다 정렬 및 감시, 보안이 앞서 나갈 수 있도록 기술 개발 속도를 조절해야 한다고 주장했다.
다만 AI 안전 규제에는 부정적인 입장을 보였다. 올트먼 CEO는 “우리 회사가 우리 업계가 이를 안전하게 해낼 능력이 있다고 확신한다”라며 “논의가 이뤄지는 프레임을 아쉽게 생각한다”라고 말했다.
[관련 기사]
- 스타벅스 美본사 "부적잘한 마케팅" 5·18단체에 사과
2026-06-07
- [사설] 스타벅스 악용한 국민의힘, 혐오 부추기는 뺄셈 정치
2026-05-26
- 정용진 “모든 책임은 나에게”… ‘5·18 탱크데이’ 사과
2026-05-26
- 고개 숙인 정용진, “모든 게 제 잘못”
2026-05-26
- 정용진 회장 직접 등판… 스벅 논란 수습 분수령 될까
2026-05-25
- 스타벅스 '탱크데이' 논란 소셜미디어에서도 확산
2026-05-23
[관련 기사]
[관련 기사]
- [부(富)의 지도 2025 ⑦]한강+숲+문화… 강북 신흥부촌 결정판 성수
2025-10-16
- ‘베아제·우루사’ 아버지… 윤영환 대웅제약 창업주 88세로 별세
2022-08-20
- 윤재승 회장 없는 대웅제약, 의약 개발 사활… 亞 4개국 진출도
2022-05-12
- 대웅제약 떠난 ‘막말논란’ 윤재승 회장… 헬스케어 기업 미래는
2020-10-04
- 젊은피 전승호 패착인가…호실적 해외사업 적자행렬
2019-02-13
- 뱉은말은 사직서로 주워담을 수 없다
2018-08-30
[관련 기사]
- 홍명보호 이라크 3-2 꺾고 5부능선 넘었다… 북중미 직행 청신호
2024-10-16
- ‘홍명보호’ 96위 팔레스타인에 충격의 무승부 … 경기장 팬들 야유
2024-09-06
- 외국인만 약 100명 가량 살핀 축구협회… 결국 돌고돌아 홍명보
2024-07-07
- [박병헌의 스포츠 세상] 국민도 함께한 한국 축구의 애환
2024-05-23
[관련 기사]
- 최태원 이혼 소송 파기환송… 노태우 비자금 인정 안 했다
2025-10-16
- 최태원 회장 “차별화된 AI 경쟁력 만들어야”
2025-08-21
- SK그룹 “경영의 본질로 돌아가 신뢰 회복”
2025-06-15
- 최태원 “곧 다가올 AI 대확장 기회”
2024-11-03
올트먼 CEO는 구체적인 방안으로 사이버 공격에 노출될 위험이 높은 중소기업에 방어용 AI 프로그램을 제공하겠다고 제안했다. AI 안전에 대한 우려와 이에 따른 AI 개발 속도 조절은 최근 AI 업계에서 가장 중요한 이슈 중 하나다.
다리오 아모데이 앤트로픽 CEO는 12일 AI 안전을 위한 견제가 필요하며 첨단 AI 모델의 개발 속도를 조절해야 한다고 주장하는 장문의 글을 제시했다.
아모데이 CEO는 “모델 학습이나 기술 발전을 중단하는 것을 의미하는 것이 아니라 기업들이 모델을 정렬하고 안전하게 만드는 데 충분한 시간을 확보하자는 것”이라며 “모델 임계점에 도달하기까지 1~2년의 추가 시간을 확보하고 그 시간을 정렬을 발전시키는 데 사용한다면 심각한 문제가 발생할 위험을 크게 줄일 수 있을 것”이라고 말했다.
아모데이 의견에 올트먼과 일론 머스크 등이 지지 의사를 밝혔다. 데미스 허사비스 구글 딥마인드 회장도 마찬가지다.
다만 AI 속도 조절이 이뤄진다고 하더라도 정부 규제보다는 기업들이 자율적으로 속도를 제한하는 형태가 될 전망이다. 현재 미국 정부는 중국과의 AI 전쟁에서 앞서 나가기 위해 빠른 개발을 선호하기 때문이다.
도널드 트럼프 미국 대통령은 13일(현지 시간) 아일랜드에서 열린 기자회견에서 “미국은 AI 분야에서 중국을 앞서고 있고 계속 유지하고 싶다”라며 “속도를 늦추지 않고도 안전장치를 마련할 수 있을 것”이라고 말했다.
후원하기
이 기사에 대해 어떻게 생각하시나요?
추천해요
좋아요
감동이에요
화나요
슬퍼요
추천해요0
좋아요0
감동이에요0
화나요0
슬퍼요0
기사제보 
