삼성전자·네이버의 승부수… 엔비디아 대안 될 수 있다

이 시간 주요기사

뉴스 > 전기·전자·통신

삼성전자·네이버 마하2 개발 돌입… 데이터 병목 현상·전력 소모 절감 기대
추론 특화 특성상 엔비디아 완전 대체는 불가능… 일부 영역 수요 기대

양준규 기자 기자페이지 + 입력 2024-04-08 13:44:10

▲ 삼성전자가 주주총회에서 공개한 AI 칩 마하가 엔비디아 AI 칩의 대안이 될 수 있을지 관심이 쏠리고 있다. 삼성전자 제공

삼성전자와 네이버가 함께 개발하는 인공지능(AI) 반도체 ‘마하’에 대한 관심이 커지고 있다. 엔비디아가 AI 반도체의 헤게모니를 장악한 상황에서 엔비디아의 아성을 흔들기는 쉽지 않지만 일부 영역에서는 대안이 될 수 있을 것으로 예상된다.

8일 업계에 따르면 삼성전자와 네이버는 함께 추론용 AI 칩 마하2 개발에 돌입했다. 네이버가 소프트웨어를 설계하고 삼성전자가 칩 디자인과 생산을 맡을 것으로 알려졌다.

마하는 삼성전자가 최근 공개한 AI 가속기다. 삼성전자는 3월20일 주주총회에서 마하1을 처음으로 언급했다. 마하1은 메모리와 그래픽 처리 장치(GPU) 사이의 데이터 병목 현상을 8분의 1로 줄이고 전력 효율을 8배 높이는 것을 목표로 한다.

경계현 삼성전자 사장이 언급한 마하1 개발 완료 시점은 2024년 말이다. 마하1 개발이 아직 끝나지 않은 시점에서 마하2 개발에 돌입한 만큼 삼성전자와 네이버는 마하에 대한 확신이 있는 것으로 보인다.

경 사장은 5일 SNS를 통해 "추론 전용 마하1에 대한 고객들의 관심이 증가하고 있다”며 “일부 고객은 1테라 파라미터 이상의 큰 앱에 마하를 쓰고 싶어 한다”며 자신감을 드러냈다.

마하가 계획대로 개발된다면 AI 반도체 시장에서 큰 파장이 일 것으로 예상된다. AI 가속기와 그래픽칩 처리장치가 정보를 교환하는 기존 방식은 막대한 데이터 병목 현상을 발생시켰다. 이러한 병목 현상을 해결할 수 있다면 효율성을 비약적으로 향상시킬 수 있다.

전력 소모 감소 또한 주목된다. 미국 정보 기술(IT) 매체 더 버지에 따르면 오픈 AI의 GPT-3를 학습시키는 데 필요한 전력은 미국 가정 130곳의 연간 소비 전력량에 가깝다. 여기에 AI 기술이 발전하면 전력 소모량은 더욱 늘어날 것으로 예상되는 만큼 전력 소모를 줄일 수 있다는 이점은 크다.

AI의 전력 소모가 추론보다는 학습 과정에서 많이 발생하기 때문에 전체 전력 소모량이 8배 줄어드는 것은 아니지만 전력 소모가 워낙 커 추론 과정에서만 줄일 수 있어도 충분히 의미가 있을 것으로 보인다.

여기에 마하1는 AI 반도체 시장을 지배하는 엔비디아의 AI 칩과 비교해 가격이 10분의 1 수준으로 알려져 가격 경쟁력 면에서 우위를 점할 수 있을 것으로 기대된다.

현재 AI 반도체 시장을 사실상 엔비디아가 독점하고 있는 상황에서 삼성전자가 새로운 AI 칩을 내놓아 업계에 관심이 쏠렸다. 전 세계적으로 엔비디아 AI 반도체 품귀 현상이 계속되는 만큼 마하가 AI 업계의 게임체인저가 될 수 있을 것이라는 주장도 나오고 있다.

다만 추론 기능에 집중된 마하의 특성상 엔비디아의 직접적인 경쟁 상대가 되지는 못할 것으로 보인다. 현재 가장 주목받는 AI인 생성형 AI의 경우 학습과 추론 기능을 필요로 한다. 추론 기능만 사용할 경우 생성형 AI처럼 새로운 데이터를 생성하는 것이 불가능하며 기존 데이터를 분석하는 기능만 사용할 수 있다.

실제로 삼성전자는 지난달 20일 주주총회 이후 본지와 통화에서 엔비디아 AI 칩과 결이 다른 제품이기 때문에 경쟁 상대라고 볼 수 없다고 밝힌 바 있다.

네이버 역시 마하2에 대해 신중한 입장이다. 네이버 관계자는 “현재까지 말할 수 있는 것은 삼성전자와 AI 칩 분야에서 지속적으로 협력하고 있다는 것”이라며 “하이퍼클로바X에 어떻게 적용될지 여부 등은 말할 수 없다”고 말했다.

이제까지 공개된 정보들을 토대로 보면 네이버가 서비스하는 하이퍼클로바X의 경우 학습과 추론 기능을 모두 사용하기 때문에 추론 기능에 특화된 마하1·2만으로는 충분하지 않다. 이에 네이버가 마하2를 개발한다고 하더라도 엔비디아 의존도를 완전히 떨쳐내기는 어려울 것으로 보인다.

그러나 업계 관계자들은 두 기능을 모두 사용한다고 해도 추론에 특화된 AI 반도체의 사용처를 찾을 수 있다는 입장이다.

업계 한 관계자는 “학습과 추론 중에 학습이 더 고사양 컴퓨터가 필요하기 때문에 일단 학습은 좋은 것으로 하고 고객들에게 제공하는 추론 기능은 전력 소모도 줄일 겸 스펙을 낮추는 경우가 있다”며 “엔비디아 칩을 완전히 대체할 수는 없더라도 수요가 있을 것 같다”고 말했다.

전문가들은 또 마하가 게임 체인저까지는 아니라도 엔비디아가 독점하는 AI 반도체 시장에서 입지를 확보할 가능성은 충분하다고 보고 있다.

이재성 중앙대 인공지능연구소 소장은 “AI에 사용되는 GPU가 원래는 게이밍 용도로만 쓰이다가 AI가 주목받으면서 갑자기 수요가 늘다 보니 관련 기능을 수행할 수 있는 엔비디아 GPU에 너도나도 몰린 감이 있다”며 “꼭 엔비디아 칩을 사용할 필요는 없는 분야에서 마하가 하나의 대안은 될 수 있는 만큼 고객사를 잘 찾는 것이 관건이 될 것”이라고 말했다.

양준규 기자 jgyang@skyedaily.com 기자페이지 +