차이롄보 12월 6일발 소식: H100 GPU는 과학기술업종의"새로운 황금"으로 인정되고있다. 왜냐하면 이는 생성식인공지능에 계산력을 제공하는 우선순위이기때문이다.
올해 엔비디아가 대박을 친 H100 GPU는 모두 어떤 회사로 흘러갔을까?아래 그림은 엔비디아의 올해 가장 큰 고객을 명확하게 나열하고 있다.
시장조사업체 옴디아리서치의 최근 보고서에 따르면 메타와 마이크로소프트 두 회사는 H100 GPU 15만 개 구매량으로 공동 1위를 차지했다.
마이크로소프트의 이런 큰 주문량은 의외가 아니다. 왜냐하면 이 회사는 끊임없이 늘어나는 인공지능제품과 기존의 인공지능조수 Copilot (원래의 Bing Chat) 에 계산력을 제공해야 하기때문이다.
메타사는 인공지능 분야에서도 야심을 갖고 있다.메타가 챗GPT만큼 강력한 챗봇을 개발하기 위해 AI 칩을 지속해서 조달하고 데이터센터를 만들고 있다는 보도는 몇 달 전에 나온 바 있다.메타는 올해 7월 출시한 Llama 2 모델보다 몇 배 강력한 기능을 갖출 것으로 기대되는 새로운 대형 언어 모델을 개발하고 있으며 내년에 새 모델 훈련을 시작하는 것을 목표로 하고 있는 것으로 알려졌다.
그러나 다른 회사와 메타, 마이크로소프트 간의 구매량 격차는 다소 현격하다.
구글, 아마존, 오라클, 텐센트는 H100 GPU 5만 개 구매량으로 공동 3위를 차지했습니다.클라우드 서비스 제공업체인 CoreWeave사의 예상 구매량은 4만 개의 H100입니다.바이두와 알리바바는 각각 3만 위안과 2만 5천 위안의 H100을 구매했습니다.바이트댄스와 클라우드 서비스 공급업체인 람다랩스가 H100 2만개 구매량으로 뒤를 이었다.테슬라는 H100 1만5000개를 구입했다.
대부분 클라우드 공급업체로 이동
Omdia Research의 보고서에 따르면 엔비디아는 대부분의 GPU 서버를 대형 클라우드 서비스 제공업체에 공급하고 있습니다.이것은 아마도 엔비디아가 클라우드 서비스에 접근하고 있다는 것을 의미할 것이다.
특히 엔비디아 H100의 상위 12대 고객 중 코어웨이브와 람다랩스 두 곳만이 스타트업이지만 엔비디아와 인연이 깊다.
올해 H100 칩이 처음 출시될 때 엔비디아는 CoreWeave와 Lambda를 이 칩을 사용하는 첫 번째 회사로 선택했다.그리고 그들의 융자 과정에서 엔비디아의 투자 모습을 발견할 수 있다: 올해 4월 엔비디아는 CoreWeave 2억 2100만 달러의 B라운드 융자에 참여했다;올해 7 월 엔비디아는 Lambda Labs에 3 억 달러를 투자했습니다.
현재 CoreWeave의 평가액은 약 20 억 달러이며 Lambda의 평가액도 10 억 달러를 초과 할 것입니다.
앞서 애널리스트들은 엔비디아가 이들 클라우드 스타트업에 GPU를 매각한 것은 아마존, 마이크로소프트, 구글 등 거대 클라우드 기업에 국한되지 않고 GPU의 대상 고객층을 확대하기 위한 것이라고 지적했다.
미래 전망
또한 옴디아가 최근 발표한 새로운 자료에 따르면 칩 제조 기업인 엔비디아는 3분기에 거의 50만 개의 H100과 A100 GPU를 출하했다.이전 재무제보에 따르면 이 분기 엔비디아 데이터센터의 수입은 145억 달러로 지난해 같은 기간의 거의 4배에 달했다.
이 분석사는 또 2023년 4분기까지 엔비디아 H100과 A100 GPU의 판매량이 50만 개를 넘어설 것으로 전망했다.
그러나 엔비디아 H100 GPU를 대량으로 구매하는 거의 모든 회사 자체도 AI, HPC, 비디오 워크로드를 위한 맞춤형 칩을 개발하고 있다.따라서 시간이 지남에 따라 엔비디아의 고객들이 자체 칩으로 전환함에 따라 엔비디아 하드웨어에 대한 구매량이 줄어들 수 있다.