실리콘 밸리의 심장부, 캘리포니아 산호세 컨벤션 센터에서 기대되는 과학 기술 향연이 이번 주에 이곳에서 상연되었다.
현지시간으로 3월 18일, 엔비디아 CEO 황인훈은 상징적인 검은색 가죽재킷을 입고 만인경기장에 올랐는데 마치 록스타와 같았다."GTC 컨퍼런스에 오신 것을 환영합니다. 콘서트가 아니라 개발자 컨퍼런스라는 것을 깨닫길 바랍니다."라고 그가 오프닝에서 유머러스하게 말했다.실제로 엔비디아 GPU 테크놀로지 콘퍼런스(GTC)에 대해 업계에서는'AI계의 우드스톡 페스티벌'로 칭송해왔다. 다만 이 축제에서 약동하는 음표는 칩, 알고리즘, 컴퓨터 아키텍처, 수학 등의 내용이다.
AI 시대의'삽질꾼'인 엔비디아는 GTC 대회에서 많은'블랙 테크놀로지'를 선보였다.이 중 블랙웰 아키텍처를 기반으로 한 새로운 GPU 칩은 이전 세대보다 성능이 4배, 에너지 효율이 25배 향상된'최강 AI 칩'이라고 할 수 있다.새로운 AI 마이크로 서비스는 응용 소프트웨어에서 하드웨어 프로그래밍에 이르는 원스톱 서비스를 제공하며 하드웨어, 소프트웨어 및 시스템에 전체 스택 배치를 제공합니다.
더욱 주목할 만한 것은 황인훈이 강연에서'AI 공장'의 개념을 끊임없이 언급하면서 기업이 서로 다른 사고방식에 서서 데이터센터와 AI 도구를 고려할 수 있기를 희망한다는 것이다.그는 세계는 이미 새로운 산업혁명의 시작에 있으며, 이 산업혁명에서 수입된 원자재는 데이터이고, 나온 것은 가치 있는 데이터 토큰 (digital tokens) 이며, 데이터를 처리하고 추출하는 중간 단계가 바로 데이터 센터라고 생각한다.황인훈의 추산에 따르면 연간 2500억 달러 규모의 시장이 될 것으로 보인다.
AI 축제 하이라이트 많다:"최강 AI 칩"Blackwell, 휴머노이드 로봇, Vision Pro 디지털 쌍둥이
2016년 황인훈은 머스크 등 OpenAI 원로들 앞에서 GPU 칩으로 구성된 첫 DGX-1 슈퍼컴퓨터를 OpenAI에게 직접 선물했다.이제 대언어 모델과 생성식 AI 경쟁에 휘말린 모든 회사들이 엔비디아의 GPU 칩을 놓고 경쟁하고 있다.이번 생성식 AI 열풍에서 엔비디아가 배후의 관건적인'삽질꾼'이라는 것은 의심할 여지가 없다.
이번 주 GTC 대회에서 황인훈은 기대를 저버리지 않고 일련의'블랙 테크놀로지'를 내세워 AI계를 다시 폭발시켰다.
매경도 (자료출처: 공개자료에 따르면 정리)
이 과학기술 축제에서 황인훈은'AI 핵폭탄'을 공식 발표했다. 블랙웰 아키텍처를 기반으로 한 GPU 칩이다.블랙웰 GPU는 이전 세대 호퍼 GPU보다 훈련 성능이 4배, 추리 성능은 30배, 에너지 효율은 약 25배 높다.엔비디아의 GPU 성능이 빠르게 향상되어 엔비디아의 고급 과학자 짐 팬은"새로운 무어의 법칙"이 탄생했다고 직격탄을 날렸다.
예를 들어 1조8000억 매개변수의 모델 (GPT-4의 규모) 을 훈련하려면 호퍼 아키텍처의 칩으로 훈련하려면 8000개의 GPU가 필요하고 15메가와트의 전력을 소비하며 90일 정도 걸릴 수 있다.Blackwell을 사용하면 GPU 2000개, 4메가와트의 전력만 있으면 돼 에너지 소비량이 크게 줄어든다.
업계에서는 블랙웰 계열 칩을 채택할 회사로 아마존, 구글, 메타, 마이크로소프트, 오픈AI, 테슬라, xAI를 예상하고 있다.황인훈은 새 GPU의 가격이 3만~4만 달러로 엔비디아의 매출을 더욱 끌어올릴 것이라고 밝혔다.
엔비디아는 또 NIM (엔비디아 추리 마이크로서비스) 을 출시하여 응용소프트웨어로부터 하드웨어프로그래밍에 이르는 원스톱 서비스를 제공하여 개발자들이 쉽게 AI 응용을 구축하고 배치하여 AI 기술의 착지응용을 가속화할수 있도록 했다.
이 외에도 엔비디아는 단백질 구조를 예측하는 ESMFold, 휴머노이드 로봇 기초 모델인 Groot와 휴머노이드 로봇 칩인 Jetson Thor, BYD와 합작한 차량용 컴퓨팅 플랫폼, Omniverse 플랫폼의 애플 Vision Pro 응용과 지구 기후의 디지털 쌍둥이 등 멋진 AI 활용 장면을 선보였다.
이번 GTC 대회도 월가의 뜨거운 인기를 끌었다.JP모건 체이스의 애널리스트 Harlan Sur는 Blackwell 아키텍처가 AI 분야에서 엔비디아의 주도적 지위를 공고히 해 경쟁사보다"여전히 1~2보 앞서고 있다"고 진단했다.뱅크오브아메리카의 애널리스트 비브 아야는 블랙웰 기반 GPU 상품이"성능을 훈련하기 전에 한 걸음 더 나아가 추리 성능이 비약적"이라며 목표가 1100달러와'매입'등급을 유지한다고 밝혔다.
골드만삭스의 애널리스트 Toshiya Hari는 엔비디아의 강력한 혁신 능력과 광범위한 고객 관계가 지속적인 성장을 촉진하고 향후 경쟁에서 우위를 계속 유지하며 경쟁사들을 압박하게 할 것이라고 보고 Hari의 목표주가를 875달러에서 1000달러로 상향 조정했다.
원고를 발송할 때까지 엔비디아는 이번 주에 7.35% 상승하여 올해 개년이래 루계 상승폭이 95.75% 였지만 2023년 년간 상승폭은 239% 였다.
칩만 파는 것이 아니라 엔비디아는 2500억 달러의 큰 시장을 노리고 있다
"우리가 진짜 파는 것은 칩이 아니다. 칩 자체가 작동하지 않는다. 하나의 시스템으로 구축해야 작동할 수 있다."블랙웰 칩의 뛰어난 성능이 화제가 되고 있는 가운데 황인훈은 GTC 총회 기간 이를 계속 강조했다."엔비디아는 AI를 위해 전체 데이터 센터를 구축했다. 단지 그것을 각 부분으로 분해했을 뿐이다. 그 중 일부는 당신의 회사에 적합하다."
황인훈의 견해에 의하면 엔비디아의 시장기회는 GPU칩에 있는것이 아니다. 왜냐하면 많은 회사들도 GPU를 개발하고있기때문이다.엔비디아의 진정한 경쟁 우위는 칩, 소프트웨어, 알고리즘 엔진, 보안 기술, 칩 간 통신 등을 통합한 데이터 센터 솔루션에 있다.
"데이터센터는 연간 2500억 달러 규모의 시장이며 매년 20~25% 씩 성장하는 가속 컴퓨팅 (CPU의 일반적인 컴퓨팅 성능을 능가하기 위해 전용 하드웨어를 사용하는 효율적인 컴퓨팅 처리) 으로 빠르게 나아가고 있다. 이는 주로 AI 쪽 수요 때문이며 엔비디아가 중요한 점유율을 차지할 것"이라고 황인훈은 말했다.그는 동시에 엔비디아의 시가총액이 9개월 동안 1조 달러에서 2조 달러로 상승할 수 있는 저력이라고 말했다.
황인훈이 이처럼 데이터센터 업무를 중시하는 것은 데이터센터가 새로운 산업혁명에서 중심 역할을 할 것으로 보고 GTC 총회 기간'AI 공장'이라는 사고로 데이터센터를 이해해야 한다고 거듭 강조했기 때문이다.
황인훈은 전력 산업혁명을 유추하여"AI 공장"을 설명한다: 지난 산업혁명에서 수입된 것은 물이고, 생산된 것은 전기이며, 데이터센터 방에서 발생한 산업혁명은 그 원자재는 데이터이고, 처리를 거친 후 수출된 것은 데이터 토큰이다."이런 토큰은 보이지 않고 세계 각지에 분포될 것이다.매우 가치가 있다"고 말했다.
업계인사는 황인훈의 이른바"AI공장"은 사실 국내 지산센터의 표현과 비슷하며 AI 대형모형, AI 응용 등에 계산력을 제공하는 신형"발전소"로서 전통적으로 데터를 저장하고 관리하는 설비가 아니라고 인정했다.
황인훈이'AI 공장'의 개념을 거듭 강조한 것은 실제로 기업들이 단순한 설비투자가 아닌 데이터센터를 돈을 버는 단위로 인식함으로써 더 많은 기업들이 엔비디아의 서비스 배치를 가속화하기를 바라는 것이다."데이터 센터는 회사의 비용 센터이자 자본 지출로 간주되었는데, 당신은 그것을 비용으로 생각할 것이다.그러나 공장은 돈을 벌 수 있는 다른 문제이다.생성식 AI의 새로운 세계는 새로운 형태의 공장을 낳을 것이다."라고 그는 덧붙였다.
생성식 AI가 폭발함에 따라 데이터센터 업무는 이미 엔비디아의 주요 성장점이 되었다.올해 2월에 발표된 최신 분기 재무제보에 따르면 데이터센터 업무는 엔비디아의 당기 83% 의 매출을 짊어지고 전년 동기 대비 409% 증가한 184억 달러를 기록했다.이 성장은 대형 모델 훈련과 추리가 엔비디아 호퍼 GPU 아키텍처에 대한 수요와 불가분의 관계이며, 블랙웰 GPU가 출시됨에 따라 엔비디아는 AI'삽질꾼'의 지위를 계속 확고히 차지할 것으로 보인다.
GTC 컨퍼런스 기간 동안 Dell은 엔비디아와 함께 Dell'AI 공장'을 공동 건설하고 자사의 플래그십 PowerEdge XE9680 서버를 업그레이드하여 엔비디아의 최신 GPU 아키텍처를 지원한다고 발표했습니다.Lenovo Group도 엔비디아 NIM과 NeMo Retriever를 포함하여 개발자들에게 방금 발표 된 NVIDIA 마이크로 서비스를 제공 할 새로운 하이브리드 인공 지능 솔루션을 출시하기 위해 엔비디아 (NVIDIA) 와 협력한다고 발표했다.나델라 마이크로소프트 CEO도 마이크로소프트의 글로벌 데이터센터에 GB200 그레이스 블랙웰 프로세서를 적용해 세계 각지의 조직들이 AI 정착을 이룰 수 있도록 돕겠다고 밝혔다.
엔비디아의 주가가 폭주하는 가운데 월가의 모든 사람들이 관심을 갖는 문제는 엔비디아가 얼마나 더 오를 수 있을지, 거품이 있는지 여부다.많은 사람들의 눈에는 이번 AI 열풍이 이제 막 시작되었고, 엔비디아는 계속 성장할 것이다.
WedBush 증권의 저명한 애널리스트 Dan Ives는 매일경제신문 기자에게 보낸 논평 메일에서"엔비디아의'황금'GPU가 일으킨 파장은 이미 과학기술계에 향후 수년간의 지출 물결을 일으켰다.이번 4차 산업혁명에서 기업과 소비자 사용 장면이 전 세계에 확산됨에 따라 앞으로 10년 동안 AI 지출이 1조 달러에 이를 것으로 예상된다.현재 AI에 대한 메타 투자는 놀라운 리더, 마이크로소프트 모두 디지털 투자,
최근 Dan Ives는 2024년 기업의 IT 예산에서 AI 관련 지출이 8~10% 를 차지할 것으로 보고 있지만 2023년에는 1% 도 안 된다.
특히 엔비디아 GTC 총회 기간 황인훈의 기조연설과 함께 미국 국립공학원 원사이자 스탠퍼드대 최초의 세쿼이아 강석교수인 리페이페이와 OpenAI 최고운영책임자인 브래드 라이트캡 등 게스트들도 멋진 나눔을 선사하며 AI, 가속컴퓨팅 등 분야의 획기적인 진전을 모색했다.
