3월 19일 언론에 따르면 황인훈 엔비디아 CEO는 엔비디아의 최신 AI 칩 블랙웰의 판매가가 3만 달러 (약 22만 원) 에서 4만 달러 사이가 될 것이라고 말했다.그는 엔비디아가 연구 개발 비용에 약 100억 달러 (약 720억 원) 를 썼다고 추정했다.
CNBC
이 가격은 이 칩이 ChatGPT 등 인공지능 소프트웨어를 훈련하고 배치하는 인기 있는 칩일 가능성이 높으며, 그 가격 범위는 전신인 H100 (즉, Hopper) 과 비슷할 것임을 보여준다.
황인훈은 CNBC의 Kristina Partsinevilos를 상대로 비용은 칩뿐만 아니라 데이터 센터 설계 및 다른 회사에 통합된 데이터 센터와도 관련이 있다고 소송을 제기했다.
북경시간으로 3월 19일 새벽 4시, 세계 시가제3대 회사 엔비디아는 미국 캘리포니아주 산호세에서 GTC대회를 개최하여 정식으로 개막되였다. 고전가죽옷모양의 황인훈은 회의에서"핵무기급"이라고 할수 있는 NVIDIA Blackwell 구조와 그 첫 칩 B200을 정식으로 발표했다. 이 이중칩설계는 2080억개의 트랜지스터를 갖고있다.
이 칩은 올해 말에 출하될 예정이다.
Blackwell 플랫폼은 이전 모델보다 25배 낮은 비용과 에너지 소비량을 가진 대규모 언어 모델 (LLM) 에서 실시간 생성 AI를 구축하고 실행할 수 있습니다.
영상 캡처
엔비디아에 따르면 블랙웰은 AI 훈련과 실시간 LLM 추리를 위해 최대 10조 매개변수의 모델을 지원할 수 있는 6가지 혁명적인 기술을 보유하고 있다.
세계에서 가장 강력한 칩: Blackwell 아키텍처 GPU는 2080억 개의 트랜지스터로 구성되어 있으며, 맞춤형 TSMC 4나노 공정으로 제작되었으며, 두 개의 reticle 극한 GPU 나체 칩은 10TB/s의 칩과 칩 링크를 하나의 통일된 GPU로 연결한다.
2세대 Transformer 엔진: Blackwell Tensor Core 기술과 TensorRT-LLM 및 NeMo Megatron 프레임워크의 엔비디아 첨단 동적 범위 관리 알고리즘을 결합한 Blackwell은 새로운 4비트 부동 소수점 AI를 통해 두 배의 컴퓨팅 및 모델 크기 추론 능력을 지원할 것입니다.
5세대 NVLink: 수조 매개변수와 하이브리드 전문가 AI 모델의 성능을 향상시키기 위해 최신 세대 엔비디아 NVLink는 각 GPU에 획기적인 1.8TB/s 양방향 처리량을 제공하여 가장 복잡한 LLM 간 최대 576개의 GPU 간의 원활한 고속 통신을 보장합니다.
RAS 엔진: Blackwell에서 지원하는 GPU에는 신뢰성, 가용성 및 서비스를 위한 전용 엔진이 포함되어 있습니다.또한 Blackwell 아키텍처에는 AI 기반 예방 유지 보수를 이용하여 신뢰성 문제를 진단하고 예측하는 칩급 기능이 추가되었다.이를 통해 시스템 가동 시간을 최대한 늘리고 대규모 AI의 탄력성을 높여 수주 또는 수개월 연속 운영할 수 있도록 하며 운영 비용을 절감할 수 있다.
보안 인공지능: 고급 기밀 컴퓨팅 기능은 성능에 영향을 주지 않고 AI 모델과 고객 데이터를 보호하며 새로운 네이티브 인터페이스 암호화 프로토콜을 지원하는데 이는 의료 보건과 금융 서비스와 같은 프라이버시 민감한 업계에 매우 중요하다.
압축 해제 엔진: 전용 압축 해제 엔진은 최신 형식을 지원하며 데이터베이스 조회를 가속화하고 데이터 분석 및 데이터 과학의 최고 성능을 제공합니다.앞으로 몇 년 동안 기업이 매년 수백억 달러를 쓰는 데이터 처리에 GPU에 의해 점점 더 가속화될 것이다.
영상 캡처
Blackwell GPU는 크기가 커서 별도로 제조된 두 개의 결정 입자를 TSMC에서 제조한 칩으로 조합합니다.또한 72개의 Blackwell GPU와 AI 모델 훈련을 위한 기타 엔비디아 부품을 결합한 GB200 NVLink 2라는 전체 서버로 제공될 예정이다.
아마존, 구글, 마이크로소프트, 오라클은 클라우드 서비스를 통해 GB200에 대한 액세스를 제공할 예정이다.GB200은 B200 Blackwell GPU 2개와 Arm 기반 Grace CPU 1개를 페어링합니다.엔비디아는 아마존웹서비스가 20000개의 GB200 칩이 포함된 서버 클러스터를 구축할 것이라고 밝혔다.
인공지능 (AI) 분야 개발자 축제인 엔비디아 2024 GTC 기간에 엔비디아 창업자 겸 CEO 황인훈은 엔비디아가 1년에 수천억 달러의'금을 캐는'데이터센터 시장에서 더 많은'케이크'를 빼앗을 것이라고 자신있게 호언장담했다.
황인훈은 참석자들에게 엔비디아가 생산하는 칩과 소프트웨어의 종류가 다양하기 때문에 회사가 유리한 위치에 있으며 전 세계 데이터센터 설비의 지출 중 상당수가 엔비디아에서 나오는 제품이 될 것이라고 말했다.
황인훈은 매년 전 세계에서 데이터센터 설비에 투입되는 비용이 총 2500억 달러가 될 것이며, 엔비디아 제품이 차지하는 점유율은 다른 칩 생산업체들을 능가할 것이라고 전망했다.엔비디아는 각 산업이 AI 기술을 채택하고 사용할 수 있도록 소프트웨어 개발에 주력하고 있다.엔비디아는 AI 모델과 기타 소프트웨어를 제공한 다음 고객의 계산력과 운행하는 칩의 수량에 따라 고객에게 비용을 수취한다.
3월 19일 (현지 시각) 현재 엔비디아는 893.98달러로 1.07% 상승해 시가총액 2조2000억 달러를 기록했다.
면책 성명: 이 글의 내용과 데이터는 참고용으로만 제공되며 투자 건의를 구성하지 않습니다. 사용하기 전에 확인하십시오.이에 따라 위험은 스스로 부담한다.
