엔비디아 오픈 소스 3400억 매개변수 모델 Nemotron-4 340B
宠着祖宗
发表于 2024-6-15 16:13:58
1478
0
0
6월 14일 (현지 시간) 엔비디아 오픈 소스 Nemotron-4 340B (3400억 매개변수) 시리즈 모델.엔비디아에 따르면 개발자는 의료, 금융, 제조, 소매 및 기타 산업의 상업 응용을 위해 대형 언어 모델 (LLM) 을 훈련하기 위해 이 시리즈 모델을 사용하여 합성 데이터를 생성 할 수 있습니다.
Nemotron-4 340B에는 기본 모델 Base, 명령 모델 Instruct 및 보상 모델 Reward가 포함됩니다.엔비디아는 9조 개의 토큰(텍스트 단위)을 사용해 훈련했다.Nemotron-4 340B-Base는 ARC-c, MMLU 및 BBH 벤치마크 테스트와 같은 상식적 추론 작업에서 Llama-3 70B, Mixtral 8x22B 및 Qwen-2 72B 모델에 필적할 수 있습니다.
CandyLake.com 系信息发布平台,仅提供信息存储空间服务。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
猜你喜欢
- 엔비디아 플러스 인도!맞춤형 AI 칩 공동 개발 계획
- 엔비디아 CEO, TSMC와의 긴장 부인: Blackwell 칩 설계 결함으로 양품률이 낮다
- TSMC 덕분에 엔비디아에서 좋은 소식이 전해졌습니다!
- 엔비디아 H100 해외 임대료 급락했지만'계산력 거품 파열'은 시기상조
- 엔비디아, 애플 다시 제치고 세계 시가총액 1위
- 소프트뱅크 손정의: 엔비디아 주가"저평가"2035년'슈퍼AI'실현 전망
- 엔비디아, SK하이닉스에 HBM4 칩 6개월 앞당겨 공급 요청
- 미국 3대 공적연금 3분기 애플, 엔비디아 등 감소
- 엔비디아 수요가 너무 많다고요?SK하이닉스: 황인훈 HBM4 칩 6개월 조기 납품 요청!
- 엔비디아는 머스크의 xAI 평가액이 400억 달러에 달하는 투자를 고려하고 있다
-
【科技记者古尔曼:苹果计划于12月第一周发布iOS 18.2系统更新 带来更多人工智能功能】科技记者古尔曼透露,苹果计划于12月第一周发布iOS 18.2系统更新。iOS 18.2将为iPhone 15 Pro机型和所有iPhone 16机型带来更多 ...
- cristianna
- 昨天 17:32
- 支持
- 反对
- 回复
- 收藏
-
近日,爱立信中国区总裁方迎在接受《经济参考报》记者采访时表示,5G技术在全球范围内得到了迅速发展,但面临商业潜力未能充分挖掘、网络运营难度较以往更高两大挑战。因此,运营商在继续5G网络部署的同时,应关 ...
- blueskybb
- 昨天 15:05
- 支持
- 反对
- 回复
- 收藏
-
【特斯拉首次聘请了一位品牌大使】特斯拉近日公布了首位品牌大使韩国奥运射击选手金艺智,这一举动有些出人意料,毕竟它曾经对广告的态度十分不屑。 ...
- xyyg
- 昨天 13:34
- 支持
- 反对
- 回复
- 收藏
-
证券时报网讯,纽约州共同退休基金在第三季度对一些科技巨头的股票进行了调整。该基金是美国第三大公共养老金,管理着2677亿美元的资产。该基金三季度出售了231,600股Palantir 股票,将其持股数量降至110万股。 ...
- LEMONKEITH
- 昨天 15:12
- 支持
- 反对
- 回复
- 收藏