7月24日，英伟达推出了全新NVIDIA AI Foundry服务和NVIDIA NIMTM推理微服务，与同样刚推出的Llama3.1系列开源模型一起，为全球企业提供生成式AI相关服务。Llama3.1多语种大语言模型(LLM)集合是一个具有8B、70B和405B三种参数规模的生成式AI模型集合。当与适用于Llama3.1405B的NVIDIA NIM推理微服务结合使用时，NeMo Retriever NIM微服务可以为RAG工作流中的开放和商业文本问答带来极高的检索准确性。NVIDIA AI Foundry能提供一种可用于快速构建自定义超级模型的端到端服务。