您好,欢迎来到一起上网站目录!
当前位置:一起上网站目录 » 站长资讯 » 行业新闻 » 文章详细 订阅RssFeed

英伟达:DeepSeek R1 现可在 NVIDIA NIM 平台上使用

来源:站长之家 浏览:77次 时间:2025-01-31

站长之家(ChinaZ.com) 1月31日消息:英伟达网站发布的博客文章,DeepSeek R1 671b 已作为英伟达的 NIM 微服务预览版本在 build.nvidia.com 上发布。

据博客文章介绍,DeepSeek-R1 是一款拥有最先进推理能力的开放模型。与传统模型直接给出答案不同,像 DeepSeek-R1 这样的推理模型会对查询进行多轮推理处理,通过链式思考、共识方法和搜索策略生成最佳答案。

这一系列推理过程——即利用推理得出最佳答案——被称为「推理时扩展」(test-time scaling)。DeepSeek-R1 是这一扩展法则的完美示例,展示了为何加速计算对于代理 AI 推理的需求至关重要。

当模型允许逐步「思考」问题时,它们会生成更多的输出 token 和更长的生成周期,因此模型质量持续提升。显著的推理时计算对实现实时推理和高质量响应至关重要,推理模型如 DeepSeek-R1 需要更大的推理部署来支持这一过程。

R1 在需要逻辑推理、思维推导、数学计算、编程和语言理解等任务中,提供了领先的准确性,同时具备高效的推理能力。

为了帮助开发者安全地测试这些功能并构建专用智能体,拥有 6710 亿参数的 DeepSeek-R1 模型现已作为 NVIDIA NIM 微服务预览版在 build.nvidia.com 上发布。DeepSeek-R1 NIM 微服务能够在单个 NVIDIA HGX H200 系统上每秒处理最多 3,872 个 token。

开发者可以测试并实验即将推出的应用程序接口(API),该接口预计将很快作为可下载的 NIM 微服务发布,成为 NVIDIA AI 企业软件平台的一部分。

DeepSeek-R1 NIM 微服务简化了部署,支持行业标准的 API。企业可通过在其首选加速计算基础设施上运行 NIM 微服务,最大程度保障安全性和数据隐私。使用 NVIDIA AI Foundry 和 NVIDIA NeMo 软件,企业还可以为特定的 AI 智能体创建定制化的 DeepSeek-R1 NIM 微服务。

推荐站点

  • 0502站长工具网0502站长工具网

    0502站长工具网为您提供json格式化,json代码压缩,json校验解析,json数组解析,json转xml,xml转json,json解析,json在线解析,json在线解析及格式化,unix时间戳转换,CSS美化压缩,json美化,json格式化输出,json数组,json实体类,json视图等

    www.0502.net
  • 24gym24gym

    24gym是国内领先的健身房智能化整体解决方案提供商,致力于研发健身领域的软硬件产品,打造24小时健身房,颠覆传统健身房,创建10分钟健身圈,欢迎意向投资健身房、智能健身房加盟的人士与我们联系,将为你提供健身房经营更优解决方案。

    www.24gym.cn
  • 堆糖堆糖

    堆糖,美图壁纸兴趣社区。收录几十亿高清优质图片,数千万用户的珍藏分享,一键收藏下载美图,点亮生活无限灵感,做你的美好研究所:拥有高清壁纸、情侣头像、明星爱豆、影视动漫、情感文字、表情包、绘画手帐、P图教程、美妆穿搭、歌词台词、可爱萌宠等多种图片分类。你想要的风景壁纸、聊天背景、朋友圈背景、动漫头像都可以在这里找到。

    www.duitang.com
  • 图片之家图片之家

    图片之家_是以摄影图片大全为主国内综合性图片的网站,致力于打造各类好看的图片,包括奇闻异事图片,装修效果图,搞笑图片,搞笑动态图片,美女图片,美女人体艺术,发型图片,创意家居,创意广告设计,桌面壁纸,摄影作品等精选图片大全等你来挖掘。

    www.tupianzj.com
  • 煎蛋煎蛋

    煎蛋以译介方式传播网络新鲜资讯

    jandan.net