Kaiyun - 中国官方版权服务网站

关闭
借助 NVIDIA RTX PRO Blackwell 系列 GPU 和 NVIDIAIM微服务加速AI开发
作者:小编 日期:2025-03-27 点击数: 

  随着生成式 AI 能力的扩展,NVIDIA 正为开发者提供工具,使其能够将 AI 无缝集成到创意项目、应用程序和游戏中,在 NVIDIA RTX AI PC 和工作站上开启具有开创性的体验。

  与新硬件一起,NVIDIA 还发布了一套 AI 赋能的工具、库和软件开发工具包,旨在加速 PC 和工作站上的 AI 开发。通过 NVIDIA CUDA-X 数据科学库,开发者可以显著加速数据处理和机器学习任务,实现更快的探索性数据分析、特征工程和模型开发,无需更改代码。而借助 NVIDIA NIM 微服务,开发者可以更加无缝地构建 AI 助手、生产力插件和高级内容创作工作流,实现最佳性能。

  以 NIM 的速度运行 AI RTX PRO Blackwell 系列专为处理最苛刻的 AI 驱动工作流而设计,为 AI 代理、仿线D 设计和高端视觉效果等应用提供动力。无论是设计和工程复杂系统,还是创建复杂而身临其境的内容,RTX PRO GPU 都能提供专业人士所需的性能、效率和可扩展性。

  随着 AI 和数据科学的发展,快速处理和分析海量数据603138)集的能力将成为跨行业实现突破的关键差异化因素。

  NVIDIA CUDA-X 库基于 CUDA 构建,是一系列库的集合,与仅使用 CPU 的替代方案相比,能够提供显著更高的性能。借助 cuML 25.02(现已开放测试版),数据科学家和研究人员可以加速 scikit-learn、UMAP 和 HDBSCAN 算法,无需更改代码,在机器学习任务中解锁更高水平的性能和效率。此版本将 cuDF-pandas 为 DataFrame 操作建立的零代码更改加速范式扩展至机器学习领域,将迭代时间从数小时减少到数秒。

  经过优化的 AI 软件开启了更多可能性。NVIDIA NIM 微服务预封装了高性能 AI 模型,已针对从 RTX 驱动的 PC 和工作站到云端的各类 NVIDIA GPU 进行了优化。开发者可以使用 NIM 微服务构建 AI 赋能的应用助手、生产力工具和内容创作工作流,这些工具可与 RTX PRO GPU 无缝集成。这使 AI 变得比以往更加易用且功能强大。

  NIM 微服务集成了热门社区和 NVIDIA 自研模型,涵盖 PC 和工作站用例所需的各种功能和模态,包括大语言模型(LLM)、图像、语音和检索增强生成(RAG)。

  今年 1 月在 CES 展会上发布的一系列 NVIDIA AI Blueprint 是基于 NVIDIA NIM 构建的高级 AI 参考工作流。通过 AI Blueprint,开发者可以将 PDF 文档转换为播客、生成由 3D 场景控制和引导的令人惊艳的 4K 图像,并将数字人物整合到 AI 赋能的应用场景中。

  这些蓝图即将在ai/ 上线,具有可扩展性,并提供构建和定制不同用例所需的全部资源。这些资源包括源代码、示例数据、演示应用和文档。

  从尖端硬件到优化的 AI 模型和参考工作流,RTX PRO 系列正在重新定义 AI 赋能的计算 —— 使专业人士能够突破创造力、生产力和创新的极限。

  ChatRTX 是一款演示 Demo,可以将 LLM 与个性化的用户内容(包括文档、笔记、图像或其他数据)连接起来。使用 RAG、NVIDIA TensorRT-LLM 库和 RTX 加速,用户可以问询定制聊天机器人获得上下文相关的答案。由于所有功能都在 Windows RTX PC 或 RTX PRO 工作站上本地运行,用户可以获得快速且私密的结果。

  ChatRTX 的最新版本引入了对 NVIDIA NIM 微服务的支持,让用户能体验新的基础模型。预计 NIM 很快将加入更多顶级 AI 生态系统应用。kaiyun全站网页版登录

顶部