会员登录 - 用户注册 - 设为首页 - 加入收藏 - 网站地图 英伟达发布AI Enterprise5.0,助力企业生成式AI开发!

英伟达发布AI Enterprise5.0,助力企业生成式AI开发

时间:2024-07-02 04:03:06 来源:带水拖泥网 作者:知识 阅读:554次

英伟达发布AI Enterprise5.0,助力企业生成式AI开发

划重点:

🚀 英伟达发布AIEnterprise5.0,英伟业生包括微服务和软件容器,力企用于生成式AI应用部署和加速计算。成式

🔍 NVIDIA AI Enterprise5.0涵盖广泛的英伟业生微服务,包括NVIDIA NIM和NVIDIA CUOpt,力企优化AI模型推理并支持GPU加速。成式

💼 AI Enterprise5.0可帮助用户从安全、英伟业生可投入生产且性能优化的力企软件中受益,可在数据中心、成式云端、英伟业生工作站或网络边缘部署。力企

CSS站长资源(ChinaZ.com)3月27日 消息:英伟达正式发布了AI Enterprise5.0,成式这是英伟业生一项旨在帮助企业加速生成式人工智能(AI)开发的重要产品。AI Enterprise5.0包含了英伟达微服务和可下载的力企软件容器,这些组件可用于部署生成式AI应用程序和加速计算。成式值得一提的是,这一产品已经被Uber等知名客户所采用。

随着开发人员转向微服务作为构建现代企业应用程序的有效方式,NVIDIA AI Enterprise5.0提供了广泛的微服务。其中包括NVIDIA NIM和NVIDIA CUOpt,这些微服务针对生产中部署AI模型进行了优化,并且支持GPU加速,为用户提供了更高效的推理过程。NVIDIA推理软件,包括Triton Inference Server、TensorRT和TensorRT-LLM,为NIM提供了支持,从而将部署时间从几周缩短到几分钟。这些微服务不仅提供了行业标准的安全性和可管理性,还与企业级管理工具兼容,为企业带来了更便捷的部署体验。

此外,NVIDIA CUOpt作为一种GPU加速的AI微服务,不仅创造了路线优化的世界记录,还能够支持动态决策,从而降低成本、时间和碳足迹。作为CUDA-X微服务之一,CUOpt在帮助各行业将人工智能投入生产方面发挥着重要作用。

未来,AI Enterprise5.0还将引入更多功能。例如,NVIDIA RAG LLM操作员(目前处于早期访问阶段)将有助于将副驾驶和其他使用检索增强生成的生成式AI应用程序从试点转移到实际应用落地,而无需重写任何代码。这一功能的引入将进一步推动企业在AI应用领域的发展。

无论用户通过何种方式访问,AI Enterprise5.0都能为他们带来诸多好处。该产品不仅可以从安全、可投入生产且性能优化的软件中受益,还能够实现灵活部署,可以部署在数据中心、云端、工作站或网络边缘,满足不同场景下的需求。

(责任编辑:知识)

相关内容
  • 高速服务区充电1小时花99元 车主嫌太贵引热议
  • 峰值14.8GB/s!联芸PCIe 5.0 SSD主控猛虎下山
  • 中央气象台:华南假期“泡汤” 报的准的话
  • 开源鸿蒙OpenHarmony 4.1 Release正式发布!新增API超4000个
  • 每月几十搞定!用户晒联通1000M宽带:这上下行速度飞起
  • 世界首块!车规级全固态锂电池问世:能量密度是目前5倍
  • iPadOS 17.5泄天机:iPhone同款电池健康状态将上线iPad
  • 峰值14.8GB/s!联芸PCIe 5.0 SSD主控猛虎下山
推荐内容
  • 高通激进!骁龙7系曝光:跑分比肩大哥骁龙8 Gen2
  • 登山者刚登主峰遇地震:紧抓地面
  • V6发动机加持 新款起亚K9官图发布:奥迪A8L既视感
  • 原来这些用户早就用上了5.5G?在售荣耀Magic6全系已支持5.5G!
  • 《湄公河行动》男演员确诊恶性 医生提醒:小病也应重视
  • 坦克SUV 3月销量1.89万台:新能源车型占比达43%