会员登录 - 用户注册 - 设为首页 - 加入收藏 - 网站地图 有钱也不一定买到!英伟达GPU今年发货 成本和能耗较前代改善25倍!

有钱也不一定买到!英伟达GPU今年发货 成本和能耗较前代改善25倍

时间:2024-07-02 03:40:11 来源:带水拖泥网 作者:电商 阅读:613次

有钱也不一定买到!英伟达GPU今年发货 成本和能耗较前代改善25倍

快科技3月19日消息,有钱也在整个AI算力硬件的定买到英代改搭建中,英伟达毫无疑问站在最顶端,伟达其GPU的今较前动态发展,直接关乎了行业的年发能耗发展。

在今天开幕的货成GTC 2024上,黄仁勋带来了新的本和B200 GPU,其拥有2080亿个晶体管,善倍可提供高达20petaflops的有钱也FP4算力。

至于GB200,定买到英代改就是伟达将两个GPU和一个Grace CPU结合在一起,可为LLM推理工作负载提供30倍的今较前性能,同时还可能大大提高效率。年发能耗

英伟达也形象给出了提升的货成高度,比如训练一个1.8万亿个参数的本和模型以前需要8000个Hopper GPU和15兆瓦的电力。如今,2000个Blackwell GPU就能完成这项工作,耗电量仅为4兆瓦。

在具有1750亿个参数的GPT-3 LLM基准测试中,GB200的性能是H100的7倍,而训练速度是H100的4倍。这些显著性能的提升下,新一代 NVLink交换机起到了关键效果,可让576个GPU相互连接,双向带宽达到每秒1.8TB。

按照黄仁勋的说法,搭载B200芯片的GB200 Grace Blackwell计划今年晚些时候发货,英伟达目前并未公布GB200以及整套方案的售价信息,但目前的现状是有钱你也不一定能买到,中国厂商也是看看就行了。

黄仁勋表示,Blackwell带来了令人难以置信的兴奋”:我们将会把Blackwell推广给全球的AI公司,全球各地都在签约启动Blackwell,这款Blackwell将成为我们历史上最成功的产品发布。”Blackwell平台能够在万亿参数级的大型语言模型(LLM)上构建和运行实时生成式AI,而成本和能耗比前身低25倍。

(责任编辑:资讯)

相关内容
  • 嗨AI海报体验入口 人工智能一键海报设计工具软件在线使用地址
  • 小米14 Ultra挑战全球通信:蜂窝、Wi-Fi、蓝牙性能全面提升
  • 小米14系列助力!小米占据中国4-6K高端机38%份额
  • CapCut文生视频官网体验入口 剪映国际海外版AI生成视频工具软件在线使用地址
  • 苹果最后一款带光驱的MacBook停产:停止发售超7年
  • 营收10926亿!梅赛德斯-奔驰公布2023年财报:全球销量249.18万台
  • Stable Diffusion 3发布 文字渲染能力超强,图像生成质量超越Midjourney
  • 考虫工作人员回应倒闭传闻:业务有调整
推荐内容
  • 花130万当网红未果起诉要回80万 法院:构成有偿委托合同关系
  • Stable Diffusion 3官网体验入口 文本生成图像AI模型内测排队地址
  • Stable Diffusion 3入口在哪?如何加入Stable Diffusion 3候选名单?附案例提示词
  • 网红杨老二疑因被灌酒后去世 哥哥:亲爱的兄弟一路走好
  • 小米年度机皇预热!产品经理换上小米14 Ultra
  • 历史!苹果占据全球十大最畅销智能手机榜单7个席位