Groq最快AI推理芯片成本推算高得离谱 运行LIama2得1171万美元
划重点:
- 💰 以1171万美元的最快成本运行 LIama2,引发热议
- 💻 Groq 的推理推算芯片性能高,但成本也随之增加
- 🔍 分析师对 Groq 成本和效益进行评估,芯片与英伟达 GPU 进行对比
CSS站长资源(ChinaZ.com)2月21日 消息:最近,成本Groq 公司推出了一款号称性价比高达英伟达 GPU100倍的离谱 AI 推理芯片,引起了广泛关注。运行元然而,最快运行其最快 AI 推理芯片 LIama2所需的推理推算成本高达1171万美元,让业内人士开始对其效益进行热议。芯片网友们通过粗略估算发现,成本为了运行 LIama2,离谱需要大约购买568块芯片,运行元这一高昂的最快成本引发了许多讨论。
在成本问题上,推理推算与英伟达 GPU 进行对比也成为了焦点。芯片据分析,为了运行单个 LLama70B 模型,需要购买约320张芯片,总成本约为1千万美元。相较之下,英伟达的 H100卡性能虽然一半于 Groq,但价格仅为30万美元,采购和运营成本更低。这些数据让人开始重新评估 Groq 芯片的性价比。
除了网友们的讨论,一些分析师也加入了对 Groq 芯片成本和效益的评估。根据其中一位分析师的计算,运行 LLaMA70b 模型需要572张芯片,每年电费将花费25.4万美元。相比之下,使用4张 H100卡可以实现 Groq 一半的性能,且采购和运营成本更低,这进一步凸显了 Groq 成本的挑战。
在这场关于 Groq 芯片成本和效益的讨论中,公司本身也积极参与。Groq 回应称,他们的目标客户不是单卡用户,且他们的芯片价格实惠高效,由于自主研发芯片到系统的整套流程,没有中间商。然而,对于 Groq 是否能撼动英伟达的地位,业内人士持观望态度,认为还需进一步观察。整体而言,Groq 推出的 AI 推理芯片在性能上取得了突破,但成本问题仍需解决。
项目入口:https://top.aibase.com/tool/groq
相关阅读:Groq大模型推理芯片每秒500tokens超越GPU,喊话三年超过英伟达
(责任编辑:电商)
- ·女子买4只螃蟹花289元 市监局回应:捆绑过度可举报
- ·更方正的三星Galaxy Z Fold6渲染图曝光 第三代骁龙8移动平台
- ·播放量超15亿次,“先秦淑女步”刷屏,他们到底在“素”什么?
- ·OpenAI 正在与 Helion Energy 洽谈“购买大量”聚变能源
- ·免费领!雷军龙年限量红包封面来了:雷军与小米SU7帅气合照
- ·印度现近50度高温连蚊子都消失 专家:接近人类生存极限
- ·公司欲取名深圳不怕影子斜被拒绝 网友:名字过于离谱
- ·2024年冬上线!拳头动画《英雄联盟:双城之战2》中文海报发布
- ·专访椰树 | 一年播放10亿,我是如何打造爆款直播间
- ·反向合资时代来临!雷诺将与中国车企合作研发纯电车:竞争比亚迪
- ·PosterGPT官网体验入口 AI社交媒体内容生成工具自动发布平台
- ·周鸿祎回应为何选择问界M9:十个理由都绰绰有余 安全排
- ·5月iOS设备性能榜出炉:M4未能入榜 M2版iPad Pro继续乱杀
- ·挤爆社交平台的“离职博主”,究竟靠什么赚钱?
- ·问界M7单月销量破3万辆 赛力斯给员工派发糖葫芦
- ·学校让千名高考生抓鱼减压:还有吃鱼活动 寓意鱼跃龙门
- ·realme GT7 Pro即将亮相:搭载骁龙8 Gen4 性能可期
- ·挑战英伟达!AMD亮出旗下AI芯片锐龙AI 300系列 算力达50TOPS
- ·只需0.5秒!MobileDiffusion:在手机设备上就能实现快速文本生成图像
- ·挤爆社交平台的“离职博主”,究竟靠什么赚钱?