Llama-3公布基础训练设施,使用49,000个H100
时间:2024-07-02 03:34:54 来源:带水拖泥网 作者:知识 阅读:118次
3月13日,布基社交、础训科技巨头Meta在官网公布了两个全新的练设24K H100GPU集群(49,152个),施使专门用于训练大模型Llama-3。布基此外,础训Llama-3使用了RoCEv2网络,练设基于Tectonic/Hammerspace的施使NFS/FUSE网络存储,继续使用了PyTorch机器学习库。布基从训练进度来看,础训估计Llama-3最快将于4月末或5月中旬上
......
本文由CSS站长资源合作伙伴自媒体作者“ AIGC开放社区公众号”授权发布于CSS站长资源平台,练设本平台仅提供信息索引服务。施使由于内容发布时间超过平台更新维护时间,布基为了保证文章信息的础训及时性,内容观点的练设准确性,平台将不提供完全的内容展现,本页面内容仅为平台搜索索引使用。需阅读完整内容的用户,请查看原文,获取内容详情。
即将跳转到外部网站 安全性未知,是否继续 继续前往(责任编辑:电商)
最新内容
热点内容