Llama-3公布基础训练设施,使用49000个H100
【Llama-3公布基础训练设施,使用49000个H100】社交、科技巨头Meta在官网公布了两个全新的24K H100 GPU集群(49,152个),专门用于训练大模型Llama-3。从训练进度来看,估计Llama-3最快将于4月末或5月中旬上线。Meta表示,预计到2024年底,将拥有600,000个H100的算力。
本文系网络转载,不代表本站立场。