华为：企业开发及实施大模型应用过程面临四大挑战

【华为：企业开发及实施大模型应用过程面临四大挑战】据中新网，14日在深圳举行的“大模型时代华为AI存储新品发布会”上，华为公司副总裁、数据存储产品线总裁周跃峰表示，企业在开发及实施大模型应用过程中，面临四大挑战。首先，数据准备时间长，数据来源分散，归集慢，预处理百TB数据需10天左右；其次，多模态大模型以海量文本、图片为训练集，当前海量小文件的加载速度不足100MB/s，训练集加载效率低；第三，大模型参数频繁调优，训练平台不稳定，平均约2天出现一次训练中断，需要Checkpoint机制恢复训练，故障恢复耗时超过一天；最后，大模型实施门槛高，系统搭建繁杂，资源调度难，GPU资源利用率通常不到40%。