首页 / 云与互联网 / AI模型与技术

唐杰谈Scaling Law新标尺:参数之外还要计算全生命周期资源

唐杰公开讨论大模型Scaling Law的衡量方式,提出模型规模评估应同时考虑训练数据、算力分配和运行条件。

今日科技圈头条C编辑部已完成来源核验
查看行业与公司影响↓

智谱创始人、清华大学教授唐杰近日公开讨论大模型Scaling Law的衡量方式。相关报道援引其观点称,仅以参数量描述模型规模已不够,还应同时考量训练数据、算力分配和运行环境等因素。

这场讨论也涉及模型的全生命周期成本。除训练阶段的计算投入外,部署后的推理效率和任务表现同样会影响实际资源使用。唐杰以智谱模型的后训练优化为例指出,在参数规模不变的情况下,训练和优化方式的变化仍可能改善模型在部分任务上的表现。

效率指标进入模型比较,资源调度能力的重要性上升

当模型比较不再只围绕参数量,训练、推理和运行环境的资源效率会更直接地进入企业技术选型。云服务商提供的不只是计算资源,还包括存储、调度与推理优化等能力;这些环节共同影响模型从训练到部署的资源使用。对开发团队而言,单位任务成本、延迟、吞吐与任务效果将被放在同一框架下比较。应用软件企业需要据此把模型能力与具体工作流衔接,基础设施服务商则面临更强调资源利用率和调度能力的竞争。

涉及行业行业影响分析简要理由
互联网服务与基础设施中性云端训练和推理服务将更强调计算资源的全生命周期利用效率。
应用软件中性企业模型选型可能更重视任务效果、延迟与调用成本的组合。

新闻热点内容来源于媒体公开报道。文章分析仅代表个人观点,不构成投资建议。

专题:AI模型与技术

#大模型#Scaling Law#智谱#算力效率