智谱创始人、清华大学教授唐杰近日公开讨论大模型Scaling Law的衡量方式。相关报道援引其观点称,仅以参数量描述模型规模已不够,还应同时考量训练数据、算力分配和运行环境等因素。
这场讨论也涉及模型的全生命周期成本。除训练阶段的计算投入外,部署后的推理效率和任务表现同样会影响实际资源使用。唐杰以智谱模型的后训练优化为例指出,在参数规模不变的情况下,训练和优化方式的变化仍可能改善模型在部分任务上的表现。
效率指标进入模型比较,资源调度能力的重要性上升
当模型比较不再只围绕参数量,训练、推理和运行环境的资源效率会更直接地进入企业技术选型。云服务商提供的不只是计算资源,还包括存储、调度与推理优化等能力;这些环节共同影响模型从训练到部署的资源使用。对开发团队而言,单位任务成本、延迟、吞吐与任务效果将被放在同一框架下比较。应用软件企业需要据此把模型能力与具体工作流衔接,基础设施服务商则面临更强调资源利用率和调度能力的竞争。
| 涉及行业 | 行业影响分析 | 简要理由 |
|---|---|---|
| 互联网服务与基础设施 | 中性 | 云端训练和推理服务将更强调计算资源的全生命周期利用效率。 |
| 应用软件 | 中性 | 企业模型选型可能更重视任务效果、延迟与调用成本的组合。 |
新闻热点内容来源于媒体公开报道。文章分析仅代表个人观点,不构成投资建议。
