在过去很长时间里，预训练扩展定律（Pre-training Scaling Law）都是机器学习领域最重要的经验法则之一，它不仅帮助研究人员理解和优化模型训练过程，还为资源分配提供了理论依据。简单来说，当在特定任务上使用参数更大的模型、更多