起源：AdaGrad（Adaptive Gradient Algorithm）起源于对深度学习训练过程中学习率自适应调整的需求。传统的梯度下降方法使用固定的学习率，但在实际训练过程中，不同的参数可能需要不同的学习率来进行更新。AdaGrad