AI全栈大模型工程师(二十三)用 PyTorch 训练一个最简单的神经网络

2023-12-13 05:42:18

文章目录

四、求解器

为了让训练过程更好的收敛，人们设计了很多更复杂的求解器

  • 比如：SGD、L-BFGS、Rprop、RMSprop、Adam、AdamW、AdaGrad、AdaDelta 等等
  • 但是，好在最常用的就是 Adam 或者 AdamW

五、一些常用的损失函数

  • 两个数值的差距，Min Square Error： ? M S E = 1

文章来源:https://blog.csdn.net/xianyu120/article/details/134949384
本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。