最新公告:
最新资讯
全国服务热线:联系我们
400-123-4657
- 地址:
- 广东省广州市天河区88号
- 邮箱:
- admin@youweb.com
- 电话:
- 400-123-4657
- 传真:
- +86-123-4567
深度学习优化器总结_1添加时间:2024-04-29 03:21:32
心得: 总感觉自己要学的东西还有很多,一方面让自己工程能力,代码能力或者新学习一门语言来进一步提高自己的技术,另一方面,自己在机器学习上的成就还得继续研究,不仅仅只是懂工程而且还要学习一定的算法,所以算法不能说研究的太通,但还需要一定的理解,毕竟还是要以工程能力为主。
一、优化器是什么
一言以蔽之,优化器就是在深度学习反向传播过程中,指引损失函数(目标函数)的各个参数往正确的方向更新合适的大小,使得更新后的各个参数让损失函数(目标函数)值不断逼近全局最小。
优化问题可以看做是我们站在山上的某个位置(当前的参