查看: 707| 回复: 2
跳转到指定楼层
上一主题 下一主题
收起左侧

[统计生统] gradient descent一个问题

全局:

注册一亩三分地论坛,查看更多干货!

您需要 登录 才可以下载或查看附件。没有帐号?注册账号

x
给定一个函数J(a,b).--
定义梯度 dJ/da, dJ/db

请问为什么
a=a-lr*(dJ/da)
b=b-l4*(dJ/db)
能找到最优点。

lr是学习率. ----
. 1point 3acres
请问它和dJ/da = 0  and dJ/db=0是等价的吗?


.google  и

上一篇:浅显易懂的概率分布的书或讲义
下一篇:求online stat/biostats master part-time项目推荐
全局:
这个函数有a,b两个变量 那么通常在优化问题里面会采取 alternating descent的方法来寻找最优解
简单来说就是 每次iteration,固定b来求 a,然后固定a来求b,多次iteration可能可以收敛到最优解 但是alternating descent并不能保证收敛到最优 通常只是heuristic solution
回复

使用道具 举报

🔗
Vey 2022-4-1 13:56:36 来自APP | 只看该作者
全局:
这个不一定收敛,我记得有一些方法稍微改一改是可以证明收敛的
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 注册账号
隐私提醒:
  • ☑ 禁止发布广告,拉群,贴个人联系方式:找人请去🔗同学同事飞友,拉群请去🔗拉群结伴,广告请去🔗跳蚤市场,和 🔗租房广告|找室友
  • ☑ 论坛内容在发帖 30 分钟内可以编辑,过后则不能删帖。为防止被骚扰甚至人肉,不要公开留微信等联系方式,如有需求请以论坛私信方式发送。
  • ☑ 干货版块可免费使用 🔗超级匿名:面经(美国面经、中国面经、数科面经、PM面经),抖包袱(美国、中国)和录取汇报、定位选校版
  • ☑ 查阅全站 🔗各种匿名方法

本版积分规则

>
快速回复 返回顶部 返回列表