再锤锤pony.ai的辣鸡manager们

helloterran 发表于 2023-2-6 10:35
你什么时候能让chatgpt通过高数教材学会离线做微积分，学会离线证明一个数理逻辑命题，我就相信你的话

chatgpt已经会了吧，你描述的task就是in-context-learning啊，你可以试试看，结果应该会超出你的预期。之前一个图灵奖老哥也是不信，我就建议他试试看把欧几里得五条公理改一改，然后让chatgpt推导定理，好像他现在已经被convince了，所以我估摸着应该超出了他的预期。

老实说能学会高数不是啥高级的intelligence，高级的是发明一套新的数学理论，当然我这里说“发明”实在是有点狂妄，应该说“发现”，说不定数学才是我们这个universe最fundamental的东西。

ert456dfgcvb 发表于 2023-2-6 11:01
感谢楼主分享，我觉得我们打工人都应该向你学习。杜绝职场PUA，我们老老实实打工，不代表可以欺负老实人。

再过10年咱都可以躺平了 万物摩尔定律吼吼【doge】

匿名用户 发表于 2023-2-6 11:04
🐶的promo过程确实太扯了，这人都能升senior

她在🐶的时候不敢这样吧，这里面随便拿出来一条早就被🐶开了

twejgdaslkfsa 发表于 2023-2-6 13:16
她上面的那个人现在也被架空了，估计也快走了。你以为你是棋手，其实你只是棋子，没价值了就成了弃子。
少 ...

“别看你今天闹得欢，小心今后拉清单”【doge】

不光是对人，AGI的alignment问题很有可能最终证明是无解的，因为intuitively一个较为低级的智能是不可能完全控制一个更高级的智能的，人类eventually需要跟AGI平等共存，ilya看得很清楚“to understand the alignment problem, imagine being the adoptive parents of baby Superman”, "The point of AI alignment is to build the ASI that actually truly loves humanity"。智能体之间的终极问题都是博弈问题，面对superhuman intelligence我们只能play cooperative equilibrium，不抑制人性的恶，最终会害死人类自己。

大佬您好，请问您如何看待杨立昆前几天对chatGPT的消极言论呢？

虽然但是，wayve.ai看起来并不是multiagent RL. 看起来只是simulation里的其他agent都采用RL trained 的behavioral model，然后用这样一个environment来train ego vehicle 的end-to-end model. 好像没有太新的理念？

匿名用户 发表于 2023-2-7 12:34
虽然但是，wayve.ai看起来并不是multiagent RL. 看起来只是simulation里的其他agent都采用RL trained 的beh ...

其实是这样的，“wayve.ai看起来并不是multiagent RL”，这个判断不太准确。其他agent都用RL，然后再train ego-vehicle对吧，那如果再把ego-vehicle的policy用到其他agent上，反复迭代，虽然形式上跟学术界定义的marl并不一致，但迭代结束时的效果是类似的，所以本质上是在做multiagent RL。

确实没有新的理念，但其实也不需要太新的理念，OpenAI和Deepmind在17/18年的marl paper解决的问题比自动驾驶要challenging得多，当时的framework： marl+PBT屡试不爽，所以其实这套方法就能解决自动驾驶的问题了，之所以目前为止没人做出来是因为marl不是轻易就能搞work的，需要相当多的研究经验和engineering effort，自动驾驶工业界光是能理解这套framework的就不到1%的人，更不要说把这个做出来了。

商业化落地的技术本身一定是在学术界已经有一定成熟度的，所以不会是完全新的一套东西，但是知道如何整合已有的前沿技术来解决一个real-world problem，这本身就是highly-nontrivial的。

EricSam413 发表于 2023-2-6 22:26
大佬您好，请问您如何看待杨立昆前几天对chatGPT的消极言论呢？

我个人是觉得lecun的有些技术方面的argument不太站得住脚，当然也有可能是他思考到的问题的深度比我的理解力更加深了。不过从大佬们以往的工作来看，我觉得ilya比lecun要insightful得多，果然ilya认定的方向我也觉得是最promising的。

又长又亮的烤面包 发表于 2023-02-07 22:32:20
我个人是觉得lecun的有些技术方面的argument不太站得住脚，当然也有可能是他思考到的问题的深度比我的理解力更加深了。不过从大佬们以往的工作来看，我觉得ilya比lecun要insightful

感谢您的见解，相当insightful！