再锤锤pony.ai的辣鸡manager们

twejgdaslkfsa 发表于 2023-2-6 13:16
她上面的那个人现在也被架空了，估计也快走了。你以为你是棋手，其实你只是棋子，没价值了就成了弃子。
少 ...

“别看你今天闹得欢，小心今后拉清单”【doge】

不光是对人，AGI的alignment问题很有可能最终证明是无解的，因为intuitively一个较为低级的智能是不可能完全控制一个更高级的智能的，人类eventually需要跟AGI平等共存，ilya看得很清楚“to understand the alignment problem, imagine being the adoptive parents of baby Superman”, "The point of AI alignment is to build the ASI that actually truly loves humanity"。智能体之间的终极问题都是博弈问题，面对superhuman intelligence我们只能play cooperative equilibrium，不抑制人性的恶，最终会害死人类自己。

大佬您好，请问您如何看待杨立昆前几天对chatGPT的消极言论呢？

虽然但是，wayve.ai看起来并不是multiagent RL. 看起来只是simulation里的其他agent都采用RL trained 的behavioral model，然后用这样一个environment来train ego vehicle 的end-to-end model. 好像没有太新的理念？

匿名用户 发表于 2023-2-7 12:34
虽然但是，wayve.ai看起来并不是multiagent RL. 看起来只是simulation里的其他agent都采用RL trained 的beh ...

其实是这样的，“wayve.ai看起来并不是multiagent RL”，这个判断不太准确。其他agent都用RL，然后再train ego-vehicle对吧，那如果再把ego-vehicle的policy用到其他agent上，反复迭代，虽然形式上跟学术界定义的marl并不一致，但迭代结束时的效果是类似的，所以本质上是在做multiagent RL。

确实没有新的理念，但其实也不需要太新的理念，OpenAI和Deepmind在17/18年的marl paper解决的问题比自动驾驶要challenging得多，当时的framework： marl+PBT屡试不爽，所以其实这套方法就能解决自动驾驶的问题了，之所以目前为止没人做出来是因为marl不是轻易就能搞work的，需要相当多的研究经验和engineering effort，自动驾驶工业界光是能理解这套framework的就不到1%的人，更不要说把这个做出来了。

商业化落地的技术本身一定是在学术界已经有一定成熟度的，所以不会是完全新的一套东西，但是知道如何整合已有的前沿技术来解决一个real-world problem，这本身就是highly-nontrivial的。

EricSam413 发表于 2023-2-6 22:26
大佬您好，请问您如何看待杨立昆前几天对chatGPT的消极言论呢？

我个人是觉得lecun的有些技术方面的argument不太站得住脚，当然也有可能是他思考到的问题的深度比我的理解力更加深了。不过从大佬们以往的工作来看，我觉得ilya比lecun要insightful得多，果然ilya认定的方向我也觉得是最promising的。

又长又亮的烤面包 发表于 2023-02-07 22:32:20
我个人是觉得lecun的有些技术方面的argument不太站得住脚，当然也有可能是他思考到的问题的深度比我的理解力更加深了。不过从大佬们以往的工作来看，我觉得ilya比lecun要insightful

感谢您的见解，相当insightful！

匿名用户 发表于 2023-2-7 12:34
虽然但是，wayve.ai看起来并不是multiagent RL. 看起来只是simulation里的其他agent都采用RL trained 的beh ...

补充一个ilya大神刚发的post：“Many believe that great AI advances must contain a new “idea”. But it is not so: many of AI’s greatest advances had the form “huh, turns out this familiar unimportant idea, when done right, is downright incredible”。 对问题和方法认知的深度决定了能达到的高度。OpenAI能持续投入这么高的成本搭infra来搞GPT-3，在GPT-3问世之后开始解决alignment问题从而搞出chatgpt，是因为他们早就认识到了intelligence是一种emergent ability，Lecun说的world model也是可以通过SSL emerge出来的，而不需要explicitly construct，后者反而是intractable的方法。

又长又亮的烤面包 发表于 2023-2-8 18:41
补充一个ilya大神刚发的post：“Many believe that great AI advances must contain a new “idea”. But ...

楼主可以解释一下emergent ability嘛，我看了那篇large language model has emergent ability. 感觉还是有些疑惑。

. 1point 3 acres

匿名用户 发表于 2023-2-6 07:07
Waymo -> Pony -> Cruise
. 然后性别还是她
这个linkedin一搜就能找到了。

最近又跑去OpenAI了，看看她能苟多久，呵呵