深度学习有啥用，本质是啥，chatgpt 大模型 能干啥 欢迎大家讨论

LLM，是有”推理能力”的，如果你看了Jason Wei那篇文章 里面已经提到了可以让large language model 有 ”推理能力”的。最近谷歌收购的 anthropic，它的一个目标就是弄明白 large language model更可靠以及更有解释性，它出版的文章就通过研究简单语言模型，发现了大语言模型in-context learning的部分机制，LLM可不是简单基于概率的胡说八道机器，它真的能“学习”

链接：https://transformer-circuits.pub ... on-heads/index.html

不要只关心 chatgpt

匿名用户 发表于 2023-02-16 12:26:46
LLM，是有”推理能力”的，如果你看了Jason Wei那篇文章 里面已经提到了可以让large language model 有 ”推理能力”的。最近谷歌收购的 anthropic，它的一个目标就是

Jason Wei也去openai搞chatgpt了，其实只关心chatgpt也不一定不行，反正做LLM做得好的人最后都会去搞chatgpt哈哈。

外行插句嘴…感觉chatgpt的方向没错，我认为人工智能的极限就是对智能的极致模仿，数据准确性 逻辑和合不合理全部靠边站。

现在deep learning 和AI论文满天飞 但实际真正在通用AI有过探讨的几乎没几个。

正如楼上说的chatgpt是油嘴滑舌的模仿，非常擅长说话，这不本身就是在往通过图灵测试的方向上走吗？虽然图灵测试也是已经被推翻不适合定义人工智能的理论了，但迈出了这一步 就意味着第二步，通过传感器 或者机械身躯 来极致模仿自己有知性，像科幻未来的电子宠物 或西部世界的人形机器人等等，

机械智能的本质不就是模仿吗？我们不可能完全理解自己，那么假设现在有一个机器人 模仿人的行为意识 可以像人一样有喜怒哀乐 有自己的性格，如果模仿到了那个程度 本质仍然是模仿，但不妨碍他是有智能的本质，至于他有没有意识就是哲学层面的讨论问题了，暂且不谈。我认为chatgpt只是在语言层面上做着类似的事情，而且也给我很大的希望，我们能在物理层面做类似的事情。

通用人工智能是个已经被废弃很久的方向了，在chatgpt出来后终于有点起色了，至少比我之前大学业界看到天天研究 猫猫狗狗扫描器有意思，在此之前人工智能行业内卷半天 都不屑在通用人工智能上花任何心思。

我感觉openai震荡了业界 给一群天天琢磨些空中楼阁的学界 一个通用AI方向，这条路也才是科幻小说幻想的知性人工智能可能的未来。

chatgpt之前，通用AI，“强”人工智能就如同炼金术那样的玄学，有些许理论论文 像从AI动机上切入赋予其 类似“人性”这样的东西 但太天马行空没激起太大水花。可能大多数研究人员也认为是痴人说梦，但chatgpt打破了这种言论。


补充内容 (2023-02-17 06:10 +08:00):
数据合理 和 逻辑本身就是模仿的一部分，chatgpt一堆问题答不出来  和 各种局限性 可以看出来 chatgpt 的“模仿”也不是完美的，但它的模仿能力已经超过大多数业界的chatbot了。

那么在这个基础上无限接近完美的模仿，通过图灵测试是迟早的事情。

补充内容 (2023-02-17 10:39 +08:00):
chatgpt如何选择训练集是保密的，不要低估 openai花的心思，训练AI可不是简单的砸钱扩大数据库那么简单。

我认为chatgpt打了很多AI界大佬的脸，看某些人气急败坏很有意思

匿名用户 发表于 2023-2-16 06:24
现在开始觉得生成式AI有点Overhyped.... ChatGPT/Bard/Bing都一样。整个大语言model的training objective就 ...

所以说其实chatGPT是在PUA，说着他学来的对方「最想听」的话，其实一点都不真诚（LLM根本没有「内心」，所以根本谈不上「真诚」不「真诚」，不说right or wrong的问题，是not even wrong）

匿名用户 发表于 2023-02-16 13:40:21
Jason Wei也去openai搞chatgpt了，其实只关心chatgpt也不一定不行，反正做LLM做得好的人最后都会去搞chatgpt哈哈。

还真是 openAI太厉害了

好贴，收藏追更！

ChatGPT的模型非常庞大，需要大量的计算资源来进行训练，在训练中，用了Ray!
Ray是一款开源的分布式计算框架 by UCBerkely Ion Stoica Group (很多开创性的研究), 大体上基于任务和Actor模型, 将计算任务分解成多个独立的子任务，分别由多个Actor并行执行。这样可以提高计算效率和资源利用率，加速大规模计算任务的完成。
如果想从事深度学习等领域的开发工作，学习Ray是非常有意义的。

Alphadeepblue 发表于 2023-2-16 20:32
ChatGPT的模型非常庞大，需要大量的计算资源来进行训练，在训练中，用了Ray!
Ray是一款开源的分布式计算框 ...

money is all you need.

wuq443 发表于 2023-2-16 17:06
外行插句嘴…感觉chatgpt的方向没错，我认为人工智能的极限就是对智能的极致模仿，数据准确性 逻辑和合不合 ...

倒没有打脸，不过学术界的一些人和lecun看法类似，我也不知道大模型是不是通往强人工智能之路，虽然openai没有科学理论突破，但工程突破也是突破，别人用现有模型能够替代人完成任务，而且还像人，这已经很厉害了。我怀疑lecun有点酸。

你看chatgpt， 在这个帖子，还有别的帖子引发的争论，还有人反复在帖子里强调chatgpt就是个根据概率的吐词器。这反而体现了openai 和 chatgpt的厉害之处。
有一种专家向大众强调僵尸没有生命的感觉。。。

匿名用户 发表于 2023-02-16 12:26:46
LLM，是有”推理能力”的，如果你看了Jason Wei那篇文章 里面已经提到了可以让large language model 有 ”推理能力”的。最近谷歌收购的 anthropic，它的一个目标就是

我强调深度学习是在做数据拟合，是因为深度学习的objective function基本上都是以maximum likelihood作为基本loss（这就是在做分布拟合，也是某个层主提到的blurred jpeg of internet现象），然后辅助一些其他loss。

如果大家还关注CV领域，就会发现为什么大家做aigc的分辨率是逐年提高的呢，一开始大家也就做作64x64，到现在的几K，甚至还需要拼图方法构造大图。这是因为图片生成是在做像素分布的拟合，而拟合出来的分布是无法直接展示，你不能说x，y这个位置的pixel是一个分布，展示的图片是必须是一个确定value。那么问题就来了，展示的要么随机sample一个pixel value，要么用该分布的均值，这时候在整个图看，x，y和它附近的pixel分布应该差别不大，那么他们的均值也不大，所以生成的图片一般来说细节都不够sharp，有一个blurry现象。这也就是头发丝为什么很难生成特别好的原因。包括现在最火的图片aigc，diffusion model也是这样的。为什么这几年分辨率逐步提高，那是大家建的模型高级了，从cnn，pixelrnn，到现在的transformer或者diffusion model，模型拟合能力不断提高。举个例子说，你有一堆点，一开始用线性回归，现在用二次函数，那肯定能力强了。

不过去针对这个问题，adversarial training是可以一定程度解决图像偏模糊的问题，把控更好的细节，但是，他也是为了match数据分布，不过以某些divergence的形式去match，而非likelihood。

说回到LLM，我并不是说做word conditional distribution拟合就是纯粹按概率说话，不能有推理能力，而是强调推理能力和我们优化的目标并不一致。不管是CoT，chain of thought，还是in context learning，让LLM看起来有推理能力，这只是像有推理能力，而这个能力还是来源于word分布拟合，因为训练中也用到了网上爬的一些逻辑推理相关的数据。至少不是我认知的推理能力，我举一个例子，出现在chatgpt的数学能力加强前版本，让它去做3+4=，他背后的答案其实是一个word分布，然后模型rank一下概率大小，最大的是p(7)=0.9，其他的概率都很小，所以只展示了7。google内侧bard就会输出top 4概率的答案。但是如果让当时的chatgpt去计算-1 * -1 * -1 =，这个时候他就算出来1，背后的算法可能1和-1概率差不多，但1大一些。这种简单算术，他是确定性的，而非随机的，概率的，用当前建模是不合理的。

而对于语言这种模糊性，sketchy的特性，对于下一个单词的概率分布确实可以有一定randomness，下一个词是like还是love可能都可以接受，模型给出的概率也可能差别不大。但对于数学答案1还是-1，那就对与错了。所以最近有些论文提出PoT：program of thought，让推理问题的建模尽可能有一些确定性在里面，不过这套方案依然存在我说的randomness在里面。