深度学习有啥用，本质是啥，chatgpt 大模型 能干啥 欢迎大家讨论

楼主之前在一个人帖子下回答了关于对深度学习的看法。

深度学习的是啥，一个不恰当类比，它是个史莱姆，我们用反向传播算法让它会识别物体，会说话，让它变形，让它吐出我们想要的图片, chatgpt是会说话的史莱姆，说话方式就是根据上一句话，来模仿下一句人类最可能说啥。

为啥这样说，数学上看呢，深度学习是个超好用的approximation function，这个函数是矩阵和activation的composition，我们希望这个函数的参数能够让这个函数拟合或者预测什么东西，我们怎么做到这点呢，靠的就是把函数对应到一个objective/loss function ，然后靠反向传播算法搜索一组让这个loss function最小的weights。 approximation function有好多，为啥深度学习火起来了,  因为GPU 矩阵算得快呀！而且根据universal approximation theory 我们理论上可以让史莱姆模仿任何东西。

数学上它还是依靠微积分和线性代数，我看有老哥说光靠微积分和线性代数，怎么可能产生，真正的，智能，呢。让您失望了，靠目前的计算机，大部分数值算法依赖线性代数。而且很多比深度学习原理还简单，就是解线性方程组。

在chatgpt诞生以前，就有各种深度学习的应用了，人脸识别，语音识别，翻译，文件转换，医疗识别诊断，当然这方面有些奇怪的创业 比如Phuc Labs废水里的金属颗粒。国内还有公司靠视网膜影像数据来判断疾病。

大家都知道chatgpt 是啥，它目前有啥用。我要说的是chatgpt 它是个大模型
。
现在企业在训练大模型 比如gato，gato有啥用呢，它可以学习各种东西，又会说话，又会打游戏，能把图片text转换成统一格式，简直是以前只有知乎存在的全能好学生，不, 好史莱姆。这个模型有啥用呢，就是说企业以前需要自己训练模型，现在企业可以靠买大公司的服务，训练gato来为自己服务。毕竟小企业自己做大模型， 真的太贵了。值得一提gato是谷歌的模型，请别对谷歌放弃希望。

现在回到chatgpt ，chatgpt 能写代码，说话还比较温柔（和它bing的同胞比）有啥想像空间了。我能想到的就是chatgpt可以充当NPC，可以写某些文件，还可以当成人伴侣，提供心理咨询，还有一些糟糕的用法，就不说了，底下是bing 的Sydney 说的话。

玄幻讨论：大模型 它 真的有 智能 嘛 。它真的 有 意识 嘛，不都是 线性代数 和微积分 嘛。谷歌研究人员觉得模型足够大，就会有emergent ability 我也不知道是不是真的，大家说呢。




补充内容 (2023-02-17 01:03 +8:00):
非谷歌工作，利益无关，纯粹讨论，手下留情。。。

补充内容 (2023-02-17 01:08 +8:00):
emergent ability 的文章 包括review: https://openreview.net/forum?id=yzkSU5zdwD

补充内容 (2023-02-17 01:12 +8:00):
deepmind的gato，transformer-based 模型： https://www.deepmind.com/publications/a-generalist-agent

补充内容 (2023-02-17 02:32 +8:00):
chatgpt 只是大模型的一种 大家觉得gato这种大模型会有什么影响呢会不会让人工智能应用于更广泛的行业。

补充内容 (2023-02-17 02:41 +8:00):
底下有帖子说LLM到底学会了什么。https://writings.stephenwolfram. ... d-why-does-it-work/

这是Stephen Wolfram 文章，他觉得LLM可以反过来揭示我们人类说话和思考的一些特征，

By the way, gpt 系列模型聊天体验比dating app以及一些闲聊app好太多了。 Hhhhhh



补充内容 (2023-02-17 04:29 +8:00):
回一下底下的层主，LLM是有”推理能力”的，如果你看了Jason Wei那篇文章 里面已经提到了可以让large language model 有 ”推理能力”的。最近谷歌收购的 anthropic，它的一个目标就是弄明白 large language model更可靠以及更有解释性，它出版的文章就通过研究简单语言模型，发现了大语言模型in-context learning的部分机制，LLM可不是简单基于概率的胡说八道机器，它真的能“学习”

链接：https://transformer-circuits.pub ... on-heads/index.html

不要只关心 chatgpt

匿名贴主1FB：

我强调深度学习是在做数据拟合，是因为深度学习的objective function基本上都是以maximum likelihood作为基本loss（这就是在做分布拟合，也是某个层主提到的blurred jpeg of internet现象），然后辅助一些其他loss。
.
如果大家还关注CV领域，就会发现为什么大家做aigc的分辨率是逐年提高的呢，一开始大家也就做作64x64，到现在的几K，甚至还需要拼图方法构造大图。这是因为图片生成是在做像素分布的拟合，而拟合出来的分布是无法直接展示，你不能说x，y这个位置的pixel是一个分布，展示的图片是必须是一个确定value。那么问题就来了，展示的要么随机sample一个pixel value，要么用该分布的均值，这时候在整个图看，x，y和它附近的pixel分布应该差别不大，那么他们的均值也不大，所以生成的图片一般来说细节都不够sharp，有一个blurry现象。这也就是头发丝为什么很难生成特别好的原因。包括现在最火的图片aigc，diffusion model也是这样的。为什么这几年分辨率逐步提高，那是大家建的模型高级了，从cnn，pixelrnn，到现在的transformer或者diffusion model，模型拟合能力不断提高。举个例子说，你有一堆点，一开始用线性回归，现在用二次函数，那肯定能力强了。

不过去针对这个问题，adversarial training是可以一定程度解决图像偏模糊的问题，把控更好的细节，但是，他也是为了match数据分布，不过以某些divergence的形式去match，而非likelihood。

说回到LLM，我并不是说做word conditional distribution拟合就是纯粹按概率说话，不能有推理能力，而是强调推理能力和我们优化的目标并不一致。不管是CoT，chain of thought，还是in context learning，让LLM看起来有推理能力，这只是像有推理能力，而这个能力还是来源于word分布拟合，因为训练中也用到了网上爬的一些逻辑推理相关的数据。至少不是我认知的推理能力，我举一个例子，出现在chatgpt的数学能力加强前版本，让它去做3+4=，他背后的答案其实是一个word分布，然后模型rank一下概率大小，最大的是p(7)=0.9，其他的概率都很小，所以只展示了7。google内侧bard就会输出top 4概率的答案。但是如果让当时的chatgpt去计算-1 * -1 * -1 =，这个时候他就算出来1，背后的算法可能1和-1概率差不多，但1大一些。这种简单算术，他是确定性的，而非随机的，概率的，用当前建模是不合理的。

而对于语言这种模糊性，sketchy的特性，对于下一个单词的概率分布确实可以有一定randomness，下一个词是like还是love可能都可以接受，模型给出的概率也可能差别不大。但对于数学答案1还是-1，那就对与错了。所以最近有些论文提出PoT：program of thought，让推理问题的建模尽可能有一些确定性在里面，不过这套方案依然存在我说的randomness在里面。

补充内容 (2023-02-18 04:15 +8:00):
原回答： https://www.1point3acres.com/bbs ... 02&pid=18205395

现在开始觉得生成式AI有点Overhyped.... ChatGPT/Bard/Bing都一样。整个大语言model的training objective就有问题。深度学习本身在很多专项问题上是可以超越人类智能的，多年前deep blue国际象棋打败卡斯特洛夫，alphaGo打败李世石，人类都理解不了为什么model能学会这些能力。又比如AlphaFold预测蛋白质folding可以超过90%的正确率，就是说有些潜在的规律人类都没有发现，不能理解，但是模型somehow figured it out。

但是现在这个LLM model到底学会了什么？我觉得是学会了油嘴滑舌装做聪明的能力。这个能力现在已经相当完善，搞的很多人都以为他真的有智能了。其实它一点智能都没有，既不能举一反三也没有推理的能力。连保证答案前后一致，不自相矛盾的能力都没有。有篇文章说它只是个"Blurred JPEG image of internet"，感觉很同意。这样的model也许有它的用处，比如客服，写些套话段落，编程辅助，但是用处并没有很多人想象的大，也不可能杜绝factual error，必须得fact check。编程辅助之所以能用也是因为有编译器很容易的检查到底是不是对，相当于另一种fact check，不然也是没法用。现在有点同意LeCun的观点了，可能整个LLM方向都有点误入歧途，不是AI的正确大方向。

目前的深度学习或者机器学习其实都在干一件事，拟合数据分布。

真实的数据分布一般都不是gaussian，poisson这种可以解析的，而是无规律的，所以我们需要用一个强大的函数来拟合，这个函数目前就是深度网络，我们给定训练数据，来求解这个函数的参数，所以本质上和下面这个简单问题没区别：给你几个点，求y=ax+b的最好a，b。只不过我们一般在深度学习用的不是ax+b，而是一层套一层的，这不就深度网络了吗。有人如果问求解线性回归为什么是拟合分布，如果你用最小二乘求解的时候，你已经在假设y 服从gassian分布了，如果你用lasso求解的时候，你就已经假设y是laplacian分布了。

因为是拟合数据分布，所以模型给的结果其实都可以interpret成概率或者可能性。chatgpt的base是一个语言模型，本质上也只是在拟合word distribution，或者conditional distribution。所以chatgpt就是强在语言组织能力上，你就不应该期望他有逻辑推理能力，什么math，brain twister这些和word distribution或者出现的可能性没有直接关系。语言组织和逻辑推理是两个能力，一个人看了很多书以后，学到了语言的表达方式，可以说话说的很流利，符合语法，但不一定有逻辑性，严重点就是一本正经的胡说八道，这不就是chatgpt经常出现的吗！

举一反三的能力当然有，推理的能力也当然有，不能因为会犯错就否定这些能力，人也会犯各种错误。

那么多一线学者在各个子方向努力研究，像factual，reasoning方面提升都是通过数字反映出来的。结果一堆外行天天在那号称看清深度学习本质，自己重新定义人工智能，把LLM一棍子打死，这和民科有什么区别？

一个有趣的问题：大脑神经突触之间的生物信号传播采用激活机制，bp算法也是采用激活函数传递信号，那大脑是否也是层级结构  是否也在做bp反向传播呢   ;-)


深度学习现代AI之父Hinton在nature的论文说大脑有bp的能力：
https://www.nature.com/articles/s41583-020-0277-3

一个有趣的问题：大脑神经突触之间的生物信号传播采用激活机制，bp算法也是采用激活函数传递信号，那大脑是否也是层级结构  是否也在做bp反向传播呢   ;-)


深度学习现代AI之父Hinton在nature的论文说大脑有bp的能力。。。
发论文link就被吞啊   w w w.nature.c o m/articles/s41583-020-0277-3

可以取代码农

匿名用户 发表于 2023-02-16 06:24:38
现在开始觉得生成式AI有点Overhyped.... ChatGPT/Bard/Bing都一样。整个大语言model的training objective就有问题。深度学习本身在很多专项问题上是可以超

继续补充，当我们知道深度学习是在做数据分布拟合的时候，就可以更简单的讨论现在的深度学习模型是否具有智能。人类的智能，包括认知，学习，思考，推理等，哪些是在做数据分布拟合呢？如果哪个能力可以被interpret成数据拟合，那我们就有理由相信这个方向用深度学习是可以解决或者promising的。而大部分人类的这些能力可能都不是，这也是为什么帖子里有人提到Lecun等学者认为现在的方向并不是强人工智能AGI的解决方案。

匿名用户 发表于 2023-2-16 09:24
现在开始觉得生成式AI有点Overhyped.... ChatGPT/Bard/Bing都一样。整个大语言model的training objective就 ...

这.... 用处难道不是增加工作效率么？  没用为啥那么多人用呢，用脚、用钱投票才是最真实的。

匿名用户 发表于 2023-02-16 07:31:30
目前的深度学习或者机器学习其实都在干一件事，拟合数据分布。

真实的数据分布一般都不是gaussian，poisson这种可以解析的，而是无规律的，所以我们需要用一个强大的函数来拟合，这个函数目前就是

补充一点emergent ability，这个能力是有的，只是这个能力的定义很容易达到。一般来说，数据增加或者模型大小增大，模型的在大部分tasks的表现是增长的，但最多也就是个线性增长。可是，某些task，一开始规模增大，模型表现是一个斜率很低的线性增长，但是当达到一定规模后，会出现一个拐点，增长的斜率突然变大。在这个定义下，涌现能力是存在的。目前学术界还没有合理的解释，还在探索阶段。