深度学习有啥用，本质是啥，chatgpt 大模型 能干啥 欢迎大家讨论

匿名用户 发表于 2023-02-16 19:43:50
我强调深度学习是在做数据拟合，是因为深度学习的objective function基本上都是以maximum likelihood作为基本loss（这就是在做分布拟合，也是某个层主提到的blurred

大佬说的非常好。 白话就是chatgpt是按文科生来训练的。以前大部分的数理模型其实训练的是理科生的思维，只不过现在还没有一个能到chatgpt程度的理科生

补充内容 (2023-02-18 00:12 +08:00):
又想到一点。 训练理科生讲究准确，所以对数据精确度非常高，收集准确度非常高的数据是一个挑战。比如文科生可以看各种书，都对写文章有帮助。但是数学家，一个定理只有一种正确的证明，其他多余的知识不光对训练没帮助还有害。

小亩_bcd19b6 发表于 2023-2-17 11:06
大佬说的非常好。 白话就是chatgpt是按文科生来训练的。以前大部分的数理模型其实训练的是理科生的思维， ...

sorry to be pedantic,

首先，数学很多问题不止一种办法证明，一个定理可以从好几个角度证明

其次, 基于数学问题的dataset早就有了 https://arxiv.org/abs/2202.01344

目前已经有人用openai的技术造出能解大部分大学数学题的算法：

https://news.mit.edu/2022/machine-learning-university-math-0803

补充内容 (2023-02-18 00:50 +8:00):
还有谷歌的minerva:

https://minerva-demo.github.io/#category=Algebra&index=1

匿名用户 发表于 2023-02-17 08:35:11
sorry to be pedantic,

首先，数学很多问题不止一种办法证明，一个定理可以从好几个角度证明

非常有用的信息！ 我有时间仔细看看，感谢

匿名用户 发表于 2023-02-16 20:27:36
为什么max likelihood objective就不能是推理？警察破案不也是对各种可能发生的事做max likelihood，不能说不算推理吧？

max likelihood是基于大数定理，警察破案的案例很多都是specific的吧

匿名用户 发表于 2023-02-17 08:52:06
max likelihood是基于大数定理，警察破案的案例很多都是specific的吧

所谓specific就是基于所有已知证据的的conditional probability，这和llm基于给定prefix的inference没什么区别。整个破案过程就和基于beam search或者mcts的sampling过程差不多。

medex 发表于 2023-2-17 07:14
Hinton论文说大脑的神经信号传递算法neural gradient representation by activity differences NGRAD就是 ...

是的，就是这个意思。但是现代数字计算机并不擅长做微分，所以估计他的这个想法在传统计算机上资源消耗巨大。
之前读phd的时候评审过一些做类脑计算架构的文章，这么多年了好像也没啥突破。
这就是我非常反对炒作某一个特定技术的原因，这种炒作会导致资源分配不公，可能会耽误真正有前途的技术，让人类发展多走弯路。

匿名用户 发表于 2023-02-17 07:57:54
贴主 我可以复制 然后置顶你的帖子嘛

我都行,zszszs

匿名用户 发表于 2023-02-17 08:35:11
sorry to be pedantic,

首先，数学很多问题不止一种办法证明，一个定理可以从好几个角度证明

利用codex解决数学问题的那个论文就是我说的pot，program of thought，引入确定性的代码作为解决我们数学问题的中间步骤。

匿名贴主1FB：

我强调深度学习是在做数据拟合，是因为深度学习的objective function基本上都是以maximum likelihood作为基本loss（这就是在做分布拟合，也是某个层主提到的blurred jpeg of internet现象），然后辅助一些其他loss。

如果大家还关注CV领域，就会发现为什么大家做aigc的分辨率是逐年提高的呢，一开始大家也就做作64x64，到现在的几K，甚至还需要拼图方法构造大图。这是因为图片生成是在做像素分布的拟合，而拟合出来的分布是无法直接展示，你不能说x，y这个位置的pixel是一个分布，展示的图片是必须是一个确定value。那么问题就来了，展示的要么随机sample一个pixel value，要么用该分布的均值，这时候在整个图看，x，y和它附近的pixel分布应该差别不大，那么他们的均值也不大，所以生成的图片一般来说细节都不够sharp，有一个blurry现象。这也就是头发丝为什么很难生成特别好的原因。包括现在最火的图片aigc，diffusion model也是这样的。为什么这几年分辨率逐步提高，那是大家建的模型高级了，从cnn，pixelrnn，到现在的transformer或者diffusion model，模型拟合能力不断提高。举个例子说，你有一堆点，一开始用线性回归，现在用二次函数，那肯定能力强了。

不过去针对这个问题，adversarial training是可以一定程度解决图像偏模糊的问题，把控更好的细节，但是，他也是为了match数据分布，不过以某些divergence的形式去match，而非likelihood。

说回到LLM，我并不是说做word conditional distribution拟合就是纯粹按概率说话，不能有推理能力，而是强调推理能力和我们优化的目标并不一致。不管是CoT，chain of thought，还是in context learning，让LLM看起来有推理能力，这只是像有推理能力，而这个能力还是来源于word分布拟合，因为训练中也用到了网上爬的一些逻辑推理相关的数据。至少不是我认知的推理能力，我举一个例子，出现在chatgpt的数学能力加强前版本，让它去做3+4=，他背后的答案其实是一个word分布，然后模型rank一下概率大小，最大的是p(7)=0.9，其他的概率都很小，所以只展示了7。google内侧bard就会输出top 4概率的答案。但是如果让当时的chatgpt去计算-1 * -1 * -1 =，这个时候他就算出来1，背后的算法可能1和-1概率差不多，但1大一些。这种简单算术，他是确定性的，而非随机的，概率的，用当前建模是不合理的。

而对于语言这种模糊性，sketchy的特性，对于下一个单词的概率分布确实可以有一定randomness，下一个词是like还是love可能都可以接受，模型给出的概率也可能差别不大。但对于数学答案1还是-1，那就对与错了。所以最近有些论文提出PoT：program of thought，让推理问题的建模尽可能有一些确定性在里面，不过这套方案依然存在我说的randomness在里面。

补充内容 (2023-02-18 04:15 +8:00):
原回答： https://www.1point3acres.com/bbs ... 02&pid=18205395

匿名用户 发表于 2023-02-17 09:02:14
所谓specific就是基于所有已知证据的的conditional probability，这和llm基于给定prefix的inference没什么区别。整个破案过程就和基于beam search或者

不敢苟同，破案很多时候已知条件是patterns（rule based），用于排除掉大部分无关人员，缩小嫌疑人范围，推理到最后是具体到个人/团体，而不是用几率概念认为所有人都有概率是罪犯