火爆ChatGPT背后别忘了AI的本质 - 老年从业者吃瓜想法

xiaoyanger 发表于 2023-3-27 07:48
讲的都挺好 但你可能对artificial 这个词有什么误解 以至于过于强调intelligence
你连说三遍AI没有智能， ...

请看完再评论，这里的artificial 就是想误导大家后面的intelligence是真的拥有人类的强智能，你看那么多宣传口径全部在宣传能取代什么工作取代什么程序员，跟人造眼泪人造皮不是一个概念，这里的宣传明显是想让你觉得这个智能是真的能让人掉饭碗的。

我整篇文章的意思就是说真是扯谈，下面也举了一个例子说为什么取代不了程序员，让大家不必恐慌和过热追捧。 现在很多大佬脸都不要了明明知道这东西能干什么不能干什么，还煞有其事地拿了钱开始宣传这东西真的有智能似的。 例如马斯克还喊什么停止GPT-5研发怕人类会被取代，特么他自己搞自动驾驶都失败了能不知道这东西有没有智能是什么原理？ 当懂的人都开始装不懂忽悠大家的时候就是联合割韭菜的架势。

匿名用户 发表于 2023-03-30 08:47:26
请看完再评论，这里的artificial 就是想误导大家后面的intelligence是真的拥有人类的强智能，你看那么多宣传口径全部在宣传能取代什么工作取代什么程序员，跟人造眼泪人造皮不是一个概念，这

楼主再这样下去又有人要不开心🥹🥹。不否认楼主主要观点，我也认为现在的AI会被统计模型的特点给限制住。
但我尝试站在认为现在GPT系列很厉害的一方，来反驳一下楼主的观点，毕竟这些人最近都在复读一些科幻言论hhhh：

也许统计模型就能挖掘足够大量的信息。

只从argmin来看，是无法领会到目前GPT的厉害之处的。如果说，毕竟GPT用于训练的数据非常大，如果只从分布来看，每段文字的 marginal distribution 只会接近于0，在这种情况下，我们应该思考条件概率分布。即使模型生成的数据最终联合概率分布相同，但是条件概率完全不同。

根据实验 我们发现GPT系列在Given prompt 的情况下，能够输出对许多人而言有用的内容。有没有可能scaling transformer这个结构，就能保证GPT能够根据一个概率chain进行推理呢。也许OpenAI有什么妙招让 GPT表现的有智能。毕竟人类的推理中也包括Maximal Likelihood 这一项。

只要OpenAI能让GPT系列的概率模型能最大程度的解决实际问题，那么它是不是已经是革命性的了。毕竟人类的许多任务也是重复。这些重复就代表了数据分布的一个mode。


好了演完了。

匿名用户 发表于 2023-03-30 15:56:09
楼主再这样下去又有人要不开心。不否认楼主主要观点，我也认为现在的AI会被统计模型的特点给限制住。
但我尝试站在认为现在GPT系列很厉害的一方，来反驳一下楼主的观点，毕竟这些人最近都在复读一些科幻言论h

你说得对啊，所以请看我文章最下面说为啥模型取代不了程序员的原因，就算数据无穷大算力无穷大也不行，原文也说了为什么了。你说的概率推算第一看有点道理，我看的语言多了，推断出来我也会了这个语言是不是？ 但其实我觉得这种模型的最大弊端是没有了知识系统背后的”rule base” system，光这么训练是取代不了各种白领工作的，除非工作真的是流水线。

取代不了程序员：没有人学代码是看几亿段代码然后自动学会代码的吧。

取代律师： 看完所有法律条文和文书，就自动会写文书了？

取代医生：看几亿张x光和诊断书，就学会看病了？

这里你可以发现人类学习各种知识的方法是认识x是什么，不是x有什么概率是什么。概率模型对热门知识点可能有效，但是对冷门知识点不能够通过一两个例子就学会x 100%是Y的话，就会出现重大错误，至少在编程上就一个标点符号一个语法学不会就不行了， 在自动驾驶上这个特性的危害被无限放大，人类通过一个例子就能基本学会X 100%是什么的话，看来这个统计学模型还是本质特性上达不到人类强智能的模式，就永远取代不了白领职业了。 想要取代必定要抛弃现在机器学习有监督学习这样的框架，否则再多的数据和算力都是形似神不似而已。

匿名用户 发表于 2023-03-30 16:25:22
你说得对啊，所以请看我文章最下面说为啥模型取代不了程序员的原因，就算数据无穷大算力无穷大也不行，原文也说了为什么了。你说的概率推算第一看有点道理，我看的语言多了，推断出来我也会了这个语言是不是？ 但其

我猜您说的这些原因才是现在OpenAI和微软在媒体上借助各种手段包装GPT的原因。OpenAI的人其实清楚这些，但是为了让这个巨大的烧钱机器维持下去，必须通过种种手段来让社会各个结构去满足LLM范式，而不是维持原状，实际上很多地方用的技术不新也能走下去。

GPT确实是好产品，但对OpenAI而言如果不能利用目前的风潮让社会原有结构和舆论转向适应它们的产品(而不是反过来)，那这个公司可能陷入困境，所以他们不断营造出一种AI在迅速进化的感觉，其实GPT4早就训练好了。但故意只隔这么短的时间发布，就是为了给人造成这种AI进步速度类似指数的错觉。

对OpenAI而言，最大的风险是人们意识到AI进步是sigmoid函数，所以必须让社会尽快适应它们的产品，在您说的问题暴露在公共讨论之前，让社会尽快适应利用LLM来进行生产。

但这确实是好产品🤣🤣🤣，算是DL领域的Killer App了。

匿名用户 发表于 2023-3-31 00:14
. ----我猜您说的这些原因才是现在OpenAI和微软在媒体上借助各种手段包装GPT的原因。OpenAI的人其实清楚这些，但 ...

是啊，不过最低限度干掉grammarly这些app肯定没问题，只是要提高生产力让我coding 的话感觉是坑太多有点降低效率了 （不过当stackoverflow查一下还可以），所以我非常接受LLM在某些应用上提高生产力的例子，但是绝对不担心能取代任何程序员或者白领工作..

匿名用户 发表于 2023-03-30 21:18:34
是啊，不过最低限度干掉grammarly这些app肯定没问题，只是要提高生产力让我coding 的话感觉是坑太多有点降低效率了 （不过当stackoverflow查一下还可以），所以我非常接受LLM在

他们在商业和营销上还挺高明的，Musk16-18年的时候也玩这一套，他的问题就在于DL在汽车上出问题 真的会死人。

我看地里有的引用 “the biggest lesson from deep learning is that you just gotta believe”，这个话就适合OpenAI的人说，不是嘲笑，一个公司想改变世界还真得这样才行。当然某些人真信就是另一回事。

估计等12-24个月就能看到LLM在哪些领域非常有效，哪些领域会有些问题，哪些领域就是吹牛，哪些领域全是坑。不知道那些各种AI哲学家 那时候会在干嘛🤣🤣🤣

精辟，师者传道授业解惑也！

学过一点肤浅的脑科学的我觉得：人的学习又何尝不是一种概率模型，人本质是没有思考的，其实我们所有的思考都是之前学习过的东西神经元的组合和链接，其实本来就没有一个观点是新的，我们任何的观点都是别人观点的组合和思考。
目前没有人能解释清楚人的逻辑，或者rule-based system 是什么，其实本来就是我们脑海中的先前的“概率”组合。我们觉得1+1 = 2也是因为我们从小被教育1+1=2，之所以给2岁小朋友谈逻辑是不可能的，他们也没有rule-based system，是因为他没有足够的数据和时间学习“逻辑”。
我认为人目前比AI更先进是因为我们的眼睛耳朵这些视听器官能和我们的神经元更好的合作，因此当AI算力大于人脑神经元个数之后，AI一定会比人类聪明。

很多学术界的大佬们也是持类似的观点 个人感觉至少chatgpt作为一个ai产品是很成功的

老话提一句，真正的AI，需要基础科学[物理，生物等等对现实世界的本质认识]的突破

同时真正的AI出现也是人类灭亡倒计时的开始