火爆ChatGPT背后别忘了AI的本质 - 老年从业者吃瓜想法

匿名用户 发表于 2023-2-12 23:54
楼主把人类的智能想的太复杂了。人从读书到现在花了十几年，长期吸收信息，执行，反馈，然后学习。当然不能 ...

针对你的回帖单独反驳两句：

1 中小学教育的主要内容正是大量structured knowledge， 是rule based而不是stat based。这部分的知识还没有很好地办法喂给LLM。这也是楼主说LLM“不会推理”的本质原因

2 如果LLM只能跟“完全没有受过教育的人”相提并论，那么它的价值就很有限。Andrew Ng 4，5 年前就说过，基于DL的模型能做的就是代替人类执行那些“可以在5秒钟内作出决定”的任务，也就是不涉及上面structured reasoning的trivial任务。人类的语言已经是 most structured/ information dense data了。如果LLM这么庞大的结构在这么优质的数据上都不能突破5年前观察到的局限， 这对于AI从业人员绝不是好消息

楼主作为从业者，却看不起AI，DL的黑盒子里你真的都搞明白了吗？

匿名用户 发表于 2023-2-13 10:29
我这两天在上一门DL课，想了很多这方面的事情，想说一下楼主总结的真好！现在说什么machine learning，deep ...

DNN的activation本来就是模仿神经元电位嘛。你可以把每个activation看做一个小的if else。无数个这样的if else组合起来就是我们所谓的muscle memory或者潜意识。所以预训练出的大模型，是有可能在非抽象推理任务上，做到跟人脑类似的fewshot能力的。只是目前还不知道应该用什么样的模型结构罢了

Jaywolf 发表于 2023-2-13 14:22
楼主作为从业者，却看不起AI，DL的黑盒子里你真的都搞明白了吗？

这是啥逻辑？我送外卖就得看得起外卖行业？

我能理解楼主的想法，但我得先问你一个问题，什么是智能？这个不定义好，怎么能说ai没有智能

nevarofred 发表于 2023-2-13 11:32
这是啥逻辑？我送外卖就得看得起外卖行业？

哈哈，我以为搞AI的会有点基本的尊重。

要知道DL哪怕ML里面的数学原理并不是很清楚的，作为从业人员也只是train model而已。

helloterran 发表于 2023-02-13 11:19:02
针对你的回帖单独反驳两句：

1 中小学教育的主要内容正是大量structured knowledge， 是rule based而不是stat based。这部分的知识还没有很好地办法喂给LLM。

曾经的计算机是很善于解决非常复杂的问题（比如快速求解旅行商 最短路径等等），但是不会直觉问题（比如人脸识别）。本质上是利用算力碾压。现在的ai进化到了可以一定程度的处理直觉问题，但是处理不了复杂的逻辑问题。如果有办法结合，潜力还是很大的

靠数据量，overfitting一切，应用还是好应用，但确实称不上智能

简单来讲就是不会自主学习，一切都是商品包装

技术不是啥新技术，但是如果能用出花来就厉害了