火爆ChatGPT背后别忘了AI的本质 - 老年从业者吃瓜想法

说的基本上很好。话说回来，我没想到论坛里有那么多人对ChatGPT这类“弱AI”还没有一个general idea…

可以的，分析的很到位

转角遇见猫 发表于 2023-2-13 12:16
我觉得反向传播只是update weight的一种方法，属于implementation details。
最关键的问题不在于我们怎 ...

upbound还是很明显的，主要是从头到尾这东西除了图表画出来像人脑神经元，实际上没什么相似的地方，帖子上面也说过养过小孩子就知道这个人类认知方式和机器学习的方式相差太远，神经网络的学习方法没有推理功能，我之所以提反向传播update weight其实就是因为他的原理其实和大数据找最frequent的data一样的，本质上还是一个统计学方法，靠的是数据要大， 但是人类认知不是靠这种方式，很多事情只要经历过一次或者见过一次就够了，这两种模式相差太远所以导致方向可能就不对，再疯狂堆数据也达不到一些基本人类的智能效果。

最简单的，大家科幻小说里面最怕AI有智慧，然后会说谎。 就说谎这个智能，神经网络估计无限堆数据堆参数都不可能实现的，所以可能从根本原理上就没对，创造一个强人工智能还是缺乏很多颠覆性的科技树。

同意大部分观点。一直就觉得很多高级的模型就是复杂的回归罢了。这也是为啥我很早就下结论完全自动驾驶短期内不可能。

但楼主觉得说这类模型不可能追上人类大脑，这个我不苟同。人类的神经元不也就是用到电信号，从最简单的那几个逻辑形式汇集成复杂的思考吗（唯物主义的话）？人类的知识和逻辑不也就是历史数据的分析吗？当这类模型用到billion甚至比这更高数量级的时候，其实不也在就是构造人类的思考模式吗？

当然，以现在的技术和算力，差的还很远。但你要知道9几年的时候个人计算机都没有普及，这才30年，翻天覆地啊。当年的人敢想象今天人手一台秒杀当年电脑的手机，乞丐拿二维码收款的世界吗？

总之， 我是觉得只要算力够牛逼，是可以接近人脑的水平的。

我作为资深自动驾驶黑，最近倒是想到了自动驾驶的一个靠谱的应用，小范围内的L5级别的自动送餐/送快递服务，就是楼主口中的小规模自动驾驶。这里的小规模指的不是一个城市的某个街道或者area，而是更小的一个小区甚至一栋楼，因为这种场景的环境相对固定，交通也并不会很复杂，技术上我认为是可以搞成的，也可以比较好地解决last mile的问题。当然，具体背后有多大的市场，值不值得花大钱搞，这需要仔细调研

ccdtz 发表于 2023-2-13 13:07
同意大部分观点。一直就觉得很多高级的模型就是复杂的回归罢了。这也是为啥我很早就下结论完全自动驾驶短期 ...

算力是可以无穷大，现在还不够，所以很难预测无穷大之后会发生什么。

但是你对比人的学习方式就会知道，小孩偷吃被爸妈打骂一次就学乖了，神经网络的意思是要被打N次，另外还有我上面提到的说谎，说谎带来的reward是非常模糊的，可能甚至没有reward小孩纯粹觉得好玩就学会了撒谎，那又怎么定义这个“好玩”呢？ 泛化到文字也是一样，Chatgpt为啥还能被看出胡说八道呢，因为根据历史数据猜出来的东西可能没有基本的common sense或者明显的逻辑错误，神经网络训练出来的模型就是尽可能拟合数据，但是从来没有说过每个预测都能对，那又用什么去定义说出来的东西“对不对”呢？ 总体来说神经网络只是一个统计方法，找出历史数据最常见的组合，这个方式跟人类的智能相差甚远，所以一切说数据堆到极致就能产生质变的说法感觉方向都有问题， 原因还是在于神经网络的方式过于简单粗暴，有很多人类的行为注定神经网络本身是不可能达到的， 跟数据量无关。

donnice 发表于 2023-2-13 13:22
我作为资深自动驾驶黑，最近倒是想到了自动驾驶的一个靠谱的应用，小范围内的L5级别的自动送餐/送快递服务 ...

有机会能实现，就像仓储机器人，其实完全不用AI，轨道设好亚麻的仓储自动机器人就是用运筹学搞定的。当然加入AI能应对一些突发情况。

学过入门的机器学习NLP就知道这玩意根本本质上就是数学/数字 高赞有说不要高估人类的大脑 但实际上人可以通过学习和观察极少的数据量（compared to 机器学习）举一反三-》独立思考 -〉发明创造 现在的所谓人工智能连个边都摸不到 以及按照现有的科技树永远都不可能摸到这个边。。

匿名用户 发表于 2023-02-13 10:04:21
upbound还是很明显的，主要是从头到尾这东西除了图表画出来像人脑神经元，实际上没什么相似的地方，帖子上面也说过养过小孩子就知道这个人类认知方式和机器学习的方式相差太远，神经网络的学习方法没有推理功

pretrained model通过很少的数据量finetune甚至few shot就可以学习新的东西。人脑的DNA也是经过上千万年通过无数数据pretrain出来的。

我这两天在上一门DL课，想了很多这方面的事情，想说一下楼主总结的真好！现在说什么machine learning，deep learning，ai其实都是把统计学上很多模型拿出来推广到业界很多领域，其实under the hood还是换汤不换药，就是几个dumb统计学模型+海量数据用来做训练，然后给input并且输出相似/相近。就像楼主说的，训练好模型后，给出input我们可以predict输出值。

抛砖引玉一下：看到几个回复argue说 因为我们现在不理解NN是怎么运行的，并且我们也不理解人脑是怎么运行的，所以NN就是近似人脑/GAI。这个观点逻辑上很有问题。NN的黑箱是在于complexity，而人脑的黑箱是在于mechanism。说白了点，就是暴力破解sha和推导得出e=mc2的区别吧。