火爆ChatGPT背后别忘了AI的本质 - 老年从业者吃瓜想法

shenyichen105 发表于 2023-2-13 17:03
我觉得楼主可能真的高估了人类. 我认为人脑并没有真正的逻辑电路 所谓的rule based的逻辑在人脑里的表征很 ...

看到类似回复。。但是有一个很根本的问题，DNA像pre-trained实在难以理解，也跟达尔文说的不一样哈， 你在assume这辈子学习的知识能通过DNA传给下一代吗？意思是后天人还能通过学习改变自己DNA么。。DNA这样特别比转基因还厉害了。

实际上，恰恰是DNA更像是机器配置，人的记忆才是pretrained model，你说的这个例子完美诠释迁移学习这个ML理论跟人脑不一样，你这辈子学到的东西，是没法直接传给你后代的，后代学起来一样要花同样的时间，你是没法迁移知识的，这个生物机制更凸显了人脑跟AI不一样。

至于大家为啥越来越聪明，跟现在科技发达大家营养更好卫生条件更好有关，大脑发育得更好CPU和内存更发达了，你也可以后天训练记忆力什么的，但是你后天训练的东西一样也跟你后代没啥关系，你后代一样要重复同样的训练才能达到一样的效果，所以迁移学习的点在哪里呢？

Dave2022 发表于 2023-2-13 16:57
楼主低估深度神经网络跟人脑的相似度了。我个人认为从一定的纯逻辑层面上看，神经网络跟人脑就是一样的。仅 ...

建议看一下前面我解释神经网络黑盒在做什么的答案，其实这些算法本质上都在更高效率地达到一个穷举的答案，跟人脑真的很不一样， 你说的进化比喻，人脑更像是训练算法的机器配置GPU什么的，知识记忆才是神经网络学习的算法，没有人的逻辑/知识/记忆是先天遗传的，你爸妈学了什么，你出生一样得重新学，你爸妈后天练习弹钢琴厉害，你按照一模一样的方式后天也需要花同样的时间。 这点其实就跟神经网络很不一样，知识迁移其实在人脑是不存在的，否则大家都可以不用上学了。

至于人脑智力开发，更大机会是营养更好使用率更高，大家后天大脑发育越来越好，跟神经网络学习没啥关系，你后天学的东西没法改变你先天的基因，所以类比起来更显得两个机制完全不一样了。

顶lz 再顶

赞同！
1. 人脑的复杂不是能用参数数量对标的
2. 有层主说不要把人脑想的太复杂。 是啊，人每天搬砖，刷手机，睡觉。你当然觉得不复杂。这只是使用了人脑1/100的潜力而已。

匿名用户 发表于 2023-02-13 10:29:00
我这两天在上一门DL课，想了很多这方面的事情，想说一下楼主总结的真好！现在说什么machine learning，deep learning，ai其实都是把统计学上很多模型拿出来推广到业界很多领域，其

不理解人脑也正是因为complexity啊 单个神经元咋work的几十年前就研究清楚了 难理解的就是因为它们怎么集合一起出现智能 所以你说的mechasim和complexity是一码事 上一门dl入门课觉得自己懂chatgpt了相当于说学了小学自然课就理解人脑原理

匿名用户 发表于 2023-02-13 15:31:07
看到类似回复。。但是有一个很根本的问题，DNA像pre-trained实在难以理解，也跟达尔文说的不一样哈， 你在assume这辈子学习的知识能通过DNA传给下一代吗？意思是后天人还能通过学习改变自己

好问题啊 我的观点是在几百年的尺度下 不能改变pretrained weights 这个pretrained weights是进化算法优化 速度很慢 loss也是个以优化dna传播为目的设置的 现在的大脑和旧石器时代人类差不多 这恰恰是人类社会很大的问题 基因跟不上文明的进化速度. 迁移学习指的是人类适应现有环境在dna pretrained weights基础上做微调和domain adaptation  (我觉得其实pretrained weights更接近元学习 或者表征学习 即学习如何快速的适应一些高级模式 比如新的动物图像 新的语言 但是这些看上去不一样的东西都是以一些pretrained底层表征组合而来 从这个角度看来人脑和llm更像了)

匿名用户 发表于 2023-02-13 01:33:42
层主把人类的智能想的太简单了，只要养过人类幼崽就能很快认识到，现在所谓的AI和人类智能之间的学习方式和学习能力有多大的鸿沟

养过人类幼崽也没觉得人类智能比”AI”高级，只能说不同，给足够多的数据AI做的更好的例子比比皆是，人类需要的样本少但是这是几亿年训练出来的

kuhn31 发表于 2023-2-13 14:34
可是我们人类又是怎么根据1-10的数据泛化到10-100的呢？不过是我们加了一些régularisation, extrapolate  ...

人类有符号推理。怎么让LLM学会符号推理也是挺有趣的事情，但是现在好像还没有特别好的办法。

微信用户_e441c67 发表于 2023-02-13 06:10:44
人类也经常胡说八道。chatgpt比不上各行业的专业人员，但比普通外行人可能更好。

即使没有机器，现实中信息也是有真有假，人类做决策时要考虑到这些因素；网页上有真有假，我们会根据网站的权威性有个判断，等我们对AI熟了、机制完善了，是是不是也会有判断AI信息权威性的的方法。