火爆ChatGPT背后别忘了AI的本质 - 老年从业者吃瓜想法

又刷到这个问题了，今天sebastian bubeck讲了个talk讨论gpt4有没有智能，现在还不能透露细节，只能说openai release的gpt4相比他们最好的模型真的差太多，过几天他们应该就有paper了。光看现在的gpt4可能确实没有智能，但实际。。


. ----

柯基1 发表于 2023-3-18 08:51
又刷到这个问题了，今天sebastian bubeck讲了个talk讨论gpt4有没有智能，现在还不能透露细节，只能说openai ...

人类是不是马上要完蛋了

柯基1 发表于 2023-3-17 20:51
又刷到这个问题了，今天sebastian bubeck讲了个talk讨论gpt4有没有智能，现在还不能透露细节，只能说openai ...

刚刚 给gpt4 测试了一堆捏造的问题，如果不做很多提示，它根本就做不对。这些问题问我朋友他们一下就做出来了。。。。。。严重怀疑openai训练gpt4的数据里包含测试数据，从amc 考试和leetcode以及codeforce对比就能看出来，它们现在还掩盖模型信息，然后找一群人夸，我们 的 ai真的太厉害 啦。talk 在 berkeley ？

匿名用户 发表于 2023-3-18 12:17
刚刚 给gpt4 测试了一堆捏造的问题，如果不做很多提示，它根本就做不对。这些问题问我朋友他们一下就做出 ...

能解决大多数问题做成通用接口就很厉害了，能改变世界的不一定是科学家，很可能是个优秀的裁缝。

匿名用户 发表于 2023-3-18 00:17
刚刚 给gpt4 测试了一堆捏造的问题，如果不做很多提示，它根本就做不对。这些问题问我朋友他们一下就做出 ...

那当然了，所有幻想现在模型没智能，继续迭代下去、加大训练量、加大机器算力以后基于深度学习的模型就有智能的多半都是外行人凑个热闹。 我的回答已经解释了深度学习的瓶颈了，无论怎么改进炼丹和加大数据量加大算力，尽头都只是训练数据集出现次数最多的那个组合作为结果而已， 根本没有推理能力。

第一GPT这次连公布用了数据集训练都不做，的确有可能出现你说的问题， 有多少测试数据是已经被用来训练所以overfitting不得而知。 第二是学习一样新事物太费劲， 没有泛化推理和多种人类大脑特有的“强”人工智能，像自动驾驶碰到conner case，正常人类司机碰到一次急刹然后估计这辈子就学会了，按照有监督训练这种基于统计学的模型，自动驾驶模型不人工手动干预的话估计要急刹或者撞个上万上百万次之后模型才能学会才确保以后>99%的概率要急刹，简直是谋财害命，这是机器学习整体框架造成的瓶颈而不是深度学习能玩出多少朵花来的问题。

感谢楼主分享，很有帮助！

从对着搜索栏敲字进化到问答式， 能够有足够的准确率，着就已经够了。这当然不是学术界里认可的顶峰，但肯定是工程里上一个飞跃。从中衍生出来的小小变革会进一步提高人们工作的效率，这就已经有足够的想象空间了。

匿名用户 发表于 2023-3-18 00:38
能解决大多数问题做成通用接口就很厉害了，能改变世界的不一定是科学家，很可能是个优秀的裁缝。

不否认，但对所谓强人工智能走这个llm路线深表怀疑，还有目前硅谷这个氛围，use tech to layoff everyone。。。。。

匿名用户 发表于 2023-3-17 23:47
那当然了，所有幻想现在模型没智能，继续迭代下去、加大训练量、加大机器算力以后基于深度学习的模型就有 ...

推理能力, 可以评价强弱, 但是不好说没有, 举例来说, but not limited to, 知识图谱里的推理是很重要的一部分, 基于规则的推理, 基于算法的推理等, 这些都不是什么新东西.

NLP这些年从某种程度来说是落后于CV的, chatGPT的出现至少算是一个节点(if not a milestone), 可能可以类比前些年resnet的出现之于CV?

overfitting从某种程度来说不可避免, 不过全世界这么多人用各种真实的, 虚假的, 捏造的数据来测试, 总体准确率可能无法统计, 但是至少比以前是大大进步了的.

corner case的问题在实践上是一个率的问题(wait to be questioned). 有次和一个放射科的说到这个问题, 我说"AI读CT片错误率已经低于高年资的放射科医生了"; 她说:"她有一个患者, AI读片错的离谱, 按照AI的结果是严重误诊了"; 我说:"我说的是错误率, 概率的问题,"她说:"每个患者的生命都是至高无上的", 到此我就不解释了, 为啥, 有conflict of interest (actual or potential)的时候, 通常是很难客观的.