对ChatGPT的信任危机

halfhalf 发表于 2022-12-23 20:40
人脑当然可以做interploation，但是可以做其他的比如abstraction，这是目前的AI从根本上就不具备的

Chatgpt 似乎能做abstraction，至少从给出给出的文字上看可以做到，而且做得相当好。
你可以给它一段文章，让它总结一下试试。

zmcddn 发表于 2022-12-23 20:53
你但凡了解一些nlp的原理都知道这个不是这么用的。目前ai完全不具有推理与逻辑功能，只是一个统计学意义上 ...

所以nlp原理，阻碍了AI的推理功能？？？

不同的模型

这一版逻辑能力已经算是大幅提升，当然不能和人类比了。因为3.5加入了大量的代码进去训练，反而对回答各个方面的逻辑问题有了一定的提升，这一点目前尚没有明确的理论分析。目前猜测是代码本身也是语言，而且是逻辑相当缜密的语言，gpt可以从中学到一些逻辑推理能力。

bugman 发表于 2022-12-23 20:56
Chatgpt 似乎能做abstraction，至少从给出给出的文字上看可以做到，而且做得相当好。
你可以给它一段文 ...

abstraction不是仅指对一段文字进行总结，比如你看见一只猫和一只狗，你会自然而然的浮现出动物这个类比，AI除非你提供的training set里有这类的联系，否则恐怕是不会自主的产生这类的抽象的

bugman 发表于 2022-12-23 18:01:08
所以nlp原理，阻碍了AI的推理功能？？？

楼里很多人已经解释很清楚了，本质只是一个大数据的运用，离能推理与逻辑思考还差得远。
其实最好的用法就是写写邮件啊之类的

还是因为模型其实只是经过人工rl之后让人喜欢的接话机器？

不用“其实”，事实如此。语言模型的本质就是接话机器，加一层RLHF就是成批量地修正“错误”。