对ChatGPT的信任危机

可能是营销号吹的太过了，让你抱有不切实际的expectation。

我刚玩gpt的时候也是各种震撼，觉得真牛逼，人工智能到达这个地步了吗？

后来玩的多了，很多套路就发现了。它最大问题就是，洋洋洒洒的八股文，用的很多表达就是模棱两可，万能的遣词造句，关键是如果你问题写实际的问题，他可能写了很多，然后每一句还看着像那么回事，但是根本事实却是错的，这就破坏性很大了。

另外它模板痕迹其实蛮重的，你如果连续问几个相似的话题，你会发现很多重复的语句（比如为xx写一首诗），后来我慢慢就释然了。chatgpt确实比之前的那些个chat AI强一个档次，但与你我所理解的那种真正智能还差的很远。

话说，用来写八股文，那是绝配。

看了你们对ChatGPT的评价和分析，我觉得你们说的太像是我前一个教授了。。。。真的太像了。。。。服了。

ccdtz 发表于 2022-12-23 19:36
可能是营销号吹的太过了，让你抱有不切实际的expectation。

我刚玩gpt的时候也是各种震撼，觉得真牛逼， ...

受你启发，应该用顾客跟算命先生的对话来训练AI。我觉得那效果肯定超好，哈哈哈。谁有空可以这么做试试看？
哦，对了。训练完之后，这个AI就可以当作算命先生骗钱了，真的。。。然后算命先生就被你们弄下岗了。。。

从来没信任过，没有任何危机

SandyCreek 发表于 2022-12-22 21:41
chatgpt对于逻辑推理的能力极其弱，似乎也并不能真正进行计算，我曾经给其提供过《塞族炮弹上帝指引》与《 ...

目前的AI各种算法本质上都只是对training数据的interpolation，根本就不可能用什么逻辑性推理，这是人脑跟AI的区别

halfhalf 发表于 2022-12-23 14:02:29
目前的AI各种算法本质上都只是对training数据的interpolation，根本就不可能用什么逻辑性推理，这是人脑跟AI的区别

确实，即便是chatgpt，也并不能说真正“理解”了什么，自然也不能将“存在《塞族炮弹上帝指引》这首歌”、“存在《波斯尼亚炮兵》这首歌”、“塞、波主体民族宗教分别是东正教和伊斯兰教”这些信息捏合到一起，“理解”“波斯尼亚炮弹安拉指引”是个什么意思

halfhalf 发表于 2022-12-23 17:02
目前的AI各种算法本质上都只是对training数据的interpolation，根本就不可能用什么逻辑性推理，这是人脑 ...

你说的很对，interpolation，但很多神经学研究也表明，人脑在很多任务上也可能是interpolate过去见过的情况。比如对身体运动的控制，熟话说“熟能生巧”。

我觉得chatGPT还太缺少rl，经历我们大家陪它训练，之后可能再有一次全面的提升。

It’s just an amazing bullshitting model.

bugman 发表于 2022-12-23 18:28
你说的很对，interpolation，但很多神经学研究也表明，人脑在很多任务上也可能是interpolate过去见过的情 ...

人脑当然可以做interploation，但是可以做其他的比如abstraction，这是目前的AI从根本上就不具备的

你但凡了解一些nlp的原理都知道这个不是这么用的。目前ai完全不具有推理与逻辑功能，只是一个统计学意义上的模型而已