对ChatGPT的信任危机

bugman 发表于 2022-12-22 18:20
me: 1+1+1+1+1+1+1+1+1+1+1+1+1+1+1+1+1+1+1+1
chatgpt: The sum of the series 1+1+1+1+1+1+1+1+1+1+1+ ...

神奇，确实是哎。
我问的是“what is result of 1+1+1+1+1+1+1+1+1+1+1+1+1+1+1+1+1+1+1+1”，它就给了20

这种模型主要是给大家图一乐

我很好奇，是什么让曾经的你决定信任ChatGPT?

因为筛选的条件是接近人说话的喜好，而不是正确

donnice 发表于 2022-12-22 20:54
我很好奇，是什么让曾经的你决定信任ChatGPT?

斯坦福某教授试图用GPT-3帮他评价推荐信好坏。我非常无语。

用了几次，现在不会盲目信任ChatGPT提供的任何信息。
最开始发现它一本正经地胡说八道，是因为恰好问了一个事实问题。当时我直接说，你错了，它立即跟我说，抱歉我错了，然后给出“正确答案”。这种情况出现了好几次。Davinci03也如此。
GPT只能用来处理一些英文写作，帮我头脑风暴等。具体的事实求证，逻辑分析等，目前还不行。

lxhfirenking 发表于 2022-12-22 19:20
因为gpt 3.0/3.5的训练目标就不是“逻辑”和“正确性”, 而是“像模像样的说人话”

就是怎么一本正经的胡说八大 狗头

分享一个实例：某考卷全部选择题，我每一题都问这个AI，最后拿了70%。 自己做的分更好。
这个AI 不可全信啊

我昨天让ChatGPT帮我生成一段代码然后我在geeksforgeeks上找到了源码，一模一样哈哈哈哈哈。都是抄的

kamimare 发表于 2022-12-22 20:30
逻辑一直是现在的所谓AI的弱点，涉及到符号运算的都不太行。不信可以试试问chatGPT 鸡兔同笼之类的问题

用数学公式、统计恒等式来倒推该刺激多少，很荒唐。我们成天倒过来想问题。