Chatgpt 有时候怎么胡说八道

他只负责看上去回答了，不负责回答正确性,准确来说他的优先级感觉是编也要编出来而不是说我不知道。
最典型例子，其实你问一些自己编造的新闻，然后问他要网站报道，他会给你一大溜网址，而且很多是主流新闻网站的，然后你一点进去发现全是内容不存在。
其实就是他根据训练的模型中这些网站生成新闻页面一般的格式（主站地址+新闻关键词），楞给你编了个网址出来。
知乎上最近好多做科研的人都提到这个问题，他们问个专业的问题想知道答案，然后得到了答案之后问有refer么，然后拿到了一大串看上去很正规但是实际并不存在的网址。

补充内容 (2023-04-23 01:40 +08:00):
所以不要用这玩意弄比较严肃的事情，毕竟这玩意一本正经的胡说八道的本事太强了 ，就跟出租车司机有时候跟你侃大山一样，讲起来头头是道，实际全是编的。。。。

这不才是真正的人工智能么，人（尤其是领导们）有时候不就是胡说八道么LOL...不过话说回来对于lz问的问题它也没有胡说八道吧

一出来用过几次就知道了，同一个chat你变化几个问题会得到完全不一样的结果，他目前做到的只是看起来像人在聊天

你问它“王全安是谁”，一看就是瞎胡拼接的。

可以回它「你確定嗎」，看他怎麼回

他不是告诉你一月份纽约比较热吗？

https://www.1point3acres.com/bbs/thread-966616-1-1.html?mobile=2

看这里

昨天问它几个system design的问题，结果自己改口了。一本正经的胡说八道。