狗家Bard发布选题中的小心思

bard发布时在Twitter上选择展示了一个关于jw的例子（见下图），这个例子并不是随便想的，而是精心挑选的。这里讨论一下这个demo里潜藏的一些小心思。

1. 首先为什么选题james webb？jw发射于2021年12月25日，其正式工作时间是2022年7月，同时也第一次公开了一系列星系照片。众所周知 ，chatGPT的训练集终止于2021年。 这里google特地选了一个2022年的爆款事件，主要想展示bard超越于chatgpt的实效性，大概的意思就是“更新，更快，更强”。

2. 这个选题还有个特点，是解释给9 year-old，这里也想体现bard能adapt to audience的语言能力，像这个例子中出现的各种成人式vs儿童式语言的对比，“peas“，”from outside“之类。

3. 另外就是format，专门使用了bullet point和粗体细体交错的格式，想要体现其优越于chat的文本能力。

但是，这个回答存在事实性的错误 （第一张外太阳系照片并不是来自jw），再叠加这是一个教育性质的问题，其结果就是给小朋友教了错误的知识。之前的小心思成为了一个反噬，因此翻车。

thinkant 发表于 2023-2-8 15:43
简直是愚不可及的错误。难道自己开发的AI是啥水平，心里没点逼数？居然犯事实性知识错误。
只能说谷歌工程 ...

你自己对生成式AI和LLM一窍不通吧，factual error是这类Model的通病，不管是ChatGPT还是Bard都一样，几年内这类错误都是无法避免的，只能尽量减少。完全不出错的AI还不存在。

Bard的水平本身没啥大问题，错的是做presentation的人粗心大意选了这个不正确的例子当demo。

这不是AI model的问题，是管理的问题。竟然一直到最终demo都没人发现回答里有factual error。

最蠢钝如猪的是这么大的发布，这么多层把关 fact check都没做好。无能！

这也算狗家现在一大问题。讲故事起来牛哄哄，做出产品一坨x。重政治轻执行。

简直是愚不可及的错误。难道自己开发的AI是啥水平，心里没点逼数？居然犯事实性知识错误。
只能说谷歌工程师队伍里的南郭先生不在少数。

“一本正经的胡说八道”用在教育上后果可能会很严重。
对于有些敏感话题，它可能会教唆小孩一些很不好的东西。
反正我是不敢用这玩意来给娃用。

美国人VP们可能并不知道旅行者一号和那张著名的暗淡蓝点照片

匿名用户 发表于 2023-2-8 14:45
“一本正经的胡说八道”用在教育上后果可能会很严重。
对于有些敏感话题，它可能会教唆小孩一些很不好的东 ...

现在的ai，包括chatgpt，都是这个问题。
不排除以后会变好，现阶段有很多都是一本正劲的胡说八道。
我宁愿相信搜索再做排除，也不依靠一个ai告诉我一个答案。

thinkant 发表于 2023-2-8 12:43
简直是愚不可及的错误。难道自己开发的AI是啥水平，心里没点逼数？居然犯事实性知识错误。
只能说谷歌工程 ...

这不是工程师团队的问题，这种demo视频一般是产品或者营销的人做的吧。那边完全没有把关

有一瞬间在怀疑这个是不是在下什么5D棋，来让人意识到AI不能保证fact，来让人怀疑这类技术，因为AI以外的搜索引擎虽然不保证fact，但是来源清晰人们可以自己斟酌。

然而不管是不是故意的，大家的take away应该还是单纯的“谷歌自己这方面没做好”。