📣 黑五价提前开抢|VIP一年通行证5折,蓝莓、Offer多多同步特惠
查看: 12789| 回复: 28
跳转到指定楼层
上一主题 下一主题
收起左侧

[职场感言] 微博CEO发现:GPT4被污染,且伪装成FT和路透报道,还误导了其他所有专业媒体

   
全局:
本帖最后由 thinkmate 于 2023-3-21 13:37 编辑
.--
bing 和 chatGPT,也是如此!该来的终于来了!

@一玶海岸 (中国工商银行总行的风险控制部门高级职员,之前曾在工行新加坡分行工作几年). .и
这个很危险。我知道这个是因为今天早上刚看到内部报告,还和同事讨论了上一次AT1减记后发生了什么事,这才发现chatgpt的回答完全对不上。否则哪怕是业内人士,面对如此逼真的假答案,估计也根本看不出来。[允悲]
@来去之间  (微博CEO)
#coco债# #AI信息污染#……早上醒了没事,学习下这次瑞信的coco债被减记,然后gpt4给了个BCP的案例,发出后@一玶海岸 老师说好像是假的[汗]我一脸懵逼的问GPT信源,然后GPT煞有其事的给了FT和路透的新闻链接,结果点过去是空链接[费解]只好去问给结果带信源来源的bing,结果有意思的事情发生了,bing上搜索到的信源都是2023年的,而且媒体似乎已经被GPT4污染了(拿gpt4回答做了信息内容?),再问是否有国外媒体信源和当年的信源,然后bing也开始胡扯,给的链接里面根本没提到BCP的案例[疑问][doge][哆啦A梦吃惊]. 1point 3acres
转自:https://weibo.com/2464323931/Myhc3DG9g




补充内容 (2023-03-22 09:29 +8:00):
@一玶海岸 回复他的验证过程  https://weibo.com/2464323931/Myh7yDH27
.google  и
经查证,本人基本确认Chatgpt是个会“自行编造故事,甚至杜撰信息来源”的AI。
. 1point 3acres
缘由:

关于瑞信AT1先于普通股被减记的事项,@来去之间 来总询问了Chatgpt是否有历史案例。. Waral dи,

AI的回答是(图一):

在2016年2葡萄牙商业银行 (Banco Comercial Portugues, 简称BCP) 成为历史上第一个减记COCO债的银行。

当时BCP的一笔7亿欧元的COCO债 (AT1,
Additional Tier 1)被永久性减记50%,即.--
3.5亿欧元。

这次减记事件是由于欧洲央行压力测试的结果导致的。BCP的核心资本充足率在压力测试中被认为不足以应对潜在的金融风险,因此触发了减记事件。-baidu 1point3acres

. Waral dи,疑惑:

一、我的工作和欧盟监管变革有关,但没听说过这事

二、今早恰好对瑞信最新情况进行复盘,记得很清楚:

迄今为止唯一一次AT1的减记是2017年西班牙大众银行(banco polular sa)破产,被桑坦德银行以一欧元收购,大众银行的AT1被减记14.4亿美元。这一次也是股东先出清才减记AT1的。

三、不合逻辑

欧央行确实在过去十多年做了很多次压力测试,目标是提升银行的资本充足率,增加抵御金融风险的能力。

如果欧洲某银行未能通过压力测试,可能会被要求整改,甚至被要求计提额外的资本。

欧央行以压力测试为理由,减记某银行的At1,不仅和AT1的设计目标不一致,也对银行经营毫无益处。

最基础的,AT1是在银行挤兑、或者资本充足率过低的“真实情况”下才能减记,压力测试不是“真实情况”。

四、查证

来总又要求AI提供了它的信息来源,AI给了两个(图二):
. Waral dи,
Financial Times (2016) :. check 1point3acres for more.
"BCP becomes first bank to write down
a cocos bond"
.1point3acres
Reuters (2016) :
"BCP bond write-down rattles market".google  и

从AI给予的链接,FT和路透网站均显示404(图三图四)。

用AI给予的标题,在bing和google进行搜索,没有相关报道。. check 1point3acres for more.
.google  и
查证我的信息,关于桑坦德银行并购大众银行事宜,搜索引擎很快给出了证据。. 1point 3acres
. 1point 3 acres
图五:欧盟理事会关于并购的批复
图六:桑坦德银行当年的公告
图七:公告正文. 1point3acres.com
.--


补充内容 (2023-03-22 09:30 +8:00):
关键证据:

As part of the execution of the resolution scheme, (i) all the shares of Banco Popular. check 1point3acres for more.
outstanding at the closing of market yesterday and all the shares resulting from the conversion of the regulatory capital instruments Additional Tier 1 issued by Banco
Popular have been totally cancelled。

结论和感受:

Chatgpt是个会“自行编造故事,甚至杜撰信息来源”的AI。

瞎编乱造的能力很强。例如它杜撰出的信息来源,如果不仔细查证,如果不是专业人士较真,几可乱真。

彻底证伪似乎很难,因为我不可能穷举互联网上所有证据。

所以,目前我也就能“基本”确认,它挺能编故事的。. check 1point3acres for more.

在利用chatgpt时,尽量多给他塞指明基础数据,让他做结论或优化,谨慎利用它作为唯一信源。. 1point3acres

本帖子中包含更多资源

您需要 登录 才可以下载或查看附件。没有帐号?注册账号

x

评分

参与人数 2大米 +2 收起 理由
wangjilin + 1 赞一个
Nitsuang + 1 赞一个

查看全部评分


上一篇:美联储怎样做才能挽回硅谷就业市场呢?
下一篇:遇到了疑似种族歧视
地里匿名用户
推荐
匿名用户-9HBWD  | 添加认证 | 2023-3-21 22:34:03
本帖最后由 匿名 于 2023-3-21 09:35 编辑

这不是很正常的事情吗。
chatgpt又不会自己思考,它只能从过去的东西里面根据概率提取信息。

如果有人特意喂给它什么东西,它也只会照搬而已,又没有判断力。
所以一开始就吹这也能替代那也能替代,好像人类快完了似的,不知道是怎么想的

评分

参与人数 1大米 +5 收起 理由
QueenieV + 5 欢迎分享你知道的情况,会给更多积分奖励!

查看全部评分

回复

使用道具 举报

推荐
slowloris 2023-3-21 13:40:00 | 只看该作者
全局:
如果chatGPT这个东西布置了online learning的话,他针对AI攻击应该是很脆弱的,恶意用户可以通过大量的API query对AI engine做错误的引导,短期内注入大量的垃圾数据来破坏模型
回复

使用道具 举报

全局:
匿名用户 发表于 2023-3-21 10:34 ..
这不是很正常的事情吗。
chatgpt又不会自己思考,它只能从过去的东西里面根据概率提取信息。
. .и
这一点感觉人也没强多少。比如说文中举例这个事情有没有发生过,我也不知道。如果我看到的网页都说发生过,那我大概率也就认为发生过了。

评分

参与人数 1大米 +2 收起 理由
thinkmate + 2 给你点个赞!

查看全部评分

回复

使用道具 举报

🔗
 楼主| thinkmate 2023-3-21 13:20:35 | 只看该作者
全局:
摘录部分评论:

神经二神经 :ChatGPT刚出来试用一段时间后,我就认为这玩意目前最大的用处和危险就是一帮外行人用它来写营销号去骗另一帮外行人,因为它写的真的很像真的[挖鼻]

神经二神经:回复@三只小熊Tada:不仅仅是没有意义的废话,而是在废话中那一点点有意义的内容还是假的. From 1point 3acres bbs

神经二神经:回复@李元霸的风险指南:然后new bing中文信息的主要来源是知乎,形成闭环了[doge]

三只小熊Tada:主要作用是写一堆没有意义的废话[尴尬]信息的可靠性大幅降低,比短视频的虚假信息成本低危害性更大

李元霸的风险指南:已经开始了,逼乎网站现在已经有这种回答了[开学季]
. 1point 3acres
TotallyStraightFish: New Bing还会编法条(我国的)是最离谱的……还好我刚看完那部法律感觉不对劲核实了一下,找它要链接就不理我了

HsingjTing:是的 生成ai对信息集是非常大的污染
回复

使用道具 举报

🔗
 楼主| thinkmate 2023-3-21 13:22:27 | 只看该作者
全局:
以拳谋丝周玄毅: AI的信源来自另一个AI?或者来自自己本身?

易唯2023:Ai内循环?

面壁者-蜡笔小新: 哇靠,以后非专业人士怎么识别这种高级谣
回复

使用道具 举报

🔗
godducklist 2023-3-21 22:19:14 | 只看该作者
全局:
基于统计学的所谓人工智能,尤其是语言模型,在我看来是伪智能,因为他并没有进行真正的自我判断,只是基于历史数据给予预测
回复

使用道具 举报

🔗
AA_W 2023-3-21 23:07:31 | 只看该作者
全局:
不可能吧我觉得假新闻,纯gpt不会在线学习的
回复

使用道具 举报

地里匿名用户
🔗
匿名用户-APENN  | 添加认证 | 2023-3-21 23:27:14
再次祭出这个文章:https://www.1point3acres.com/bbs/thread-966616-1-1.html
.--
模型就是哪个结果统计概率大出哪个,哪会有什么逻辑判断呢?叫人工智能算调戏了一下,真信了有“智能”的话应该反思一下自己的智能了。

评分

参与人数 1大米 +2 收起 理由
thinkmate + 2 楼主/层主请继续!

查看全部评分

回复

使用道具 举报

全局:
以后所有的content也都是机器人写的,怎么更新gpt模型呢……
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 注册账号
职场达人
  • ↑ 本版用于讨论职场各种干货话题,闲聊请去🔗聊聊或者🔗匿名版
  • ❌ 本版严禁水贴,引战,发布广告,拉群,贴个人联系方式,扣分无警告
  • ☑ 求职、面经等去 🔗北美求职和 🔗回国求职大区,刷题和学习请去 🔗终身学习大区
  • ☑ 请去专版发布 🔗内推, 🔗招聘信息,和讨论 🔗创业内容
  • ☑ PIP / DevList/ Need Support 等话题也已开设 🔗专版

本版积分规则

>
快速回复 返回顶部 返回列表