看看googl deepmind research Scientist如何调教chatgpt

chatgpt和new bing不一样，chatgpt是不能实时访问internet的。在chatgpt中构建一个linux shell，然后在虚拟机中向chatgpt自己的平行世界internet发送指令，再继续调用这个平行世界internet中的chatgpt来构建一个linux虚拟机，然后让这个平行世界Internet中的chatgpt中的linux shell回答问题。。。这是一个很不错的prompt engineer 的例子，也可以reverse engineering，比较酷有点盗梦空间的那味了;-)

Jonas Degrave, Research Scientist at Deepmind

https://www.engraved.blog/building-a-virtual-machine-inside/

看有同学问ds在gpt时代的scope，其实deepmind这个小品文里面就hide了很多ideas，比如众所周知除了自己的hallucination gpt也存在被“催眠”的可能，也能自己构建一个“虚拟世界”，如何利用这种状态下gpt虚拟出的更多的“平行世界”，平行世界之间如何互相traning，fune tuning，利用现实世界的关联也就是 RLHF...这些平行世界alternative universe不是玄幻小说里那些胡编乱造，而是gpt根据事实模拟出的世界，这对于很多理论研究其实都有帮助，比如随着层数的stack是否会存在gradient diffusion，那这些虚拟gpt之间如何对话以及如何利用残差来反向传播bp等等，把gpt中的multi-head引申到这里再加上各自的RLHF是否可以构建self attention来做autoML进一步构建autogpt。。。。;-)

这个chatgpt虚拟出来的internet不是什么玄幻世界，只是说明chatgpt是被2021年9月后的新内容fine tuning过，不然它怎么会知道这个虚拟世界中的chatgpt的url，2021年还没有chatgpt的public url。chatgpt一直在被openai fine tuning，但是被假定为不可以回答2021年9月后的信息，我们可以用reverse engineering 的技巧来越狱，leak是可能的。不是访问真的internet，而是访问用来训练chatgpt的那些语料，在这个语境中chatgpt就可以和虚拟chatgpt对话了。
伪代码（pseudocode）本质其实和prompt过程差不多，数理逻辑学的好就ok，可以看看这个paper https://arxiv.org/abs/2211.12588 个人感觉用伪代码微调更好。码农的核心竞争力其实就是逻辑没必要如丧考妣。

madalpaca 发表于 2023-4-6 01:27
这就是取了过时的snapshot而已。没必要扯到什么平行世界，不过这老兄吹逼的能力chatgpt目前还是比不上的。

当然不是真的altunivese, 前面在帖子里已经说明了背后原理：“chatgpt一直在被openai fine tuning，但是被假定为不可以回答2021年9月后的信息，我们可以用reverse engineering 的技巧来越狱，leak是可能的”，一个小trick而已 ;-) 但也不是所谓snapshot，static gpt instance 是无法应答的，因为gpt应答需要的算力消耗非常高，不会让多个不同版本instance同时在azure cloud运行和提供访问和应答。

它在访问“2021年后但目前已经过时的internet”内容的时候那个虚拟internet中的"虚拟chatgpt"如何应答其实是“当前的这个gpt”通过reasoning计算出来的，这是一个非常牛的idea，因为更多这样的“虚拟chatgpt"之间可以相互调教，也可以stack在一起在最上层做调教，可以用来设计autopgt或者auto fine tuning，这些调教可以调节更深层次中的reasoning能力，而不只是表层layer的思维能力。

匿名用户 发表于 2023-4-7 00:27
看了lz很多gpt下的发言，真的有贴吧相对论那味了。少看点科技新闻和吹水吧。

感谢关注;-)

看了lz很多gpt下的发言，真的有贴吧相对论那味了。少看点科技新闻和吹水吧。

别调教了，都被巨硬吊打了，还在那玩呢，被裁员以后再去玩吧。

匿名用户 发表于 2023-4-5 03:19
别调教了，都被巨硬吊打了，还在那玩呢，被裁员以后再去玩吧。

deepmind已经和Google更多整合了，共同应对openai。毕竟transfomer和alphago都是google+Deepmind的原创

medex 发表于 2023-04-05 13:01:03
deepmind已经和Google更多整合了，共同应对openai。毕竟transfomer和alphago都是google+Deepmind的原创

不整合还好，整合了deep mind被狗拖死；看看new bing chat那个熊样就知道了。

nevarofred 发表于 2023-4-5 23:30
不整合还好，整合了deep mind被狗拖死；看看new bing chat那个熊样就知道了。

大公司有很多官僚问题，startup必须有自己的坚持，希望openai和deepmind不会只听从ms和googl，唯命是从就没有价值了。。。以前不作恶的googl和敢釜底抽薪ibm的ms令人怀念。

这就是取了过时的snapshot而已。没必要扯到什么平行世界，不过这老兄吹逼的能力chatgpt目前还是比不上的。