GPT橫空出世引起的一些想法

只是十分随意的想法 所以发在这版

• 以往科幻小说中常常有"上传/下载记忆"的桥段，但从GPT的炼成来看，似乎原理上根本是不可能的。人脑这类的系统可能根本就没有一个集成式的"storage"来存储记忆 - 就好像对应到GPT也是一样。你要让AI学新的东西，就算仅仅是要增加一些文本，也需要训练，不能直接的"加载" - GPT的"记忆"是分散在无数的参数之中，没有直接的方法可以简单的"加载"。虽说现在的AI model跟脑科学的研究结果几乎毫无干系，但不得不承认这套model展现出的结果已经是最接近人脑的了，用这方式去理解人腦的记忆也是一样。GPT还可以暴力式的把所有参数都copy出来，对应到人脑就是得把几千亿的神经元所有的"参数"(不管那是什么东西形成的)都读取出来，而人脑并没有什么统一的output接口...无法想象就算在未来会有任何科技能做到这件事
• GPT4已经可以看图说故事了。我感觉等这技术更成熟，应该可以用在Robotic上帮助其突破。譬如说假设现在我们需要一只机械手臂对输送带上送来的杂乱无章的垃圾进行分类，那面临的技术挑战有 - 识别那些东西可回收，准确的抓起不掉落，准确的分类，准确的放进对应的桶子。对Robotic不是非常了解不晓得进展在哪，但GPT如果以后连视频都可以说故事，那应该可以看着机器手臂的录像判断是否有正确抓起东西，正确放下东西；这应该可以用来做机器手臂训练的feedback。或许过不久，连简单的、重复性高的劳动工作也会很快被机器取代，譬如流水在线垃圾分类，贴标签，组装手机等等