有的时候在想，到底哪个更像是人话：是GPT生成的语言片段，还是意大利面拌42号混凝土？

以前做过neural network的robustness verification。这个事情背后的一个潜在的价值观是：会被对抗样本愚弄的网络不是一个好网络。但是后来，我知道了人的视觉系统其实也有很多bug。

有些是结构性的bug，比如人的视网膜其实是反着的，感光细胞位于视网膜的反面，视神经位于正面。这样一方面视神经要有一个从反面穿到正面的地方，叫做盲点scotoma；而另一方面，光要穿过视网膜才能到达感光细胞，成像会变的模糊，还要靠后期脑补。反过来看章鱼这样的头足纲，它们的视网膜就是正着的。

还有些是功能性上的bug，比如各种颜色错觉、长度错觉之类的问题。我觉得各种让人产生错觉的图实际上就是人眼的对抗样本。

如果会被对抗样本愚弄的网络不是一个好网络，那我们自己也好不到哪去，去评判其他的神经网络，不过是五十步笑百步罢了。

所以，从根本上说，我是认同“无自性”这样的观点的。无论是“智能”还是“灵魂”这些词，都是我们心中的概念而已。询问“智能的本质”或者“灵魂的本质”这样的问题本身就是没有意义的，因为“本质”是我们赋予的，而不是它本来就有的。

所以，我们与各种深度学习模型的“本质区别”在哪里呢？我想答案应该取决于“本质”这一个词在每个人的心中是怎么定义的吧。