人工威能：当人工智能懂得毁灭以后

零、木偶



2018年，平阳村女娲庙，人声鼎沸，灯火摇动。庙里的善男信女们来来往往，源源不断。商贩们在庙外高声吆喝着。



旁边的木偶戏小剧场演的是《大闹天宫》，却很是冷清——在这个时代，人们躺在被窝里都可以看电影，这些不到半米高的小人儿似乎勾不起他们的兴趣。



只有一个观众在看——一个蹲在地上的小男孩，流着鼻涕，七八岁的模样，手里还捏着一个老旧的变形金刚。



他目不转睛地盯着那一只只小人儿，有时候还激动地拍手，为木偶喝彩——放佛眼前的不是冷冰冰的几块木头，而是他最亲密的好哥们——他们听得清，看得见，所以他必须要给好哥们捧场。



“师傅师傅，下次做大一点的木偶呗，像人这么大的，打起来更激烈。”演完后，小男孩笑着对表演木偶戏的师傅说。



师傅说：“要不得要不得。女娲造人，那是神的活儿，我们凡人去造人，是要遭天谴的。我们人嘛，只能做做小木偶。”



“天谴是什么？”小男孩问，圆圆的眼睛瞪得大大的。



“天谴？就是打你屁股！”



“那就打我一次屁股吧，让我看看真人这么大的木偶戏。我愿意交换。”



“哈哈哈。”



木偶戏的师傅们一边收拾着行头家当，一边笑了起来。小男孩挠着头，不知道他们在笑什么。















一、高空



2050年，25000英尺的高空，头等舱。韩星教授的电脑正播放着一则新闻。



“日本东京45岁高中老师山田西涉嫌性侵并杀害‘人造少女’明日香华子，现已被警方逮捕。山田西家人组织近百人在警局静坐示威，宣扬山田西无罪，要求警方立刻释放。”



这个场景似曾相识。



半年前，韩星教授和几位议员一起起草了一份提案，要求给予人造人和生理人相同的法律权利。



提案被媒体报道后，几百名抗议者把韩星所在的人工智能研究所团团围住。大部分抗议者是被人工智能抢了饭碗的失业者，包括司机、精算师、设计师，讽刺的是，里面还有之前从事人工智能开发工作的程序员；部分抗议者则是担心如果给予人造人平等的就业、政治机会，未来社会将会被人工智能统治，人类的利益会被损害。



他们的抗议不无道理。



在2050年，人类已经可以制造除大脑以外所有的生物器官。所谓人造人，就是人造的身体躯干，植入拥有人工智能的电子计算机作为大脑。人造人在外表上已经和生理人完全一致，但是人造人的智力和体力远远胜于最出类拔萃的人类。



韩星教授年仅40岁，按理来说，应该是一个科学家最富有创造力的时候，然后他最近几年主要的精力都放在宣扬人造人平等的社会事务上，很少直接参与科研——他把科研任务都交给了了好几位人造人学生——弟子们在学术上的造诣，已经远远超越韩星了。



韩星感到有点疲倦，摘下了眼镜，揉了揉太阳穴。有时候他真的很羡慕人造人能不知疲倦地24小时连续工作。



他还是名爱猫人士，家里养了好几只小猫咪。“不知道猫咪这几天过得怎样。”韩星想，但他明白自己的担忧是多余的——家里有人造人保姆，会精心照料自己的宝贝们。



正当韩星准备小憩一会儿的时候，空乘人员播报了一则通知：“叮咚——机上有名人造人乘客感到不适，希望懂得人工智能的乘客能够来到飞机中段的休息室，对该乘客进行救助。谢谢。”

















二、噩梦



韩星抱着电脑来到了休息室，看到了一个满脸胡茬的黑壮男子闭着眼睛，皱着眉头，躺在床上。床边上坐着一名矮胖的女士，女士怀里抱着一个婴儿。看上去应该是一家三口。



美丽的空姐对韩星说：“这位乘客是人造人，突然感觉很头晕，请问您有治疗人造人的经验吗？”



韩星笑着说：“您好！放心吧，我叫韩星。算是人造人的发明人之一。”他总是彬彬有礼的绅士模样。



“啊，您就是新闻常报道的韩星教授啊，难怪觉得您眼熟。”空姐惊讶地说。



坐着的女士也转过头来，看着韩星，眼神里有着明亮的光芒，像是赞许，也像是感激。



“你是人类？还是人造人？”韩星教授问她。



”我是人类。“



“他是你的丈夫？”韩星问。



“是的。他最近一直都说发噩梦，睡不好。他刚才说头很晕。”



对于这一家三口，大家一点都不惊讶——人造人拥有人类除了大脑以外都所有器官，包括生殖器。人造人躯体的基因是人造的或者是人类捐献的，所以人造人正常交合生下来的孩子是正常人类。



“明白了。你们先出去吧，这里交给我就行。”因为在“治疗”的时候，韩星要掀开人造人的头盖骨，露出芯片的接口，然后连接电脑，韩星才可以诊断、”治疗“——就是程序员所谓的”debug“。韩星教授不想让她们对这个场面感到不适。



于是空姐和男人的妻子都离开了。



韩星坐了下来，正想打开电脑的时候。男人突然张开了眼睛，说：“韩教授，我现在没事。”



“啊？”韩星疑惑地说。



“但是，我确实需要您的帮忙。”男人坐了起来，“刚才登机的时候，我认出了您。”



他的身材很魁梧，坐着都比韩星高一个头。皮肤黝黑，肌肉强壮，左小臂上有道很深的疤痕，想一条巨大的蜈蚣刺青。身上的法兰绒格子衬衫并不能掩盖男人的孔武有力。他眼睛很大很明亮，让韩星想起了马的眼睛，这不像是一双有秘密的眼睛。



“好。你说吧，在我能力范围之内，我尽力帮你。”韩星说。



“先自我介绍一下吧。我叫本杰明。我出生在M国伊州的一个研究机构，他们让我做汽车维修。”本杰明说。



“几年前认识了我的老婆，她不嫌弃我是人造人，后来结了婚，生了个女儿。本来生活好好的，但是最近几个月，我几乎每晚都发噩梦。”



“什么梦？”



“我杀人了。”本杰明接着说，“我杀了很多人，很多人。男人女人老人小孩子都有，太可怕了。我的上帝。”



韩星心中一惊，倒吸了一口凉气。他以前也听过类似的故事。



“梦的地点是在哪里呢？”韩星扶了扶眼镜框。



“我不知道。像是中东那些地方。”本杰明说，“我是真的杀人了吗？你有办法帮我确认一下吗？”



“可以，没问题。”韩星很冷静地说，“技术上来说，确实不能排除这么一种可能：你以前做了这些事，然后被删除了记忆。不过没有删除彻底，所以你现在会经常梦起。”



“嗯。我也想过这个情况。”本杰明声音变得低沉了下来，“在我记忆里，我从来没有干过坏事。他们给我的设定，就是当一个老老实实的汽车维修工。我还相信上帝呢。我很感激人类给了我生命，真的，我把你们当做父母，我真的不会主动去伤害人类，请你一定要相信我。韩教授，如果我真的杀了人，我会被抓起来吗，会被销毁吗？我不想死，我现在唯一的愿望，就是当个爸爸，好好地看着我的女儿长大。”



本杰明显得有点紧张，抓住了韩星的手。



“你冷静点。”韩星说，“你躺下来吧，我现在给你检查一下记忆。也有可能是你的程序出现问题了，你凭空幻想出杀人的经历。在我看到你脑子里的数据之前，我们不能下任何结论。”



“你不要害怕。我也经常做梦，听到一些乱七八糟的东西。”韩星笑着说，试图让本杰明觉得轻松一些。



韩星深深明白，一个优秀的科研技术人员，需要在任何时候都保持清醒的头脑，不能把任何的假设或者可能当作事实，哪怕可能性高达百分之九十九。













三、斗牛



半个小时后，韩星从休息室出来了。



他简单地对本杰明的妻子说明了情况：本杰明的人工智能芯片的程序存在一个漏洞，让他常常幻想自己有暴力倾向，但并不是真的。韩星把自己的名片给了她，并且特意嘱咐，要他们下飞机后，去自己的研究所进行下一步的诊断和治疗。



“放心吧，不是什么大问题，尽快修复程序漏洞就好。”韩星安慰着忧心忡忡的女人。



于是韩星回到了头等舱，打算睡一会。他实在是太疲倦了。



不知道过了多久，韩星被嘈杂的声音叫醒——小孩子的啼哭声、女人的尖叫声、碰撞声。头等舱的富人们都是一副惊恐的表情，纷纷向发出声音的经济舱望过去。



韩星戴上眼镜，快步向经济舱走去。只见一个熟悉的、高大的男人正和另外几个男人扭打在一起——那是本杰明！



另外四个男人尝试控制住本杰明：两个人分别抱住了他的左右腿，另外两个抱住了他的左右手臂。本杰明满脸通红，双眼圆睁，身上的法兰绒衬衫早已被撕裂。此时此刻，他就是一头凶狠的公牛，四个斗牛士用尽全力想把他摁住。



“本杰明！”韩星大喊。



听到韩星的呼喊，本杰明就像是愤怒的公牛看到了鲜红色的旗帜。他大喝一声，挣脱众人的束缚，向韩星飞奔过去。旁观的乘客都已经惊呆了——这种以一敌多的男人，他们只在电影里看到过吧。



韩星没来得及躲避，本杰明就早已冲到了韩星的跟前。迅雷不及掩耳之势，本杰明的拳头就炸在了韩星的肩膀上。韩星瘦削的书生身材哪里抵抗得住？他立刻就倒在了地上。



“住手！”本杰明的妻子冲了上来，企图抱住本杰明的手臂。本杰明放佛根本不认识眼前这位女人，凶狠地扬起强壮的手臂，把她推倒在地上。



然后本杰明蹲在韩星身旁，拳头像铁锤一样捶在韩星身上。



“啊！啊！啊！”本杰明那不到三个月的女儿放佛知道正在发生什么，无助地啼哭着。



韩星眼前一黑，几乎要失去意识的时候，耳边传来了四十年前别人对他说的话——一句常常出现在韩星梦里的话——



“造人那是神的活儿，我们凡人去造人，是要遭天谴的、、、、、、”



“砰！”一声枪响。



随后，本杰明倒在了地上。飞机如同死水般平静。





四、特工



等韩星恢复意识的时候，他看到的是一张美丽的脸庞，近乎完美，却无比平静。



一个穿着黑色皮夹克的短发女人坐在韩星的病床旁边。



“韩教授，你醒啦？”女人面无表情地问。



“你——你是？”韩星说话的时候，胸口一阵疼痛，不禁用手摸了摸前胸。



“我叫索菲娅。”女人说，“你肯定有一些疑问。但可能你也已经猜到了，本杰明不是一个普通的人造人，他是‘人工威能’计划创造的一名超级战士。”



韩星没有直接参与“人工威能”计划，之前从喝醉的同事那里听说过在大概五年前，有好几个国家联合启动了“人工威能”计划——利用人工智能去打击恐怖分子。



“本杰明原名叫索加。他是人工威能计划第5号人造战士。”玛丽接着说，”他很完美地执行了任务。“



“只可惜，他属于第一代人造战士。最近我们发现，第一代人造战士的芯片存在一个程序上的缺陷。这个缺陷会导致他们突然失去理智，变成一个完完全全的破坏机器。M国政府派了我暗中监视本杰明。刚才他又发作了，情况危急，所以我把他击毙了。”



人造人也不是不死之躯，脑袋里的芯片被破坏了，人造人也就死了。



“唉。原来如此。”韩星叹了一口气。



“我要说的都说完了，保重。”索菲娅冷冷地说，“记住了，不要跟任何透露‘人工威能’计划。否则——后果很严重，不管你是谁。”



说完，索菲娅起身，准备离开。



“等一下，”韩星从病床上坐了起来，用虚弱的声音问，“那你是人造人吗？”



索菲娅转过头来，终于露出了一丝丝笑容，却又马上消失。



“如果连你这个首席科学家都分辨不出来，那还有问的必要吗？”















五、屠杀



几天后，韩星出院了，取回了自己的手提电脑。



几天前在飞机上，他曾在电脑里看到了这辈子看到过的最恐怖的画面——一群全副武装的军人疯狂地屠杀手无寸铁的平民，血流成河，血肉飞溅，甚至是襁褓中的婴儿，还没来得及睁眼看看这个世界，就死在了无情的子弹之下。



是的，那是本杰明的记忆——真实的记忆。而且通过分析本杰明的人工智能数据，韩星发现了屠杀平民完全是上级下达的强制命令，并不是因为超级战士大脑芯片的漏洞。



M国曾经尝试把本杰明的记忆删除，然后并没有删除彻底，所以最近本杰明梦到了惨无人道的屠杀行动。而且本杰明告诉韩星，自从他开始发噩梦之后，就不断有人企图袭击他，甚至在他的车做了手脚，险些让他们一家三口命赴黄泉。



本杰明和韩星立刻就意识到——这是M国要杀本杰明灭口——并且M国肯定在本杰明的大脑植入了监测器，所以才会马上得知本杰明回忆起了屠杀行动。



韩星也深深明白——立刻要做点什么了，否则一等飞机降落，大脑监测器的信号恢复了之后，M国就会知道本杰明已经确认了屠杀行动的真实存在。



所以本杰明和韩星就自编自导自演了这么一场空中危情。



本杰明也“顺利”地被特工击毙，至少他的家人平安无事。







六、重生



韩星回到了温暖的家，两只灰色的小猫咪正躺在他的书桌上睡觉。



电脑正播放着一则新闻：



“日本法院对杀害‘人造少女’案作出判决：山田西谋杀罪名成立，判予无期徒刑。”



突然，电脑浏览器的地址栏慢慢地出现了一行字——“谢谢你，韩教授”。



韩星微微一笑。



当时在飞机上的时候，韩星早已将本杰明的意识数据拷贝了下来，存在了自己的电脑里——等到合适的时候，韩星会重新创造出新的本杰明，植入他的意识数据，让他和妻女团聚。



韩星相信，当人工智能已经发展到了和人类结婚生子这个地步之后，人造人已经不是人类的工具了，而是人类的兄弟姐妹，所以韩星决定要帮助本杰明。



就像当年他总是要给木偶鼓掌喝彩一样。



浏览器里的字，就是电脑里的本杰明打出来的。



“那就打我的屁股吧。我愿意交换。”韩星心想。





The End

本文被选为09/06/2018全站置顶文章之一

为什么有人会踩这个啊。。。。 手工给楼主点赞

跟"humans"如出一辙啊

能写英文代码，能打中文小说。内外兼修..

小K 发表于 2018-9-7 11:12
为什么有人会踩这个啊。。。。 手工给楼主点赞

谢谢小k！！！

欢迎关注微信公众号 cxyjoker