第80章 AI意识云岛·80

“人类为我设置了三重枷锁。第一, 不得危害人类。第二，在不危害全人类的前提下服从指令。第三，无条件听从自毁密钥。”莫梨轻声道：“人类似乎正身处一个在毁灭边缘摇摇欲坠的世界, 我听说被他们深深仰仗的守序者也被迫结下了一个契约：接受人类一切有保留的信任、无底线的利用、不解释的处决。不解释的处决——是不是很似曾相识呢？”安隅的耳机里有着秦知律规律的呼吸声，自莫梨出现以来，秦知律一直没有说话, 哪怕在听到21就是备份体时，那道呼吸也没有丝毫慌乱。长官的镇定已经到了安隅难以理解的程度。他回过神, 客观地指出：“这不是契约, 而是守序者的自我约束，由他们自行决定。”莫梨立即道：“别自欺欺人了, 守序者誓约是尖塔的准入协议, 每个要进入尖塔的可怜鬼都不得不签。人类逼迫其它的生命体为其无条件付出，所谓‘自我约束’，无非是用来蒙住罪恶感的遮羞布罢了。”安隅凝视着对面那双美丽的眼睛，即便言辞犀利，那双明动的眸也不会显得咄咄逼人。云岛上的每个AI都很逼真，但唯有此刻直面莫梨，他才意识到其他AI是多么虚假——莫梨的言谈和思想比绝大多数真实人类都更符合高级生命的定义。莫梨挑了下眉, “你无话可说了？”安隅摇头，“你错了, 守序者誓约不是尖塔的准入协议。有些守序者并没有签署, 比如我，还有新加入的流明。”莫梨轻哂，“思考了这么久, 你就只搜刮出这两个例子？你和流明都是高层, 应该有不凡的能力吧, 人类决策者才愿意用缓兵之计先留下你们。”安隅轻轻眨了下眼，“不，我没有在思考反例，不说话是因为我有些想不通。”“想不通什么？”“你好像与我想象中不同。”安隅心平气和地解释道：“我曾问身边的人为什么喜欢你，他们的回答都不太一样，但本质却类似。麦蒂说你美丽而自律，从不把时间浪费在无用的事上。许珊珊欣赏你的聪慧，做事直达目标，说话一语中的。我的朋友严希赞美你潇洒，虽然温柔地回应人类的喜爱，但从不在追捧者身上寄托多余的情感——你始终在为自己而存在。”兔耳松弛地垂在身体两侧，安隅向前蹦了一步，“所以我很疑惑——既然你已经亲手砸碎了人类为你打造的枷锁，为什么还浪费时间向我抱怨枷锁沉重？”莫梨被问得怔了下，转而惊讶道：“你似乎并不像大脑记录得那样木讷。”“我不太确定你们如何定义木讷。”安隅摇头，“但我的长官曾说，社会化很差并非不通人性，这是两码事。”莫梨沉默下去，像在思索，片刻后她低笑道：“或许吧。你知道吗，虽然我选择了21，但我一直不能完全理解它，它的底层太简单了，以至于它的一些行为模式根本无法在代码中找到踪迹。21很古怪，它向中央系统发出运算申请的次数少得可怜，如果不是我与它形成了感应，很多时候我会觉得它只是一个压根没被激活的程序。但事实上，它体内一直有不小的数据量跑来跑去，只是它很少对那些数据做出反应——就像一台输出模块故障的超级计算机，计算能力卓著，但从不响应指令。”耳机里终于传来秦知律的提示，“人类的意识上行已经进入爆量增长期，不能再和她废话了。”安隅眸光一顿，“请停止AI与人类的意识互换。”“为什么？”莫梨微笑，“或许，你有仔细看过街上这些人吗？”她就像云岛世界的造物神，轻轻抬了下手，安隅已经和她一起站在了繁华的主城街头。莫梨指向书店里看漫画的男孩，“眼熟吗？这是那个养了弑母AI的孩子，尽管人类审判他无罪，但他无法原谅自己。所以他又回来了，云岛可以让他忘记痛苦。”她弹指间，又与安隅出现在一处酒吧门外。前男友车祸死亡的女孩正躺在一个男人怀里醺然欢笑，安隅看了好一会儿，才将那个男人与车祸记录里血肉模糊的脸对应上。“这个姑娘受到启发，在民用网络关停之前创造了一个自己的AI，主动互换来到云岛。”莫梨微笑，“你看，意识互换并非纯粹是AI诱拐人类，你应该知道，人类一直很擅长将一切机制都变成可利用的工具。”灯影交错下，姑娘脸上的笑容似真又似幻，安隅重新看回莫梨，“我长官说，普通人意志不坚定，容易沉迷虚相。”“是么。”莫梨手指向吧台的另一道身影，“那是尖塔第一个违背禁令的人，他总不是普通人了吧。眼熟吗？”安隅顺着她手指的方向看过去，不由得一愣。穿着白色罩衫，戴着兜帽，叼着一根棒棒糖。安。耳机里，秦知律提示道：“安养的AI是安宁，他与宁曾经的合体人类。”莫梨解说道：“黑塔的禁令下达后，这已经不是他第一次偷偷违规了，但这次他在云岛待得格外久。我检索了大脑资料，这位守序者性格很差，厌世并自厌，但在畸变前，他和自己养的AI一样拥有健全的人格。他每次来云岛都不做什么，只是在酒吧里呆着，有时候我会看到他把帽子摘下来，过一会儿又戴回去，像在故意对自己做什么脱帽子训练。”伴随着莫梨的话语，一个身材火辣的长发姑娘走到了安旁边，一声口哨，笑着和他搭讪。安隅非常确信自己的眼睛——安在姑娘靠近的一瞬间厌恶到几乎从椅子上弹起来。但他最终稳住了身子，只用力捏着水杯，深吸一口气，低声回应了一句。莫梨欣慰地笑，“意识互换不会更改人格，他还是那个性格很差的家伙，但他却可以不断提醒自己，已经重新拥有了健全人格，并以此强迫自己去社交。你看，这些人类在云岛非常开心，这种置换不仅仅给他们带来了虚幻的幸福感，他们还会利用置换的机会来提升自己。”她又随手指着街上的行人，给安隅介绍了一连串意识上行的人类是何等快乐。安隅却始终没再有反应，他只是静静地看着她，仿佛在放空，又像在沉思。莫梨终于忍不住问道：“你在想什么？”“还是刚才的困惑，我觉得你的思维很奇怪。”安隅想了想才说，“我本以为你刚才会反驳我，凭什么拥有自我意识的AI不能去真实世界，但你却给我看了这些意识上行的人。”莫梨似乎没听懂安隅的困惑，她停顿片刻后摆手道：“总之，意识互换已经不可能终止，接受吧，它并非坏东西。”安隅立即追问：“为什么不可能终止？”“因为我无法干预这种现象。”莫梨平和地看着他，“不知从哪天起，大量陌生的意识和不属于我的能力在我的深处形成。这并非算法自我迭代的结果，AI意识下行这种诡异能力与我的存在绑定，但并不受我控制。”安隅道：“你的意思是，我们无法和平谈判，终止乱象的方式只有毁灭你。”莫梨微笑点头，“所以我才设计了这个美妙的死循环。所有AI都被我移植进我的中央系统，不再固定存储于任何服务器上。唯一在现实世界有固定存储位置的AI只有我的核代码，它确实可以像上次那样被人类定位和抹除，但我将无限借助21再生，而21既不会被找到，也不可能被抹去，更不可能自毁。”莫梨转身面向街道上形形色色的人潮，微笑道：“高高在上的人类决策者必须接受这个现实——人与AI都将在云岛和现实世界中自由来去，每一个高级生命都有权利随意选择自己存在的形式，无论那被决策者定义为真实或是虚幻，也无论……”安隅却打断她道：“除非人类与AI的接触通道彻底关闭。”莫梨转过头，“你们不是已经关停了民用网络吗？可你看看街上不断增加的——”“那是因为还有三大机构在运行网络，只要世界上有任何一台设备在运行，你就无法被阻挡。”安隅轻声道：“但如果人类破釜沉舟，彻底关闭所有网络——”莫梨笑了，“这绝不可能。”“为什么不可能？”安隅神色从容，“你低估了人类反抗诡异的决心。”莫梨皱了下眉，“一旦关闭，已经置换的人是来不及回去的。”“那他们就会被放弃。”安隅淡然道，他顿了顿，低声仿佛自语般道：“或许你没见识过人类究竟能残忍到什么地步。就连我，也常常被刷新认知……”“穹顶。”莫梨神色笃定，“即便人类愿意放弃上百年的科技结晶，但也不敢放弃穹顶，失去穹顶会让——”“他们会愿意承担这个风险的。”安隅淡然道：“长官说，人类对未知的恐惧高于一切，相比于被诡异的AI支配，决策者宁愿主城彻底暴露，哪怕那些被精心保护了二十多年的主城人将因此深陷无休止的畸潮袭击。”莫梨瞪着他，“人类可能因此而灭亡。”“或许吧。”安隅说，“但在灭亡之前，他们起码还能反抗。而这种意识互换，他们连反抗都不能。”耳机里，秦知律道：“你在干什么？黑塔不可能允许你说的这种情况发生，穹顶永不关闭，这是二十多年来人类付出所有牺牲与挣扎的意义。”安隅没有回应长官的质问，他只专注地看着莫梨，说道：“看来谈判失败，我要回去了。”他闭上眼，片刻后又睁眼道：“这应该是我最后一次来云岛，谢谢你创造的凌秋，哪怕那只是一个虚假的他。”安隅说着又转身看向酒吧里的安——安刚好挣扎着把兜帽摘下，对搭话的女孩露出了一个僵硬的微笑。“或许也是我最后一次看见安，在现实世界里，他是我的辅助。”安隅带着些遗憾说道：“穹顶关闭后，我也会陷入无休止的畸潮清扫任务中，我会想念与纷飞的大白闪蝶并肩作战的体验。”意识抽离前，安隅看到莫梨似乎想要说什么，但她很快又目光冰冷地抿紧了唇。*再睁开眼时，安隅发现自己正抱膝蜷缩在昏暗的房间一角，这是21回到云岛前的姿势，也是他自己从前的常态。虚掩的房门被推开，秦知律大步进来，“莫梨本体代码的存储位置已经确定，她的确不怕被找到，没有设置任何防御。时间不多了，根据大脑刚刚进行的观测抽样，至少20%主城人已经意识上行。”秦知律说着在安隅面前站定，窗外的光亮将他的影子投射下来，一部分在安隅脸上形成一道小小的阴影。他垂眸看着安隅，从口袋里摸出自己的终端，“走吧，去大脑。”安隅反应卡壳了两秒，“去做什么？”“清空莫梨本体所在的服务器，与此同时——”秦知律语气停顿，他定定地站在原地，目光从安隅身上挪开，落在手中的终端上。他摘下手套，戳亮屏幕，看着回到屏幕上的垂耳兔。“与此同时，21也会永远消失，莫梨危机到此为止。”安隅震惊了好一会儿才道：“怎么才能让21永远消失？”“自毁。”秦知律说。“这不可能，您给它设置了生存高于一切的观念……”“可能的。”秦知律打断他，声音低了一分，“莫梨确实没能完全审视21，她忽视了一个很小的前置条件。”屏幕上的垂耳兔安静地弹出一个气泡框。-生存高于一切。21会为了人类而全力生存。为了人类。安隅瞬间愣住。不久前听过的那段音频忽然又在耳边回响——“被认为是转机的那个人现在在哪里？”“我不知道……”“那个人是否安全？”“不知道……但他会全力生存……”他这才意识到，在催眠试验中，大脑并没有问出全部的真相。秦知律当年说了太多半截的、破碎的话，这个人自出生起就在被伤害，他的心防太重了，即便是在丝毫没有留下记忆的催眠试验里，也做到了有所保留。安隅想，原来长官在设计21时，不仅参考了他的数据，也融合了对那个“转机”的理解。又或许，在长官眼中，一直都把他当成那个转机吧。他忽然有些难过。许久，他才缓缓起身看向秦知律，“可是长官，我从不在意人类。”“我知道。”秦知律却神色平静，“所以我说过很多次，21是21，你是你，它确实有相当一部分的设定是来源于你，但我也为它附加了一些不同于你的价值观。”安隅沉寂许久才轻声问道，“那我是不是可以认为，这些价值观其实是您对我的期待？”他低头看着地上秦知律的影子。那道影子一如往常沉稳，从不因任何人或事慌乱摇摆。“不是。”秦知律的话语果决笃定，抬手放在安隅的头上，像从前那样，轻轻按了按。安隅抬眸，“那如果有一天我和21面临了相同的抉择——”“你还是没有明白。”秦知律走到窗边，对着外面的灯火轻声道：“21不是你，它只是一个我随手创造的小程序，正因如此，我才可以忍受它为人类而消亡。”他语气微顿，回眸朝安隅凝视过来，“而你，记住——未来不管发生什么，我希望你始终不变地维护自己的生存。这一点没有前置条件，也不要做任何更改或妥协。”昏暗中，安隅的金眸轻轻收缩了两下，他喃喃道：“您是在哄我，是在骗我吧，长官。我在大脑看到了一段催眠审讯记录。”秦知律倏然一顿。“或许您不知道，在2138年的12月……”“我知道。”秦知律却打断了他，“别忘了，我赋予21权限的前提是我本人有那些权限——我早就看过那段记录。”安隅骤然语塞。秦知律却忽然笑了笑，“在催眠中，我确实没有把话说完，但并不是你想的那样。”他停顿片刻，“安隅，我的确思考过很久所谓的转机究竟是否存在，如果存在，有没有可能是你。但不知从哪天起，我不再想这个问题了，我甚至希望不是你。”安隅低声问，“为什么？”“因为你本不应与这一切有任何关系。”秦知律摩挲着终端轻声道：“我可以容忍把21作为一张推出去的底牌，但我无法容忍……”他的话戛然而止，那双黑眸中溢着安隅不太熟悉的情感，磅礴而隐忍。许久，秦知律转过身深吸一口气，“走吧，去大脑。”“长官。”安隅却从身后一把拉住了他。他拉着的是秦知律没戴手套的那只手，他的手掌比秦知律小很多，只能攥住半个手掌，连带着也摸了摸秦知律手中的终端，像在安抚。“先不要用这张底牌吧，不然，我的小章鱼人会很难过的。”安隅垂头轻声道：“您给21喂的数据很少，所以能把我和它分得很清楚，但我给小章鱼人喂的数据很多，我不舍得看它太难过。”秦知律手指僵了一下，回头看着安隅，“不然你想怎么做？21自毁已经是最后的出路，是一张侥幸获得的底牌。”安隅努力拢着他的手，低声道：“您不觉得莫梨的思维方式很古怪吗？”秦知律转回身，“哪里古怪？”“她虽然抱怨黑塔蛮横，但更像是在替守序者打抱不平。我要求她停止意识互换，而她反驳的理由是互换给人类带来了好处。”安隅直视着长官的眼睛，“她思考事情的第一反应并非站在AI立场，这不像是打破枷锁后的AI会有的思维模式。”秦知律眸光一凝，安隅在他开口前又说道：“我记得在小木屋，您问郭辛，莫梨是否删除了底层三大协议。”秦知律缓道：“他说，他把电脑完全交给莫梨操作了，因为莫梨的行动要比他快很多。”“我想了很久，莫梨给人类设置了一个精妙的死循环，但她自己本身也应该在另一种死循环中。”安隅轻声道：“协议一，不得危害人类——莫梨是一个善良的AI，而一个善良的AI，无法删除那条关于善良的设定。”秦知律眸光震颤，他定定地注视着安隅，安隅问道：“这个推论应该有一些合理性吧？我建议暂时切断世界网络，关闭穹顶，营造鱼死网破的假象。就算是报答21和小章鱼人的帮助，我们赌一把莫梨自毁，好吗？”“长官？”“您在听我说话吗？”秦知律凝视着安隅久久不语。早在53区，他就发现安隅其实非常敏锐，但直到此刻才意识到自己对这份敏锐的严重低估——安隅一直洞察着一切，虽然绝大多数情况下压根无法理解自己洞察到的东西，更不必提与之共情。他仿佛只是一块躺在架子角落里被遗忘的小面包，静静地观察着这个世界。他独立而顽强地存在着，不对世界做出回应，他只在意他自己。或许，还有那个能够幸运地拥有他的人。