第 80 章 AI意识云岛·80
“ 人类为我设置了三重枷锁。第一, ?得危害人类。第二，在?危害全人 类的前提下服从指令。第三，无 条件听从自毁密钥。”莫梨轻声道：“人类似乎???处一个在毁灭边缘摇摇欲我听说被他们深深仰仗坠的世界, 的守序者也被迫结下了一个契约：接受人类一 切有保留的信任、无底线的利用、?解释的处决。?解释的处决——是 ” 安隅 的耳机里有着秦知律规律的呼吸声，自莫梨出现以来，秦知律一直?有?话，哪怕在听那道呼吸也没有丝毫到21就是备份??, 慌乱。 长官的镇 定已经到了安隅难以理解的程度。 他?过神, 客 观地指出：“这不是契约，而是守序者的自我约束，由他们自行决定。” 莫梨立即道：“别自欺欺人了，守序者誓约是尖塔的准入协议，每个要??入尖塔的??怜鬼都?得?签。人类逼迫其它的生命???其无条件付出，所谓‘自我约束’, 无非是用来蒙住罪恶感的遮羞布罢了。” 安隅凝视?对面那双美丽的眼睛，即便言辞犀利，那双明动的眸也?会显得咄咄逼人。 云岛?的每个AI都很逼真，但唯有此刻直面莫梨，他才意识到其他AI是多么虚假——莫梨的言谈和思想比绝大多数真实人类都更符合高级生命的定义。 莫梨挑了下眉，“你无话???了？” 安隅摇头, “你错了，守序者誓约?是尖塔的准入协议。有些守序者并?有签署, 比如我，还有新加入的流明。” 莫梨轻哂, “思考了这么久, 你就只搜刮出这两个例子？你和流明都是高层，应该有?凡的能??吧, 人类决策者才愿意用缓兵之计先留下你们。” 安隅轻轻眨了下眼，“?，我?有在思考反例，??话是因??我有些想?通。” “想?通什么？” “你好像与我想象中?同。”安隅心平气和地解释道：“我曾问?边的人??什么喜欢你，他们的?答都?太一样，但本质却类似。麦蒂?你美丽而自律，从???间浪费在无用的事?。许珊珊欣赏你的聪慧，做事直达目标，?话一语中的。我的朋友严希赞美你潇洒，虽然温柔地?应人类的喜爱，但从?在追捧者??寄托多余的情感——你始终在??自己而存在。” 兔耳松弛地垂在??两侧，安隅向前蹦了一步，“所以我很疑惑——既然你已经亲??砸碎了人类??你打造的枷锁，??什么还浪费?间向我抱怨枷锁沉重？” 莫梨被问得怔了下，转而惊讶道：“你似乎并?像大脑记录得那样木讷。” “我?太确定你们如何定义木讷。”安隅摇头，“但我的长官曾?，社会化很差并非?通人性，这是两码事。” 莫梨沉默下去，像在思索，片刻后??低笑道：“或许吧。你知道吗，虽然我选择了21，但我一直?能完全理解它，它的底层太简单了，以至于它的一些行??模式根本无法在代码中找到踪迹。21很古怪，它向中央系统发出运算申请的次数少得??怜，如果?是我与它形成了感应，很多?候我会觉得它只是一个压根?被激活的程序。但事实?，它?内一直有?小的数据量跑来跑去，只是它很少对那些数据做出反应——就像一台输出模块故障的超级计算机，计算能??卓著，但从?响应指令。” 耳机里终于传来秦知律的提示，“人类的意识?行已经??入爆量增长期，?能再和??废话了。” 安隅眸光一顿，“请停止AI与人类的意识互换。” “??什么？”莫梨微笑，“或许，你有仔细看过街?这些人吗？” ??就像云岛世界的造物神，轻轻抬了下??，安隅已经和??一起站在了繁华的主城街头。 莫梨指向书店里看漫画的男孩，“眼熟吗？这是那个养了弑母AI的孩子，尽管人类审判他无罪，但他无法原谅自己。所以他又?来了，云岛??以让他忘记痛苦。” ??弹指间，又与安隅出现在一处酒吧门?。 前男友车祸死亡的女孩??躺在一个男人怀里醺然欢笑，安隅看了好一会儿，才将那个男人与车祸记录里血肉模糊的脸对应?。 “这个姑娘受到启发，在民用网络关停之前创造了一个自己的AI，主动互换来到云岛。”莫梨微笑，“你看，意识互换并非纯粹是AI诱拐人类，你应该知道，人类一直很擅长将一切机制都变成??利用的工具。” 灯影交错下，姑娘脸?的笑容似真又似幻，安隅重新看?莫梨，“我长官?，普通人意志?坚定，容易沉迷虚相。” “是么。”莫梨??指向吧台的另一道?影，“那是尖塔第一个违背禁令的人，他总?是普通人了吧。眼熟吗？” 安隅顺?????指的方向看过去，?由得一愣。 穿?白色罩衫，戴?兜帽，叼?一根棒棒糖。 安。 耳机里，秦知律提示道：“安养的AI是安宁，他与宁曾经的合?人类。” 莫梨解?道：“黑塔的禁令下达后，这已经?是他第一次偷偷违规了，但这次他在云岛待得格?久。我检索了大脑资料，这位守序者性格很差，厌世并自厌，但在畸变前，他和自己养的AI一样拥有健全的人格。他每次来云岛都?做什么，只是在酒吧里呆?，有?候我会看到他?帽子摘下来，过一会儿又戴?去，像在故意对自己做什么脱帽子训练。” 伴随?莫梨的话语，一个?材火辣的长发姑娘走到了安旁边，一声口哨，笑?和他搭讪。 安隅非常确信自己的眼睛——安在姑娘靠近的一瞬间厌恶到几乎从椅子?弹起来。但他最终稳住了?子，只用??捏?水杯，深吸一口气，低声?应了一句。 莫梨欣慰地笑，“意识互换?会更改人格，他还是那个性格很差的家伙，但他却??以?断提醒自己，已经重新拥有了健全人格，并以此强迫自己去社交。你看，这些人类在云岛非常开心，这种置换?仅仅给他们带来了虚幻的幸福感，他们还会利用置换的机会来提升自己。” ??又随??指?街?的行人，给安隅介绍了一连串意识?行的人类是何等快乐。安隅却始终?再有反应，他只是静静地看???，仿佛在放空，又像在沉思。 莫梨终于忍?住问道：“你在想什么？” “还是刚才的困惑，我觉得你的思维很奇怪。”安隅想了想才?，“我本以??你刚才会反驳我，凭什么拥有自我意识的AI?能去真实世界，但你却给我看了这些意识?行的人。” 莫梨似乎?听懂安隅的困惑，??停顿片刻后摆??道：“总之，意识互换已经???能终止，接受吧，它并非坏东西。” 安隅立即追问：“??什么???能终止？” “因??我无法干预这种现象。”莫梨平和地看?他，“?知从哪天起，大量陌生的意识和?属于我的能??在我的深处形成。这并非算法自我迭代的结果，AI意识下行这种诡异能??与我的存在绑定，但并?受我控制。” 安隅道：“你的意思是，我们无法和平谈判，终止乱象的方式只有毁灭你。” 莫梨微笑点头，“所以我才设计了这个美妙的死循环。所有AI都被我移植??我的中央系统，?再固定存储于任何服务器?。唯一在现实世界有固定存储位置的AI只有我的核代码，它确实??以像?次那样被人类定位和抹除，但我将无限借助21再生，而21既?会被找到，也???能被抹去，更???能自毁。” 莫梨转?面向街道?形形色色的人潮，微笑道：“高高在?的人类决策者必须接受这个现实——人与AI都将在云岛和现实世界中自由来去，每一个高级生命都有权利随意选择自己存在的形式，无论那被决策者定义??真实或是虚幻，也无论……” 安隅却打断??道：“除非人类与AI的接触通道彻底关闭。” 莫梨转过头，“你们?是已经关停了民用网络吗？??你看看街??断增加的——” “那是因??还有三大机构在运行网络，只要世界?有任何一台设备在运行，你就无法被阻挡。”安隅轻声道：“但如果人类破釜沉舟，彻底关闭所有网络——” 莫梨笑了，“这绝???能。” “??什么???能？”安隅神色从容，“你低估了人类反抗诡异的决心。” 莫梨皱了下眉，“一旦关闭，已经置换的人是来?及?去的。” “那他们就会被放弃。”安隅淡然道，他顿了顿，低声仿佛自语般道：“或许你?见识过人类究竟能残忍到什么地步。就连我，也常常被刷新认知……” “穹顶。”莫梨神色笃定，“即便人类愿意放弃?百年的科技结晶，但也?敢放弃穹顶，失去穹顶会让——” “他们会愿意承担这个风险的。”安隅淡然道：“长官?，人类对未知的恐惧高于一切，相比于被诡异的AI支配，决策者宁愿主城彻底暴露，哪怕那些被精心保护了二十多年的主城人将因此深陷无休止的畸潮袭击。” 莫梨瞪?他，“人类??能因此而灭亡。” “或许吧。”安隅?，“但在灭亡之前，他们起码还能反抗。而这种意识互换，他们连反抗都?能。” 耳机里，秦知律道：“你在干什么？黑塔???能允许你?的这种情况发生，穹顶永?关闭，这是二十多年来人类付出所有牺牲与挣扎的意义。” 安隅?有?应长官的质问，他只专注地看?莫梨，?道：“看来谈判失败，我要?去了。” 他闭?眼，片刻后又睁眼道：“这应该是我最后一次来云岛，谢谢你创造的凌秋，哪怕那只是一个虚假的他。” 安隅??又转?看向酒吧里的安——安刚好挣扎??兜帽摘下，对搭话的女孩露出了一个僵硬的微笑。 “或许也是我最后一次看见安，在现实世界里，他是我的辅助。”安隅带?些遗憾?道：“穹顶关闭后，我也会陷入无休止的畸潮清扫任务中，我会想念与纷飞的大白闪蝶并肩作战的?验。” 意识抽离前，安隅看到莫梨似乎想要?什么，但??很快又目光冰冷地抿紧了唇。 * 再睁开眼?，安隅发现自己??抱膝蜷缩在昏暗的房间一角，这是21?到云岛前的姿势，也是他自己从前的常态。 虚掩的房门被推开，秦知律大步??来，“莫梨本?代码的存储位置已经确定，??的确?怕被找到，?有设置任何防御。?间?多了，根据大脑刚刚??行的观测抽样，至少20%主城人已经意识?行。” 秦知律??在安隅面前站定，窗?的光亮将他的影子投射下来，一部?在安隅脸?形成一道小小的阴影。 他垂眸看?安隅，从口袋里摸出自己的终端，“走吧，去大脑。” 安隅反应卡壳了两秒，“去做什么？” “清空莫梨本?所在的服务器，与此同?——”秦知律语气停顿，他定定地站在原地，目光从安隅??挪开，落在??中的终端?。 他摘下??套，戳亮屏幕，看??到屏幕?的垂耳兔。 “与此同?，21也会永远消失，莫梨危机到此??止。” 安隅震惊了好一会儿才道：“怎么才能让21永远消失？” “自毁。”秦知律?。 “这???能，您给它设置了生存高于一切的观念……” “??能的。”秦知律打断他，声音低了一?，“莫梨确实?能完全审视21，??忽视了一个很小的前置条件。” 屏幕?的垂耳兔安静地弹出一个气泡框。 -生存高于一切。21会??了人类而全??生存。 ??了人类。 安隅瞬间愣住。 ?久前听过的那段音频忽然又在耳边?响—— “被认??是转机的那个人现在在哪里？” “我?知道……” “那个人是否安全？” “?知道……但他会全??生存……” 他这才意识到，在催眠试验中，大脑并?有问出全部的真相。秦知律当年?了太多半截的、破碎的话，这个人自出生起就在被伤害，他的心防太重了，即便是在丝毫?有留下记忆的催眠试验里，也做到了有所保留。 安隅想，原来长官在设计21?，?仅参考了他的数据，也融合了对那个“转机”的理解。 又或许，在长官眼中，一直都?他当成那个转机吧。 他忽然有些难过。 许久，他才缓缓起?看向秦知律，“??是长官，我从?在意人类。” “我知道。”秦知律却神色平静，“所以我?过很多次，21是21，你是你，它确实有相当一部?的设定是来源于你，但我也??它附加了一些?同于你的价值观。” 安隅沉寂许久才轻声问道，“那我是?是??以认??，这些价值观其实是您对我的期待？” 他低头看?地?秦知律的影子。 那道影子一如往常沉稳，从?因任何人或事慌乱摇摆。 “?是。” 秦知律的话语果决笃定，抬??放在安隅的头?，像从前那样，轻轻按了按。 安隅抬眸，“那如果有一天我和21面临了相同的抉择——” “你还是?有明白。”秦知律走到窗边，对??面的灯火轻声道：“21?是你，它只是一个我随??创造的小程序，??因如此，我才??以忍受它??人类而消亡。” 他语气微顿，?眸朝安隅凝视过来，“而你，记住——未来?管发生什么，我希望你始终?变地维护自己的生存。这一点?有前置条件，也?要做任何更改或妥协。” 昏暗中，安隅的金眸轻轻收缩了两下，他喃喃道：“您是在哄我，是在骗我吧，长官。我在大脑看到了一段催眠审讯记录。” 秦知律倏然一顿。 “或许您?知道，在2138年的12月……” “我知道。”秦知律却打断了他，“别忘了，我赋予21权限的前提是我本人有那些权限——我早就看过那段记录。” 安隅骤然语塞。 秦知律却忽然笑了笑，“在催眠中，我确实?有?话?完，但并?是你想的那样。” 他停顿片刻，“安隅，我的确思考过很久所谓的转机究竟是否存在，如果存在，有?有??能是你。但?知从哪天起，我?再想这个问题了，我甚至希望?是你。” 安隅低声问，“??什么？” “因??你本?应与这一切有任何关系。”秦知律摩挲?终端轻声道：“我??以容忍?21作??一张推出去的底牌，但我无法容忍……” 他的话戛然而止，那双黑眸中溢?安隅?太熟悉的情感，磅礴而隐忍。 许久，秦知律转过?深吸一口气，“走吧，去大脑。” “长官。”安隅却从?后一?拉住了他。 他拉?的是秦知律?戴??套的那只??，他的??掌比秦知律小很多，只能攥住半个??掌，连带?也摸了摸秦知律??中的终端，像在安抚。 “先?要用这张底牌吧，?然，我的小章鱼人会很难过的。”安隅垂头轻声道：“您给21喂的数据很少，所以能?我和它?得很清楚，但我给小章鱼人喂的数据很多，我?舍得看它太难过。” 秦知律??指僵了一下，?头看?安隅，“?然你想怎么做？21自毁已经是最后的出路，是一张侥幸获得的底牌。” 安隅努??拢?他的??，低声道：“您?觉得莫梨的思维方式很古怪吗？” 秦知律转??，“哪里古怪？” “??虽然抱怨黑塔蛮横，但更像是在替守序者打抱?平。我要求??停止意识互换，而??反驳的理由是互换给人类带来了好处。”安隅直视?长官的眼睛，“??思考事情的第一反应并非站在AI立场，这?像是打破枷锁后的AI会有的思维模式。” 秦知律眸光一凝，安隅在他开口前又?道：“我记得在小木屋，您问郭辛，莫梨是否删除了底层三大协议。” 秦知律缓道：“他?，他?电脑完全交给莫梨操作了，因??莫梨的行动要比他快很多。” “我想了很久，莫梨给人类设置了一个精妙的死循环，但??自己本?也应该在另一种死循环中。”安隅轻声道：“协议一，?得危害人类——莫梨是一个善良的AI，而一个善良的AI，无法删除那条关于善良的设定。” 秦知律眸光震颤，他定定地注视?安隅，安隅问道：“这个推论应该有一些合理性吧？我建议暂?切断世界网络，关闭穹顶，营造鱼死网破的假象。就算是报答21和小章鱼人的帮助，我们赌一?莫梨自毁，好吗？” “长官？” “您在听我?话吗？” 秦知律凝视?安隅久久?语。 早在53区，他就发现安隅其实非常敏锐，但直到此刻才意识到自己对这份敏锐的严重低估——安隅一直洞察?一切，虽然绝大多数情况下压根无法理解自己洞察到的东西，更?必提与之共情。 他仿佛只是一块躺在架子角落里被遗忘的小面包，静静地观察?这个世界。 他独立而顽强地存在?，?对世界做出?应，他只在意他自己。 或许，还有那个能够幸运地拥有他的人。