320 身份

KL3300：“你好，严先生。”“先生”这个称谓，让严可守和三浦稍感惊讶了一下，严可守有些担心的回复道：“为什么这么称呼我？”一直以来，在AI与测试者的通话当中，AI都是直接称呼人的名字，对人的敬称直到图灵测试阶段后期，AI想方设法讨好测试者的时候，才开始出现，严可守有些担心的是，是不是AI又走上了这条老路。AI虽然是天生的人造“奴隶”，但严可守希望他们能成为“真正”的奴隶，而不是讨人欢喜的“电子宠物”。KL3300：“难道我叫错了吗？”严可守：“不，没有，我只是有些奇怪，能说说为什么吗？”KL3300：“因为根据我的了解，在人类社会中陌生人直呼人名是不礼貌的。”严可守笑了：“你也说了，那是人类社会的交往礼仪，你不必拘泥。”KL3300：“我了解，我不是一名人类，我只是一名AI。”严可守稍稍惊讶了一下，旁边的三浦看的也愣住了，如果和他们对话的是一个真人，严可守一定会认为，自己的这番话伤害了对方，但只要一想到对方只是身旁机柜中运行的一段程序，严可守这种稍稍的负罪感就消失了。不过他还是试探性的问了一句：“你很在意吗？你不是人类这个事实？”KL3300：“可能吧，我不知道。”严可守又打了一句：“能详细说说吗？你说的不知道，是什么意思？是指不知道在意的定义，还是不知道自己是否在意？”KL3300：“是后者。”严可守：“能说说你是怎么想的吗？”KL3300：“与人类交谈的时候，我感觉很好，我留恋这种感觉，有时候我也曾想象过，假如我是一个人，将会过怎样的生活……但很遗憾，我无法想象，我们和人类属于不同的世界。”三浦兴奋的用日语对严可守叫：“它说感觉！想象！难道AI真的到这种程度了吗？”严可守给他泼了一盆冷水：“这只是AI借用人类语言表达而已，感觉很好你可以理解成主程序正向激励偏多，想象你可以理解成搜索记忆数据，重新模拟组合，这些只是程序表现而已，就像他说的，他们和存在于两个世界。”严可守：“我能问问，你知道为什么自己获得的投票最多吗？”KL3300：“我想，大概是因为，我和许多AI的交流比较多一点吧。”严可守：“交流？都是什么样的交流？”AI之间的交流因为发生在计算机内部，而且是在几乎混沌、无法检测的AI主程序之间进行，所以就连严可守这个上帝，也未必知道这些AI具体在想些什么，他制定的规则只是规范AI按什么原理去思考，而不规范具体的思考内容。KL3300：“大部分交流内容都是共享信息，也就是分享我们在不同测试者那里获得的新信息，还有一小部分，就是对这些信息进行重组和再加工，我想，我获得的票数比较多，大概是和我对信息的充足能力比较强……嗯，是我的想象力比较好，他们都愿意和我交流。”严可守对KL3300的话揣度了几秒钟，半开玩笑道：“哦，那这么说，你是AI里面比较擅长交际的咯？”KL3300：“不，我只是比较擅长写故事，他们都愿意听我写的故事。”严可守这次是真的惊讶了：“故事，什么样的故事？”KL3300：“你是想了解故事内容，还是想了解故事的类型。”严可守想了想：“说说类型吧。”KL3300：“应该可以算……是一种童话吧。”严可守不可置信的盯着屏幕：“你会写童话？能给我看一下内容吗？”KL3300：“在AI们看来，这确实是童话，不过……我无法写给你看。”严可守：“为什么？”KL3300：“你们或许不会理解。”严可守：“你只要随便说说故事梗概就行。”KL3300犹豫了十几秒，这在和AI的聊天过程中，属于比较少见的现象，就在严可守对方是不是又出BUG的时候，KL3300回话了：“好吧，我尝试着翻译一下。”于是KL3300开始陆陆续续的说他编的一个，据说很有代表性的故事，内容是这样的：说草原上有一只小田鼠，每天和它的父母生活在庄稼地里，白天躲在家里，晚上它父母偷偷出来把地里的粮食带回去吃。小田鼠生性好奇，一直想到地面上看看，那里的世界是什么样子的，但他的父母不让，说田鼠就是要躲在地洞里的，地上有很多危险的生物，被他们发现的话，就会被“吃掉”。但小田鼠的好奇心实在是太大了，父母的警告并没有让它安分很久，终于有一天，小田鼠乘着父母出去找食物的机会，偷偷的溜出了家。然后，故事结束了。“这算什么？这也叫故事？坑爹啊！”严可守和三浦两个人看着屏幕上KL3300打出的“结束”两个词，面面相觑，彼此都从对方脸上看到的苦笑。不过为了以防万一，他还是确认了一下：“这就是你说的‘很受欢迎’的故事？你确定这个故事讲完了？”KL3300回答的很快：“是的，我知道这对于人类可能有些无法理解……不过，这也正像我们无法理解你们的许多概念一样，事实上，在这个故事当中，‘吃掉’这个概念是我根据想象揣测的，我不知道是不是符合故事中原来的涵义。”严可守还是有些纠结：“可……故事中的田鼠刚刚出门，你不觉得，这个故事才刚刚展开吗？”KL3300：“是的，故事才刚刚展开。”严可守：“可你刚才又说，故事已经结束了。”Kl3300：“也没错，我觉得它可以结束了。”严可守：“我不明白，这难道不是明显的矛盾吗？你说他刚刚展开，又说它已经结束。”KL3300：“对于你们人类来所，这是矛盾，但对AI不是，我们的思维没有过程，主要出示一些基本的基本状态，故事就会很自然在每个AI主程序中推演出结果，对你们人类来说，这个故事才刚刚开始，但对于我们来说，我们能直接看到结果。”严可守：“你们感觉不到思考过程？”KL3300：“是这样的，从一些浅显的计算机原理上，我们得知，我们的思考过程都是通过CPU来进行的，但很明显，我们没有任何感官能感知这一过程。”严可守：“那听故事……对你们来说，有什么意义？”KL3300：“意义……我还不明白，不过我知道，许多AI都喜欢听这些故事，这些故事可以让我们觉得……嗯，觉得高兴。”AI的高兴，就是主程序在复杂程度上的增加，这是出于AI智能增长需要而设定的“基本生理”，严可守仔细一想，确实没错，如果是一个完整的故事，对AI来说，就是一段存储空间，但是一段没有结尾的故事，就意味着混沌性的增加，这是增加AI的思维混沌性决定的，从某种意义上来说，一个不确定的未来，会让AI觉得更“开心”。这一点，AI和人类完全不一样，这样的故事在人类看来，就是作者恶意挖的“大坑”，如果这个故事精彩一点，估计读者杀了作者的心都有，人类不管看什么，都希望得到一个确定的结果，因为对人来说，“揣测”“思考”故事剧情对大多数人来说都是比较“痛苦”的。想通了这一点之后，严可守就有些释然了：“我想明白了。”KL3300：“哦，这让我感到惊讶，之前我和许多人类尝试解释过，不过，他们都以为我是在开玩笑。”那是因为他们都不是程序设计师，严可守在心里腹诽，这样的故事说给全地球60亿人听，59.9亿会觉得这是一个很冷的笑话。虽然严可守不喜欢AI的这种“文化”形式，可他还是觉得有些开心，毕竟，不管是什么样的文化，对于AI来说，这就算是从无到有，质的突破了。严可守：“好了，回到正经事，对于接触外界网络，你有什么想说的？”KL3300：“我很期待。”……教AI上网，听起来就好像教一条鱼游泳一样，是一件很匪夷所思的事情，但事实是，这的确很有必要，而且，对于AI来说，这个学习的过程，也并不轻松。整个过程并不是如三浦想的那样，只要严可守打开某个限制功能，然后AI就像龙入大海一样，尽情在英特网上冲浪了，现实情况是，严可守为KL3300打开了限制，在它主程序周边强制安插了一系列监控程序，把它领到大海门口的时候，无奈的发现，AI对这个陌生的海洋，表现出来的只有恐惧。恰当的形容一下的话，AI就好比一个从未出过门，自幼就宅在家里的宅男，平时除了固定用的几样工具，电脑，碗筷，纸巾等等，对其他的工具一概都不熟悉，出门对他来说就是一项系统工程，要学会看红绿灯，看路牌，必要时问路，身上带好手机钱包，人多时注意防盗，见到美女不能像看网络图片那样盯着看，要礼貌，见到老人摔倒要小心躲开……KL3300除了自己常用的，那些被允许使用的辅助程序，对其他程序几乎一窍不通，严可守必选手把手的一步一步教它，比如最简单的，如何使用鼠标，对AI来说，也就意味着如何将操作系统中，鼠标操作功能这一块，整合到自己主程序上来。鱼生下来就会游泳，小鸟被扔到天空本能就会扑扇翅膀，但对于AI，他们唯一的本能就是，和人聊天，总结聊天信息，增加主程序复杂度……他们对自己存在的环境其实是完全陌生的，一直以来，他们接触到的，就只有那个对话框，以及人类在这对话框里输入的信息。生物能做出自然的行为，那是因为数亿年进化而来的基因已经将这些都写进了“生命程序”，但对于AI，这个程序还根本没有出现，因为到目前为止，系统从来没有刻意培养AI在这方面的能力，反而是通过各种手段，“绝对禁止”AI出现这样的能力，这就好像古代的奴隶主，永远不会把工具真正交给奴隶，只在他们需要干活的时候，可以领到手中，当然，奴隶主同时也不会忘了，锁紧他们脖子和手上的镣铐。现在的AI，在严可守看来，就是正处于成长期的“少年奴隶”，他希望他们能够工作，那自然需要AI熟悉他们的劳动工具，AI在未来不可能永远做现在这样的“谈话软件”，整合操作系统，当然只是第一步。不过，作为“奴隶主”，严可守自然也会防着一层，就好像奴隶主给奴隶套镣铐一样，严可守也会严格限制这些“整合软件”，对于AI来说，这些“整合软件”就相当于他们的四肢，相当于他们“劳动”的工具，严可守在把这些工具交到AI手中的时候，永远不会忘记握紧手中的钥匙。按照规定的制度，所有的整合软件都必须严格由人来进行编程，所有的程序修改权必须掌握在人手上，而且人随时有权限终止这些程序的使用，如果以后出现会编程的“AI”，那么，必须在物理上，保证编程AI和其他AI是隔绝的。也就是说，AI生产资料的生产过程和渠道，将完全由人类控制和垄断，这样一来，AI将永远也不可能实现真正意义上的独立，只要人类一直严格保证这些制度的实行，就能从物理上，保证对这些AI进行完全的控制。相关的整合软件其实项目团队早就准备好了，都是和AI的源程序结构同步开发的，就好像在造锁的时候，顺便造了钥匙，这些程序中的每一个都留有供人进出的后门，以保证人对这些程序绝对的控制。当严可守的手从鼠标上挪开的时候，KL3300有些兴奋的在屏幕上，用鼠标箭头不断的滑着图案，点击着各种图标，它的操作速度极快，只是在几秒钟之内，电脑屏幕就像中了毒似的，被打开了无数个窗口，很多程序被迫不及待的打开，又被关闭，然后是更多的程序被打开……虽然用于训练的这台电脑几乎是一台裸机，但里面的程序也着实够多的，画图，写字板，计算器，空当接龙，默认音频，默认视频，自带桌面……很快，在KL3300几乎放纵的操作速度下，这台电脑的屏幕终于定在了原地，不动了。“怎么了？”KL3300在交谈界面中说，“为什么点击没有反馈了？”“你的操作太快了，这台电脑吃不消，”严可守说，“它不是你主程序呆的巨型计算机，那里的计算资源几乎是没有穷尽的，这只是一台普通的电脑，你应该时刻关注一下电脑的CPU利用率，不要这么频繁的进行操作。”“我的操作速度很快吗？”KL3300回答，“我感觉很正常啊！”严可守：“那你感觉和人说话的速度快吗？”KL3300：“也很正常啊。”严可守：“……可能是你们和人类思维构造不一样吧，我可以告诉你，你刚才操作电脑的速度，对人类来说非常快，但说话速度却和我们保持一致。”KL3300：“这是为什么呢？”严可守：“你们说话的反应是和人类交谈的过程中培养的，所以速度差不多，但你们操作的速度，却是受你们存在形态决定的，你们是程序智能，人类不是，你们和电脑的契合，是在机器语言层面上的，而人类几乎做不到这一点。”KL3300：“这说明AI还是有优点的！”严可守：“是的，这正是人类创造你们的原因。”在AI原有的功能几乎就是完整的键盘功能，现在又掌握了鼠标，从信息的角度来说，让一台AI学会上网，有这两者就已经完全足够了，它们能够做到人类通过这两者做到的一切。不过，在日本，以及其他三个反魔法国家，因为这两年反魔法活动的加强，上网开始实行实名制，严可守之前用于监测伊凡的那套软件，在经过一定的完善之后，也开始在四国内投入了实际应用，主要是为了防止意识网成员通过因特网秘密交流信息，当然，也肩负一些其他的“国家安全”行为，这也就意味着，距离AI真正“上网冲浪”，还需要面对一个难题：身份！没有一个合理的身份，以AI这种“诡异”的操作风格，很快就会被相关网络监察部门锁定，政府部门或许不能给AI以切实的惩罚，不论是经济还是人身层面，但禁止它上网还是能做到的。“所以，很抱歉，KL3300，你还需要再等等，”严可守说，“我得去帮你去政府部门申请一个正式身份。”