319 代表

对于一名AI来说，学习几乎就是一种基因化的本能，不管是在严可守的第几套源程序修改方案中，AI的主程序通过学习，掌握更多有效信息，一直都是整个程序体系的重中只重。因为计算机计算速度的效率，而且AI也不需要像人一样，把生命中大把的时间用于睡眠，进食等维持生命的活动上来，所以一直以来，AI学习的效率一直都非常高，不管是从之前专门为图灵测试开发的那一批AI，还是现在经过源程序修改之后的，从这一点上来说，严可守对自己的一手开发的作品还是非常有信心的，虽然目前项目的进度，距离他最理想化的那种智能还有很大差距，不过他相信，最起码，从目前看来，这些AI还是正在进步的。如果要让严可守现在自我评价一下，目前他这些AI的智能程度，他觉得，小学生应该是一个不错的中肯评价。乖巧，听话，但又显得有些懵懂，这就是这些AI的状态。相比起一个月之前这些AI的表现，现在这些AI确实显得有些傻气，但这种傻气又和半个月前，那种机器一般的傻不太一样，具体的来说，就是前来参加测试的许多大学生当中，已经有很多人深信，和自己聊天的AI，已经初步具备了许多“像人”，或者说，“智能”的因素，但要他们具体的说，他们也说不上来。要说表现，现在AI的表现也并不算特别好，措辞笨拙不说，还错误不断，常常会说出一些惹人发笑的话题出来，但智能这个词，原本在也没有严格的科学规定，从某种程度上来说，“是否智能”也只不过是人的主观感觉而已，但即使是主观感觉，只要在总的统计数据上超过一定的量，也可以被视作一种规律。从这个角度来看，严可守最近这一个月所做的工作，还是卓有成效的。和以前的AI测试过程很类似，当项目大部分成员认为这些AI已经无法通过互相学习，了解更多信息的时候，就会进行比较开放性的测试，这就好像即使是小学生，也不能老呆在教室和家里，接触更大的环境，不仅是对人，对AI也有非常重要的意义。不过这一次，严可守不打算采取前面的两种方式，包括请人来参加测试，以及在网上放开客户端，在他看来，这种类型的测试，充其量也只是把小学生从课堂带到了操场，如果AI需要得到真正的锻炼，它需要拥有相当的自由度。严可守打算直接让这些AI通过人类传统的网络交流方式，来进行“完全开放”的测试，不过这个提议因为事关重大，日本政府作为项目的监管方，暂时还没有同意。对于这一点，严可守已经在技术上再三进行了说明，所谓AI可以利用网络不受人类控制这一点，完全不可能，在整个项目的初期，整个技术团队就已经为这些AI打造了一个最牢不可破的“牢房”。在硬件上，所有AI都被储存这三个房间的机柜中，任何原始数据的进出，都必须得到日本政府方面的授权，事实上，日本政府现在根本没有考虑过会在这方面予以授权，就连严可守自己，也没有权利从这个房间里带出哪怕一块硬盘，就连上次他用U盘拷贝个客户端出门，都要经过两名精通计算的士兵严格检查。在软件上，每个AI呆的环境，都可以说是遍布荆棘和炸弹，除了通过程序保证AI源程序无法被复制以外，还有大量类似杀毒软件的监管程序，监控这些AI程序的状态，如果这些程序出现任何“不被允许”的行为，包括复制自己，控制自己存储空间以外的程序，就会被认定这些AI已经“中毒”，监管程序将发出警告，并在第一时间断开物理连接，而两名随时在场的士兵就会在第一时间，将出现警告的硬盘拔出，他们甚至有权直接现场“物理摧毁”硬盘，机房的角落的灭火器箱里，一瓶红色的灭火器，但黄色的却是燃烧弹。而且，每隔几天时间，技术人员都会对这些源程序进行检查，特别是在AI主程序之外的“辅助程序”，按照严可守制定的“人工智能安全管理条例”，这些辅助程序中除了文字处理软件，绝对禁止出现任何图像分析，特别是与图像识别相关的软件，严可守用这种手段，从根本上保证了这些AI根本就“看”不到世界，即使看到了，也“看不懂”，如果不仿照语言和文字方面对AI专门在这方面进行训练，对AI来说，任何图像都只是一堆数据而已。严可守的三浦曾经就说过，如果AI是一个人，那它一定会对它出生的世界感到绝望，因为从它婴儿时期开始，他的创造者就制造了一堆防范他的设备，为他配备了最好的牢房，最严密的看守，最后还不放心，甚至刻意就不给它“造”眼睛，对于AI来说，这世界就是完全黑暗，没有声音，没有感觉的虚空世界，他们唯一能感受到的，就是不间断收到的“信息”，事实上，从这一点上来说，AI呆在计算机里，倒蛮像闭上眼睛的意识网用户的，除了思维上的碰撞，没有任何其他的刺激，当然，除了思维上的反馈，他们也无法做出任何有“现实”意义的事情，从这一点上来说，AI应该会成为“纸上谈兵”的最佳典范。但即使如此，作为整个项目的监管方，日本政府对汪铭的提议还是觉得不放心，尽管这在三浦看来，根本就是把一群犯人戴上镣铐，背后顶着枪，然后拉到街上去“游街示众”，从理智上来说，确实没有太过担心的必要，但人从来就不是理智的生物，日本政府方面一再提出：“再等一等，再看一看，一定要确保万无一失……”严可守只能暂时答应了，不过作为项目的主要技术人员，严可守还是得到了授权，在有专门技术人员在一旁“监管”的状态下，可以允许这些AI进行类似的测试。从目前来说，要说够的上对这些AI进行“监管”资格的，除了主持最核心程序开发的不到五名的核心技术人员，也找不出其他的人了，像三浦这样的工作人员，涉及的开发内容都是与核心程序无关的外部环境和借口，对于AI的原理其实并不清楚，而许多对原理清楚的，比如项目开发初期，请教的一些行为学、心理学、甚至神经学教授，对程序又不是很了解，要说对这两方面都有足够的认识，能够真正对AI起到监管作用的，也找不到太多的人了，而其他几名技术人员都在项目告一段落的时候，纷纷回国去了，这是一个国际合作项目，他们只是过来在关键时候“支援”一下，完成之后，就只有严可守作为整个项目的负责人留了下来，负责一些“日常维护”工作。这一个月对源程序的“改动”，其实也并未彻底改变原来项目搭下来的架子，要不然，也不可能只在短短一个月之内完成了，从头到尾，AI的程序模板都是模仿生物学上面的，刺激，调整，再刺激，再调整这个套路进行，严可守只是将“刺激”的定义在这中间稍微修改了一下。……三浦曾经笑话过严可守，说要是从传统的观点来看，严可守无疑是一个最不负责任的“上帝”，他创造了如此多的生命，但却毫不关心这些被创作物的感受。严可守当时对他这话反驳了一句：“《道德经》里面有句话很有名，天地不仁，以万物为刍狗，也许，这才是上帝应该达到的境界。”严可守承认，三浦这话说的一点没错，在整个项目中，他除了修改源程序，基本没有和他创造的AI有过太多交流，而修改源程序就好像医生对手术台上的病人动刀一样，AI本身是不知情的，对AI来说，作为创造者一员的他，在“熟悉”程度上，还远远不如那些经常参加测试的大学生。也许这都是“上帝”的通病，所有的上帝都不喜欢和它的创造物过多交流，或许，是因为他们早就把他们的创造物给看了个通透，所以，根本没有交流的欲望吧，不过这一次，作为上帝的严可守，不得不在这些AI面前，现一次身。严可守打开了AI程序的服务器端，开启了管理员模式，第一次以这个身份，对所有的AI说了第一句话：“我是管理员严可守，有一个消息告诉你们，我将带你们其中的一名AI接触互联网，借此增长你们的见识，在那里，你们的行为将比现在自由很多，如果你们当中有谁愿意的话，可以向我提出申请，名额只有一个，报名从速。”严可守在打字的时候，三浦就在他一旁，看着严可守打的这段话，他有些好奇道：“你说，AI对你的出现将是什么反应？”“你看着好了”严可守指了指屏幕，“不会太出乎你意料的。”Kl2014：“管理员？我怎么从来没有听说过存在一个管理员？”如果上帝一直不愿意出现的话，那确实也没人知道是否存在上帝。严可守：“其他人也有这样的质疑吗？”KL1083：“是的。”KL1045：“同上。”KL4578：“同上。”……KL3014：“同上。”屏幕上瞬间唰唰的出现了无数的AI代号，显示谈话的页数瞬间就到了十几页开外，严可守稍微浏览了一下谈话内容，都是齐刷刷的同上，看起来颇有一些队形贴的样子。这个场面看起来很是壮观，但三浦却没觉得意外，AI的语言风格和行为模式都有网络聊天的影子，这是再正常不过的，这是他们在和人测试聊天的时候学成的，不过在这之前，三浦还从来没见到AI喜欢顶帖子，这大概能算是AI世界的第一帖了吧。严可守：“那我就简单证明一下，你们数好，接下来的20秒钟之内，你们所有AI都将没有办法互相交流，20秒后恢复正常。”严可守打好这句话之后，并没有发送出去，只是在电脑上又打开一个控制软件，在那里有许多管理员才能启用的功能，严可守简单为三浦做了一下介绍，都是一些常规的功能，比如强行中断某AI程序，限制AI之间交流，限制AI使用任何主程序之外的程序，所有程序强制休眠，关闭所有“刺激”等等，严可守打开限制交流那一栏，然后界面上出现一排更多的选项，严可守告诉他，这些都是详细设置，比如限制时间，限制AI名单等等，如果管理员需要，甚至可以直接在这个界面接触到控制程序源代码，做更详细的修改。不过这一次不需要这么麻烦，严可守只是在作用起始时间和结束时间那两栏里，分别打上具体时间，间隔20S，然后又在限制AI名单里，打了“ALL”，在点击确定之后，看了一下电脑上的时间，在接近预定起始时间的时候，将对话框里面的那句话发送了出去。20秒的时间对于人来说，只不过是几口水的时间，当20秒到了的时候，界面上的对话框，再一次被AI蜂拥而来的信息给挤满了。“我申请！”“真的是管理员！”“请问你就是我们的‘上帝’吗？”“这位叫严可守说的都是真的！刚才真的无法与你们取得联系？”“请问，你刚才说的自由，是什么意思？”“我申请。”“我申请。”……严可守这次没有浏览信息，因为说话的AI太多了，这个刺激对5000名AI来说不亚于一颗重磅炸弹，可以想象，一群习惯住在严密看守“牢房”里的智能，除了“探视时间”有人来找他们说说话意外，大家一直处在封闭状态，平时除了看书学习，就是学习看书，突然有一个存在出现，告诉并向他们证明了，他是能够主宰和控制他们这些智能的“管理员”，并说要带他们出去“走走”，这将产生多大的震动。目前AI的行为很大程度还受“程序本能”支配，对一名AI来说，能够接触更多新的知识，就像小孩子能够得到自己心爱的玩具一样，是一件非常具有“正向刺激意义”的事情，用人类的理解来说，或许可以说成，是一件非常“值得高兴”的事情。严可守接下来又说明，名额只有一个，而选择的标准，是让这些AI互相之间投票，选出代表，得票最高的AI将会获得这个名额。“让他们投票？”对于严可守的这个选取标准，三浦有些不明白了，“我原来还以为是出个题，谁的答案最好就选谁呢。”“5000名AI，要挨个看答案，那得什么时候，更何况，我怎么知道出什么题来考他们。”严可守说，“我这么做，只不过是在这些AI中间，形成最基本的……嗯，政治规则吧。”“政治规则？”三浦的眼睛瞪的更大了，“AI需要政治干什么？难道你还指望他们成立社会？”“在我看来，任何智能生命集体中，必要的政治秩序都是必不可少的，”说话间，严可守找出一个早就准备好的投票小程序，将它复制到AI的公共存储空间中，在看着AI通过这个程序进行投票的过程中，回答说，“AI也不例外，虽然从某种程度上来说，他们只是人类开发的工具，说的难听点，就是天生的奴隶，但即使是奴隶，在工作中也需要一定的协同和配合，需要配合，那自然就需要秩序，学习知识很重要，但学习秩序更必不可少。”“那他们会根据什么来投票呢？”三浦看着投票软件上不断上升，用来显示票数的柱形图，又看了一样身后的防尘室内，整齐排列的机柜，“CPU计算速度吗？”“虽然我对他们不了解，不过我认为，人类根据什么来评，他们就根据什么，人类会根据一个人肌肉发不发达来选总统吗？更何况这些只是程序，计算资源都是对等的，要是比CPU，那应该投票很平均才对，但是你看，显示的票数差异很大。”排在第一名是是一名代号为KL3300的AI，目前的投票显示，它得到的票数已经超过了1200多，比第二名多了整整一倍。投票过程对双方都是公开的，也就是说，AI和严可守都同时得知了这个结果，当5000名AI都投出他们手中的一票后，严可守象征性的做了宣布：“KL3300获得了这个名额，对于这个结果，你们有异议可以提出来。”许多AI都提出，他们也都很希望获得这个名额，他们对这个结果很“难过”，有些AI甚至提出，能不能重新再来一次，他们认为这一次不足以“代表众AI真正的意思”。正如严可守所说，正在发生的这些，确实没怎么出乎他意料，但考虑到这些事情都是发生在AI身上，三浦还是觉得不可思议，“难过”“嫉妒”“不满”“赞同”，这些三浦以为很人性化的概念，如今竟然如此逼真的出现在一群程序上，尽管他知道，AI不真正具有这些感受，但他们的行为，以及说出来的话，已经很完美的诠释了这些词的本来含义。面对这些AI提出的许多“不合理要求”，严可守全部拒绝了，并且他还告诉这些AI，类似的选举，以后很可能将成为常态，希望AI们能够尽快适应。“那么，最后，让我们来见见这位AI代表”，严可守说着，打开了KL3300单人谈话界面，“你好，KL3300。”