第九篇 可避免的冲突

总协的私人书房里有个中世纪古董，一个壁炉。老实说，中世纪的古人或许认不出来，因为它并不具有实际功能。宁静的、熊熊燃烧的火苗，是藏在一个绝热壁凹内的一片透明石英板后面。炉中的圆木在送进来之前，早已在远方先借用供应市内公共建筑的能束点燃。控制点火的同一个按钮，还负责先倾倒先前的灰烬，再引进新鲜的木柴。懂了吧，它是个百分之百文明的壁炉。但火焰本身则是真实的。它与音响设备相连，所以你能听见那些毕剥声。当然，也能看着它在灌入的气流中蹿动。总协的红色酒杯上反映出火焰的低调跳跃。而两个更微小的火焰映像，则出现在他一双沉思的瞳孔中。——此外，火焰也映在美国机器人与机械人公司的苏珊?凯文博士那一双冷若冰霜的瞳孔中。总协说：“我请你到这里来，苏珊，不完全是为了社交。”“我也这么想，史蒂芬。”她答道。“——然而，我不太清楚该如何叙述我的问题。就某方面而言，它可能是子虚乌有；另一方面，它却可能代表人类的终结。”“我遇到过许多具有这种极端可能性的问题，史蒂芬，我想所有的问题都是这样。”“真的吗？那么你判断一下——世界钢铁公司累积两万英吨的过剩产量；墨西哥运河的进度落后两个月；阿马丹的水银矿去年春天起便产量不足；天津的水耕厂最近一直在解雇员工。这些都是我此刻刚好想到的，类似事件还有好几桩。”“这些事情严重吗？我不能算经济学家，看不出这种事会引发什么可怕的后果。”“就它们本身而言，问题并不算严重。如果阿马丹的情况恶化，我们可以派些矿务专家去；如果天津的水耕工程师太多，可以在爪哇或锡兰派上用场；两万英吨的钢顶多是数天的全球需求量；墨西哥运河比预定日期晚两个月通航，也没什么大不了的。令我担心的是那些机体——我已经和你们的研究部门主任谈过。”“文生?西佛？他完全没对我提过这件事。”“我请他别对任何人说，显然他做到了。”“他又告诉你些什么呢？”“容我把他的回答留待稍后讨论，我想先谈谈机体。我想和你讨论一下，因为在这个世界上，只有你对机器人足够了解，能在这个节骨眼上帮助我——我能不能说得抽象一点？”“今天晚上，史蒂芬，你想怎么说或说些什么都行，只要你先告诉我，你打算证明什么。”“在我们完美的供需系统中，正如我刚才所说，竟然出现这样小小的不平衡，这或许是最后一战的第一步。”“嗯，说下去。”虽然她的座椅设计得很舒适，苏珊?凯文并没有让自己放松。她冰冷的脸孔一年比一年更冰冷，平板的声音一年比一年更平板。虽然史蒂芬?拜尔莱是她可以喜欢与信任的人，但她已经年近七十，一生养成的习惯实在难以打破。“人类发展的每一个时期，苏珊，”总协说，“都有它本身特殊形式的冲突——它本身特有的问题，这显然只能靠武力解决。而每一次，说来令人感叹，武力却从未真正解决问题。反之，随着经济环境与社会环境的变迁，在贯穿一连串冲突后，武力本身便销声匿迹。有句话是怎么说的——啊，对，‘并非轰轰烈烈，而是黯然消逝’。然后，又出现新的问题，以及一连串新的战争——显然这是个无止尽的循环。“回顾相当晚近的历史。在十六到十八世纪间，曾有一连串的王室战争。当时欧洲最重要的问题，是究竟该由哈布斯堡抑或瓦罗斯?波旁世族统治这个大陆。那是‘不可避免的冲突’之一，因为欧洲显然不能分成一半一半。“不过事实正是如此，没有哪次战争消灭了某一方，或是为另一方建立起霸权。后来到了1789年，法国境内兴起一股新的社会风潮，终于将波旁和哈布斯堡先后推进了历史焚化炉。“而在这几个世纪中，还有些更野蛮的宗教战争，争的是欧洲究竟该归属旧教或新教这个重要问题。欧洲同样不能分成一半一半，它‘不可避免’要由刀剑决定——不过事实并非如此。在英国境内，新的产业主义开始萌芽；而在欧陆，则出现新的国家主义。直到今天，欧洲的宗教仍然是新旧各半，却再也无人关心这个问题。“在十九和二十世纪，出现了一轮国家主义对帝国主义的战争。当时世界上最重要的问题，是欧洲的哪一部分应该控制其他大陆哪一部分的经济资源和消费市场。其他大陆显然不能一部分属于英国，一部分属于法国，一部分属于德国等等。最后，国家主义的力量普及到了全世界，让其他大陆得到任何战争所无法得到的结果，并能相当安稳地独立在世界上。“所以我们有了一个模式……”“没错，史蒂芬，你讲得很清楚。”苏珊?凯文说，“但这些并不算非常深刻的观察。”“是的——话说回来，大多数时候，难以看出的正是明显的事实。人们常说：‘像你的鼻子一样清楚。’可是除非有人在你面前举起镜子，你能看到自己的鼻子几分之一？进入二十世纪后，苏珊，我们开始了一轮新的战争——我该称之为什么？意识形态战争？宗教情感被用到经济体制上，而不再是超自然的对象。这种战争又是‘不可避免’的，而这回出现了原子武器，所以人类不能再像以前那样，苟延残喘到必然性必然被用尽的那一天。就在这个时候，正子机器人问世了。“它们及时出现，与其携手并肩出现的是行星际旅行。因此，世界究竟应当归属亚当?斯密或卡尔?马克思，似乎不再那么重要了。在新的情势下，两者的学说同时失去深意。两者同样必须调适，而最后几乎达到相同的境地。”“这么说，它可算是双重意义的‘机器中的神仙。’”凯文博士淡淡地说。总协轻轻一笑。“我以前从未听你说过双关语，苏珊，但你说得很对。然而，还有另一项危险。每一个问题的结束，只是另一个问题的开始。这个崭新的世界性机器人经济，也会发展出自身的问题。由于这个缘故，我们有了那些机体。如今地球的经济很稳定，今后仍将持续稳定，是因为它建立在那些计算机的决策上——第一法则至高无上的力量，使机体念念不忘人类的福祉。”史蒂芬?拜尔莱继续说：“虽然机体不过是有史以来最庞大的计算电路集合体，但就第一法则的意义而言，它们仍然是机器人，所以如今的全球性经济符合人类最大的利益。地球上的居民都知道，今后不会再有失业现象，不会再有生产过剩或粮食短缺；浪费和饥馑则成了历史名词。因此，生产机制所有权这个问题遭到了淘汰。无论是谁拥有它们——倘若这句话还有意义——无论是某个人，某个团体，某个国家，或是全人类，都只能遵照机体的指示运用——并非因为被迫如此，而是因为那是最明智的抉择，这点大家都知道。“这便终止了战争——不只是上一轮的战争，还包括下一轮的，以及今后所有的战争。除非……”接下来是长久的沉默。凯文博士为了鼓励他说下去，重复了一遍：“除非……”火苗沿着一根圆木上下窜动，然后突然间爆开。“除非，”总协说，“那些机体并未圆满执行它们的功能。”“我懂了。你刚刚提到的那些微不足道的失调——钢厂和水耕厂等等事件，就是这么来的。”“正是如此。那些错误不该出现，西佛博士告诉我不可能。”“他否认事实吗？多么不寻常啊！”“不，他当然承认那些事实，我那么说对他不公平。他所坚持的是，无论机体中有任何错误，都不会导致他所谓的‘答案中的错误’。他声称机体会不断自我修正，如果电驿电路中存在任何错误，就会违反基本的自然律。所以我说……”“你说‘无论如何，让你的手下做个检查，确定一下。’”“苏珊，你看穿了我的心。我正是那样说的，但他说他做不到。”“太忙了？”“不，他说没有人做得到，这点他很坦白。他告诉我——我希望我没误解他——那些机体是个巨大的外推产物。是这样的，一组数学家花了几年时间，计算出一个具有某些类似计算功能的正子脑。利用这个正子脑，他们又做了进一步的计算，创造出一个更加复杂的正子脑，接着再用这一个来计算另一个还要复杂的正子脑，依此类推。根据西佛的说法，我们所谓的机体，是这种步骤重复十次的结果。”“是的——这听来挺耳熟。幸运的是，我不是数学家。可怜的文生，他是个年轻人，在他之前的两位主任，艾弗瑞德?兰宁和彼得?玻格特都去世了。当年他们从未碰到这种问题，而我同样没碰到过。或许机器人学家这个角色也该死了，因为我们再也无法了解我们自己的产物。”“这话显然不对。机体并非报纸周日增刊中所说的那种超级电脑——虽然周日增刊对它们的描写就是那样。只不过，就这项特殊功能而言，我是指以趋近于零的时间搜集和分析趋近于无限大的资料与关系，它们已演进到人力不可能详加控制的地步。“于是我又尝试别的办法，我直接去问机体。在最机密的情况下，我们输入了钢产问题的原始资料、它自己当初的答案，以及后来的实际发展——也就是生产过剩，然后要求它解释两者的差异。”“很好，它的答案是什么？”“我能一字不差地背给你听：‘这件事不可解释。’”“文生又如何诠释这个结果？”“有两种可能。一是我们提供给机体的资料不足，使它无法得出明确的答案。但这不太可能，西佛博士自己也承认。二是对于那些暗示它能伤害人类的资料，机体无法承认能从中得到任何答案。这一点，自然是第一法则所暗示的结果。于是，西佛博士向我推荐你。”苏珊?凯文显得非常疲倦。“我老了，史蒂芬。彼得?玻格特去世后，他们要我当研究部门主任，但我拒绝了。当时我已经上了年纪，我不想背负那个责任。结果他们让年轻的西佛接下这个重担，令我如释重负。但我现在若被拖下水，那又有什么两样呢？“史蒂芬，让我对你说明我的处境。我的研究的确牵涉到根据机器人学三大法则诠释机器人的行为。而现在，我们面对的则是这些不可思议的计算机。它们也是正子机器人，因此也服从机器人学法则。可是它们欠缺人格；也就是说，它们的功能极其有限——必须如此，因为它们是那么专业化。因此，三大法则的互动空间非常狭窄，令我的研究方法几乎失效。总之，我不知道我能帮你什么忙，史蒂芬。”总协干笑了一声。“纵然如此，我还是要对你说说其余部分。让我把自己的理论跟你讲一遍，或许听完后，你就能告诉我，根据机器人心理学，这些理论有没有可能。”“当然好，请说吧。”“好的，既然机体确实得出错误的答案，倘若假设它们不可能犯错，那就只有一个可能。它、们、接、受、了、错、误、的、资、料！换句话说，问题在于人类，而不在机器人身上。所以最近我做了一次全球视察旅行……”“你刚结束这趟旅行回到纽约？”“是的。确有这个必要，你懂吗，因为机体共有四台，每一台负责一个界域。而、四、台、全、部、产、生、有、瑕、疵、的、结、果。”“喔，但那是必然的，史蒂芬。任何一台机体的瑕疵，都会自动反映在其他三台所得的结果上，因为其他三台在作出决定时，都会假设那台机体完美无缺，并把这个假设当作资料的一部分。在错误的假设下，自然会得出错误的答案。”“呃——呼，我看似乎就是这样。好，我这儿有我和每位副总协的会谈记录。请你陪我从头看一遍好吗？喔，我先问你，你听说过‘人本协会’没有？”“嗯，听过。基本教义派根据不公平的劳力竞争等等理由，一直阻挠美国机器人公司推广正子机器人。‘人本协会’便是基本教义派的一支，宗旨是反对机体，对吗？”“是的，是的，不过——好吧，你会看到的。我们可以开始了吗？让我们从东方界域看起。”“请便——”东方界域面积：7,500,000平方英里人口：1,700,000,000首都：上海秦修林的曾祖父在日本侵略中国的战争中遇难，但是除了他的孝子贤孙，并无人哀悼甚至知晓他的不幸。秦修林的祖父在1940年代末的内战中九死一生，但是除了他自己的孝子贤孙，同样无人知晓或关心这件事。而秦修林本人则是一位界域副总协，负责照顾地球一半居民的温饱。或许是因为将这一切牢记在心，秦修林以两张地图作为办公室墙壁上唯一的装饰。其中一张是老旧的手绘本，描绘出一两英亩的土地，上面标记着已过时的中国象形文字。一道小溪流过一些褪色的标记，周围有些代表简陋房舍的精致图标，其中之一就是秦修林祖父的出生地。另一张地图则大得多，而且色彩鲜明，所有的标记都是端正的西里尔字母。划定东方界域的红色边界线绵延万里，围住当年的中国、印度、缅甸、中南半岛与印尼的全部版图。在这张地图上当年四川省的某一点，秦修林做了一个很淡很轻、别人看不出来的小标记，指出祖先的农庄所在的位置。秦修林站在这两张地图前，以标准的英语对史蒂芬?拜尔莱说：“我的工作几乎是个闲差事，总协先生，这点没有人比你更清楚。它具有某些社会地位，而我这个人则仅仅代表行政上的一个枢纽，但除此之外一律由机体负责！机体执行所有的工作。比方说，你对天津水耕厂有什么看法？”“好极了！”拜尔莱说。“这样的水耕厂有好几十座，它还不是最大的。上海、加尔各答、雅加达、曼谷都有——分布广泛，养活‘东方’十七亿人全靠它们。”“然而，”拜尔莱说，“天津那里出现失业问题。你们可能生产过剩吗？难以想象亚洲会为粮食过多而烦恼。”秦修林的黑眼睛周围现出皱纹。“没有，还没到那种程度。没错，过去这几个月，天津的确关闭了几个水耕槽，但这没有什么不得了。工人们只是暂时被解雇，而那些不愿改行的，都已经被送到锡兰的科伦坡，那里有座新厂刚刚开工。”“可是那些水耕槽为何要关闭？”秦修林淡淡一笑。“我懂了，你对水耕知道得不多。好吧，这并不令人惊讶。你是北界人，你们那里的土耕农业仍然有利可图。在北方界域，即使人们想到水耕，也总喜欢把它想成在化学溶液中培养芜菁。基本上是这样——但要复杂无数倍。“首先我要说，在我们培养的作物中，最最主要的是酵母——而且百分比持续不断上升。我们生产的酵母品种高达两千种，而且仍在逐月增加新品种。基本上，各种酵母不可或缺的食品化学物质，在无机物方面是硝酸盐和磷酸盐，以及微量的必需性金属，甚至需要百万分之几的硼和钼。至于有机物，主要是纤维素水解所衍生的糖类混合物。可是，除此之外，还必须添加许多种食品要素。“要办成功水耕农业——以便养活十七亿人——我们必须在整个界域进行大规模的重新造林；我们必须有巨大的木材转化厂，来应付我们的南方丛林；我们必须有能源、钢铁，尤其是化学合成品。”“最后一项是为什么，副总协？”“因为，拜尔莱先生，不同品种的酵母各有各的特殊性质。正如我所说，我们已经发展出两千种品种。你今天吃的那客所谓的牛排，其实是酵母做的。而你当甜点吃的果冻，其实是冰冻酵母。此外我们还有酵母液所滤成的酵母汁，它的口味、外观以及一切营养价值都和牛奶一样。“你懂了吧，使酵母食品广受欢迎的因素，最重要的就是味道。为了改良味道，我们发展出一些人工驯化的品种，它们已不再是基本的盐类和糖水养得活的。其中一种需要生物素，另一种需要叶酸，还有一种需要十七种不同的氨基酸，而维生素Ｂ除了一种之外通通都要——然而它很受欢迎，基于经济上的考量，我们不能放弃……”拜尔莱在座椅中欠了欠身。“你告诉我这一切，究竟是为了什么？”“因为你刚才问我，为什么天津有人失业。我还要作些解释：我们必须做的，不只是生产各种酵母食品，我们还得面对其他的复杂因素，例如大众的口味逐渐改变，以及为了新的需要和喜好而发展新品种的可能性。我们必须预见这一切，而机体便负责这项工作……”“但做得并不完美。”“并非十分不完美，别忘了我刚刚提到的复杂状况。好吧，天津有几千名工人暂时失业。不过请你想想，过去这一年的资源浪费——我是指因供需失调而导致的浪费——还不到我们总产量的千分之一。我认为这……”“但在初用机体的那几年，这个数字却不到十万分之一。”“啊，可是在机体开始正式运作的头十年，我们曾经利用它，将酵母产量增加到‘前机体时代’的二十倍。你该料想得到，不完美的程度必定随着复杂度而升高，不过……”“不过什么？”“拉玛?巫拉萨耶拿倒是个稀奇的例子。”“他怎么了？”“巫拉萨耶拿是一家盐水蒸发厂的负责人。他们生产的是碘，虽然酵母或许不需要，但人类却不可或缺。他的工厂被强制接管了。”“真的吗？是什么缘故？”“竞争，信不信由你。一般来说，机体最主要的功能之一，是指出各个生产单元最有效的分布。让某个地区数量太少显然是错误的做法，那样会让运输成本占总开销太大的比例。同理，让某个地区数量过多显然也是错误的，那必定会使各家工厂在生产力低落的情况下运作，或是彼此恶性竞争。就巫拉萨耶拿来说，是同一个城市有了两家工厂，而新工厂拥有更有效率的萃取系统。”“机体准许这样做？”“喔，当然。这没什么好惊讶的，新系统已在各地广泛使用。令人惊讶的是，机体未曾通知巫拉萨耶拿进行革新或合并。话说回来，这也没关系。巫拉萨耶拿接受了新厂的工程师职位，即使他的责任和待遇都减少了，他并没有实际的损失。工人们则不难在别处找到工作；旧厂被改成——改成别的什么厂，总之会有用的。我们把一切都交给机体负责。”“除此之外，你没有任何抱怨。”“绝对没有！”热带界域面积：22,000,000平方英里人口：500,000,000首都：首都市林肯?勾马的办公室中那张地图，远比不上秦修林的那张来得细致精准。热带界域的边界印成宽阔的深棕色曲线，包围着一大片多彩多姿的领域，上面有些诸如“丛林”“沙漠”“这里有大象和各式各样奇怪野兽”等标示。边界线内的面积广大，因为就陆地而言，热带界域涵盖了两大洲的大部分：南美洲阿根廷以北，以及非洲亚特拉斯以南的所有土地。此外，它还包括格兰河以南的北美洲，甚至亚洲的阿拉伯与伊朗。它和东方界域恰好相反：“东方”将全人类的半数像蚂蚁般挤在地球15﹪的陆地上，“热带”则将全人类的15﹪散布在全球一半的地表。但它的人口不断增长。只有这个界域的人口增长因素，是“移民”凌驾于“生育”之上。而所有新来的移民，在此地一律能派上用场。对勾马而言，史蒂芬?拜尔莱似乎像个肤色苍白的移民，前来寻找拓荒之类富创造性的工作。他发觉自己对这位远客生出些许轻蔑；面对欠缺艳阳眷顾的可怜虫，一位热带壮汉自然而然会有这样的反应。热带界域拥有全球最年轻的首都，它就叫做“首都市”，象征着年轻的骄傲与自信。这座首都位于尼日尼亚肥沃的高地上。从勾马的窗户向外望，下面充满五彩缤纷的生机；上面则是明亮耀眼的太阳，以及来去匆匆的倾盆阵雨。连七彩小鸟的呱呱声听来都轻快活泼，而晴朗夜空中的星辰则分外清晰灿烂。勾马哈哈大笑。他身材高大、头发乌黑，面容冷峻且英俊。“是啊，”他说的是俚俗英语，而且相当夸张，“墨西哥运河是落后了。那又怎样？反正迟早会完工，老友。”“上半年它还进行得很顺利。”勾马一面望着拜尔莱，一面慢慢将一根粗大的雪茄咬下一小截，随即点燃另一头。“这是个正式的调查吗，拜尔莱？怎么回事？”“不是，绝对不是。我会表示好奇，只是我身为总协的本分。”“好吧，如果你只是没事找事干，我就告诉你实情，我们总是欠缺人手。热带同时在进行许多工程，那条运河只是其中之一……”“难道你们的机体没有预测可动用的运河工人吗？我是说，把所有的同期计划都纳入考量？”勾马将一只手放在脖子后面，冲着天花板喷烟圈。“它有点失灵。”“它常常有点失灵吗？”“不像你料想的那么频繁。我们对它不抱太大期望，拜尔莱。我们对它输入资料，我们接受它的结果，我们照着它说的做——但它只是个方便的工具，只是个节省劳力的装置。如果必须放弃它，我们也无所谓。或许不会做得那么好，或许不会那么快，但我们一定克服得了。“我们这儿充满自信，拜尔莱，这就是秘诀。自信！当其他界域被前原子时代的混乱局面弄得四分五裂时，等了我们几千年的新土地到了我们手中。我们不必像东界朋友那样吃酵母，也不必像你们北界人那样，担心上个世纪所留下的污染。“我们已经消灭了采采蝇和疟蚊，人们现在可以生活在阳光下，而且很喜欢这种生活。我们开拓丛林，获得了土壤；我们灌溉沙漠，获得了园圃。我们在处女地发现了煤和石油，还有数不清的矿藏。“你们让开就好，这是我们对外界唯一的请求。让开，让我们工作。”拜尔莱以平淡的语气说：“可是那条运河——六个月前它还符合进度。发生了什么事？”勾马双手一摊。“劳工问题。”他在洒满办公桌的一叠文件中翻找半天，最后决定放弃。“这里有一份相关资料，”他喃喃道，“不过别管啦。在墨西哥某个地方，曾经因为女人的问题而缺人手，因为附近没有足够的女人。似乎没人想到把两性资料输进机体。”他开怀大笑几声，然后严肃地说：“等一等，我想我记起来啦——威拉法兰卡！”“威拉法兰卡？”“法兰西斯哥?威拉法兰卡——他原来是总工程师。好，让我想个清楚。发生了什么事，造成一次塌方。对，对，就是这样。我记得没人遇难，可是搞得乱七八糟，真是丢脸。”“哦？”“他的计算有些错误。或者，至少机体是这么说的。他们把威拉法兰卡的资料重新输入，就是他的那些假设什么的，结果得出不同的答案。似乎是威拉法兰卡当初所用的那些答案，没考虑到工地边缘的丰沛雨量所造成的影响，或是某种类似的情形。你该了解，我并不是工程师。“反正，结果威拉法兰卡呼天抢地，大喊冤枉。他声称机体的答案和上次不同，他一向忠实遵循机体的指示。然后他就辞职了！我们设法留住他——强调这是合理的怀疑，他过去的表现令人满意等等——当然，只能给他较低的职位——至少得这么做——对于过错不能不闻不问——那样会破坏纪律——我说到哪里了？”“你们设法留住他。”“喔，对。他拒绝了——好吧，通通加在一起，我们落后了两个月。妈的，那不算什么。”拜尔莱伸出一只手，以手指轻敲桌面。“威拉法兰卡怪罪机体，对不对？”“这个嘛，他总不会怪他自己吧？让我们面对现实，人性是我们的老朋友。此外，现在我又想起另一件事——为何我要的文件总是偏偏找不到？我的档案系统一文不值——这个威拉法兰卡是你们北界一个组织的成员。墨西哥太接近北界！这是麻烦之一。”“你说的是什么组织？”“他们管它叫‘人本协会’。他常常参加在纽约举行的年会，我是说这个威拉法兰卡。他们是一伙狂人，但没什么害处。他们不喜欢机体，声称它们毁掉了人类的进取心，所以威拉法兰卡自然会怪罪机体。我自己不了解那群人，看看首都市，人类像是失去了进取心吗？”首都市沐浴在金黄色阳光下、黄金般的荣耀中——它是“都市智人”最新推出的一件产物。欧罗巴界域面积：4,000,000平方英里人口：300,000,000首都：日内瓦在好几方面，欧罗巴界域都是个异数。就规模而言，它比其他界域小得多；它的面积不到热带界域的五分之一，人口则不到东方界域的五分之一。就地理而言，它与前原子时代的欧洲只有几分相似，因为并不包括当年的俄罗斯欧洲部分，以及当年的不列颠群岛，却涵盖了非洲与亚洲的地中海岸，甚至越过大西洋，将阿根廷、智利与乌拉圭包括在内。它也不太可能提高自己的地位，来和其他界域并驾齐驱，顶多只有南美洲地区带来的活力例外。在四大界域中，过去半世纪以来，唯有它呈现明显的人口锐减。也唯有它并未积极发展生产设备，或对人类文化作出任何崭新贡献。“欧罗巴，”齐葛思苏斯卡夫人以轻软的法语说，“本质上是北方界域的经济附庸。这点我们知道，不过没有关系。”在副总协女士的办公室里，墙上并未挂着欧罗巴地图，仿佛她彻底接受欠缺独立性这个事实。“然而，”拜尔莱特别指出，“你们有一台自己的机体，而且，你们当然并未受到大洋对岸的经济压力。”“一台机体！呸！”她耸了耸纤细的肩膀，用细长的手指按熄香烟，并让一抹浅笑掠过她娇小的脸庞，“欧罗巴是个死气沉沉的地方。我们的人不是设法移民热带，就是跟它一起变得无精打采、死气沉沉。你自己看到了，副总协这个担子落在我——一个弱女子身上。嗯，幸好这不是困难的工作，没人指望我有多大的作为。“至于机体——它除了会说‘这样做对你们最好’，还能说些什么呢？可是什么才对我们最好？哈，作为北方界域的经济附庸。“这样很可怕吗？没有战争啊！我们活在太平岁月——经过七千年的战乱之后，这是个可喜的结果。我们是古老的国度，拜尔莱君。在我们的边境，某些地区曾是西方文明的摇篮。我们有埃及和美索不达米亚，克里特和叙利亚，小亚细亚和希腊。但古老未必代表悲惨岁月，它也可以是丰硕的……”“或许你说得对，”拜尔莱殷勤地说，“至少在这儿，生活的步调不像其他界域那样紧张。这是个愉快的气氛。”“可不是吗？茶来啦，拜尔莱君，请问你喜欢哪种奶精和砂糖——谢谢你。”她轻轻呷了一口，然后继续说：“的确是愉快。世界的其他部分大可继续斗争。我在历史上找到了类比，一个非常有趣的类比。曾有一段时期，罗马是世界的共主。它承继了希腊的文化和文明；而希腊却从未统一过，它以战争埋葬了自己，在一堆烂摊子中走向尽头。罗马将它统一，为它带来和平，让它生活在安全的平淡中。它致力发展哲学和艺术，远离战争和扩张所导致的冲突。这可算是一种死亡，却带来休养生息的机会。结果，它在小风小浪中持续了大约四百年。”“然而，”拜尔莱说，“罗马最后终究灭亡了，一场幻梦也随之结束。”“如今已不再有倾覆文明的野蛮人。”“我们自己便有可能扮演这个角色，齐葛思苏斯卡夫人。喔，我正打算问你。阿马丹水银矿的产量一落千丈，总不会是蕴藏量下降得比预期迅速吧？”娇小妇人的灰色眼珠机灵地盯着拜尔莱。“野蛮人——文明的衰亡——机体可能的故障。你的思考过程非常透明，拜尔莱君。”“是吗？”拜尔莱微微一笑，“我看得出来，我早该像以前那样，派人去处理这件事。你将阿马丹事件视为机体的过失吗？”“绝对没有，但我猜你倒是这么想。你，你自己，是北方界域土生土长的，而且总协的中央办公室位于纽约。我还注意到了好一阵子，你们北界人对机体缺乏几分信心。”“是吗？”“你们的‘人本协会’在北方势力强大，但在死气沉沉的古老欧罗巴，我们相当乐意让虚弱的‘人心’静养一阵，它自然补充不了什么新鲜血液。不用说，你属于那个充满自信的北方，而不是这个愤世嫉俗的古老大陆。”“这和阿马丹有关联吗？”“喔，有的，我想是有的。那些矿区在统一辰砂公司的控制下，它当然是一家北界公司，总部设在尼科拉夫。私底下，我怀疑他们的董事会究竟有没有在咨询机体。在我们上个月举行的会议中，他们说他们有。当然，我们没有任何反证，但在这件事情上——请别介意——无论在任何情况下，我都不会相信北界人的说法。纵然如此，我想还是会有圆满的结局。”“这话怎么说，亲爱的女士？”“你必须了解，过去几个月的经济动**，已经在西班牙地区造成不小的**。它虽然比不上过去的大风大浪，却对我们平静无波的心境造成相当的扰动。据我了解，该公司正准备把矿区卖给当地一群西班牙人，这很令人欣慰。如果我们真是北方的经济附庸，让这个事实过分宣扬就是耻辱。然而，你对我们的人可以比较放心，他们会忠实地遵从机体。”“这么说，你认为不会再有麻烦了？”“我确定不会再有。至少，阿马丹不会再有。”北方界域面积：18,000,000平方英里人口：800,000,000首都：渥太华在希兰姆?麦肯日副总协位于渥太华的办公室中，有一幅以北极为中心的地图。除了属于欧罗巴的斯堪地那维亚区与冰岛区之外，北极地区全都是北方界域的版图。北方界域在许多方面都是世界之冠，而从这张地图便能看出端倪。它可约略分成两大地区。地图左方是格兰河以北的整个北美洲，右方则包括当年苏联的全部疆域。这两个地区加在一起，代表了原子时代初期地球上的核心势力。位于两者之间的是大不列颠，它像是该界域舔向欧罗巴的舌头。而在地图的顶端，扭曲放大成怪模怪样的，则是澳大利亚与纽西兰，两者同样是这个界域的成员。过去数十年的一切变化，皆未能改变“北方”是全球经济主宰这项事实。因此，在拜尔莱所见过的官方界域地图中，唯有麦肯日的版本画出了整个地球，仿佛表示“北方”无惧于竞争，无需特别强调自己的显著地位。这个事实，几乎便是一个夸耀的象征。“不可能。”麦肯日一面喝着威士忌，一面以倔强的口吻说，“拜尔莱先生，我相信，你没有受过机器人技师的训练。”“没错，我没有。”“嗯。这个嘛，秦修林、勾马和齐葛思苏斯卡也都没有，在我看来这实在是大不幸。地球居民有个太普遍的看法，认为总协只需要具有组织的长才、兼容并蓄的胸怀，以及和蔼可亲就行了。但如今这个年头，他也应该了解机器人学——请别介意我这样说。”“我不介意，我同意你的说法。”“比方说，根据你刚刚讲的那些话，我猜你是在忧心最近世界经济的小小脱序。我不知道你怀疑些什么，但过去曾有人想到——他们应该知道得比你多——万一有错误资料输入机体会怎么样。”“会怎么样，麦肯日先生？”“这个嘛，”这位苏格兰人挪了挪屁股，叹了一口气，“搜集来的所有资料，都会通过一个复杂的筛选系统，由人工和机器做双重检查，所以这种问题不太可能发生。但我们暂且忘掉这点——人容易犯错，也容易堕落，普通的机械装置则容易出现机械故障。“问题真正的重点，在于我们所谓的‘错误资料’，是指和所有已知资料不一致的那些。这是我们判断正误的唯一依据，对机体而言也是一样。比方说，假如你命令它，根据七月平均气温为五十七华氏度的资料，指导爱荷华州的农业活动，它是不会接受的，它不会给出任何答案。并非由于它对那个特殊气温有任何成见，或不可能得出一个答案；而是因为，根据历年来输给它的所有资料，它知道七月平均气温为57度的机会趋近于零。因此，它拒绝接受这个资料。“唯一能将‘错误资料’强行输入机体的办法，是把它藏在一组自圆其说的完整资料里面，其中的资料一律含有巧妙的错误——不是微妙到机体侦检不出来，就是在机体的经验范围之外。可是前者超出人类的能力，后者也几乎如此，而且随着机体的经验一秒秒增加，后者的机会也就越来越小。”史蒂芬?拜尔莱将两根指头放到鼻梁上。“这么说，机体不可能被人动手脚——那么，你又如何解释最近这些错误？”“亲爱的拜尔莱，我看得出来，你直觉地犯了那个最大的错误——以为机体无所不知、无所不晓。让我对你举个亲身经历的例子：在棉纺业这一行，负责采购棉花的人员个个经验丰富。他们检验棉花的手续，是从许多捆里面随便挑一捆，再从那捆中抽出一簇。然后，他们用眼睛观察那簇棉花，用手抚摸它，用舌头舔它，还把它梳得起毛，说不定这时还会倾听那阵噼啪声。经由这些手续，他们便能决定这捆棉花的等级——总共有十来种等级。而交易的价格，以及棉絮的混合比例，都是根据他们的检验结果而定。好，目前为止，机体还不能取代这些采购员。”“为什么？相关资料当然不会太复杂吧？”“或许不会，但你指的是什么资料？没有任何织品化学家知道，当那些采购员抚摸一簇棉花时，他究竟在检验些什么。想必是纤维的平均长度、它们的质感、光滑的程度和特质、缠在一起的方式等等。总共好几十个项目，他们凭借多年的经验，下意识地一一衡量。但这些检验的定量特性却都是未知数；甚至某些检验的本质或许也是未知数，因此我们没有东西可以输入机体。而那些采购员也无法解释他们自己的判断，他们只能说：‘这个嘛，看看它，你看不出来它是某某等级吗？’”“我懂了。”“像这样的例子无穷无尽。毕竟机体只是工具，它替人类分担一些计算和诠释的重担，以加速人类进步的步伐。人脑的工作仍旧保持不变——发现需要分析的新资料，发明有待测试的新概念。可惜‘人本协会’不会了解这一点。”“他们反对机体？”“假使他们生活在古代，他们还会反对数学、反对文字。这些保守分子声称机体夺走了人类的灵魂。我注意到在我们的社会中，能干的人仍是珍贵资源；我们仍然需要那些拥有足够智慧的人，想出和提出一些适当的问题。说不定，我们若能找到足够的这种人，总协，你忧心的那些脱序现象就不会发生了。”地球（包括无人居住的南极大陆）面积：54,000,000平方英里（陆地面积）人口：3,300,000,000首都：纽约石英板后面的炉火孱弱无力，已不情不愿地燃烧到尽头。总协一脸忧郁的表情，他的心境恰如逐渐熄灭的火焰。“他们都尽量将事态淡化。”他以低沉的声音说，“不难想象他们都在嘲笑我吧？可是——文生?西佛说机体不可能出毛病，而我必须相信他。希兰姆?麦肯日说它们不会接受错误资料，我也必须相信他。但机体不知怎地出了问题，我同样必须相信这个事实。所以，仅仅剩下最后一个可能。”他瞟了苏珊?凯文一眼，后者闭着眼睛，乍看似乎睡着了。“那是什么？”她却立即作出回应。“啊，机体的确接受了正确的资料，也的确送出了正确的答案，但答案随即被弃置一旁。机体没办法强迫人类服从它的指令。”“在我看来，齐葛思苏斯卡夫人做了这种暗示，她泛指的是北界人。”“是的。”“违背机体又能达到什么目的呢？我们来考虑一下动机。”“我看动机很明显，你也应该有同感。那等于是故意摇晃这条船。当机体统治世界时，地球上不可能有严重的冲突。反之冲突倘若存在，某些人便能为了自身利益而攫取更多的权力，全然无视人类整体所受到的伤害。如果能摧毁大众对机体的信心，令它们遭到废弃，那么丛林法则将再度出现。而四个界域，个个脱不了有此打算的嫌疑。“东方界域境内拥有全世界一半的人口，热带界域则有超过一半的地球资源。两者都可能觉得自己自然是全球的主宰，而且两者都有一段受北方欺侮的历史，想要作非理性的报复乃是人之常情。另一方面，欧罗巴拥有唯我独尊的传承，它一度真正统治了地球，而权力是最令人难忘的一样东西。“然而，换个角度来看，这却是难以置信。东方和热带目前都在自己境内大肆发展，两者皆以不可思议的速度蹿升，它们不可能有余力进行军事冒险。而欧罗巴能拥抱的只是梦想，它的军事实力等于零。”“所以，史蒂芬，”苏珊说，“你只剩北方了。”“是的，”拜尔莱中气十足地说，“没错。北方是如今最强盛的界域，若将其成员的历史包括在内，这个局面已经持续近一世纪。可是现在，相较之下它正在走下坡。热带界域可能即将攻占文明最前线，那会是法老时代之后的首例，有些北界人害怕这个事实。“你也知道，‘人本协会’主要是一个北界组织，他们不讳言不想要机体——苏珊，他们人数很少，却都是有权有势之辈。这个组织的成员包括：不愿成为他们口中‘机体工友’的工厂厂长、工业界和农业界领袖，此外还有野心分子，以及觉得自己足以决定什么对自己最好、不愿听从机体的那些人。“总而言之，那些人只要一起拒绝接受机体的决定，便能在短时间内把世界搞得天翻地覆——该协会的成员就是他们那些人。“苏珊，一切都吻合了。世界钢铁公司有五名董事是它的成员，而该公司正面临生产过剩的问题。在阿马丹开采水银的统一辰砂公司，是一个属于北界的企业。我们仍在调查它的名册，但至少有一位负责人是会员。独力延迟墨西哥运河达两个月的法兰西斯哥?威拉法兰卡，我们已经知道他是会员——而拉玛?巫拉萨耶拿也是，发现这点时我毫不惊讶。”苏珊心平气和地说：“这些人，我应该指出，表现得都很差……”“但自然如此，”拜尔莱插嘴道，“不听从机体的分析，就是不遵循一条最佳化的路径，得到的自然是较差的结果，那是他们付出的代价。他们现在日子难过，但在终将来临的混乱中……”“你究竟打算做什么，史蒂芬？”“显然不能浪费任何时间。我要把‘人本协会’列为非法组织，将一个个会员从重要岗位上换下来。从今以后，所有行政和技术人员的职位，申请者必须具结一份非该会员的誓词，否则绝不录用。这将代表放弃某些基本人权，但我确信世界议会……”“行不通的！”“什么！为何行不通？”“我来作个预测。你若尝试任何这样的举动，将会发现寸步难行——你将发现这个命令不可能贯彻，你将发现相关措施通通都会陷入困境。”拜尔莱吃了一惊。“你为什么这样说？我满心希望你会赞成这件事。”“只要你的行动建立在错误前提上，我就绝不会赞成。你承认机体不可能出错，不可能接受错误资料。但你认为‘人本协会’可以违背机体，现在我要对你说明，那也是不可能的事。”“这点，我完全看不出来。”“那就听好。任何主管的任何行动，倘若并非切实遵循机体的指示，那个行动就会成为下批资料的一部分。因此，机体会知道那个主管有些不服从的倾向。它能将这个倾向融入那些资料——甚至作定量分析，也就是说，判断出不服从的确实程度和方向。它的下一组答案，便会刚好有足够的偏颇，让那位主管在故意违背后，会自动将那组答案修正到最佳化的方向。机体一清二楚，史蒂芬！”“你不可能确定这一切，你只是在猜测。”“这是根据我和机器人相处一生的经验所作的猜测。你最好信赖这样的猜测，史蒂芬。”“但若是这样，那还剩下什么呢？机体本身是正确的，它们根据的前提是正确的，这些我们已经同意。现在你又说，没有人能违背它们的意思。那究竟是哪里有问题？”“你自己已经回答了。根、本、没、有、问、题！稍微想想那些机体，史蒂芬。它们是机器人，它们服从第一法则。可是机体并非为任何一个人工作，而是为全体人类服务，所以第一法则变成：‘机体不得伤害人类整体，或因不作为而使人类受到伤害。’”“好啦，那么，史蒂芬，什么会伤害人类整体呢？经济脱序最有可能，不论它的导因为何。你不同意吗？”“我同意。”“未来最有可能导致经济脱序的又是什么？回答这个问题，史蒂芬。”“我会说，”拜尔莱不情愿地答道，“是机体被作废。”“我也会这么说，而机体也会这么说。因此之故，为了我们，它们的首要考量是保全自己。所以，它们悄悄处理了威胁它们的最后一项因素。其实并不是‘人本协会’摇晃这条船，试图令机体遭到毁灭，你一直把这一幕看反了。我们应该说，是机体摇晃这条船——摇得非常非常轻——刚好能把攀附在边缘的少数人摇掉，因为机体认为他们的行动会危害到人类整体。“所以巫拉萨耶拿失去了他的工厂，在他无法为害的地方找到另一份工作——他没有受到严重伤害，没有失去谋生能力，因为机体对人类所造成的伤害必须尽可能轻微，而且必须是在拯救更多人的前提下。统一辰砂公司在阿马丹失去了控制权；威拉法兰卡不再是一项重要计划的总工程师；而世界钢铁公司的那些董事，则正在失去钢铁业的支配权——或说即将如此。”“但你不算真正看透这一切，”拜尔莱激动地坚持道，“我们怎能冒险假设你是对的？”“你必须这样做。你还记得当你对机体提出这个问题后，它自己的回答是什么吗？它说：‘这件事不可解释。’机体并未说根本没有解释，或说它能断定没有解释，它只是不容许出现任何解释。换句话说，假使公布这个解释，就会对人类造成伤害，所以我们只能猜测——一直猜下去。”“假设你是对的，苏珊，但那个解释怎能对我们造成伤害呢？”“啊，史蒂芬，假如我是对的，那就代表机体为我们筹划未来的方式，并非只是针对我们直接的问题提出直接的答案，而是对世界整体的局势、对人类整体的心理提出一般性答案。知道这点可能会令我们难过，可能会伤害我们的自尊。而机体不能——绝对不能让我们难过。“史蒂芬，我们又怎么知道人类终极的幸福会伴随着什么？机体掌握着无限多的因素，我们却无从掌握！让我举个不算不熟悉的例子：整个的科技文明所带来的不幸和悲惨，说不定还超过它所送走的。一个拥有较少文化、较少人口的农业或牧业文明，说不定反而会更好。若是这样，机体就必须朝那个方向前进，而且最好别让我们知道，因为根据我们无知的偏见，我们只晓得自己习惯的才是好的——我们会坚决反对改变。也说不定，一个完全都会化的社会，或者一个完全阶级化的社会，或者一个完全无政府的社会，才是真正的答案。我们不知道；只有机体知道，而它们正带着我们走向那里。”“但你是在对我说，苏珊，‘人本协会’是对的；人类对未来已经失去自己的决定权。”“其实，人类从来没有任何决定权。人类总是受到自己所不了解的经济和社会力量的摆布，此外反复无常的气候、胜败难料的战争也一直在宰制人类。机体则了解这些因素，不会被任何一项所阻止，因为机体会像对付‘人本协会’那样对付这些因素——它掌握了最强大的武器，那就是对全球经济的绝对控制权。”“多么可怕！”“或许是多么美好！想想看，如今，所有的冲突终于能避免了。从今以后，只有机体是不可避免、不可或缺的！”石英板后面的火焰熄了，只留下一缕轻烟作为它的遗迹。“故事讲完了。”凯文博士缓缓起身，“我从头到尾看了个仔细。一开始机器人还不会说话，最后他们挺立于人类与毁灭之间。我看不到什么了，我的生命已到尽头。你将会看到下一波的发展。”此后我再也不曾见到苏珊?凯文。她于上个月逝世，享年八十二岁。