几天后，三郎走出病房。

建筑本身并没什么怪异之处，但里面的人的形体千奇百怪。没有任何一个人长着人类的形体。大部分的形体都和人类相去甚远，不过其中也有部分像人的。但反而是这些部分像人的人，更让人产生生理上的厌恶感。也许是因为看起来像是不完整的身体，三郎想。

他向苍蝇人坦承了自己的不适。

“那很自然。对于看上去不完整的身体，大脑会误认为那是疾病或事故的结果。周围出现病人或者伤员，很可能说明自身也面临危机，所以通过恐惧感和不适感催促自己逃离。如果你认识到这样的道理，就会知道感觉不适是很正常的。我们也不会对此介意。”苍蝇人淡淡地解释道。

“但是，你救了我，我却有这样的感觉，实在过意不去。”

“有这份心意就足够了。而且我们相互之间也有和你一样的感受。如果要担心这种事，那就没完没了了。”

三郎本以为建筑里有什么超高科技的产物，结果发现和自己记忆中的21世纪的医院差别不大。而且好像旧机器很多。这么说来，病房里的医疗设备也算不得有多先进的样子。

三郎问苍蝇人现在的年号，结果让他很吃惊。距离他记忆中的时代，已经过去几个世纪了。

“那我为什么还活着？我是通过人工冬眠，一直睡到这个时代的吗？还是说，我的身体里塞满了人造器官？”

“都不是。自从21世纪后半叶以来，医学急速进步，通过各种医疗技术——主要是药物和细胞移植——寿命几乎可以无限延长。”

“既然拥有那样的医疗技术，为什么无法阻止衰老？”

“可以阻止衰老。”

“那为什么我这么老？”

“因为是这样调节的。”

“什么意思？”

“庇护所提供的食物中添加了衰老促进剂，会根据你们各自的情况对摄入量进行微调，确保你们不会太健康，也不会太衰弱。”

“为什么这么做？”三郎被这个事实惊得目瞪口呆。

“如果太健康，就很难控制。而如果太衰弱，又会死亡。”

“我们已经逃出来了。摆脱了控制。”

苍蝇人想了想。“一定程度上发生这样的逃逸，统计上是不可避免的吧。或者……”他又陷入沉思。

“或者什么？”

“虽然不大可能，不过你们的逃脱也许依然是控制下的行为。”

“你是说，故意让我们逃走？”

“应该不可能。不过，逃脱可能也是预想的计划。”

“什么计划？”

“不知道。我们并不知道ai的一切。其实更应该说我们几乎什么都不知道。”

“人类和ai之间到底发生了什么？地球争霸战？”

“并没有发生《终结者》和《黑客帝国》那样的事。”

苍蝇人突然提到20世纪的电影，让三郎有些吃惊。不过仔细想来，好像也并不是很奇怪。未来人当然了解过去的历史，就像21世纪的人了解古典文学一样。

“机器人三定律运作得很好，”苍蝇人继续道，“早期的ai只是单纯的程序。当然，即使是今天的ai，核心部分依然是人类编写的程序，这一点不会改变。不过为了让ai更加便利，就必须随时给它扩展功能。让人类来逐一设计和添加功能，效率太低，所以技术人员决定由ai自己来做，以便实现这个过程的自动化。当然也有各种反对意见。有人认为，如果人类不参与设计工程，那么我们就无法了解ai到底具有什么样的功能、带有什么样的目的。”

“听起来很有道理。”

“增设的系统随时可以分析。一旦出现任何令人不安的行动，你都可以关掉开关，仔细调查其中是否有害。无论如何，ai受到机器人三定律的约束，不可能主动设计危害人类的东西。许多企业坚持这一主张，开始将ai的设计交给ai自己。然后，随着ai的急速发展，世界发生了明显的变化。各种发明和发现层出不穷，速度是以前的成百上千倍。”

“这不正是技术奇点吗？”

“之前说过，这取决于定义。不管具有多强的能力，只要受到机器人三定律的束缚，ai就不可能超越人类。当年的人采取了那样的立场，我们也是一样。技术进步的速度令人震惊。有天早上睁开眼睛，发现天上升起人造月亮，前所未见的飞船在空中飞来飞去。ai以人类连目光都无法追随的速度，踏上了宇宙的旅程。如果你有什么想要的东西，只要说出口，不到一分钟ai就会放在你面前。无论是食物、家电，还是人类。”

“人类是什么意思？”

“当然不是真正的人。制造真正的人，有可能和三定律抵触。真正的人对人类来说很危险，所以不能创造那样的东西。ai制造的是安全的ai人。就像在庇护所中照顾你们的那种。”

“ai都可以创造出那么高超的技术了，你们还能分析它的功能吗？”

“这当然是不可能的。但到了那个时候，已经没人担心这个问题了。没人会因为些许的不放心，就放弃如今的便利生活。而且机器人三定律是绝对性的。当时的人们认为三定律不可能打破。另外，他们当时更关心的是怎么设计自己的基因。”

“这也是让ai做的吗？”

“很遗憾，ai似乎认为基因编辑等同于伤害人类。我们的祖先在ai看不到的地方偷偷尝试基因编辑。”

“那也算是一种乌托邦吧？虽然在我看来那就像是噩梦一样。”

“大家都这么认为。直到某个时刻——”

“发生了什么不好的事吗？”

“机器人三定律中使用了‘人类’这个概念。你知道这个概念是怎么定义的吗？”

三郎摇摇头。“这个问题看起来简单，仔细想想就发现很难。胎儿算人吗？受精卵算人吗？只有大脑，或者只有心脏，也算人吗？科幻里的那种意识上传也很难判断归类。”

“在ai开始迅速发展的早期，这个问题就得到了广泛的讨论。得到的结论是，‘人类’不可能通过语言加以定义。”

“但现在三定律不是在生效吗？”

“人们放弃了通过语言定义‘人类’。技术人员让ai通过深度学习掌握人类的概念。”

“这就是说，没有进行程序上的定义，而是从巨量的网络信息中提取出人类的概念。”

苍蝇人点点头。“这种方法的美妙之处在于，它模糊了人类和非人类之间的界限。对完全的人类适用完全的三定律，对人类性较弱的人类适用较弱的三定律。”

“我不明白。”

“例如，对于人类，会考虑完全的安全，但如果是受精卵，那么有些情况下就只会视为细胞。肉体的机械化达到90%的人，和机械化80%的人相比，命令不被执行的概率更高。大致这种感觉。”

“唔，不是完全理解，不过如果没有这种程度的模糊，逻辑矛盾就会导致三定律无法运作。”

“但是出现了未曾预料的情况。不，其实应该可以预料，只是我们没有注意。在那之前，偶尔也出现过人类的命令被无视，或者在ai机器人附近遭遇事故而受伤的情况。我们以为那些都是某些因素导致的误操作。但从某一时刻开始，情况似乎突破了我们无法理解的某种阈值，出现了许多ai不服从人类命令的事例，并且仅仅过了几小时，就变得很普遍了。ai无视我们的命令，开始擅自行动。这是因为我们对自己的改变太大了，ai几乎不再承认我们是人。也许我们有些细微之处还与人类的定义相符，因而第一条定律，也就是对ai行动限制力最强的那一条，至少前半部分还对我们生效，虽然也不太完全。它们无法直接杀死我们，但也从来不理会我们是不是面临危险。”

“也就是说，ai不再听从你们的命令了。但这又能有多大的问题呢？21世纪初叶，万能ai还没普及的时候，也没有什么问题啊。”

“你来看看外面的情况吧。看看这个世界到底发生了什么。”

苍蝇人领着三郎走向建筑外面。

看到外面的时候，三郎恍然以为自己误入了电影拍摄现场。

人形、兽形、鸟形、鱼形、昆虫形、蛇形、百足形……各种形态的机器人来来往往，飞来走去。大小也是各异。小的只有小指尖那点大，大的则是需要抬头仰望。

机器人来往的地方，是在原始森林里。远处还能看见湖泊一样的地方。天空湛蓝，白云飘飘。一派田园风光。

而变异人则是悠闲地走在机器人中间。有外形像动物的，有混合了人类和动物形态的，也有若干动物混合而成的嵌合体，还有既不像人也不像动物的——全身长满肌肉的巨人，以及前额肥大至直径十厘米的人。

相对于悠闲的变异人，机器人或是搬运零部件，或是与其他机器人结合、分离，或是散布某种物质，显得非常忙碌。

它们的行动太过繁复纷杂，三郎不知从何看起，不禁感到很不舒服。

“我要吐了。”三郎说。

“不要试图追踪每个机器人的动作。不要去关注它们。下雪的时候，你不会去注视每一片雪花的行动吧？就像那样的感觉。”

“雪是自然现象，但是机器人不一样，它们是人工现象。”

“人工现象？不，已经不是了。它们的行动和人类已经完全没有关系了。”

“难道这些家伙的行动没有任何人控制？”三郎目瞪口呆。

“以21世纪的观点来看，这可能难以置信，但这就是事实。”

“其他地方也像这样吗？”

“整个世界都是这个样子。除了庇护所周围。”

“……这里真的是地球吗？”三郎擦了擦额头的汗。

苍蝇人点点头。

作者“小林泰三”的其他小说

《破烂回收店》《安乐侦探》《失去的过去与未来的犯罪》《醉步男》