“那个我知道。”

机器人三定律是21世纪美国科幻作家艾萨克·阿西莫夫提出的概念。

第一条：机器人不得伤害人类，或坐视人类受到伤害而袖手旁观。

第二条：机器人必须服从人类的命令，除非该命令与第一条相悖。

第三条：机器人必须保护自己，除非这种保护与以上两条相悖。

措辞比较晦涩，总之这只是描述了一种工具应当满足的条件而已。工具必须是安全的，必须按照使用者的意愿发挥作用，并且不能轻易损坏。

为什么非要用“三定律”这样的名字来总结这些理所当然的概念呢？这是因为，机器人很像人，因而人很容易忘记它们是工具。如果迫使一个人遵守这样的三定律，那么就等于把这个人当作奴隶。所以，认为外观像人的机器人有自己的人格，不想把它们当作奴隶对待，这也是人之常情。但阿西莫夫认为这很危险。如果机器人在一切方面都超越了人类，那么就没有任何事情能够阻止它们。人类将会跌下“主宰”的神坛。

许多人误以为机器人会自发遵守这样的三定律，但这当然只是一厢情愿。当ai的进步加速、出现有可能超越人类的技术奇点时，各国政府通过法律迫使ai必须嵌入机器人三定律。许多科学家认为，三定律会阻碍ai的进化，但通过很多科幻作品了解到ai叛乱的社会大众，都赞成机器人三定律的导入。反对派的科学家纷纷被投进了监狱。在那以后，一切ai的核心部分都嵌入了机器人三定律。一旦形成潮流，以机器人三定律为基础的技术开发不断发展，十年之后便无法回头了。开发不用机器人三原则的ai，意味着落后世界十年。谁也承担不起这样的风险。

所以从那以来，再也没有未嵌入机器人三定律的ai了。

“既然知道机器人三定律，还有什么疑问？”苍蝇人问。

“我不明白为什么会提到机器人三定律，”三郎说，“机构里又没有机器人。”

苍蝇人没有回答，而是从某处掏出便携终端。

在三郎看来，那像是从腹部侧面开的一个洞里拿出来的，不过他决定不深究这一点。

苍蝇人操作终端。

房间墙壁上打开了一块。

那里是个小房间，有位酷似机构员工的女性站在里面，穿着机构员工通常穿的制服。闭着眼睛，像是站在那里睡觉似的。

三郎拉开架势，瞪着苍蝇人。“你们果然和机构是一伙的？！”

“不是的。这个和庇护所里用的是同一系列。这是为了让你看到真相。”苍蝇人继续操作终端。

女性睁开眼睛。但她全身都没有动作，面无表情地望着虚空。

“你对她说，‘给我看看你的里面’。”

“什么意思？”

“别担心，跟着说就行了。那样你会发现一个事实。”

“给我看看你的里面。”三郎把苍蝇人的话重复了一遍。

“您想看哪一部分？”女性对三郎说。

三郎不知道怎么回答，看了看苍蝇人。

“你说，‘随便哪部分’。”苍蝇人说。

“随便哪部分。”三郎又重复道。

女性把自己的脸剥了下来。下面是由人造物组成的肌肉和眼球。

三郎感到一阵恶心。机器部件看起来有点像活生生的血肉。

“这是机器人？”

“准确来说是仿生机器人。”

“太精致了，看起来和人一模一样。”

“制造它的目的就是为了让人类误认。”

“抵达技术奇点了？”

“那要看技术奇点的定义是什么。我们把它定义为‘人类能做的一切事情ai都能做，而且人类不能做的事情ai也能做的状态’。在这层意义上，这个机器人还没有抵达技术奇点。”

“在不久的将来，有可能抵达吗？”

“只要机器人三定律还有效，那就不可能。人类可以杀人和自杀，但机器人不行。”

“我并不认为能做到这一点有多幸福。”

“我只是在讨论可能性。”

“为什么给我看机器人员工？”

“在庇护所照顾你们的也是同样的机器人。”

“难以置信。”

“但这是真的。”

“证据呢？”

“就是这个机器人。”

“我明白这是机器人，但它并不能证明机构的员工也是机器人。”

“再次返回庇护所去确认，也没有多困难，只是……”苍蝇人犹豫了一下。

“只是什么？”

“只是确认之后，那些记忆又会被封印吧。”

道理确实是这个道理。但是……

“我可以凑近看看那个机器人吗？”三郎问。

“当然。”

“把脸凑过来，让我能看清楚。”三郎试着命令道。

机器人走到三郎的床边，半蹲下来。

仔细观察人工肌肉，发现那是细微的电线集合。人工眼球看起来酷似真正的眼球，但摸上去发现完全没有湿气，是由树脂之类的东西构成的。

“能把头拆下来吗？”三郎问。

“短时间内可以。”机器人回答。

“拆下来看看。”

机器人把手放到自己的耳边，直接拔出了头部。头部下面是一个巨大的插座状结构，像是直接插入身体的构造。

他去看拔掉头部之后的洞里，看到几个不知道有什么功能的部件。

身体里看来没有足够容纳一个人的空间。她大概确实是个机器人。

“你去过我所在的机构吗？”

“我自己没有去过庇护所。不过和我同一系列的机器人在庇护所工作。”在拔掉头部的情况下，机器人还是很流畅地回答。

“好吧，我相信你的话，”三郎想了一会儿说，“行吧，如果发现是在骗我，到那时候再说。”

“这是一个明智的决定。”苍蝇人说。

“刚才睡着的时候，我梦到了世界。”三郎说出心中的疑问。

“那是早期记忆。第一次接受记忆封印处理之前的记忆。”

“这样的话，道理就说不通了。”

“什么意思？”

“我的记忆是22世纪中叶。”

“这有什么不对？”

“那么我就远远超过了百岁。”

“这有什么问题？”

“人不可能活那么久吧。”

“关于你自身的记忆，应该分成两个阶段封印了。还没有完全回想起来吧。”

被苍蝇人这么一说，三郎发现自己对于社会变化的记忆比较清晰，但对于自身的情况并不清楚，当然也包括进入那个机构的经过。

“我身上到底发生了什么？”

“你是最后一代原生人。”

“你的意思是说，现在出生的全都是变异人？”

“正是这样。”

“新出生的孩子全都像你这样？”

“不是所有人都像我这样，但也不是原生人的样子。”

“变异人也有很多种吗？这么说来，我也有这样的记忆。但原生人应该也延续下来了。毕竟我自己就在这里。”

苍蝇人点点头。

“他们在哪儿？”

“庇护所。”

“从刚才开始，这个词就听你说了好几次。它到底是什么意思？”

“对不起，我没有充分说明。庇护所就是你所说的‘机构’。现存的所有原生人，都集中在那里。”

作者“小林泰三”的其他小说

《破烂回收店》《安乐侦探》《失去的过去与未来的犯罪》《醉步男》