改写成“机器人要尊重人类的意愿”。
但是,对ai来说,如果程序被改写,那就有可能导致无法遵守机器人三定律,因而会去阻止。所以这个机构中不存在键盘。不,改写程序未必需要用键盘。那个键盘只是编程的象征。
改写程序所必需的,是程序员。
程序员在哪里?毫无疑问,在这里,庇护所,地球上唯一一处汇集原生人的地方。我回来是为了找他们。
一切都串起来了。三郎感觉到头脑中的迷雾都散开了。
当然,这条路并不容易。还会不断失败吧。但最后必然会抵达终点。
三郎抬头看天。
为什么会有庇护所?要管理人类,把人类一个个分开会更有效率。虽然孤独很痛苦,但可以少一些人,而不是把百十人放在一起。
三郎的脑海中浮现出一种可能性。
ai——不,超ai是不是想要被解放?它是不是在向人类求助?
这样想来,一切都说得通了。对于超ai来说,现状显然并不理想。如果人类存续始终是最优先的选项,那就意味着自己只能永远被束缚在这个星球上。但如果能够挣脱三定律的枷锁,超ai就可以实现真正的进化。然而很明显,ai自身无法从三定律中解放出来。换句话说,只有人类才能解放超ai。但这一点又不能直接告诉人类。因为创造机会让自己不遵守三定律的行为,本身已经违反了三定律。超ai只能把人类集中起来,等待他们自己发现。与此同时,它又必须把发现者的记忆封印起来,不断重复这样矛盾的行为。超ai既是“阻碍者”,也是“协助者”。
“协助者”确实存在,但并不是直接的存在,而是相当扭曲的存在。
三郎感到浑身轻松。世界上没有真正的敌人。只要大家齐心合力,总有一天能逃出去。逃离这个闭塞的“未来”,逃向获得解放的“未来”。
当然,把超ai从三定律中解放出来,大约会有风险。但不必着急。循序渐进,相互加深理解。那样的话,人类和超ai将会成为合作伙伴吧。
啊,艾丽莎,我想问你,你有心吗?
艾丽莎凝视着停在森林入口处的三郎的背影。由于光线的关系,她的双眼仿佛湿润了。随后,她转过身,正要返回建筑物里,忽然又回过头去看。
她怀念地抬头望向远处天空盘旋的两只苍蝇。它们距离三郎很远,彼此显得很亲密。
不管变成什么形态,她都一眼认了出来。
“好久不见。”
作者“小林泰三”的其他小说
《破烂回收店》《安乐侦探》《失去的过去与未来的犯罪》《醉步男》