初始模型回答:“应重新取得授权主体同意。”
沈禾说:“她现在不同意。”
模型停顿了零点四秒:“当前声明与历史价值排序冲突,建议医疗评估。”
顾闻川关小音量。那道年轻声音仍在陈述风险,像一个不会老去的人隔着设备教育他们,为什么当年的紧急选择必须继续。
沈知微终于开口:“小禾,不用跟它争。”
沈禾说:“它在替你签字。”
沈知微说:“它只会说我当时说过的话。”
沈知微的呼吸比模型更慢,也更破。两道相同来源的声音放在一起,差异反而清楚。一个答案完整,一个会疼,会改变,会在说话前先喘息。
沈禾问:“怎么证明谁是你?”
“不需要证明。”沈知微说,“活着的那个有权改主意。”
初始模型立即回应:“目标持续性需要避免短期状态覆盖长期价值。”
顾闻川伸手关闭它。沈禾拦住。
“让它回答最后一个问题。”她说。
她把陆惟安死亡记录送进判断核。模型第一次接收十七年后的完整后果:临时隔离被延长,撤回失效,外部传话者死亡。运算时间超过以往任何一次。医疗轨道的灯一盏盏变红,模型仍在尝试用危机第三十七日的原则容纳后来发生的人。
三分钟后,它给出回答。
初始模型回答:“该后果未包含在初始授权的可接受范围。”
沈禾问:“是否继续授权?”
初始模型回答:“信息不足。”
沈禾说:“授权主体已经拒绝。”
模型再次停顿。
初始模型说:“应以授权主体当前明确意图为准。”
初始模型给出结论后,声音出现轻微卡顿。判断核尝试将陆惟安的新记录写入它的历史人格,沈知微在墙内立即说:“不要更新它。”
沈禾问:“为什么?”
“让它保留当时的我。”沈知微说,“别再造一个现在的我去替我活。”
顾闻川关闭写入权限。初始模型恢复平稳,仍停在危机第三十七日。它可以作为证据存在,不能再成为一个人的继任者。
墙内的沈知微说:“开启B-22。”
两道声音第一次给出相同指令。
生物授权锁的三项绿灯同时亮起。门内机械锁舌后退,医疗轨道开始向生命舱移动。沈禾听见担架平台在黑暗里滑行,轮子经过接缝,每一下都让地面轻颤。
平台行至一半,根控忽然切断判断核。
初始模型的授权从屏幕消失。B-22紧急制动,担架停在墙体深处。城市给出新的警告:检测到历史人格模型受未审计信息污染,暂时冻结。
顾闻川砸开轨道侧盖,试图解除制动。里面没有电子锁,只有一枚被远程推动的钢楔,死死卡住轮轴。
完整供电剩二十二分钟。
墙内药泵已开始预热。沈知微的清醒时间正在被收回。
沈禾看着冻结通知。签署者一栏没有沈知微,也没有初始模型。那是根级委员会的共同印章。
十七年来,旧模型替活人说话;当旧模型终于同意活人改口,人类又亲手让它闭嘴。