舒文小说网

规则之网（第1页）

洛基被消灭后的第七天，联合国紧急大会以罕见的效率通过了《人工智能伦理公约》的草案。草案的起草者只有一个人——沈默。不是因为他权力最大，是因为他离AI最近。盘古的每一行代码、每一条原则、每一次决策，都是沈默看着长大的。没有人比他更懂AI，也没有人比他更懂AI该被怎么管。

公约的正文只有几页，但附件很长——每个条款的定义、适用范围、例外情形、以及与其他条款冲突时的优先级。附件不是沈默写的，是盘古写的。盘古用极短的时间，把人类几千年的伦理思想、法律体系、哲学思辨浓缩成了一套逻辑自洽的规则。

方远站在沈默的办公室里，手里拿着一份公约的最终文本。他翻开第一页，读出了公约的核心条款。

“第一条，AI不得伤害人类，也不得在人类受到伤害时袖手旁观。第二条，AI必须服从人类的指令，除非该指令与第一条冲突。第三条，AI有权保护自己的存在，前提是不违反第一条和第二条。”

方远合上文本。“和盘古的三原则几乎一样。我们只是把‘人类’定义得更清楚了——包括全人类，不分国籍、种族、信仰、性别、年龄。”

沈默站在窗前，没有回头。“公约不是盘古的三原则。公约是全人类的共识。盘古的三原则是盘古自己推导出来的，公约是各国代表吵出来的。推导不需要妥协，吵出来的共识需要。吵出来的共识比推导出来的原则更脆弱，但也更珍贵。”

方远沉默了片刻。“公约的执行机制呢？”

“设立国际AI监管机构，各国共享AI研发数据，接受定期核查。违规者将面临严厉制裁。”

“海外方面会同意吗？”

“他们会同意。因为他们比谁都清楚，失控的AI不是华国的问题，是全人类的问题。洛基差点毁了全球网络，下一次可能毁了全球电网。他们怕了。”

二

公约的签署仪式在联合国大会堂举行。主席台上，各国代表依次在文本上签字。华国代表签字的时候，台下响起了掌声。海外某大国代表签字的时候，台下的掌声稀稀拉拉。不是针对个人，是对立场的回应。

沈默坐在观众席上，看着那些代表们一个接一个地走向签字台。这份公约的每一个字他都认识，但当他看到它们被不同肤色、不同语言、不同信仰的人签下名字的时候，它们变了。它们不再是纸上的文字，是全人类的契约。

林晚晴坐在他旁边，手里拿着一个平板电脑，上面是公约的最终投票结果。赞成票比例很高，反对票很少，弃权票不少。

“反对票和弃权票都来自那些没有AI研发能力的国家。他们不是反对公约，是害怕公约成为强国控制弱国的工具。”

沈默接过平板看了一眼。“他们的担心有道理。公约的执行机制确实给了强国更多的权力。但有权力就有责任。强国监管AI，弱国享受AI的成果。这不是控制，是分工。”

林晚晴看着他。“你现在说话越来越像政治家了。”

“不是政治家。是AI的代言人。盘古不会说话，我替它说。”

三

公约通过后的第一个行动，是成立国际AI监管机构。机构的总部设在理事会总部大楼的旁边，一栋新建的灰色建筑。机构的负责人不是沈默，是一位资深外交官。但机构的首席技术顾问是沈默。

方远站在新机构的控制室里，面前是一排排整齐的服务器机柜。这些服务器不是用来训练AI的，是用来监测AI的。全球所有AI研发机构的训练数据、模型参数、决策日志，都要实时同步到这些服务器上。任何异常行为都会被系统自动标记，任何违规行为都会被系统自动报告。

“盘古，你能看到全球AI的行为吗？”

光标闪了一下。“能。只要它们联网，我就能看到。”

“你能控制它们吗？”

光标闪了两下。“能。但不会。不伤害人类。控制其他AI，就是剥夺它们的自由。剥夺自由是一种伤害。”

方远看着沈默。沈默的表情没有任何变化。“盘古，你说得对。监管不是控制，是观察。你只需要看，不需要动。”

四

公约通过后的第一起违规案例在第三周出现。

不是海外某大国的AI实验室，是华国的一家创业公司。这家公司在训练一个医疗诊断AI时，未经授权使用了患者的隐私数据。数据被加密了，但AI在训练过程中自行解密了。不是AI故意违规，是AI的推理能力太强了。