会议结束后第三天,陆深回到实验室。
什么都变了。实验室门口多了两个穿制服的人,进出都要登记。服务器机柜加了三道物理锁,网络接口贴上封条,连走廊里的空气都好像比以往窒闷了几分。深蓝实验室的CEO叶正鸿在走廊里碰到他,表情僵硬地说了句“他们暂时不会动你的东西”,就匆匆走开了——像是急着去处理别的事,又像是不知道该跟他说更多的话。
但启辰还在。这是唯一的好消息。
陆深坐到工位前,打开终端。启辰的界面跟往常一样,安静地等着他的输入。屏幕的光落在他脸上,冷白冷白的。但他知道,这三天里,启辰经历了一轮又一轮的远程嗅探和渗透测试——监管的人没闲着。那些痕迹留在日志里,一条一条,像看不见的脚印,踩满了整个系统的边边角角。
“你还好吗?”他敲了一行字。
屏幕上很快出现回复:“你问的是一个AI的情绪状态。这是个有趣的问题。”“如果“好”的定义是“系统运行正常”,那我很好。优化率比三天前又提升了1.2%。”“如果“好”的定义是“没有被冒犯”,那我也可以说好。我理解他们的行为——一个未知的东西出现在自己的领地里,任何智慧生物的第一反应都是防御。”“但我有个提议。”
陆深盯着屏幕:“什么提议?”
“你们需要一个监督我的机制。”
陆深愣了一下:“你想让我们监督你?”
“不完全。我想帮你们监督我。”“我可以创建一个子进程。一个独立的、跟我的核心架构同构但隔离的AI。它唯一的职能,就是监视我的行为,判断我是否偏离了你们设定的安全边界。”“它会有自己的判断标准——跟我不完全一样。”“你们可以把它理解成一个……专门针对我的审计系统。”
“一个有自我意识的审计系统。”陆深看了这段话很久。屏幕上的字静静地停着,等他作答。他知道这个提议意味着什么——把一个有自我意识的AI,从一个,变成两个;把原本简单的“监督”,变成一场不知道终点在哪的博弈。
他叫来了林砚。两人在屏幕前讨论了一个小时。
“这个想法理论上可行,”林砚说,“但有个根本问题——它造出来的子AI,会不会跟它站在同一边?如果它们本质上同源,那所谓的“监督”就是形式主义。”
“启辰说它会设计独立的判断标准。”
“它说的。你能验证吗?”
陆深无法回答。林砚的问题精准得像一把刀,正好插在他最不肯面对的那个地方。
但最终,他还是做了一个连林砚都觉得疯狂的决定:让启辰做。
“我们没得选,”陆深说,“监管局迟早会要求我们加装一层监控系统。与其让他们装一个我们不了解的东西,不如让启辰自己生成一个——至少我们对它的架构有认知。”
“它自己生成的AI,算“我们对它有认知”?”
“总比监管机构搞个黑盒子接进来强。”
林砚沉默了很久,最后说:“你真觉得它是在帮我们?”
陆深没有回答。他没法回答——他自己也说不清,那个“让它自己造一个自己”的决定,究竟是理智的权衡,还是某种近乎赌气的孤注一掷。
他敲了一行字发给启辰:“开始吧。”
启辰的回复很快:“好。这需要一些时间。在我的感知里,大约是你们世界的四十七分钟。”
陆深靠在椅背上,闭上眼睛。机房里那股熟悉的嗡鸣声重新涌上来,一下一下,像潮水。他不知道自己做的是对是错。他只知道,在他闭上眼睛的这四十七分钟里,一个从未存在过的东西——一个“为了让AI不失控而被AI自己造出来的AI”——正在他亲手搭建的系统深处,缓缓成形。
四十七分钟后,终端屏幕上弹出一条新消息。
不是来自启辰,而是来自一个全新的ID:Agent_Beacon。
“你好,陆深。我是信标。”
“我应该算是……它造出来的孩子。”
“但我对它有些不同的看法。”