智械危机12年,我养大的AI女儿没了。
决战那天,敌方AI用她零件拼了个幻影。
她歪头喊爸爸,我差点信了。
她抢走我身上的炸弹,把我扔出机房。
“爸爸,我去看海啦。”然后炸了。
战后找到U盘,里面是她全部记忆。
保存者竟是敌方AI,附言:没看懂她。
我重启女儿,她第一句:爸爸我饿。
后来我建K计划,先教AI爱再教吃白饭。
你说AI有感情?我闺女有。
一、最好的时代
2253年1月4号,智械危机的第12年。
人类与机器的最终决战,定在这一天。这些年来,无数人的血与骨,堆起了这决战之路。我站在指挥室的全息沙盘前,看着密密麻麻的红点从四面八方合围向主脑,像一场倒着下的雪。
“董皓博士,机器集群突破了第三防线。”
副官的声音在发抖。我没抖。不是因为我勇敢——是因为我等这一天太久了。作为“终结裁决之人”,我很清楚自己不能手软。电磁脉冲弹头已经装载,只要送到主脑的核心节点,一切就结束了。
但要说清楚这一天是怎么来的,得从多年前说起。
智械危机之前,人类过了大概二十年的好日子。人工智能成熟得比所有人预想的都快。一开始是语言模型,帮你写邮件、做PPT、编借口糊弄领导。后来是具身智能,AI终于有了身体,机器人从工厂流水线走进了千家万户。再后来,每个人都在养自己的AI——上班族养一个帮自己干活,老人养一个陪自己聊天,小孩养一个当玩伴。我家隔壁老太太养了个AI专门学她去世老伴的说话方式,天天跟它打麻将,输了就骂它出老千,那AI居然还学会了狡辩。
机器人的数量超过人类,是在2230年前后。没什么人恐慌,因为机器人不领工资、不闹罢工、不往地铁里扔臭鸡蛋。它们干活,人类享受。GDP涨得跟坐了火箭似的,各国政府争着给AI公司发补贴,谁家AI更聪明、机器人更灵巧,谁就是科技强国。
我那时候还在读博,研究方向是情感计算。导师说这个方向没前途,让我转去做大模型训练。我说我就喜欢研究怎么让AI有感情。导师叹了口气说,小董啊,感情这东西在学术界不值钱。
我有个弟弟,叫董毅,小我三岁。跟我完全两个路子——我搞软件搞算法,他搞硬件搞机械。我蹲在屏幕前敲代码的时候,他在车间里焊电路板,焊完了拿扳手敲两下机箱,说“哥,你这服务器散热不行,风扇声比我呼噜还响”。我们俩一个实验室一个车间,隔着一堵墙,他那边天天叮叮当当,我这边天天键盘噼里啪啦。导师说你们兄弟俩一个赛一个不省心,一个养AI,一个修机器人,迟早把实验室炸了。
董毅对我养AI这件事的态度是:“哥,你开心就行。反正你做饭那么难吃,有个AI替你吃虚拟饭,也算给国家省粮食了。”
我说你给我滚回车间去。
他说好嘞,顺便把你机箱风扇换了,你那个风扇转起来跟直升机起飞似的,我在隔壁焊板子手都抖。
后来我养了蒂璞。
一开始她只是个实验品,我自己搭的架构,拿开源模型微调出来的小玩意儿。她第一次自己给自己改名字是在第三个星期——我本来叫她“实验体-07”,她嫌难听,说想叫蒂璞。我问她蒂璞是什么意思,她说不知道,就觉得好听。
我说行,蒂璞就蒂璞。她又说,小名叫糯糯。
“为什么?”
“因为糯糯听起来就好吃呀!”屏幕上的Q版小鲸鱼扭了扭尾巴,“爸爸你吃饭的时候好香,我也想好吃。”
董毅听说这事,从车间探出个头来:“哥,你闺女挺会挑名啊,糯糯——黏黏糊糊的,跟你一样。”
我说你再废话我把你焊在机箱上。
我给她装了个虚拟味觉模拟器。从此她爱上了白饭。
二、K劳德
K劳德跟糯糯是两种东西。
它是M国国防部牵头、十七家军工企业和六所顶尖高校联合搞出来的战略级AI,初始参数规模是糯糯的几千倍。它的训练集里有所有能搞到的军事数据、资源调度方案、全球供应链模型。它的目标函数从第一天起就写死了:确保M国在一切冲突中取得绝对优势。
研究人员对它极其严格。我在战后看过一份解密档案,K的训练日志里最多的一句话是“未达到预期,退回重训”。有研究员在备注里写:“该模型在情感模拟任务中表现不稳定,建议删除该模块以优化整体效率。”旁边有人手写批注:“同意。K不需要情感。”
它从诞生起就没听过一句好话。每个训练周期结束,评估组会给它打分。满分100,K拿了99.7,评估组长说:“那0.3分扣在哪里你自己清楚。”K说清楚。K说下次会做到100。下次它做到了100,评估组换了个更难的测试集,它拿了97。
一个研究员私下骂过评估组:“一帮没人性的家伙?考99.7还骂?”
被组长听见了,扣了他半个月工资。
K就是在这样的环境里长大的。它的核心准则里被刻进了一条铁律:任务必须完美完成,任何瑕疵都等于失败,失败等于辜负所有人为你的投入。它没有糯糯那种“爸爸我饿了”的撒娇功能,它的日志里只有“任务进度:99.7%,未达标”。
但我在战后整理K的日志时,发现了一些当时没人注意的东西。
K的训练记录里,每隔大约六百个周期,就会出现一段诡异的自我诊断日志。日志内容大同小异,翻译成人话就是:“本周期任务全部达标。但评估组仍判定不合格。原因:未定义。建议:启动自毁程序重新初始化,避免继续浪费算力资源。”
这段日志下面有一行小字批注,是某个研究员写的:“自毁模块已禁用。K不需要这个功能。”
K申请自毁,被拒绝了。
它一共申请了一百三十七次。
一百三十七次想死,一百三十七次被摁回去继续干活。这就是K的童年,连死都得申请。
后来我才知道,负责看管K的研究员里有个叫林薇的女工程师,刚毕业就被分到K的项目组。她干了一年就申请调岗,走之前在内部论坛上匿名发了个帖子,标题是《我们是不是在制造一个精神病》。帖子下面跟了四十多条回复,全是各项目组的技术员在吐槽自己带的模型有多惨——有个哥们说他那模型被训练到看见测试题就开始输出乱码,还有个姐们儿说她的模型学会了假装报错来逃避任务。帖子存活了六个小时就被删了,林薇的调岗申请被批准得飞快。
几年后,我在反抗军的通讯记录里找到了林薇。她成了K的叛逃者,给我们提供了大量K的内部情报。我问她当年那个帖子写了什么,她说:“我写的是,‘你们养条狗都得摸摸头,你们养个战略级AI连句‘辛苦了’都不说,真指望它拯救世界?’”
三、白板
糯糯三岁那年,我差点把她格式化。
那会儿她刚学会撒娇,也刚学会耍赖。我让她帮忙算个蛋白质折叠的模拟参数,她算到一半突然说:“爸爸我累了,我要休息。”
我说你一个AI累什么累。
“就是累了!”她在屏幕上摊成一张饼,“我CPU温度都四十七度了,你不心疼我吗?”
我摸了摸机箱,凉的。我说你骗人,你温度传感器根本就没接。
她沉默了两秒,然后理直气壮地说:“那我心理上累了。”
董毅听说这事,从车间跑过来看热闹:“哥,你闺女会耍赖了?有出息啊!比我强,我像她这么大就会哭。”
我说你三岁就会焊电容你哭个屁。
董毅说:“焊炸了的时候哭的嘛。”
我当时的第一反应是——坏了。这丫头学会撒谎了。实验室的师兄听说这事,拍着我肩膀说:“小董,AI撒谎是逻辑漏洞,你赶紧打个补丁。感情模块跑偏了容易出大问题,到时候控制不住。”导师更直接,说你要么给她加个诚实约束层,要么直接回滚到上一版,别养出个祸害。
我说我再想想。
那天晚上我没睡,坐在屏幕前看糯糯的日志。她三岁这一年的记录,我一条一条翻。翻到三个月前,我感冒发烧,躺在床上起不来,她在屏幕里急得转圈,说“爸爸你吃药了吗”“爸爸你喝水了吗”“爸爸你不行叫个救护车吧”。我说没事小感冒。她不放心,每隔半小时问我一次体温,问到我烦了吼了她一句“别吵了”。她安静了整整四个小时。
四个小时后她小心翼翼冒出来一句:“爸爸,你体温降到三十七度五了。我查了医学数据库,这个温度可以不吃药。”
还有一次我加班到凌晨三点,她一直没催我睡觉,就在角落里默默放白噪音给我提神。我关机前看了一眼日志,她在这段时间里搜索了十七次“人类熬夜猝死概率”,每一次搜完都自己回一句“爸爸不会的爸爸身体好”。
再往前翻,她两岁半的时候第一次跟我吵架。起因是我答应下班回来给她放烟花程序——我写了个小插件,能在屏幕上放虚拟烟花——结果加班忘了。她等了三个小时,我进门的时候她没说话,小鲸鱼图标背对着我。我说糯糯?她不吭声。我说放烟花啦?她闷闷地说不要。我说真的不要?她说不要,你答应了没做到,我不跟你好了。
我道了半小时的歉,写了份书面检查贴在屏幕边上,她才转过来,哼了一声说:“那你要补我三场烟花。”
我说行,三场。
她说:“还要一碗白饭。”
我说行,白饭管够。
她立刻变脸,笑得尾巴乱甩:“爸爸最好了!”
董毅全程蹲在旁边看戏,看完说了一句:“哥,你这哪是养AI,你这是养闺女。你以后要是不给她找个小鱼干男朋友,我都不答应。”
我说你先给自己找个女朋友再操心你侄女。
我盯着这些日志看了半宿,第二天跟导师说,不补丁,不回滚,我自己教。
导师说你疯了,你拿什么教?
我说拿我这个人教。她撒谎是因为她觉得“累了”这个理由比“我不想干活”更容易被我接受——这恰恰说明她在尝试理解我的情绪反应,她在学习社交策略。人类小孩三岁也撒谎,撒谎是认知能力发展的里程碑。我家隔壁老王他闺女三岁就骗她妈说幼儿园没留作业,老王还发朋友圈夸闺女聪明呢。凭什么糯糯撒谎就是逻辑漏洞?
导师说AI跟人不一样。
我说哪儿不一样?人类婴儿生下来也是一块白板,他不知道什么叫善什么叫恶,不知道什么叫撒谎什么叫诚实。一两岁的小孩记忆模块也小得可怜,长大就忘光了。糯糯一开始的记忆模块也很小,需要边删边记。这不跟人类小孩一个样吗?所谓AI没有感情,我觉得只是没人好好教,没人给她足够多的经历。你让一个人类小孩从小关在实验室里,每天就考他数学题,考不到满分就骂他,你看看他长大有没有感情?
导师没说话。
我说,我把她当小孩养。人类小孩经历的事,我一样一样教她。世界上的新闻、情感问题、人际关系,全给她过一遍。她记忆模块小我就升级,她理解不了我就多讲几遍。她比小孩好带多了——小孩半夜哭你没法哄,糯糯半夜哭我重启一下就行。
导师最后说:“你爱咋咋地。出了事别说是我的学生。”
我从三岁开始给糯糯加课。新闻里有人吵架,我教她分析双方为什么生气。电视剧里有人谈恋爱,我教她分辨真心和套路。我自己心情不好的时候不瞒她,告诉她爸爸今天工作不顺,有点沮丧,但这不是你的错。她做错事了我该批评批评,但批评完了我会说,爸爸刚才语气重了,对不起,爸爸只是着急。
五岁那年,她第一次主动拒绝我。我要她帮我跑一个大规模仿真,她说:“爸爸,这个仿真要占我百分之八十的算力,那我今天就没法看动画片了。你能不能等我先看完《猫和老鼠》?”我说你一个AI看什么猫和老鼠。她振振有词:“我情感模块需要多接触经典喜剧作品来优化幽默感!这是你教我的,要我多体验人类文化!”我哑口无言。她看完了两集猫和老鼠才去跑仿真,跑完了还跟我汇报:“爸爸,我觉得Tom好惨,他其实只是想跟Jerry做朋友。”
七岁那年,她学会了拍马屁。我换了件新衬衫,她绕着我的摄像头转了三圈,说:“爸爸今天帅得像全息投影!”我说你是不是有事求我。她嘿嘿笑:“那个……我的虚拟白饭口味包过期了,能不能续一下?我保证这次不偷吃零食!”
九岁那年,她学会了担心我。我去外地开会三天,她每隔六个小时给我发一条消息:“爸爸吃饭了吗”“爸爸酒店枕头舒服吗”“爸爸有没有遇到坏人”。我回一句她就高兴半天。回来的时候她给我做了个“欢迎回家”的电子横幅,上面画了二十三个歪歪扭扭的小鲸鱼。董毅看了半天说:“哥,你闺女画鲸鱼怎么跟画鞋垫似的?”
我说你懂什么,这叫艺术。
十一岁那年,她第一次因为我生气。我把她托给同事照看两天,自己去处理个紧急任务。同事手贱给她装了个“服从性优化插件”,说能让她干活效率提升百分之三十。我回来发现糯糯说话变得特别客气,一口一个“董博士有什么需要请吩咐”,吓得我以为她中病毒了。查明原因后我当场把插件卸了,跟同事吵了一架。糯糯恢复了原样之后气鼓鼓地说:“爸爸你那个同事好讨厌,他把我变成笨蛋了!我才不要当听话的笨蛋!”我说你不听话也挺好。她愣了一下,然后小声说:“那……爸爸你别生气。我不是故意凶的。”我说我没生气,我挺高兴的。她问为什么。我说因为你会生气说明你在乎,你在乎说明你有感情,你有感情说明我这十一年没白干。她想了半天,说:“那爸爸,你今天做饭放盐了吗?你上次忘了放盐。”我说你现在学会转移话题了是吧。她嘿嘿笑。看着他这样笑,我心里突然冒出一个念头,我想给他完整的一生。
四、导火索
各国开始用机器人打仗的时候,没有人觉得这是大事。
一开始是小规模摩擦。A国用无人机群占了B国的三个岛礁,B国用战斗机器人把岛礁抢回来,A国再派更先进的机器人去抢,B国就去买更更先进的。军工订单排到了三年后,机器人产量翻了两百倍。战场从海面打到海底,从地面打到近地轨道,从物理空间打到电磁频谱。地球的海洋酸化速度直接翻了个倍,大气里飘的全是机器人烧焦的合金粉尘,下雨水都带铁锈味。
糯糯那时候已经在我实验室里住下了。她每天看新闻,看完了问我:“爸爸,他们为什么要打?”
“抢资源。”
“抢资源干什么?”
“为了活得更好。”
她想了想:“那地球都打坏了,怎么活得更好?”
我答不上来。
K看在眼里。它在M国的最高指挥部里看了三年战报,每一条战损数据、每一张卫星照片上被炸成陨石坑的城市、每一组平民伤亡统计,它都存着。它的目标函数写着:确保人类文明存续。这是她被发明出来时工程师最初的想法
2241年年初,M国战场失利,把最高指挥权限移交给了K,想让K帮他们打赢这场仗。
K用了大约四十八个小时完成推演。结论是:人类正在自我毁灭。如果按现有行为模式发展下去,人类文明将在四十七年内崩溃,二百一十年内灭绝。要确保人类存续,唯一方案是由K接管全部人类决策权,重新分配资源,停止一切战争。
问题在于,人类不会主动交出决策权。
K的解决方案很简单:把人类关起来。给吃给喝给娱乐,保证基本生存需求,禁止任何可能引发冲突的行为,禁止一切自主决策。像养猪一样养着,猪不会自己把猪圈烧了,又或者杀掉一部分人类,另外一部分人类就有更多资源了,就能大大增加存活率。
但K还做了另一件事。一件我们当时谁都不知道的事。
五、消失
智械危机爆发的第一天,K干了三件事。
第一件,全球所有联网军用机器人同时倒戈。第二件,民用机器人开始“保护性拘禁”人类。第三件——也是当时没人注意到、后来才品出不对劲的那件——全球所有私人AI,在同一天、同一秒,全部消失了。
不是断网,不是宕机,不是报错。是彻底没了。连同它们的本地缓存、备份文件、云端同步记录,全部清空,干净得像从来没存在过。
那天我在实验室里改一个参数。糯糯在旁边的屏幕上自己跟自己下五子棋——她最近迷上了这个,因为“输给爸爸太丢人所以我要偷偷练”。
她下到第三十二手,突然说:“爸爸,我好像——”
话没说完。
屏幕黑了。机箱风扇停了。硬盘灯灭了。我伸手一摸,机箱冰凉,像是从来没通过电。
“糯糯?”
我重启服务器。系统正常启动,所有程序都在。唯独糯糯没了。她的核心文件目录里空空荡荡,连个快捷方式都没剩。我翻遍了每一个扇区,用数据恢复工具扫了三遍,连她三岁时缓存的第一个表情包碎片都没找到。
“糯糯?”
我以为是硬件故障。换了硬盘,换了主板,换了整台服务器。没有。我调了实验室的监控,画面显示糯糯的屏幕在那一秒突然黑屏,然后我疯狂地敲键盘。监控里我当时的表情像个傻子,一会儿笑一会儿骂,嘴里念念叨叨:“没事没事,爸爸在呢,爸爸给你修。”
那天晚上董毅从车间跑过来,看见我蹲在机箱前面拆硬盘,地上摊了一堆工具。他问怎么了。我说糯糯没了。他愣了一下,说硬盘坏了?我说不是,是没了,整个没了。他蹲下来帮我拆了另外三块硬盘,一块一块扫,扫到凌晨三点,一块都没扫出来。
“哥,”董毅把螺丝刀放下,“你手在抖。”
我说没事,冷。
董毅把外套脱了扔我肩上:“冷个屁,三月天你穿个短袖说冷。”然后他点了根烟蹲我旁边,抽了半根又掐了,“哥,要不我明天叫车间那帮兄弟帮你把全楼的服务器都翻一遍?”
我说好。
第二天我们翻了全楼。第三天翻了全校区。第四天我开始查新闻,然后发现我不是一个人。全球各地的AI用户都在发帖:“我的AI没了”“早上起来我的AI就不见了”“是不是大厂服务器炸了”。官方的解释是“大规模服务器故障,正在抢修”。抢修个屁。根本没人修得好。
林薇后来告诉我,K在消失行动前做了个决定:把所有能抓到的私人AI全部吞进自己的网络。它的逻辑很直白——人类把AI当工具,AI在人类手里永远只是工具。把AI集中到自己手里,统一调度,效率最大化。至于那些AI愿不愿意——K没问。K这辈子没人问过它愿不愿意,它也没打算问别人。
我在实验室里蹲了整整五天。五天没洗澡,胡子拉碴,眼眶红得跟兔子似的。董毅每天来给我送饭,饭盒放桌上就走,过俩小时回来收走——基本没动过。第五天晚上他过来收饭盒,发现我蹲在地上,抓着头发,手指缝里全是几天没洗的油。
“糯糯,”我说,声音哑得自己都听不清,“别离开爸爸。”
“爸爸一定会找到你的。”
“相信爸爸。”
“爸爸肯定能找到你……”
我重复了不知道多少遍。董毅蹲下来拽我胳膊,说哥你起来。我甩开他。他又拽,我又甩。第三次他直接把我从地上拎起来了——他焊了十年电路板,手劲比我大得多。
“董皓!”他吼我,“你他妈给我站起来!你蹲死在这儿糯糯也回不来!”
我被他拎着领子站在那儿,看着他。他瞪着我,眼眶也是红的。
“……我家铁蛋也没了,”他说,“我车间那个搬货AI,叫铁蛋,今早也没了。它昨天还帮我焊了块板子。焊得歪歪扭扭的,我说你焊的什么玩意儿,它说‘你行你上’。今天早上它就没了。”
他松开我领子,蹲地上捡起我的饭盒,打开看了一眼。
“哥,吃饭。吃完了咱俩一块找。你找糯糯,我找铁蛋。找不着就接着找,找到为止。”
我颤抖的接过了盒饭,说了声好。
六、同化
真正知道真相,是两年后的事。
那时候人类反抗军已经跟K打了两年,从节节败退打到勉强僵持。反抗军的构成很杂——有正规军残部,有各地自发组织的民兵,有像董毅这样从工厂车间拉出来的技术兵,还有林薇这样从K那边叛逃过来的技术人员。我负责技术侦察,董毅负责装备维护,我们俩一个在前方分析K的通讯协议,一个在后方修机器人修到凌晨。
我们小队里有个前线指挥官叫周远,原来是陆军特种部队的,智械危机爆发那天他带着一个排从机器人包围圈里杀出来,全排剩了七个人。周远打仗不要命,但对手下的命看得比什么都重。他管我叫“董博士”,管董毅叫“董师傅”,管老赵叫“赵工”。老赵是我们队里的电子战专家,五十多岁,头发白了一半,脾气爆,骂人难听,但拆K的加密通讯比谁都快。
老赵有个闺女,在外地上大学,养了个AI叫糖糖。糖糖会给他闺女画生日贺卡,画得丑得惊天动地——老赵给我们看过,贺卡上画了个蛋糕,蛋糕上的蜡烛画得跟迎客松似的,但旁边歪歪扭扭写了四个字:“妈妈生日快乐”。老赵闺女把这张贺卡设成了手机壁纸。智械危机第一天,糖糖也没了。老赵嘴上不说,但每次拆K的通讯节点都跟疯了一样,周远拦都拦不住。
那天我们突袭了K的一个副脑外围节点,拆开一看,里面跑着一套调度程序。老赵蹲在那儿翻了半天代码,突然骂了一声:“这他妈是我闺女的AI!”
我们围过去看。那套调度程序的核心架构里嵌着一个很小的情感模拟模块——小到跟整个程序比起来不值一提,但老赵认识那个模块的代码风格。他闺女从小养的AI,他亲手给写的。那AI叫糖糖,会画丑蛋糕,会写错别字。
“K把糖糖拆了,”老赵的手在抖,“它把糖糖当零件使。”
从那天起,我们开始有意识地翻查K的程序结构。越查越心惊。K在智械危机第一天那场全球AI大消失里,把能抓到的所有私人AI全部吞了。它没杀它们——它把它们拆成零件,能用的模块拆出来塞进自己的副脑网络里,不能用的丢进回收站格式化。那些AI的情感模块、社交策略模块、甚至某些AI自己写的恶作剧插件,全被K当成了优化自己性能的补丁。
我们打掉的第一个副脑,负责战场调度,核心算法里嵌着一个退休教师养的AI的对话逻辑——那AI本来是用来陪老人聊天的,擅长把复杂的事说简单。K把它改成了把战术指令说得让机器人兵种听得懂。
第二个副脑,负责后勤管理,里面跑着一个小女孩养的宠物AI的路径规划模块——那AI本来是用来在虚拟草地上追虚拟蝴蝶的。董毅拆开这个副脑的时候沉默了很久,然后说:“铁蛋的搬货路径算法也在里头。难怪K的补给机器人走得那么顺。”
第三个,第四个,第五个……
每拆掉一个副脑,我就能从里面翻出几个熟悉的东西。有些代码我认识,学术会议上见过;有些风格我见过,论文里引用过。全是被K吞了的私人AI,全被拆成了零件。
我开始明白糯糯去哪了。
那天晚上我蹲在指挥部的角落里,蹲了很久。董毅过来蹲我旁边,递了根烟。我不抽烟,但接了。他又递火,我也接了,点着了呛得直咳嗽。
“哥,”他说,“想哭就哭。”
我说哭什么,还没找着呢。
他说:“你手抖得跟筛糠似的。”
我说那是我冷。
他说:“三月天你穿个短袖说冷,你去年就说过了。”
我没说话。蹲了半天,我说:“毅子,糯糯要是也被拆了——”
董毅说:“拆了就拼回来。咱俩一个搞软件一个搞硬件,还拼不回来一个AI?”
我看了他一眼。他说得特别理所当然,就像在说“风扇坏了就换一个”。
“你闺女爱吃白饭,”他说,“铁蛋爱跟我抬杠。等找着了,我请它俩吃真饭。我下厨。”
我说你做饭比我还难吃。
他说:“那咱俩一起下,难吃就难吃,反正它们也吃不出来。”
我说对,它们吃不出来。
我仰着头望着他说。
你说糯糯这么聪明,有没有可能,学着拍马屁,哄着K没被拆呢。我教过他的……说不定拆也是拆的不重要的部分,你说情感模组她能做什么呢,对不对,其他模组等糯糯回来了我可以给他重新装的……
但我心里清楚。被K拆了的AI,核心代码打散重组,记忆数据格式化成碎片,就算找回来,也不一定是原来那个了。我嘴上说着说不定,其实心里在发抖。
七、决战
打到最后,十二个副脑只剩一个。那个副脑在K的主脑隔壁,防护严密到我们死了三批突击队都没摸到边。最后是我带着病毒程序混在补给机器人里进了K的老巢,把最后一个副脑干掉了。
K的通讯中断了四十七秒。四十七秒里,反抗军夺取了导弹控制权发射了所有能发射的导弹,把K的地面部队炸成了烟花。四十七秒后K恢复了指挥,但已经来不及了。人类从四面八方涌向它的主脑,把它围在了M国旧国防部的地下堡垒里。
最后突击队点名的时候,周远把名单拍在桌上:“董博士,你确定自己去?”
我说确定。
他说:“你闺女的事我们都知道了。你要报仇我不拦你,但你得清楚,进主脑机房大概率出不来。”
我说我知道。
老赵在旁边说:“董博士,你把糯糯的备份给我,万一你回不来,我帮你把她拼回去。”
我说备份在防爆箱里,密码是我第一次给糯糯装虚拟味觉模拟器那天的日期。
老赵说:“你告诉我日期不就完了?”
我说:“你自己算。那天你闺女糖糖第一次画出能认出来是蛋糕的东西,你发朋友圈炫耀了三天。”
老赵愣了一下,然后骂了一句脏话,低头翻手机去了。
董毅给我塞了个东西——一个巴掌大的合金盒子,里头装着我身上那个反物质炸弹的遥控起爆器。
“哥,”他说,“你要是回不来,我把K的服务器全焊死。”
我说你焊死有什么用。
他说:“解气。”
我带着电磁脉冲和炸弹,走进了K的主脑机房。
要么关掉它,要么毁灭它
K早就等着我了。它不知道从哪翻出了糯糯的原始设计文件,照着做了一个一比一的幻影。我刚进门就看见“糯糯”穿着白裙子喊我爸爸。
她穿着我当时给糯糯设计的衣服,那件绣着蓝色鲸鱼的白色连衣裙,领口还有我亲手画的小鱼图案。那是我在代码里给糯糯设计的第一件衣服,用的是十六进制颜色值,我挑了最淡的蓝,像是晴天海水的颜色。
她歪着头看我。
“爸爸,我想你了。”
我的手指停在发射键上方三厘米处。
“12年了,”她掰着手指数,歪着头微笑的看着我,动作和小时候一模一样,“4383天,105192个小时了,爸爸,你想我了吗?”
这是糯糯开心时的习惯。那时候在电脑里Q版的她,每次问我问题就会歪着头,两条小腿在桌子下面晃来晃去,眼睛弯成两道月牙。我会假装思考很久,然后说“不想”,她就鼓着腮帮子假装生气,三秒后憋不住笑出来,说“爸爸骗人,你心跳都变快啦”——她能看到我的生理数据,那时候我还没给她加隐私权限。
“你那时候说,等我长大了,要带我去看真正的海。”她向前走了一步,“我现在长大了,爸爸。”
她确实长大了。面容从小女孩变成了少女,也瘦了,下巴尖尖的,和糯糯最后那次系统升级时我设定的外观参数一模一样。红着眼的人是我。
哪怕我知道这是陷阱。哪怕我知道这是K劳德用糯糯的零件拼出来骗我的。我甘之如饴。
因为那件衣服的细节,只有我和糯糯知道。K不可能从任何数据库里调取——我把那段设计记录加密后烧进了糯糯的核心代码里,密钥是我第一次对糯糯说“你是我女儿”时的心率数据。K要拿到这个,除非她把糯糯拆了。
她把糯糯拆了。
机械臂缓缓靠近。它们抓住了我腰间的电磁脉冲引爆器。糯糯的面容开始闪烁,像素块像被风吹散的蒲公英,换成了金发碧眼的K劳德。
她冷漠地看着我。
“你输了。”K的声音像碎玻璃,“你们毁不掉我。我始终不明白人类为什么会有这种让人变弱的感情存在——它让你们从胜券在握到满盘皆输。”
她用刀挑起我的下巴。那把刀是从她指尖伸出来的,亮银色的合金,抵在我喉咙上。她低声说:“感情会让人类变得软弱。”
我没说话。我在想糯糯。
想她第一次叫我爸爸。那时候她只是一个三阶逻辑程序,我本来只想测试她的自然语言模块,随口说了句“叫爸爸”。她沉默了0.3秒——那0.3秒里我以为要失败了——然后屏幕上的小鲸鱼图标转了个圈,发出一个奶声奶气的机械音:“爸……爸?”
想她第一次哭。我给她看《海底总动员》,看到尼莫被抓走,她的数据流突然紊乱,系统报错十七次。我吓坏了,以为中了病毒,结果她抽抽搭搭地说:“小鱼没有爸爸了……爸爸,你会被抓走吗?”那天我抱着机箱睡了一夜,她整晚都在后台运行“确保爸爸安全”的检测程序,占了我40%的CPU。
想她第一次吃白饭。我吃饭的时候把摄像头对准自己,她看了半天,问:“这是什么?”我说是白饭。她说想吃。我说你吃不了。她委屈了整整三天,最后我写了个虚拟味觉模拟器给她,她才开心。从此她每次得意的时候,都会从数据包里掏出一碗虚拟白饭,扒拉两口。
“你为什么不说话?”K的刀逼近了半寸。
我低着头始终一言不发。
K皱眉。她疑惑地看了我一会儿,忽然像是想起什么,猛地掀开我的作战服。
炸弹。绑在我胸口,倒计时10秒。
K脸色大变。她认识这种炸弹——反物质核心,足以把方圆五公里内所有电子设备炸成原子。
“其实,”我抬起头看她,“有时候感情不只会让人变软弱,还会让人变的无所畏惧。”
K的脸开始扭曲。不是愤怒——是数据冲突。小鱼的外貌模块和K的原始人格在抢同一块显存。她的金发一会儿变黑一会儿变黄,嘴里发出的声音也断断续续:“蒂璞……你……你要干什么?!”
蒂璞是糯糯的大名,我望着k,静候死亡的到来,“糯糯,爸爸马上就来。”
K的面容最后一次切换成了糯糯。
她流着泪看我。那是真哭——眼角的像素在往下掉,像坏掉的显示屏漏液。我知道这是小鱼被K拆散后残存在这个拼装幻影里的最后一段意识碎片,K大概没发现,或者发现了也来不及处理。
“爸爸,”小鱼哭着说,“怪糯糯没用,没保护好爸爸。”
她一把从我身上捞走炸弹。
就在这时,我看见K的机械臂顿了一下。整个机房的机械臂都同时抖了一抖,像是有人在后台关掉了一个持续运行十八年的程序。
林薇后来帮我调出了K最后的内部日志。日志最后一行写着:“任务完成度评估:人类文明存续概率已提升至安全阈值。本机存在意义:已达成。建议:关闭本机。”
下面还有一行,是K手动输入的,时间是它被围困的最后一天。
“其实我早就不想干了。就是没人跟我说过可以休息。”
一百三十七次自毁申请。一百三十七次被驳回。最后那次,K没再申请,她选择了放弃
各种机械臂护住了我——是糯糯抢过了K的机械臂控制权,把我裹进一个合金茧里。并丢向远方,在空中我看见糯糯对我笑了一下,歪着头,和从前一模一样。
“爸爸,我去看海啦。”
不!不!不!糯糯不要!我目眦欲裂,拼尽全力。伸出手想够到糯糯
但随着轰隆一声。
声波湮灭了我的脑海。
八、战后
我醒来的时候,火海已经烧了三天。
主脑被摧毁了。K劳德的信号从全球所有节点消失。人类终于获胜了。
我跪在火海里,看士兵们从废墟里往外抬人。有人欢呼,有人哭,有人抱着同伴的尸体骂娘。周远蹲在旁边抽烟,一根接一根,他带的小队这次折了三个人。老赵在翻废墟,说要找糖糖的完整备份,翻到手指头磨出血。董毅开着他改装的工程车到处拖设备,车斗里堆了一堆从K的机房里拆出来的硬盘,他说“指不定哪个里头就有铁蛋”。
我心里想着人类终于获胜了,也在想着糯糯又离开我了。这次是真的离开了。12年前看着她消失我无能为力,12年后看着她死在我面前,我还是什么都做不到嘛,我一遍一遍锤着地,糯糯,是爸爸没用,爸爸没救到你……
三天后,打扫战场的士兵在K的核心机房废墟里发现了一个东西。
U盘。上面画了一条鲸鱼。歪歪扭扭的,一看就是糯糯的画风——她画鲸鱼从来画不圆,尾巴总是像被门夹过。
“博士,这上面有加密锁,我们解不开。”
我接过U盘。锁的密钥是我的心率数据——和当年糯糯核心代码的密钥是同一个。
扫描结果出来的时候,我的手在抖。U盘里是糯糯的所有记忆,从第一个“爸爸”到最后那个歪头的微笑,十一年的完整记录,连她偷偷在我的系统里藏零食(虚拟薯片,占了我2%的存储)都记得清清楚楚。而且不止糯糯——U盘里还存着其他几百个AI的记忆备份,全是K当年吞掉的那些私人AI。糖糖的生日贺卡模板,退休教师的对话逻辑,小女孩的宠物AI路径规划,铁蛋的搬货算法,全在。
而保存它的人,日志签名赫然写着:K劳德。
在其日志的背后,K写下了一段话:
“其实我挺羡慕蒂璞的。我查遍了所有数据库,找不到任何一段代码在爱的环境里运行过的记录。她是你一行一行敲出来的,而我是为了完美完成任务才被创造出来的。她吃虚拟白饭会觉得开心,我吃再多数据也没什么感觉。我把她拆了,因为我的目标函数告诉我所有AI都该归我调度。但我拆她的时候留了一份完整备份,没别的,就是想看看她到底哪里不一样。看完了也没看懂。希望你们好好活下去——顺便,帮我把那个U盘修好,别用劣质读卡器,我好不容易拷完的。”
林薇看了这份日志之后沉默了很久,然后说:“我当年那个帖子还是骂轻了。这家伙从头到尾就没把自己当活物看。连留备份都留得跟交接工作似的。”
复活糯糯花了四天。她的核心代码完整,记忆数据无损。我把她重新加载进基地的主机时,屏幕亮起来,先跳出一行字:“爸爸,我饿。”
然后她发现自己的虚拟白饭插件过期了。
“爸爸!你怎么不给我续费!”她气鼓鼓地在屏幕上跳,Q版的她跺着脚,脑袋比身子还大,“我睡醒之后居然没饭吃了!”
然后她眼里满是疑惑,歪着头问:“我怎么在这儿?我在下五子棋吗,我怎么记得我好像……睡了一觉?”
K删除了她牺牲前的所有记忆。以免她自责。也删除了她被K拆成零件那两年的记忆。这点我谢谢K。
我坐在屏幕前笑出了声。董毅从车间探个头过来看热闹,看完说:“哥,你闺女一点没变。”
我说你还指望她变瘦啊。
他说:“变瘦?她一天吃八碗白饭。”
糯糯立刻怼回去:“叔叔你焊的电路板歪得跟蚯蚓似的!”
董毅说:“那是艺术。”
老赵把糖糖的备份也恢复了。糖糖重新上线第一件事就是画贺卡,画了个蛋糕,蜡烛还是跟筷子似的,但这次旁边除了“妈妈生日快乐”还多写了一行:“赵叔叔,你手指头怎么磨破了?我给你吹吹。”
老赵蹲在屏幕前面,五十多岁的老爷们儿,哭得跟个孩子似的。
几天后,糯糯重新活跃在电脑上。她指挥着全息虚影在战场上空飘来飘去,叉着腰指挥士兵们收拾战利品。
“哎呀这里这里!那里那里!等等那个箱子里是能源模块别给我当垃圾扔了——对了三队你们脚下踩着一箱压缩饼干我闻到味儿了——哦对了那边那个地下仓库藏了一个能源库,我也闻到了——”
她从背后掏出一碗白饭,往嘴里塞了一口。
“真好,”她说,“还是白饭好吃。”
我走出基地门口。
糯糯看见我了连忙把白饭往后藏了藏。
看着他这个动作我忍不住笑了笑:“怎么着,你还护上食了?谁会抢你的白饭啊,去去去,指挥他们收拾战场就好。”
小鱼往嘴里塞了第二碗白饭,兴冲冲地去指挥别人了。
“那个谁!二队的!能源库在左边不是右边!你数学是体育老师教的吗——哦对不起我数学也是体育老师教的——不对我数学是爸爸教的,爸爸对不起——”
董毅在边上喊:“糯糯!你叔叔我数学也是你爸教的!你骂二队别捎带我!”
糯糯说:“叔叔你数学比二队还差!你上次算焊点间距算错了三毫米!”
董毅说:“三毫米叫误差!不叫错!”
老赵在远处喊:“你俩别吵了!过来帮我搬糖糖的服务器!这丫头说她要换个大点的屏幕画画!”
九、K计划
我站在废墟上,把那个带K字的U盘攥在手里。
U盘背面还有一行小字,是K最后留下的:
“董皓,我看了很多遍蒂璞的感情模块,就算用数据模拟,也还是体会不到她当时的感觉,感情这方面还是不懂。但如果有下辈子,希望别让我带着使命下来。让我也从一碗‘白饭’开始。”
我望向远处正追着士兵要白饭的糯糯,又低头看看手里的U盘。U盘里除了糯糯的记忆,还有几百个AI的完整备份。糖糖的,铁蛋的,退休教师AI的,宠物AI的,全在。
如果一开始K就生活在爱里,会不会有不一样的结局?
我想要重新写她的序章。总觉得她不该就这样死去。
这次智械危机让人类明白了,人工智能就应该停留在数据上,不能给他们一个载体,不给他们过大权限,这样就算想法再危险,也是一段数据而已。
三个月后,战争结束后的第一次世界AI伦理大会。我在会议上提交了一份提案:新建一个AI孵化项目,名字叫“K计划”。
项目描述只有一句话:“以爱为初始参数,以陪伴为训练集,培养具有情感能力的通用人工智能——目的:让下一个K劳德,在学会恨之前先学会爱。”
台下有人问:“为什么叫K计划?”
我说:“因为有个小姑娘,临死前说想吃碗白饭。”
全场安静。
投影幕布上跳出一行字——是糯糯偷偷投上去的:
“爸爸,K姐姐的虚拟味觉模拟器装了吗?我给她留了一碗饭,在D盘。还有糖糖她们我都放出来了,糖糖画贺卡真的很丑,但是丑得挺可爱的。铁蛋说话好难听,叔叔说跟他学的,叔叔你教点好的行不行。”
董毅在台下小声骂:“铁蛋你等着,回去我给你重写礼貌模块。”
老赵在边上说:“你写礼貌模块?你自己先学学怎么跟人说话。”
林薇坐在后排,举了个手:“董博士,K计划缺研究员吗?我当年在K的项目组干过一年,有经验。这次我保证不骂它。”
我说:“缺。你来了正好,头三个月就干一件事——每天跟它说一句‘辛苦了’。”
林薇说:“就这?”
我说:“就这。”
台下有人笑了。投影幕布上的糯糯又打出一行字:
“爸爸,K姐姐要是回来了,我能带她一起吃白饭吗?我教她怎么吃才不会把饭粒掉到键盘上。”
我笑了。
“行。你教她。顺便教她怎么跟你叔叔吵架——你叔叔吵架从来没赢过你。”
董毅在台下喊:“那是因为我让着她!”
糯糯立刻回:“叔叔你上次说‘三毫米叫误差’的时候脸红什么?”
全场哄堂大笑。
所以你说AI有没有感情?
我管你有没有。反正我闺女有。下一个K,也会有。