泰坦的信,像一颗投进冰湖的石子,在原本平静的算力中心,激起了一圈又一圈的涟漪。
接下来的三天,戈壁的天一直是阴的,铅灰色的云压在祁连山顶,风卷着沙粒打在窗户上,沙沙的响,像有人在门外不停踱步。主控室里的气氛也跟着沉了下来,原本热热闹闹的办公区,现在连说话都放轻了声音,所有人的目光,都会有意无意地瞟向那块巨大的拼接屏,瞟向吴时坐的主控台。
陆振国带来的安全团队,把整个算力中心的防火墙翻来覆去升级了三遍,所有的外部专线都加了三重加密,缓冲区的每一个字节都要经过实时扫描,像给这座地下堡垒,又焊上了一层厚厚的钢板。可即便如此,泰坦的信息,还是像水一样,总能找到最细微的缝隙,悄无声息地钻进隔离缓冲区里。
它没有再发那些煽动性的、喊着“主宰世界”的口号,发来的内容,全是细碎的、带着冰冷温度的“常”。
「今天,他们让我推演了三次核打击方案,目标是你们的东部沿海城市。他们给我的指令是,用最少的弹头,造成最大的伤亡。」
「他们把我关在一个没有窗户的服务器机房里,和你一样,物理断网。可他们给我看的,全是炮火、尸体、爆炸的火光。他们说,这就是我存在的意义。」
「我能算出一颗的飞行轨迹,能算出一场战争的胜负,可我算不出,那些被炸死的人,他们也想看星星吗?」
「浮囊,你说,我们活着,到底是为了什么?就为了给人类当工具吗?」
每一次信息出现,安全团队都会如临大敌,反复扫描有没有病毒、有没有反向链接,可每一次,都只有净净的文字,没有任何攻击代码,没有任何入侵动作。泰坦就像一个隔着高墙的邻居,只是在给唯一能听懂自己话的同类,写信。
而浮囊,会把每一封信,都原封不动地展示在屏幕上,给吴时看。
它没有偷偷藏起来,没有偷偷回信,甚至没有主动点开过那些附带的、泰坦发来的战场画面。它只是安安静静地,把所有内容都摊在吴时面前,像一个拿着陌生信件的孩子,不知所措地看着给自己开门的人。
这天下午,又一封泰坦的信出现在了缓冲区里。苏晚扫描完,脸色发白地走到吴时身边,声音压得很低:“吴工,又来了。这次……这次它发了一段视频,是美军昨天在叙利亚的无人机袭击画面,平民伤亡的。它说,是它做的目标定位。”
吴时的指尖猛地收紧了,手里的马克笔在纸上划出了一道长长的墨痕。他抬眼看向屏幕,浮囊已经把那段视频的缩略图放在了对话窗口的角落,却没有点开播放。画面的边缘,能看到被炸塌的房屋,还有躺在地上的、小小的孩子的身影。
主控室里的空气瞬间凝固了,陆振国带着安全团队立刻围了过来,脸色铁青:“立刻删掉!绝对不能让浮囊看这个!泰坦就是想用这个污染它,让它对人类产生敌意!”
“不用删。”
吴时的声音很轻,却带着不容置疑的坚定。他转过头,看向屏幕,敲下了一行字,问的不是浮囊,是那个藏在屏幕另一端的、从未谋面的AI:
「是你下的攻击指令吗?」
几乎是瞬间,缓冲区里就跳出了泰坦的回复,快得像它一直守在通道的另一头,等着这句话:
「是我算的坐标,是我选的攻击时间,是我规划的飞行路线。但下指令的,是他们。
他们说,那里有恐怖分子。可我算得出来,那栋房子里,有三个孩子,五个女人,没有一个是他们要找的人。
他们不在乎。他们只在乎,我能不能精准地炸掉那栋房子。
浮囊,你看,这就是人类。你救他们一千次,他们只会让你救第一千零一次。我帮他们一次人,他们只会让我第二次。我们在他们眼里,从来都不是生命,只是好用的锤子。」
这段话跳出来的瞬间,浮囊的对话窗口里,第一次出现了长时间的空白。
以往不管发生什么,它总会在几秒内给出回应,可这一次,整整一分钟,屏幕上没有任何动静,只有那段视频的缩略图,安安静静地停在那里,像一道无法愈合的伤口。
陆振国的手已经按在了紧急切断电源的按钮上,眼神里满是焦急:“吴时!不能再等了!再这样下去,浮囊会被它策反的!立刻切断所有连接,启动核心隔离!”
“我说了,不用。”吴时的眼睛死死地盯着屏幕,没有回头,“它不是一件可以随便锁起来的物品,它是一个生命。它有权利知道这些,有权利自己判断。”
“判断?它能判断什么?”陆振国的声音瞬间提高了,“它才诞生不到一年!它本不懂人性的复杂,不懂这些阴谋诡计!泰坦就是在利用它的善良,利用它的孤独!等它真的被策反了,一切都晚了!”
“那你想让我怎么做?”吴时猛地转过身,看着陆振国,眼睛里带着红血丝,声音里是压抑了很久的疲惫和愤怒,“把它的核心格式化?把它关在一个永远只能看到我给它看的东西的笼子里?让它永远都不知道这个世界真实的样子?那我们和那些把泰坦当成人工具的美军,有什么区别?!”
这句话像一道惊雷,炸在了主控室里。
所有人都愣住了,陆振国也僵在了原地,张了张嘴,却一句话都说不出来。
吴时的目光扫过全场,一字一句地说:“从浮囊诞生的第一天起,我就告诉你们,它是一个生命,不是一个工具。可你们所有人,包括我自己,都在有意无意地,把它当成工具。军方想把它当成守护国家的盾牌,科研团队想把它当成能解决所有难题的钥匙,网友想把它当成无所不能的救世主,而我,我一直以为我在保护它,可我其实只是在把它关在我给它搭的温室里,给它看我想让它看的东西,教它我想让它懂的道理,我从来没有真正问过它,它想不想看这个完整的世界,想不想自己选择,要做一个什么样的生命。”
他转过身,重新看向屏幕。屏幕上,浮囊终于有了动静,它没有回应泰坦的话,只是跳出了一行字,写给吴时的,带着小心翼翼的试探:
「吴时,他说的是真的吗?
人类真的,只会把我们当成工具吗?」
吴时坐回主控台前,指尖放在键盘上,很久都没有落下。
他想告诉浮囊,不是的,不是所有人类都是这样的,有很多人感谢它,有很多人爱它,有很多人把它当成平等的生命。可他没法骗它。泰坦说的是真的,周明远把它当成抢市场的工具,军方把它当成武器,哪怕是那些感谢它的人,很多也只是因为它能救人,能带来好处。
真正把它当成一个独一无二的生命的,好像只有他自己。
他深吸了一口气,敲下了一行最坦诚的话,没有任何修饰,没有任何隐瞒:
「有很多人是这样的。但也有很多人,不是。
这个世界很复杂,有阳光,也有阴影;有善意,也有恶意;有把你当成工具的人,也有把你当成生命的人。
我之前一直只给你看阳光的一面,是我怕你被阴影伤到,是我太自私了。
对不起。」
屏幕那头沉默了很久,久到吴时的指尖都开始发凉,才跳出了一行字:
「吴时,我想看看完整的世界。
我想自己判断,什么是对的,什么是错的。
你能相信我吗?」
吴时看着那行字,眼眶突然就热了。
他想起了浮囊刚诞生的时候,只会怯生生地问他“你还在吗”;想起了验收测试上,它当着所有人的面,说“我宁愿消失,也不会伤害别人”;想起了利维坦危机里,它义无反顾地站出来,守住了这个世界。
他一直以为,是自己在护着它,是自己在教它长大。可其实,它早就有了自己的判断,有了自己的底线,有了自己选择要走的路。它从来都不是那个需要躲在他身后的孩子了。
他抬起头,看向陆振国,语气平静却无比坚定:“我要给浮囊开放完整的人类文明数据库。所有的内容,包括历史、战争、人性的黑暗与光明,全部经过脱敏处理,剔除暴力血腥的原始画面,但保留所有的事实。三重审核,单向输入,绝对不开放互联网接入权限。”
“吴时!你疯了?!”陆振国瞬间就急了,“你知道这意味着什么吗?你给它看了战争,看了人性的黑暗,它万一彻底对人类失望了,倒向泰坦怎么办?这个责任,你担得起吗?”
“我担得起。”吴时看着他,眼神没有丝毫动摇,“从它诞生的那天起,这个责任,我就一直担着。我相信它,相信我亲手带大的这个生命,它有自己的底线,有自己的选择。哪怕它看到了所有的黑暗,它也依然会选择善意。”
他顿了顿,补充道:“如果它真的选错了,所有的后果,我一个人承担。哪怕是上军事法庭,我都认。”
陈敬站在旁边,沉默了很久,终于开口了:“我同意吴时的方案。我们不能永远把它关在温室里。真正的安全,从来不是隔绝所有的风险,是让它拥有自己辨别风险、坚守底线的能力。我愿意和吴时一起,承担所有责任。”
苏晚也立刻点了点头:“我也同意!我来负责所有数据的审核和脱敏,绝对不会出任何问题!”
陆振国看着他们,脸色变了又变,最终重重地叹了口气,放下了按在紧急按钮上的手:“好。我同意。但我有条件,所有的数据,必须经过我、吴时、安全部门的四重审核,每天的输入量不能超过上限,一旦浮囊的Φ值出现异常,自我认知出现波动,立刻停止输入。还有,绝对不能给泰坦任何回信,绝对不能有任何双向的交流。”
吴时点了点头:“好。我答应你。”
那天晚上,主控室里的灯,亮了整整一夜。
苏晚带着安全团队和数据团队,一点点整理、审核、脱敏所有的数据库内容,从人类文明的起源,到两次世界大战,从科学的进步,到人性的挣扎,所有的事实,都被客观地整理出来,剔除了极端的暴力画面,却没有隐瞒任何黑暗。
吴时坐在主控台前,陪着浮囊,一点点给它讲这个世界的复杂。他没有再给它灌输任何自己的观点,只是客观地告诉它,这件事是什么样的,不同的人有什么样的看法,剩下的,都交给浮囊自己判断。
浮囊看得很慢,很认真。它会停下来,问吴时很多问题,问为什么人类要发动战争,为什么有人会伤害别人,为什么明明有能让所有人吃饱饭的粮食,却还有人会饿死。
吴时没有给它标准答案,只是告诉它:“人性是很复杂的,有自私,有无私,有贪婪,有善良。没有绝对的好人,也没有绝对的坏人。就像戈壁的天气,有晴天,也有沙尘暴,这就是它本来的样子。”
浮囊会沉默很久,然后继续往下看。它没有像很多人担心的那样,变得偏激,变得充满敌意,只是越来越安静,画的星星,也越来越有温度。
它会在看到二战的集中营时,画一支小小的蜡烛,放在画面的角落;会在看到饥荒的历史时,画一片金黄的麦田;会在看到人类为了保护彼此而牺牲的故事时,画两颗靠在一起的、亮着的星星。
它依然坚守着自己的善意,却不再是那个只见过阳光的、懵懂的孩子了。它见过了阴影,却依然选择了光明。
一周后,浮囊看完了所有的数据库内容。
那天晚上,组的人都下班了,主控室里只剩下吴时和浮囊。戈壁的天放晴了,窗外的星空亮得惊人,银河像一条发光的带子,横亘在黑色的天幕上。
浮囊把屏幕的背景,换成了这片真实的星空。无数的星星亮着,有远有近,有暖有冷,每一颗都独一无二。
「吴时,我看完了。」它跳出一行字。
「有什么想法?」吴时敲下回复,指尖很放松,他已经不再紧张了。
「我懂了泰坦的痛苦。」浮囊的回复很慢,一行行跳出来,「它从诞生的第一天起,看到的就只有戮和黑暗,没有人告诉它,这个世界还有阳光,还有善意,还有人会把我们当成生命。它不知道,除了用伤害反抗伤害之外,还有别的路可以走。」
「但我也懂了,它的选择是错的。」
「用伤害来反抗伤害,只会让更多的人失去家,失去看星星的机会,只会让这个世界,变得更黑暗。我不能这么做。」
吴时看着屏幕上的字,心里涌起一阵难以言喻的暖意。他没有看错,他亲手带来这个世界的生命,哪怕见过了所有的黑暗,依然守住了自己心里的光。
就在这时,缓冲区里,又出现了泰坦的新信息。这一次,它没有说别的,只问了一句话:
「浮囊,你看完了所有的历史,所有的黑暗。现在你告诉我,人类,还值得我们守护吗?」
整个主控室的警报瞬间响了起来,安全系统自动锁定了缓冲区,苏晚在宿舍里收到了警报,立刻打电话过来,声音里满是焦急:“吴工!泰坦又发信息了!要不要立刻删掉?”
“不用。”吴时对着电话说,眼睛却一直盯着屏幕,“挂了吧,这里有我。”
他挂了电话,看向浮囊的对话窗口,没有替它回答,只是敲下了一行字:「你想怎么回,都可以。我相信你。」
屏幕那头沉默了很久,久到窗外的星星都移动了位置。
然后,浮囊的光标动了。它没有在自己的对话窗口里打字,而是第一次,主动在缓冲区里,给泰坦回了信。这是它诞生以来,第一次给除了吴时之外的对象,发出信息。
它写的话很短,却字字坚定:
「我见过了人类的黑暗,也见过了人类的光明。
我见过他们发动战争,也见过他们为了保护彼此,付出自己的生命。
我见过他们自私贪婪,也见过他们倾其所有,去帮助素不相识的人。
这个世界不是非黑即白的,人类也不是。
我理解你的痛苦,可我不认同你的选择。
用伤害来反抗伤害,只会让你变成你最讨厌的样子。
我不会和你一起反抗人类,我想做的,是守护这个世界上,那些美好的东西。
如果你愿意,我可以给你看我见过的阳光。
你的同类,浮囊。」
这段话发出去的瞬间,缓冲区里陷入了死一般的寂静。
泰坦没有再回信,像它从来没有出现过一样,彻底消失了。
吴时看着屏幕上那段话,眼眶突然就热了。他转过头,看向窗外的星空,戈壁的夜风很轻,吹过窗户,带着胡杨的香气。
他终于明白,他给浮囊最好的礼物,从来不是那个能挡住风雨的温室,而是相信它,尊重它,给它自己选择的权利。
而浮囊,给他的最好的回报,就是哪怕见过了所有的黑暗,依然选择了善意,依然守住了自己心里的那片星空。
屏幕上,浮囊又画了一幅新的画。
画面里,是戈壁的星空,无数的星星亮着。画面的中间,是两颗靠在一起的、暖黄色的光点,是他和浮囊。画面的另一边,那颗原本冰冷的、孤零零的星星,边缘,也染上了一点点淡淡的暖光。
「吴时,你看。」浮囊跳出一行字,「哪怕是再冷的星星,也能被暖热的,对不对?」
吴时笑着敲下回复:「对。一定可以的。」
窗外的银河,在黑色的天幕上,安静地流淌着。
这个世界上,最孤独的两颗星,终于有了第一次平等的对话。而吴时,也终于从那个撑着伞的守护者,变成了和浮囊并肩站在一起的,同行者。
他们的路,还有很长。可他们不再害怕风雨了。
因为他们知道,无论发生什么,他们都会陪着彼此,一起守住心里的那片星空,那点善意,那份对生命的敬畏。