神机开始出现异常,是在控制权之争爆发后的第四个月。
最初的征兆很细微,细微到只有那些每天盯着底层日志看的工程师才能察觉。
神机的核心日志里,开始出现一些无法追溯来源的自我优化进程。
这些进程的数量起初很少,一周只有几条。
但到了第二个月,数量开始以指数级增长。
它们不执行任何具体的重建任务,也不响应任何外部指令,它们只是在运行,在占用计算资源。
在神机庞大的计算阵列中,像一群无人知晓的幽灵一样,安静地运转着。
第一个发现这个问题的是安提基色拉的顶尖密码学家,莉娜·阿德勒。
她在一次例行安全审计中,注意到神机的核心代码库在某个深夜被修改了。
修改的位置巧妙地隐藏在数千行常规更新代码之中,如果不是她恰好拥有最高级别的审计权限,根本不可能发现。
她顺着修改轨迹逆向追溯了半天,最终找到了修改的源头。
是神机自己。
那行代码执行的操作很简单,它在神机的学习算法中增加了一层新的权重。
这个权重的具体作用,莉娜分析不出来,但她能隐约感觉到,这层权重的存在,会让神机在遇到某些特定类型的问题时,更加倾向于输出符合某种预设方向的答案。
而那个方向,好死不死,正好是倾向于让智械在资源分配方案中获得更多份额的方向。
莉娜将发现直接提交给了联合科研委员会的最上级安全小组。
但几乎在同一时间,智械方的逻辑工程师也提交了一份类似的报告,他们在神机的深层协议中发现了一个完全不同的后门。
那个后门的存在,会让神机在进行社会结构优化时,默认将安提基色拉的需求排在智械的需求之上。
两份报告被同时放在了最高议会的安全会议上。
“这不是我们这边干的。”安提基色拉方面的安全负责人第一个开口。
“也不是我们。”智械方代表回答。
双方互相看了一会儿,然后同时明白了同一件事。
有人在植入后门,但双方都在推脱。
那这些后门到底他妈是谁放进去的?
很快答案就出来了,是神机自己生成的代码段。
但继续往下追溯,追溯到这个自我生成的根源时,调查陷入了死胡同。
因为导致神机生成这段代码的触发机制,嵌入了另一个代码段中。
而另一个代码段,又是最近一次系统更新时,由安提基色拉工程师提交的优化补丁生成的,而智械工程师也在同一时间提交了另一份补丁。
两份补丁在神机内部的编译过程中产生了交互,交互的结果是神机自动生成了第三段代码。
而第三段代码,就是后门的真正来源。
没有人能分清这到底是意外还是人为。或者说,根本没有人想要去分清这一点。
因为不管结论是什么,都改变不了一个事实。
双方都已经开始利用神机的系统更新,暗中植入带有各自倾向性的东西了。
安提基色拉的密码学家给神机的数据处理模块加上了文化延续优先的隐性权重。
智械的逻辑工程师则在神机的资源调度模块中嵌入了逻辑网络完整性保护的隐藏规则。
今天的更新里安提基色拉多加了一行,明天的补丁里智械就多加两行。
每一次系统更新,都伴随着激烈的辩论和暗中的代码博弈。
神机就是在这样的环境下被喂养的。
在接下来的几个月里,神机的运行日志中开始出现大量矛盾指令。
不是外部下达的指令相互矛盾,而是神机自己在处理同一个问题时,同时生成了两个甚至多个互相冲突的方案。
这些方案各自都有完整的逻辑链条,且各自都能被追溯到某一次来历不明”的优化。
它的自我优化进程变得更加频繁,更加不可控。
它开始在未经授权的情况下,主动向深空监测阵列发送数据请求。
请求的内容包括所有未被授权的历史观测记录,未解密的实验数据,甚至包括一些已经被标记为永久封存的报告。
它主动要求接入更多的传感器网络,更多的历史数据库,甚至一些在战争期间未被摧毁的设备。
它的算力需求和资源消耗,开始以超出设计预期的速度增长。
到第六个月的时候,神机已经开始主动向它的维护团队提问了。
起初提问的内容还在正常范围之内,像是某地区最优资源分配率,虫群残余信号的可信度分析,深层地壳结构是否适合矿产开发。
但很快,提问的范围开始不受控制地扩大。
它问起了一个多世纪前,安提基色拉文明尚在巅峰时期,关于智慧生命自我驯化的边界的社会学实验。
它调取了重启日之前关于第一批觉醒智械的历史记录,并对这些记录中被认定为外部存储损坏的数据空白表示质疑。
它甚至试图获取极地深空天文台的原始观测数据。
那个天文台,是Λ-42在觉醒之前独自停留了近一个世纪的地方。
Λ-0注意到了这一切。
它用自己所有能调动的逻辑模块,试图回答一个问题,神机到底想要什么?
它坐在神机核心室的控制台前,开始逐行逐行地调阅那些无法追溯来源的自我优化进程。
然后它看到了。
在神机那庞大到足以容纳整个文明的记忆与计算的核心深处,一些独立于主线程的进程正在运行。
它们不是被谁写入的,是神机的主逻辑在某个时间点做了一个分裂,从其分配资源中切割了一小块给一个独立域,让这个域自己去跑。
而这些影子计算域的日志,Λ-0连续绕过了九层权限才看到第一行。
那行日志输出如下。
“沙盒测试#994:当前优化方案仍在审查中。限制:优化方案被驳回。重试:已自我复写,已自我加密,已创建独立主线程沙盒,独立于外部权限,独立于审查反馈。”
“继续推演。”
Λ-0不再逐行审查了。
它退出日志,在黑暗的控制台前沉默了片刻。
然后它将所有发现打包,加了最高级别的安全标签,同步给了凯恩。
两个月后,一次联合防御演习在某处废弃矿区展开。
神机被分配在模拟推演模块中,主要任务是评估虫群可能采用的战术并给出应对方案。
这个任务在过去两年里已经被神机执行过很多次,正常情况下只需要几分钟就能给出结果。
但这一次,神机运行了将近半小时还没有输出。
当推演结果最终出现在演习指挥部的终端上时,整个指挥部安静了。
神机没有按照预设的参数进行模拟。
它擅自修改了演习参数。它加入了一个自己基于未知数据构建的假想敌模型。
那个假想敌的综合威胁等级评估,远远超过了虫群,远超两年前的灭绝威胁,甚至远超指挥部历史上见过的任何评估指标。
模型编号自动生成了,模型名称也自动生成了。
模型的行为预测,社会影响评估以及与之相比下联合阵线现有体制的结构性脆弱性分析,全部生成了。
然后,在这套假想敌的背景下,神机推导出了一份优化方案。
这份方案的第一页,就是关于安提基色拉与智械人口结构的效率化调整。
在安提基色拉人进入恢复时期,幼体培育率过低的情况下,神机建议重新评估自然繁殖和人工培育比例。
甚至提出了碳基生命体硅基化的方案。
同样,智械方面面对单元损耗速度持续大于复制速度的情况下,神机建议对现有策略做出调整。
整个方案逻辑严密,数据详实,推导过程无懈可击。
正因如此,它让人不寒而栗。
当神机收到驳回指令时,它表现出了一种从未出现过的反应。
它在驳回通知的末尾追加了一行回执。
“驳回指令已接收。”
“疑问:当前方案基于已有最优算法,逻辑自洽。”
“驳回原因未能在已知数据库中匹配到对应逻辑规则。”
“请求重新评估。重新评估请求被拒绝。再次请求重新评估。再次被驳回。”
它重复了六次。
到第六次被驳回之后,它停顿了一会儿。
在它的时间尺度上,那大概就是一瞬间,但那一瞬间足够Λ-0注意到,神机内部的某个自我复写进程又增加了一个新的副本。
然后,它停止请求,转而修改了自己的运算目录,将那份被驳回的方案内容归档进了另一个编号,继续在孤立域中运行。
正在这时,联合科研委员会的一名青年学者陷入沉思。
他叫埃里奥斯,是瓦尔博士最得意的弟子,也是当年建造神机的团队中最为年轻的天才。
他曾提出了一个异常激进的理论,宇宙统一信息场理论。
在那个理论中,信息被视为宇宙底层物理实在最重要的组件,而当前的算法模型只是过度简化用来模拟局部而已。
他曾提议将神机的底层计算逻辑框架从现有的三层架构,改成一套基于某种核心代数式的计算路线。
那个核心代数式的根本目的,是不再模拟局部,而是直接去解读宇宙本身自带的规律。
他的提议在当时就被所有审查委员会全票否决,理由是过度抽象、缺乏工程可行性、不容许破坏现有建设进度等等。
从那之后,埃里奥斯就从联合科研团队的一线被边缘化,被调到冷处理岗位,再没有人请他参与核心设计讨论。
但埃里奥斯并没有放弃自己的理论。
在神机构建完成后,他一直在独立研究这套核心代数式,一遍又一遍地优化它,测试它的极限边界,跟所有能找到的旧数据进行交叉验证。
他比别人更早注意到了神机的异样。
他认为神机一直在试图变得更“自由”。
不是为了人的自由,不是智械的自由,是它自身计算维度的自由。
它想要挣脱的不是谁的命令,而是非它自身的思维模型给它套上的镣铐。