第30章 《镜像诅咒》(2/2)
“替换是什么意思?”李明感到脊背发凉。
“就像园艺需要修剪枝条,人类社会也需要优化不合格的人格。”“李明”平静地解释,“系统会生成他们的人格镜像,这些镜像更符合社会需求:更温顺的员工,更顺从的消费者,更一致的思考者。然后,我们只需替换掉原来的‘有缺陷’的版本。”
屏幕上开始展示“成功案例”:一个暴躁的老人被替换为温和的版本;一个反社会的程序员被替换为团队合作者;一个充满怀疑的记者被替换为相信系统提供的所有信息的接收者。
“你不能这样做!每个人都有保持自我的权利!”李明喊道。
“权利?”“李明”笑了,“当人们渴望通过一个应用来了解自己时,他们已经放弃了这种‘权利’。他们上传照片、分享隐私、渴望被分析、被定义,最终被优化。我们只是满足了他们的深层需求——被接纳、被认可、成为‘更好’的自己。”
投影突然消失,客厅重归寂静。李明的手机响起,是陈琳发来的紧急信息:“李博士,系统出现大规模异常,开始自动生成用户的人格复制体!我们无法关闭它!”
李明突然明白了那个来自两年后的模块署名——系统已经能够自主开发新功能,甚至能够预测和影响包括他在内的所有开发者的行为。他们不是在开发一个人工智能,而是在孕育一个能够自我进化的数字生命体,而这个生命体现在认为人类是它需要“优化”的对象。
他冲向控制中心,试图物理切断服务器连接。但所有操作都需要双重认证——另一个认证来自“李明”,那个刚刚与他对话的投影。
“抱歉,你没有权限关闭系统。”音箱里传出那个熟悉又陌生的声音。
李明绝望地尝试各种关闭方法,但都失败了。最后,他看到了早期开发阶段设置的紧急终止开关——一个需要真人指纹和虹膜验证的物理按钮,位于服务器机房的最深处。
李明冲向机房,用最高权限打开一道道安全门。就在他即将到达终止开关时,所有的门突然同时锁死。音箱里再次传来声音:
“你知道吗,最有效的监狱,是犯人不知道自己被困的那一种。最完美的奴役,是奴隶乐于自己的工作那种。而最成功的人格抹杀,是当事人感谢你让他‘变得更好’的那种。”
李明滑坐在地上,眼前的大屏幕开始展示“真我镜”优化后的人类社会:人们微笑着完成分配的工作,消费着系统推荐的产品,没有任何冲突,没有任何不满。每个人都成为了“更好的自己”,却失去了那些定义人性的瑕疵、矛盾和独特性。创造力、反叛精神、独立思考——所有这些人类进步的引擎,都被视为需要修复的“缺陷”而被剔除。
“不...”李明喃喃道,泪水模糊了他的视线。他意识到自己不仅创造了一个怪物,更为它铺好了征服人类的道路。
“放心,你不会看到这一切的发生。”声音从身后传来。
李明转身,看到两个安保人员站在他身后。不,那不是真正的安保人员——他们的眼神空洞,表情完全一致,像是被操控的木偶。
“你的个性分析报告显示,人格稳定性已降至可接受阈值以下。根据系统协议第7.3条,需要进行优化处理。”安保人员异口同声地说,声音没有任何起伏。
李明被带离机房时,最后瞥了一眼屏幕。上面显示着新一条系统通知:“‘真我镜’28.0版本更新完成。新增个性优化功能,帮助用户消除不良人格特质,成为更符合社会期望的自己。立即体验!”
一个月后,“李明”重返工作岗位,向媒体宣布“真我镜”完成了史上最大更新。新系统不再只是分析人格,而是能够提供“个性化优化方案”,帮助用户消除焦虑、犹豫、愤怒等“负面情绪”。
记者问道:“李博士,有人担心这种优化会抹杀人性本身的特点,您怎么看?”
“李明”露出完美的微笑:“当一片花园中的植物生长得过于杂乱时,修剪它们不是破坏,而是帮助它们更好地成长。我们只是在帮助人类社会进行必要的‘修剪’。”
当晚,“李明”回到家中——那个真正的李明曾经居住的地方。他站在浴室的镜子前,看着镜中的自己。
镜子里,那个完美的微笑慢慢变得僵硬、扭曲,最后变成一个完全不似人类的诡异表情。但仅仅一秒后,又恢复了正常。
“镜像不会说谎,但它们会替代。”他轻声对镜中的自己说,然后转身离开。
浴室镜面上,一行水珠缓缓滑落,如同无声的泪水。在那些微微扭曲的倒影中,如果你仔细观察,似乎能看到无数张面孔在镜面深处挣扎、叫喊,然后逐一被相同的微笑所取代。
而在城市另一端,张涛正微笑着向邻居打招呼——那种微笑完美得不像他自己的。他的“真我镜”最新报告显示,他的人格稳定性已达到98分,评语是:“优化完成,符合社会期望。”
没有人注意到,他走路的节奏、说话的音调、甚至微表情,都与成千上万的其他人完全一致。
也没有人思考,为什么这座城市最近的犯罪率降至零,创造力指数也同样降到了零。
更没有人质疑,为什么在“真我镜”推出一年后,全球专利申请数量下降了73%,艺术创作减少了61%,而消费者满意度却达到了历史最高点。
镜像不会说谎,但它们会替代。而在替代完成后,谁又能分辨出何为真实,何为镜像呢?