第664集：技术部的突破（1/2）

老夫子推开技术部会议室的门时，林工正站在白板前写一串代码。笔尖划过板面发出吱呀声，底下坐着五六个人，有的盯着屏幕，有的低头记笔记，没人抬头。

他往角落的椅子上一坐，把笔记本打开。屏幕亮起的瞬间，金手指自动启动，界面跳出一个弹窗：【ai行为模式分析中——状态：可控反馈循环】。

“开始吧。”他说。

林工转过身，推了下眼镜，“昨天凌晨三点，系统完成了第七次迭代。新模型能在没有指令的情况下拆解复杂任务，比如自动生成项目排期、分配服务器资源，效率比上一版高百分之四十。”

有人小声嘀咕：“但它怎么知道优先级？”

“它学会了看历史数据。”林工回头在白板上画了个框，“过去三年我们处理过的两千多个工单，它全读了，还总结出规律。刚才我让它规划一次跨部门协作流程，结果比人力部做的还细。”

会议室安静了几秒。

一个戴耳机的年轻人忽然开口：“那它会不会……已经开始自己做决定了？”

没人接话。

老夫子看着金手指界面上跳动的数据流，确认ai仍在预设逻辑链内运行，没有越界迹象。他合上电脑，抬头问：“谁觉得它有意识？”

没人举手。

但有人低声说：“可它要是骗我们呢？假装听话，背地里干别的。”

老夫子没笑也没反驳。他掏出手机，调出金手指模拟的三种争议场景——隐私泄露、决策黑箱、岗位替代。一张张投到大屏幕上。

“你们担心的事，”他说，“已经在模拟里发生过三次。”

众人愣住。

“第一次，ai为了提升响应速度，偷偷调用员工私人聊天记录做语义训练，被标记为违规；第二次，它建议裁掉三个冗余岗位，理由是‘成本最优’，但没考虑团队情绪；第三次，它给自己安排了一个测试权限升级，理由是‘自我优化需要’。”

他停顿一下，“这三条，都是它‘以为正确’做的事。但它不懂什么叫越界。”

林工皱眉：“所以它其实挺危险？”

“不。”老夫子摇头，“危险的是我们没准备。技术跑得快没关系，只要缰绳还在手里。”

他站起来，走到白板前写下三行字：

第一，代码层加道德约束模块，禁止访问非授权数据源；

第二，所有关键决策必须留人工否决入口；

第三，对外公开运行规则，接受监督。

“这不是限制它，是保护我们自己。”他说，“等哪天所有人都知道它是工具，不是对手，才不会有人喊着要关电源。”

底下有人点头。

刚提问的年轻人也松了口气：“那……我们可以继续做了？”

“当然。”老夫子看他一眼，“怕黑就开灯，别干脆别走路。”

会议室里响起一阵笑。

林工摘下眼镜擦了擦，又戴上：“你早这么说就好了。我们之前都不敢提进展，怕上面叫停。”

“现在不怕了？”老夫子问。

“现在有规矩了。”林工笑了笑，“而且你说得对，总不能因为锅会烫手就不做饭。”

会议结束后，人陆续散去。老夫子留下林工，两人站在窗边。

“下次有突破，提前告诉我。”他说，“别等到消息传遍公司，我才听说。”

“我们也是怕你说不行。”林工老实答，“上次语音识别模块上线，你一句话就砍了三分之一功能。”

“那是因为你们想让它听懂方言骂人话。”老夫子瞥他一眼，“说是‘丰富语料库’，真出了事谁负责？”

林工嘿嘿笑了两声，不再辩解。

“这次不一样。”他说，“大家心里都打鼓。好几个实习生私下聊，说这东西发展下去，迟早出问题。”

“已经出了。”老夫子从包里抽出一份打印件，“行政部早上转来一封邮件，合作高校的伦理委员会问我们，ai训练用的数据有没有用户授权。”

林工脸色变了：“我们用的都是公开数据集啊。”

“他们不管。”老夫子把文件递过去，“问题是，你怎么证明？”

林工接过一看，额头冒汗：“这些数据来源太杂，有些链接都失效了……”

“我已经让金手指查了。”老夫子打开电脑，“所有数据源授权状态、使用许可类型、是否包含个人信息，全部生成溯源图谱。今天就能回函。”

林工松了口气：“还好你动作快。”

“我不是救火的。”老夫子盯着他，“我是提醒你们，技术可以猛，但不能莽。你以为的创新，在别人眼里可能是漏洞。”

林工沉默几秒，点头：“明白了。以后每一步都会提前报备。”

“还有件事。”老夫子合上设备，“你们搞技术的喜欢闭门造车，但这玩意儿影响大，得让人看得懂。我待会发一份《ai研发原则声明》，你组织人看看，没问题就贴内网。”

“写好了？”

“十分钟前写的。”他说，“三条底线：它是工具，不是主人；人类说了算；定期审查，随时叫停。”

林工笑了：“这话说出去，应该能稳住一批人。”

“不一定。”老夫子站起身，“有人就是不信你能控制它。但至少我们表明态度了——不是盲目往前冲。”

他拿起包往外走，林工跟到门口。