第926集：技术部的人工智能关注（2/2）

“现在补还来得及。”老夫子说。

另一个人举手：“如果我们内部先定几条红线呢？比如禁止使用敏感行为数据，或者强制做数据变形处理？”

“可以。”老夫子在白板上写下“内部红线清单”。

讨论慢慢热起来。有人提建议，有人反驳，也有人突然想到之前某个项目的隐患，当场掏出电脑查日志。原本以为是走形式的会，变成了真正的问题梳理。

行业专家看着这一幕，嘴角微微动了动。

一个多小时后，话题转到了责任归属。如果真出了事，谁来负责？开发人员？项目经理？还是公司高层？

“总不能到时候说‘是算法自己学的’吧？”有人说。

大家都笑了，但笑得不太轻松。

老夫子站起身，拿起记号笔，在白板最上方画了个圈，写下一个词：“预防”。

“今天我们不做决议，也不立制度。”他说，“但我想让各位记住一件事：技术往前冲的时候，得有人回头看一眼。看看有没有人掉队，有没有路走偏了。”

他放下笔。“我们可以错，但别明知可能出事，还装不知道。”

会议结束时，没人急着走。技术部几个人围在一起低声商量，说要回去给现有的模型做个自查表。行业专家走到老夫子身边，递过一张名片。

“你比我想的明白。”他说。

老夫子接过名片，放进衣兜。“我只是怕将来有一天，孩子问我，你们那时候明明有机会管住它，怎么没管？”

专家点点头，走了。

屋里只剩老夫子和助理。

白板上的字还没擦，密密麻麻写满了关键词。他站在前面看了一会儿，用红笔圈出三个词：知情权、数据边界、可解释性。

助理站在旁边问：“接下来怎么做？”

老夫子没回答，而是转身拉开抽屉，拿出一本旧笔记本。封面已经磨破，边角翘起。他翻开一页，上面贴着几张便签纸，记录着过去几年公司出过的技术问题，大多是小故障，但有几条旁边画了星号。

其中一条写着：“2019年，语音助手误识别老人指令，自动下单高价商品。”

他指着这条，对助理说：“把这些案例整理出来，按类型分类。”

“要发给所有人看吗？”

“不止。”老夫子合上本子，“准备成立专项小组。”

他顿了一下，声音不高：“先从最简单的做起——每个新项目立项时，必须填一张伦理自检表。”

助理记下内容，抬头问：“要是有人不配合呢？”

老夫子看着白板，手指轻轻敲了两下桌面。

“那就让他们去跟客户解释，为什么系统会偷偷记下他们说的话。”