第668集：技术部的伦理研讨会（1/2）

飞机落地后，老夫子没去休息区，直接让司机调头回公司。

大番薯在后排打呼噜，口水流到衬衫领子上。老夫子看了眼手表，距离技术部伦理研讨会还有四十分钟。

他掏出平板，打开金手指系统，把刚下飞机时收到的会议提醒调出来。屏幕上跳出一行字：【今日议程：ai项目伦理边界讨论｜主讲人：林教授（科技伦理研究中心）】

“林教授？”大番薯揉着眼睛坐直，“是不是那个专门挑刺儿的？听说她连国家重点项目都敢否。”

“是她。”老夫子合上平板，“上次陈小姐提过，她说我们这行干的不是代码，是权力。”

“那咱们岂不是要被骂一顿？”

“不一定。”老夫子解开领带，“只要别再拿‘用户体验优化’当借口偷偷抓数据就行。”

车停在楼下，大番薯拎着空箱子蹦下车：“我先上去占个好位置！”

老夫子跟着走进电梯，按下六楼。镜面里映出他皱着眉的样子，像昨晚没睡够。

会议室门口已经站了几个人。技术部的小李抱着笔记本，看见老夫子立刻凑上来：“老大，林教授十分钟前到了，一直在翻我们的测试日志。”

“她发现问题了？”

“她说第三轮内测时，有用户行为数据是在未弹出授权框的情况下采集的。”

老夫子点头：“我知道。那时候系统还没接入动态授权模块。”

“可我们当时写了免责声明啊。”旁边一个戴眼镜的工程师插话。

“免责声明不能代替同意。”老夫子推门进去，“人不是条款。”

会议室长桌两侧坐满了人。最上首坐着一位头发花白的女人，正低头看文件，听见动静抬眼扫来一眼。

老夫子走过去，轻声说：“林教授，路上耽误了，抱歉。”

她没起身，也没伸手，只问了一句：“你们现在收集用户眨眼频率，是为了什么？”

“分析注意力集中度，优化界面响应速度。”

“有没有告诉用户，他们的眨眼会被记录、存储、用于模型训练？”

“目前……还没有单独说明这一项。”

“那就是没有。”她合上文件夹，“你们一边做着关乎人类决策权的技术，一边连最基本的知情权都不给到位。这叫什么？”

没人回答。

老夫子坐下：“您说得对。早期确实存在流程漏洞。但现在系统已经升级，所有数据调用必须经过三级确认，并且用户可以随时查看历史授权记录，一键撤回。”

“演示一下。”

老夫子打开投影，接入金手指生成的可视化流程图。屏幕上出现一条条数据路径，每一段都标着时间戳和权限状态。

“这是上周的真实运行数据。”他说，“任何一次读取，都会触发通知。如果用户关闭权限，相关功能立即停用。”

林教授盯着看了两分钟，终于点头：“比我想的强一点。”

底下有人松了口气。

但她接着说：“但这只是技术补丁。真正的伦理问题不在后台，而在前端——你们凭什么决定哪些事需要告知，哪些不用？”

又是一阵沉默。

老夫子想了想：“所以我们今天开这个会。不是为了辩解，是为了重新划定边界。”

“那你先说，你们做的到底是什么？”

“我们在开发能辅助重大决策的ai系统。”

“比如？”

“医疗诊断建议、城市交通调度、企业人事评估。”

“谁来为错误负责？”

“开发者、运营方、使用者，三方共担。”

“如果ai建议裁员，而企业照做了呢？”

“那我们必须证明，建议基于合法数据，逻辑可追溯，且已提示风险。”

“可普通人看不懂‘逻辑可追溯’。”

“所以我们正在做‘决策翻译器’，把算法语言转成普通人能听懂的话。”

林教授终于露出一丝表情，像是想笑又忍住了。

她转向其他人：“你们觉得技术中立吗？”

几个工程师互相看看，没人敢开口。

角落里的小王举手：“我觉得工具本身没问题，关键看怎么用。”

“那刀也是工具。”林教授说，“可我们不会让一把刀自己决定切菜还是切人。”

会议室安静下来。

老夫子站起来，走到白板前写下三个词：**知情、可控、可追责**。

“这是我们接下来要死守的三条线。”他说，“不碰红线，也不甩锅给机器。”