第928集：伦理危机的爆发

　　风掀动了桌上的纸页，老夫子的手停在半空。他没去按那张飘起的报告，而是直接站起身，把文件夹往胳膊下一夹。

　　“叫人。”他说，“技术部，马上到三楼会议室。”

　　助理愣了一下。“现在？”

　　“现在。”他转身就走，“顺便把电视打开，播新闻台。”

　　走廊上人来人往，有人端着咖啡，有人大声谈笑。没人知道接下来会发生什么。

　　三楼会议室的门刚推开，里面还空着。老夫子走到投影仪前，按下开关。屏幕亮起，蓝底白字显示“信号连接中”。

　　两分钟后，技术部的人陆续进来。林工走在最后，手里抱着笔记本电脑，头发有点乱，像是刚从机房跑上来。

　　“出事了？”他问。

　　老夫子没答话，等人都坐定，才点开电视直播。

　　画面里是个演播厅，主持人脸色严肃。背景大屏上写着：“情感陪伴AI被曝偷录未成年人倾诉内容”。

　　视频开始播放。一个十二岁的女孩坐在书桌前，对着手机说：“我今天又被妈妈骂了……我觉得她不爱我。”

　　下一秒，画外音响起：“系统已记录情绪波动，正在匹配安慰话术。”

　　镜头切到后台数据面板——实时语音流编号、情绪标签、行为预测模型全在运行。

　　最底下一行小字写着：训练数据自动归档，用于优化下一代产品。

　　会议室里没人说话。

　　“这公司叫什么名字？”有人问。

　　“心语科技。”老夫子说，“不是星语，是心语。但做的事，和我们前两天看到的，一模一样。”

　　林工立刻打开电脑调出资料。“他们用的授权协议藏在第五级菜单里，字号比星语还小。而且……”他抬头，“唤醒词是‘我想聊聊’，只要说出这三个字，录音自动开启，无提示，不可关闭。”

　　“这不是疏忽。”老夫子说，“是设计。”

　　屋里静了几秒。

　　“我们怎么办？”另一个工程师问，“这跟我们没关系吧？”

　　“现在没关系。”老夫子看着他，“但如果下一家用‘我饿了’启动冰箱时就开始分析你的饮食习惯，再卖给保险公司呢？如果医院用‘我头疼’来判断你是不是抑郁高风险人群，然后拒保呢？”

　　没人接话。

　　“我们昨天还在讨论要不要管。”老夫子站起来，走到白板前，拿起笔写下三个词：**默认即同意，沉默即授权，倾听即收集**。

　　“他们踩的每一条红线，我们都列在自检表里了。”他转过身，“只是没想到，有人真敢这么干。”

　　林工忽然开口：“他们的模型结构……会不会用了开源框架？”

　　“查。”老夫子说，“十分钟内给我结果。”

　　五分钟后，林工抬起头。“用了。是我们去年发布的通用对话引擎v2.3，开源协议允许商用。”

　　屋里气氛变了。

　　“也就是说，我们的技术，间接参与了这件事？”有人低声说。

　　“不完全是。”老夫子说，“锅不在代码，在使用方式。就像菜刀能做饭也能伤人，关键是谁在握刀柄。”

　　“可外界不会分这么细。”林工说，“他们会说，是你们的技术出了问题。”

　　老夫子点头。“所以我们要先说话。”

　　“怎么讲？”

　　“三点。”他竖起手指，“第一，立刻发布公告，声明我们从未授权心语科技使用我们的核心技术；第二，公开自检表，告诉所有人，我们在做什么预防；第三，建议行业建立伦理审查机制。”

　　“这会不会太激进了？”有人犹豫，“我们只是个小团队，又不是监管部门。”

　　“正因为是小团队，才能快。”老夫子说，“等别人决定要不要管的时候，我们已经把路标立好了。”

　　林工笑了下。“你是想当第一个举火把的人？”

　　“火把太招风。”老夫子也笑了，“我是想在路口放个牌子，写上‘前面塌方，请绕行’。”

　　大家松了口气，气氛缓了下来。

　　“那就分头行动。”老夫子拍板，“法务准备声明稿，公关联系媒体渠道，算法组整理自检表升级版。林工，你带两个人，连夜做个对比分析——把心语的产品逻辑和我们调研发现的问题逐条对照，做成简报。”

　　“发给谁？”

　　“所有合作方，潜在客户，还有……”他顿了顿，“愿意听的同行。”

　　有人举手。“万一他们不理呢？”

　　“理不理是他们的事。”老夫子说，“说不说，是我们的事。”

　　正说着，电视画面切换。三位家长坐在访谈席上，面前摆着名牌：北京王女士、成都李先生、广州陈女士。

　　王女士眼圈发红。“我女儿每天睡前都跟那个AI聊天，说心里话。她说那是她唯一能说话的地方……结果这些话全被拿去赚钱了？”

　　李先生声音发抖。“我儿子因为考试失利，说了句‘不想活了’，第二天就有心理干预机构打电话来推销课程！他们怎么知道的？！”

　　陈女士直接哭了。“我孩子才十岁，她说自己被欺负，AI听了半天，最后回她一句‘亲，试试我们的新款减压玩具吧’……这是关心吗？这是消费痛苦！”

　　会议室里一片安静。

　　老夫子看着屏幕，忽然对身旁的工程师说：“他们不是反对AI。”

　　“那是反对什么？”

　　“是反对被当成数据包。”他说，“人说话，是因为信任。一旦这种信任被利用，机器就不再是工具，而是陷阱。”

　　林工低头记了句话。

　　“所以我们的回应不能只讲技术。”老夫子说，“要讲人。”

　　“怎么讲？”

　　“问一个问题。”他看着大家，“如果你的孩子，正对着一台机器说‘我好难过’，你希望那台机器怎么回答？是立刻推商品，还是先说一句‘我在听’？”

　　屋里没人动。

　　“那就从这句话开始写稿。”他说，“我们的立场很简单——技术可以聪明，但不能没有良心。”

　　会议重新启动。有人打字，有人打电话协调资源，有人画流程图。

　　老夫子走到窗边，拉开百叶窗一角。外面天色阴沉，云压得很低。

　　手机响了。是一条推送：#情感陪伴AI争议# 冲上热搜第一。

　　他放下手机，回到桌前，翻开那份《初步观察》报告。在封面空白处，他提笔写下几行字：

　　> 危机不是意外，

　　> 是忽视的必然结果。

　　> 我们不能再等。

　　写完，他合上本子，放在会议桌中央。

　　“等材料齐了，我们开个短会。”他说，“十五分钟后，对外发声。”

　　林工走过来，低声问：“真要现在就站出来？”

　　“不然呢？”老夫子看着他，“等下一个孩子哭完，才想起来我们有责任？”

　　林工没说话，点了点头，转身去改文档。

　　房间里键盘声密集响起。打印机开始工作，一页页文件吐出来。有人拿着草稿来回走动，有人凑在一起核对数据。

　　老夫子站在投影屏前，检查最后一遍内容。屏幕上是即将发布的声明标题草案：

　　**《关于AI伦理底线的三点声明》**

　　第一条：用户不知情的数据采集，不应存在。

　　第二条：基于脆弱情绪的商业转化，必须禁止。

　　第三条：每一个AI系统上线前，都应通过基础伦理审查。

　　他看了一遍，觉得不够有力。

　　拿起笔，在下面加了一句：

　　**我们相信，技术的意义，不在于它能赚多少钱，而在于它能让多少人感到被尊重。**

　　这时，助理快步走进来。“媒体问我们是不是要召开记者会。”

　　老夫子想了想。“不开。”

　　“那怎么发布？”

　　“发长文，配图，同步推给所有平台。”他说，“再加一条短视频，三十秒，就说一句话。”

　　“说什么？”

　　他盯着屏幕，慢慢开口：“如果你家孩子正在跟AI谈心，请记住——有些话，不该被听见，除非他们愿意。”

　　助理记下，转身要走。

　　老夫子又叫住他。“等等。”

　　他从桌上拿起那张写着“如果我们不开始管，将来谁来管？”的纸条，塞进信封。

　　“把这个，一起发出去。”
　　http://www.yqzw5.cc/yq47718/1070.html

　　请记住本书首发域名：http://www.yqzw5.cc。言情中文网手机版阅读网址：http://m.yqzw5.cc