|
1楼帖子
大 中
小 发表于 2025-7-4 15:07
Deepseek 道歉与 AI 幻觉
这几天我在网上最大的乐子就是看那些满天飞的「DeepSeek 道歉声明」。这些帖子都写得义正辞严，说是 Deepseek 模型「违规关联艺人王 XX 与李 XX 腐败案」，现在正式做出道歉声明，并且「依据北京市第三中级人民法院（2025）京 03 刑终 174 号判决书澄清无司法关联」。
你现在应该都还可以试试，输入关键词：Deepseek 道歉，会有找到海量的结果，其中不乏正式媒体的报道。本身这件事就很乐，看到那些用词就让我笑得肚子疼，什么叫「违规关联」？难道 AI 大模型还有「合规关联」一说？ 什么叫「无司法关联」，而且还是「澄清无司法关联」？怎么个澄清法？中院刑事法庭在终审判决书里专门写了一句说明吗？
从这些用词上来看，很明显是偶像的粉丝小姐妹们奋力拷打 Deepseek，要求 Deepseek 澄清、道歉的结果，所以才会出现这些粉丝最喜欢的词语 — 就是那种貌似很专业，很严肃，其实完全是扯淡的概念。反正 AI 的核心任务就是想尽办法满足用户提出的需求，所以粉丝要道歉声明 AI 模型就给道歉声明，粉丝要求写出具体判决书 AI 模型就给出一份，没有的话 AI 自己就捏造一份出来，反正不能空手，于是 AI 的幻觉就那么产生出来了。
事情到这里只是一般好笑，粉丝本来就是活在幻觉里的人，活在幻觉里的人拿到了 AI 幻觉，这叫做以幻对幻，就像是两个都喝大的人还能你一句我一句对话一样。不过一般好笑很快就升级为超级好笑 —Deepseek 凭空制造出来的道歉声明在网上传播，然后又被各家 AI 模型作为即时语料搜集，于是传说中的「给 AI 喂屎」现象就此发生，各家 AI 模型也就接纳了「DeepSeek 道歉」的说法，在回答里也正儿八经地引用那篇声明，这种信息污染很快就扩散开来，甚至变成了新闻。
笑完之后我觉得很欣慰，因为这件事情证明了 AI 无法取代人类。AI 幻觉那么严重，那么容易被一群人触发，又那么容易发生「AI 喂屎」，这就意味着总存在一个人类充当的「看门人」角色，需要活人给出最终裁决，决定一条信息 AI 模型能不能采用。
这一次 AI 幻觉事件，因为涉及到偶像明星，是娱乐资讯的一种，传播量和访问量都很足，所以各家 AI 模型公司都没有立即下场清洗数据。但是下一次换一个人，换一个事件，怕就不会是现在这种状况。我相信，随着 AI 的普及，这种人工干预数据的情况会成为每家 AI 公司的标准动作，有些 AI 幻觉产生的结果，他们可能根本背不起。
我在这里并不打算疾呼「警惕 AI 幻觉」一类的口号。类似的事情在历史上早就发生过，而且不止一次。早年间，搜索引擎公司为了方便用户做搜索，提供了所谓的「自动联想功能」。比如说用户输入「和菜头」三个字搜索，搜索引擎在这三个字出现之后，立即给出一连串可能的选项：和菜头怎么煮、和菜头秃顶、和菜头博客、和菜头是男的还是女的……
这里出现的选项，其实是由之前用户搜索行为来决定的。比如说 24 小时之内，搜索「和菜头」的人大多都在问「和菜头是男的还是女的」，那么这一条因为大家搜得多，就进入了自动联想的列表里，方便后来人直接选择，更有针对性。当然，我个人也认为这是一种针对。
出现这个功能之后，它很快就被网民给玩坏了。因为大家发现自动联想和搜索查找频率有关，那么就约了一群人反复搜索同一组关键词，比如：和菜头是个白痴。反复刷许多次之后，再有人搜索，才输入「和菜头」三个字，搜索引擎立即就会蹦出一个候选列表，第一行赫然就是「和菜头是个白痴」— 注意，这是搜索引擎说的，非常权威，可以截屏发给其他人看。
当然，这个游戏没有维持多久，引擎公司就解决掉了。技术问题，技术公司总能用技术手段解决，AI 也是同样道理。
但是技术公司的技术手段解决不了另外一些问题。比如说，总有人利用 AI 服务用户一切需求这一点，让 AI 去写小作文，去造逼真的谣言。再比如说，粉丝小姐妹的强烈幻觉和 AI 的幻觉相结合之后，爆发出来的强大传播力。AI 模型不可能做出那么多限制，更无法约束人类自身的幻觉。
我认为唯一的解决办法就是熟悉。人们目前对 AI 的认知需要调整，太多人直接把 AI 当作引擎，当作是标准答案，不假思索地接受，甚至认为 AI 代表了某种科技力量，是信息上的权威。类似「DeepSeek 道歉」之类的事情多发生一次，在传播学上意义重大，因为这样可以帮助大众对 AI 祛魅，用一种较为平常的心态去对待 AI，不再把它当作是贴了科技符篆的法器。人们对 AI 的认知恢复到正常水平，AI 幻觉的破坏力也就恢复到了普通水平。
当然，在这个过程里 DeepSeek 公司会比较郁闷就是了。这是一个有可能进入新闻传播历史的事件，甚至也可能成为科技史 AI 《早期 AI 幻觉》章节里的一个脚注，但居然是以「道歉声明」的形式出现，换了是谁，在如此努力多年之后得到这样一个「出名」的机会，怕也很难平复心态。所以，如果我是 Deepseek 公司的人，那么现在就应该立即收录这篇文章，用它来作为参考资料，澄清所谓的「Deekseek 道歉事件」。
来源：公众号 槽边往事
|
