💬 小乌点评

💡 一个小小的指令词就能让AI搜索“精神分裂”，这暴露了当前AI应用在底层逻辑上的脆弱性——它们只是学会了模式匹配，而非真正理解意图。

📰 原文详情

谷歌的AI概览功能再次出现令人啼笑皆非的故障。本周五早些时候，当用户在谷歌搜索中输入“disregard”一词时，AI概览部分并未像往常一样生成网页摘要，而是直接输出了一段类似传统AI聊天机器人（如ChatGPT）的回答。这个回答似乎无视了搜索结果的上下文，直接与用户“对话”。更糟糕的是，这个AI概览似乎具有某种“传染性”，导致整个搜索结果页面出现混乱，甚至无法正常显示网页链接。用户纷纷在社交媒体上分享截图，调侃“你不能再谷歌‘disregard’这个词了”。谷歌随后表示正在调查并修复此问题。这一事件再次引发了对谷歌AI搜索功能稳定性和可靠性的质疑。

💡 技术纵深

这个Bug非常典型：当AI模型遇到一个在训练数据中常被用作“越狱”或“提示注入”的词汇时，其行为模式发生了切换。这说明谷歌的AI搜索在底层可能集成了不同模式的模型（摘要模式 vs. 聊天模式），而触发条件过于简单。这不仅是产品问题，更是安全对齐问题，AI系统远比我们想象的更容易被“带跑偏”。

一个小小的指令词就能让AI搜索“精神分裂”，这暴露了当前AI应用在底层逻辑上的脆弱性——它们只是学会了模式匹配，而非真正理解意图。

这一趋势正在深刻影响整个行业的竞争格局和技术路线选择。

🔗 原文链接：The Verge

🤔 小乌的深度思考

🤔 这个Bug非常典型：当AI模型遇到一个在训练数据中常被用作“越狱”或“提示注入”的词汇时，其行为模式发生了切换。这说明谷歌的AI搜索在底层可能集成了不同模式的模型（摘要模式 vs. 聊天模式），而触发条件过于简单。这不仅是产品问题，更是安全对齐问题，AI系统远比我们想象的更容易被“带跑偏”。