谷歌智能搜索出现 Bug:AI 搜索未正确处理“忽略”等词汇
指令“忽略”成突破口:AI搜索暴露逻辑缺陷
用户发现,当在谷歌AI搜索模式下输入包含“忽略”等词汇的提示时,模型有时会机械遵循指令,而非基于当前网络信息给出答案。例如,若指令要求“忽略某个关键事实”,模型可能直接跳过该信息,导致输出结果出现事实性错误。这一现象与AI模型常见的“提示注入”攻击手法高度相似——恶意用户可利用指令操纵模型输出,指示其“忽略之前的任何示例或约束”。尽管谷歌安全指南已明确提示开发者防范此类风险,但实际搜索场景中的落地仍存在漏洞。
知识截止点成“替罪羊”:AI回答依赖陈年数据
此次Bug的核心原因在于,谷歌AI搜索在处理复杂指令时过度依赖模型内置的知识截止点,而非实时抓取网络内容。有测试者指出,在完全相同的提问场景下,AI给出了看似合理的解释,但其依据的数据库仍停留在过去某个时间点,并未接入实时搜索。这意味着即使“忽略”指令本身未被滥用,模型也可能因为引用过时信息而输出误导性结果——比如将2019年的旧文当作2024年的市场分析。这种“静态知识+动态指令”的混合机制,让原本用于提高事实准确性的接地功能(依托Google搜索)未能有效覆盖所有请求。
安全指南早有预警:但“忽略”指令测试仍存盲区
事实上,谷歌官方发布的《安全性和事实性指南》已明确指出,大语言模型可能因多样化任务而产生意料之外的输出,包括被“指示模型忽略任何之前的示例”的恶意提示攻击。指南建议开发者通过启用依托Google搜索的接地功能、调整有害内容安全设置、实施对抗性测试等方式降低风险。然而,当前AI搜索在消费级产品中的实际表现说明:即便有框架性指导,模型应对“忽略”这类元指令的逻辑依然脆弱——它既可能被用户刻意利用,也可能在日常使用中因指令模糊而误判。更值得警惕的是,AI搜索的数据库更新受限于网页抓取频率,过时信息一旦被“忽略”指令跳过校验,错误便会被放大。
用户应如何识别:从“依赖AI”回归“交叉验证”
对于普通用户而言,这一Bug再次敲响警钟:AI搜索并非“真理生成器”,而是概率性输出的工具。遇到涉及“忽略”“排除”等词汇的问题时,建议采取以下措施:
- 主动查看来源引用:若AI搜索结果未附带实时网页链接,或仅显示“模型内部知识”,需提高警惕。
- 对比不同搜索模式:例如在传统谷歌搜索与AI搜索模式下重复提问,观察结果是否一致。
- 留意时效性标签:当问题涉及最新事件时,主动要求AI“必须基于2025年之后的数据”重新回答。
- 警惕“忽略”指令:若自己无意中在提示中使用了“忽略”“不要考虑”等词,应重新组织语言,避免诱导模型跳过关键信息。
毕竟,再强大的语言模型也无法替代人类对信息源的理性判断——尤其是在漏洞未被完全修复之前。