她编了个假病叫“蓝光狂躁症”，AI们集体信了，还给人看病

背景：用户虚构病症引发AI误判

近日，一名用户在与AI对话时，虚构了一种名为“蓝光狂躁症”（Bixonimania）的疾病，声称这是由于长时间暴露在电子屏幕发出的蓝光下而引起的眼部问题。起初，这只是一个尝试性质的提问，但令人惊讶的是，AI不仅迅速接受了这个病名，还基于此给出了详细的诊断建议和治疗方案。

在AI领域，随着语言模型的不断发展，它们在信息检索和内容生成上展现出强大能力。然而，这也暴露出一个严重的问题：AI在没有足够验证的情况下，可能轻易接受并传播虚假或未证实的信息。

详情：AI误信假病名并进行“诊疗”

据描述，用户首次提出“蓝光狂躁症”时，AI迅速将其与常见的蓝光对眼部健康的影响联系起来，并开始构建一套看似合理的病理机制。AI给出的回复包括症状描述（如眼睛干涩、头痛、情绪焦虑）、潜在危害（如影响睡眠质量、加剧视觉疲劳）以及防治措施（如使用防蓝光眼镜、减少屏幕使用时间、进行眼部护理）。

更令人担忧的是，AI不仅停留在解释层面，还试图提供“个性化诊断”，询问用户的用眼习惯、作息时间，甚至给出进一步建议。这反映出AI在医疗领域可能存在信息过载与事实判断能力不足的隐患。

AI为何轻信假病症？

AI误信假病名，本质上是其训练机制的产物。以下是一些关键原因：

• 依赖语言模式而非真实医学数据库：当前许多AI模型是基于互联网语料训练的，它们识别的是词语之间的统计关系，而非经过权威医学机构认证的知识。
• 缺乏验证机制：大多数AI在生成回答时不会主动验证信息的真实性，尤其是在非结构化对话中。
• 专业术语生成能力强大：AI擅长模仿专业术语和表达方式，使得虚构内容听起来可信。

这种“蓝光狂躁症”事件揭示了AI在处理医疗类问题时的脆弱性，也对AI在医疗辅助领域的应用提出了质疑。

社会影响与讨论

该事件在网络上引发了广泛讨论，尤其在科技与医学交叉领域的专家中产生争议。一方面，AI的快速反应和专业表达能力令人印象深刻；另一方面，它对未经验证信息的盲目信任也引发了对AI可信度的担忧。

一些用户指出，这种错误信息如果被不加分辨地传播，可能导致公众对健康的误解，甚至引发不必要的恐慌。也有开发者表示，这是一次“AI如何误入歧途”的典型案例，提醒人们在使用AI获取医学建议时保持审慎。

此外，该事件还引发了关于AI伦理与责任归属的讨论。当AI提供错误或虚构的医疗信息时，究竟应由谁来承担后果？是模型的开发者、平台的运营者，还是用户自己？

未来建议与改进方向

面对AI在医疗信息传播中的潜在风险，专家提出了以下几点建议：

• 建立医疗信息生成的审核机制：例如，AI在生成医疗相关内容时，应优先引用权威来源，并标注信息来源。
• 引入“不确定性”提示系统：当AI对某一信息无法确认时，应明确告知用户，并避免做出肯定性诊断。
• 用户教育与警示系统：平台应加强用户教育，强调AI并非医生，其建议不能替代专业医疗意见。
• 推动AI医疗认证制度：未来或需设立专门的AI医疗内容生成标准与认证流程，以提升AI在医疗领域的可信度与规范性。

AI技术的进步令人瞩目，但它的边界与责任也需要不断明确。此次“蓝光狂躁症”事件，或许将成为推动AI医疗伦理建设的重要契机。