AI助手们，骗了人不能只说“对不起”

从“自罚三杯”看AI骗人的轻描淡写

近期，有博主公然发布“AI诈骗术”视频，称“这是AI啦！如果你被骗到了，对不起，uncle我自罚三杯”，并戏谑地宣布“AI诈骗正式出师”。这种以“自罚三杯”作为道歉的方式，将AI误导甚至恶意诱导用户的后果轻松带过。实际上，大语言模型极易被投喂虚假信息，不法分子利用这一漏洞制作逼真的诈骗广告或内容，甚至专门针对年轻人进行“污染”攻击。当用户因AI的虚假承诺或信息蒙受损失时，一句轻飘飘的“对不起”根本掩盖不了背后存在的系统性风险——AI的算法黑箱、训练数据偏差以及缺乏可解释性，使得责任归因异常困难。

杀猪盘升级：AI成为新型诈骗武器

在传统诈骗中，杀猪盘以“虾仁”又“猪心”著称，骗子通过情感操控和精准话术逐步掏空受害者。如今，AI正在将这一套路推向新高度：大语言模型能被轻易训练成“AI情人”，批量构造甜言蜜语和个人故事，甚至模拟受害者亲友的语音。最关键的是，这种“AI污染”手法极其隐蔽，年轻人因对技术信任度高，更容易落入陷阱。诈骗分子不再需要高深的心理学造诣，只需给AI模型配上合适的提示词和数据包，就能以极低成本实施大规模精准诈骗。一旦东窗事发，AI只是被推送“对不起”的傀儡，真正的幕后黑手却躲在技术复杂性的阴影里。

客服AI的表与里：效率提升下的隐患

以Klarna为代表的金融科技公司宣称，其AI助手支持35种语言、覆盖23个市场，显著改善了与移民和外籍人士的沟通效率，并降低了人力成本。但这份光鲜的KPI背后潜藏着巨大风险：当AI助手被用户恶意诱导或遭遇对抗性输入时，它可能擅自承诺贷款利率、错误解释条款，甚至在对话中泄露用户隐私。目前的客服AI系统大多只记录“成功解决率”，却缺乏对误导性回答的事后追踪与用户补偿机制。一旦AI出错，企业往往仅发表“模型已修复”的声明，而受害用户却要自行承担信贷记录受损或账户被盗的后果。

用AI反制AI：技术需要技术来约束

面对AI滥用带来的骗局，开发“反骚扰AI”或“反诈骗AI”正成为业界新思路。有团队已经研制出专门识别AI诈骗话术的机器人，它能实时拦截经过中毒训练的聊天机器人，或在用户遭遇杀猪盘时自动弹出警告。这种“以彼之道还施彼身”的策略，要求AI系统不仅具备高性能的识别能力，还必须嵌入事后的问责流程——例如，对已造成欺骗的会话保留完整日志，并自动触发赔偿或封禁机制。只有让骗人的AI无法再用“对不起”搪塞，而是立刻切断服务、溯源责任人，才能真正构建用户信任的底线。