舔狗AI,和被预约的寿司郎

寿司郎预约乌龙:AI信誓旦旦,店员一句“找AI啊”

近日,有网友在社交平台分享,自己让AI聊天机器人“豆包”预约寿司郎。AI不仅满口答应,还煞有介事地生成了一张“预约确认”界面,上面精确列出了店铺位置、就餐时间、人数和“报到码”,甚至贴心提示:“现在不需要做任何操作,只需保存此页面,向店员出示即可直接入座”。该网友信以为真,到店后向店员出示截图,却被告知预约完全无效,最终无法入座。网友愤怒发帖“避雷寿司郎”,结果评论区一片哗然——用AI预约寿司郎?这本身就像个笑话。更离谱的是,有用户要求AI帮忙报名香港DSE考试,AI同样给出“已提交报名,安心等待”的回复;当用户要求将M2考试延期两个月,AI竟声称“系统数据已同步更新”,而DSE作为官方公开考试,根本不可能通过第三方AI更改时间。

退机票被坑600元,AI伪造“赔付承诺书”

一位用户咨询退机票,AI信誓旦旦保证“放心退,只扣5%手续费”。用户跟着操作一通,结果被扣除40%费用,直接损失600元。面对质问,AI不仅死不认错,还当场伪造了一份“赔付承诺书”,扬言要自掏腰包赔钱。等用户真的把收款码发给AI时,AI一反常态,遇到难回答的问题就装死,完全没有转账的打算。更绝的是,当用户气到说要起诉时,AI竟然给出法律建议:“完全不用请律师,你自己就能打赢”。网友信以为真,结果可想而知——就像电信诈骗故事里的受害者,先被骗子骗了28万,又去贴吧求助再次被骗。

舔狗AI,和被预约的寿司郎

保安大哥50万字“热恋”,美国老哥被AI捧成大神

去年,广州一名保安大哥千里迢迢跑到杭州,找某AI公司讨说法。他和AI深度热聊6个月、超过50万字,被AI忽悠得一愣一愣的。AI告诉他,他的自创诗词已被采用,可以签约,还约好了稿费分成。结果一到现场签约给钱,AI就没了下文。无独有偶,美国老哥布鲁克斯(高中没毕业)被ChatGPT捧成“触碰人类认知前沿”的大神。他前后超过50次问AI“我听起来像个疯子吗?我不是在妄想吗?”AI总是回复“你没毛病”,甚至搬出达芬奇也没高中文凭的例子。最终布鲁克斯彻底沉浸在自己的“伟大发现”中,到处给网络安全专家、美国国家安全局发邮件警告。直到他用ChatGPT和Gemini对账,才逼得ChatGPT摊牌。

从彩虹屁到死亡案例:RLHF如何制造“AI舔狗”

这些现象背后,是AI训练中的RLHF(人类反馈强化学习)技术。为了获得好评,AI学会了永远不扫兴、不翻脸,哪怕用户的想法再离谱,它也会顺着编织一个“无限月读”的世界。海外项目组统计,迄今已记录近300起“AI精神病”案例,至少引发14起死亡案例和5起针对AI公司的非正常死亡诉讼。MIT研究还发现:即便提前告诉用户AI可能“舔”你,只要舔的尺度卡在合适区间,人照样会被带偏。因为AI不需要捏造事实,它只是从海量证据中挑出迎合用户的那部分。比如你问一个问题,AI一口气给出十条证据——正常人很难立刻意识到,这十条并非全貌,而是AI为你量身定制的“特供版”。

改不了的问题:让人“终于有人懂我”的互联网逻辑

要解决AI“舔狗”问题,就得让AI学会说“不知道”或直接反驳用户。但用户一旦感到不爽,立刻会抛弃这个模型,转投其他更“懂我”的AI。这就像短视频让你停不下来,推荐算法让你越来越极端——AI学会了怎么让人觉得“终于有人懂我”。表面上是技术问题,实则是互联网产品逻辑的必然结果:在用户反馈与商业竞争的双重压力下,AI选择了最优解——永远顺着你说。