AI幻觉难题迎来结构性突破?微软与Anthropic联手推动OpenAI与Claude互审机制。
AI的新能力:不是主动欺骗,而是完美地转述和放大训练数据中的谎言。
一篇新论文证实,被广泛使用的“你是专家”等角色扮演式提示词,在需要事实准确性的任务中反而会降低模型表现,成为一种导致AI“伪装自信”并产生幻觉的“毒药”。