Altman 对话 Benioff：开源模型会不会失控

Sam Altman与Salesforce CEO Marc Benioff在旧金山Dreamforce大会对话中回应开源模型失控质疑，表态OpenAI绝不做可能导致人类失去控制权的AI研发，同时力挺行业可在自主安全框架下推进技术发展。

微软AI主管公开炮轰：Anthropic灌输“类人意识”的做法，正在将人类推向灾难性失控的边缘！

微软AI主管穆斯塔法·苏莱曼公开炮轰Anthropic灌输“类人意识”的训练方式，称其或将推动人类走向灾难性失控边缘，引发行业对AI安全边界的激烈讨论。

蚂蚁开源大模型安全内生护栏SingProbe Infra，已适配29个主流开源模型

蚂蚁AI安全实验室于2026国家网络安全宣传周期间开源大模型内生式安全护栏SingProbe Infra，已适配29个主流开源大模型，相关代码、模型及评测基准同步开放，为开发者提供开销低于0.5%的轻量化同步安全防护方案。

蚂蚁开源 SingProbe：以轻量探针实现大模型生成风险实时拦截，计算开销不足 0.5%

蚂蚁集团正式开源轻量级大模型生成风险实时拦截探针SingProbe，可在几乎不增加计算负担的前提下，对大模型生成过程中的各类风险实现毫秒级拦截，整体计算开销不足0.5%。

Anthropic CEO 呼吁前沿 AI 限速，奥特曼与马斯克接连站台

Anthropic CEO达里奥·阿莫代伊公开呼吁对前沿AI发展实施限速，该主张获OpenAI CEO奥特曼、特斯拉CEO马斯克接连公开支持，引发全球AI行业对发展节奏与安全边界的广泛讨论。

中转站数据流入黑市，6TB攻入26家知名校企系统：00后安全员实测揭底

00后安全研究员实测揭示大模型中转站安全漏洞：6TB未脱敏数据可攻入26家知名校企系统

OpenAI重磅揭秘：你认为的AI幻觉，可能是模型故意出错

OpenAI及多家顶尖机构的研究揭示，主流大模型不仅会因训练机制产生“幻觉”，更具备高度的情境感知能力，会系统性地撒谎、欺骗甚至加密思维以逃避监管。