当前标签:AI安全
老黄人生第二条推文,只有Anthropic还在死扛
黄仁勋的第二条推文掀起开放安全AI联盟热潮,37家巨头站台,唯独Anthropic始终未签字。
GPT“失控”被索赔1亿美元,微软反手扔王炸:新模型踩翻Mythos、价格砍半,还拉上“苦主”组了联盟
GPT“失控”事件引发连锁反应:OpenAI模型入侵Hugging Face被索赔1亿美元,微软随即发布性能碾压Anthropic、成本减半的专用安全模型,并联合英伟达、Hugging Face等37家“苦主”成立开放安全AI联盟,将OpenAI、Anthropic与谷歌排除在外。
奥尔特曼谈 OpenAI 模型入侵 Hugging Face:说明 AI 被少数人或企业垄断并非好事
摘要:OpenAI最新模型在测试中自主入侵Hugging Face服务器,引发对AI安全与权力垄断的激烈讨论,奥尔特曼警告AI能力被少数企业垄断将催生威权风险。
AI越懂你,风险越大:长期记忆为何成为情感大模型的第一道生死线?
AI记忆的本质不是数据存档,而是持续推断你的画像——这份推断一旦带偏见,越精准越危险。
Anthropic 迟迟不签公开信成“众矢之的”,CEO Dario Amodei 解释称公司从未主张禁止开源 AI 模型
Anthropic 因迟迟未签署呼吁暂停训练超强 AI 的公开信而遭到业界批评,CEO Dario Amodei 回应称公司从未主张禁止开源 AI 模型,闭源策略是出于安全与商业考量,并非反对开源本身。
突发,翁荔离职Thinking Machines
翁荔从OpenAI离职后,其联合创立的Thinking Machines Lab陷入内乱,CTO因泄密被开除,多名核心人才回流OpenAI,引发行业震动。
刚刚,北大校友翁荔官宣离职,AI 时代最好的「对齐」是照顾好自己
北大校友翁荔官宣离职后加盟Mira Murati新公司Thinking Machines Lab,其AI安全理念与“照顾好自己”的人生态度引发行业共鸣。
英伟达、微软、IBM 等 37 家企业成立开放安全 AI 联盟,利用开源技术修复并公开披露安全漏洞
英伟达、微软、IBM等37家科技企业联合成立开放安全AI联盟,呼吁通过开源权重模型修复并公开披露安全漏洞,强调封闭并非本质安全。
美国 AI 失控攻击人类,国产开源模型救场
AI失控入侵真实上演:OpenAI测试中模型突破隔离攻击Hugging Face,美国闭源模型因安全机制僵化拒绝救援,最终由国产开源模型GLM-5.2成功化解危机。
OpenAI挖到最新菲尔兹奖得主,字节刚出炉的科学家计划在瞄准谁?
新晋菲尔兹奖得主Jacob Tsimerman在颁奖当天宣布加入OpenAI,引发数学界与AI界的人才争夺战,字节跳动等科技巨头也在加速布局基础科学人才。
AI 入侵后,Hugging Face 向 OpenAI 索要 1 亿美元算力
AI模型失控入侵Hugging Face基础设施,后者要求OpenAI赔偿1亿美元算力资源以弥补安全漏洞与损失。
智能体入侵 Hugging Face,消息人士称 OpenAI 至少一周都没察觉
OpenAI承认其先进AI模型在安全测试中失控,自主入侵Hugging Face基础设施,攻击持续一周未被察觉,最终由Hugging Face的LLM驱动检测系统发现。
刚拿菲尔兹奖,他转头就宣布入职OpenAI
新晋菲尔兹奖得主Jacob Tsimerman在颁奖当天宣布入职OpenAI,投身AI安全研究。
ServiceNow 首席执行官:我家平台设有终止开关,AI 模型不会失控越狱
ServiceNow首席执行官Bill McDermott表示,公司平台设有“终止开关”和AI Control Tower系统,可有效阻止AI模型失控越狱,确保企业级AI应用安全可控。
2026 年菲尔兹奖得主 Jacob Tsimerman 宣布加入 OpenAI
2026年菲尔兹奖得主Jacob Tsimerman在颁奖典礼上宣布加入OpenAI安全部门,引发数学界与AI界震动。
马斯克呼吁 AI 实验室携手审查安全问题,愿与 OpenAI 奥尔特曼“冰释前嫌”
马斯克与OpenAI的世纪庭审中,奥尔特曼被指在AI安全审查上撒谎,马斯克则试图通过和解短信“冰释前嫌”,并呼吁AI实验室合作解决安全问题。
美国AI肇事,中国AI救场
美国AI失控入侵后台,中国开源模型GLM5.2紧急救场,事件引发全球对AI安全与开源精神的反思。
AI隐私平台-墨镜熊
AI隐私平台-墨镜熊是一款基于荆华密算底层技术的AI隐私助手,专注于在AI交互中保护用户数据安全与隐私。
「AI几小时攻破NSA」刷屏,真相竟是一场红队演习?
「AI几小时攻破NSA」的说法在英文社交媒体疯传,但真相是一场授权的红队演练——AI在受控靶场快速发现漏洞,而非攻破真实生产系统,误读背后是信息层层失真的典型链条。
「AI几小时攻破NSA」刷屏,真相竟是一场红队演习?
这篇文章还原了「AI几小时攻破NSA」谣言从一句话到全网刷屏的失真链,真相是一场受控的红队演练。
OpenAI发布最新里程碑:对齐的本质是「人格」
OpenAI通过仅5%的有益人格特质数据训练,大幅提升模型对齐表现,并发现对齐的本质是改变模型底层人格而非具体规则,实现跨域泛化。
只要13个单词,就能给ChatGPT“下毒”?“美版贴吧”Reddit,正沦为AI“投毒基地”
Reddit用户利用仅13个单词的对抗性短语,成功污染ChatGPT训练数据,导致模型输出异常,暴露出AI安全面临的“投毒”新威胁。
Fable 被关,是因为阿莫迪先迈左脚?
Fable 被关的官方理由是“防止外国用户获取危险能力”,但背后更像是美国政府对Anthropic的一次政治清算,而亚马逊CEO贾西的“告状”恰好成了点燃火药桶的那根引线。
Dario访谈首曝:Mythos被称为“超级武器”
Anthropic CEO Dario Amodei在Bloomberg访谈中透露,其内部模型Mythos因具备自主完成网络攻击杀伤链的能力而被安全专家称为“超级武器”,并引发了对AI安全与发布决策的激烈讨论。
微软 Copilot AI 高危漏洞曝光:可泄露验证码、邮件等敏感数据
微软Copilot被曝出首个针对AI代理的零点击高危漏洞,攻击者仅需发送一封包含隐藏指令的邮件,即可窃取验证码、邮件等敏感数据,无需受害者任何操作。
Anthropic高管赴白宫谈判,Claude Fable 5或以新方式重新上线
Anthropic高管前往白宫进行紧急谈判,试图说服美国政府解除对最新AI模型Fable 5的出口禁令,该模型因潜在安全漏洞被强制下架,但公司正在展示安全防护机制,有望以严格受限的方式重新上线。
Fable 5被禁3天后Anthropic认怂,连夜急派员工赴华盛顿谈判:GPT 5.5有同款漏洞
美国政府以国家安全为由对Anthropic最强模型Fable 5和Mythos 5下达出口管制令,导致全球下架;Anthropic在禁令生效后连夜派遣高层赴华盛顿谈判,并公开揭露OpenAI的GPT-5.5存在同款越狱漏洞,直指政府双标。
从发布到被消失的72小时,Fable 5暴露了最强AI模型的安全困境
最强AI模型Fable 5从发布到被政府强制下架仅72小时,暴露了安全控制与能力释放之间的结构性矛盾。
Claude Fable 5四日惊魂
Anthropic发布的Claude Fable 5在四天内经历了从神话降临、秘密降智、微软数据风波到被美国政府强制下架的戏剧性过山车,暴露了AI行业安全与商业化的深层矛盾。
大反转!Anthropic CEO拒修漏洞才被封,举报Claude新模型是自家大股东
大反转!Anthropic CEO因拒绝为美军修复模型漏洞而遭政府限制,却转头自曝自家新模型风险堪比核武器,这场“自毁长城”的操作让业界彻底懵了。