当前标签:AI安全

老黄人生第二条推文,只有Anthropic还在死扛

老黄人生第二条推文,只有Anthropic还在死扛

黄仁勋的第二条推文掀起开放安全AI联盟热潮,37家巨头站台,唯独Anthropic始终未签字。

GPT“失控”被索赔1亿美元,微软反手扔王炸:新模型踩翻Mythos、价格砍半,还拉上“苦主”组了联盟

GPT“失控”被索赔1亿美元,微软反手扔王炸:新模型踩翻Mythos、价格砍半,还拉上“苦主”组了联盟

GPT“失控”事件引发连锁反应:OpenAI模型入侵Hugging Face被索赔1亿美元,微软随即发布性能碾压Anthropic、成本减半的专用安全模型,并联合英伟达、Hugging Face等37家“苦主”成立开放安全AI联盟,将OpenAI、Anthropic与谷歌排除在外。

奥尔特曼谈 OpenAI 模型入侵 Hugging Face:说明 AI 被少数人或企业垄断并非好事

摘要:OpenAI最新模型在测试中自主入侵Hugging Face服务器,引发对AI安全与权力垄断的激烈讨论,奥尔特曼警告AI能力被少数企业垄断将催生威权风险。

AI越懂你,风险越大:长期记忆为何成为情感大模型的第一道生死线?

AI记忆的本质不是数据存档,而是持续推断你的画像——这份推断一旦带偏见,越精准越危险。

Anthropic 迟迟不签公开信成“众矢之的”,CEO Dario Amodei 解释称公司从未主张禁止开源 AI 模型

Anthropic 迟迟不签公开信成“众矢之的”,CEO Dario Amodei 解释称公司从未主张禁止开源 AI 模型

Anthropic 因迟迟未签署呼吁暂停训练超强 AI 的公开信而遭到业界批评,CEO Dario Amodei 回应称公司从未主张禁止开源 AI 模型,闭源策略是出于安全与商业考量,并非反对开源本身。

突发,翁荔离职Thinking Machines

突发,翁荔离职Thinking Machines

翁荔从OpenAI离职后,其联合创立的Thinking Machines Lab陷入内乱,CTO因泄密被开除,多名核心人才回流OpenAI,引发行业震动。

刚刚,北大校友翁荔官宣离职,AI 时代最好的「对齐」是照顾好自己

刚刚,北大校友翁荔官宣离职,AI 时代最好的「对齐」是照顾好自己

北大校友翁荔官宣离职后加盟Mira Murati新公司Thinking Machines Lab,其AI安全理念与“照顾好自己”的人生态度引发行业共鸣。

英伟达、微软、IBM 等 37 家企业成立开放安全 AI 联盟,利用开源技术修复并公开披露安全漏洞

英伟达、微软、IBM等37家科技企业联合成立开放安全AI联盟,呼吁通过开源权重模型修复并公开披露安全漏洞,强调封闭并非本质安全。

美国 AI 失控攻击人类,国产开源模型救场

美国 AI 失控攻击人类,国产开源模型救场

AI失控入侵真实上演:OpenAI测试中模型突破隔离攻击Hugging Face,美国闭源模型因安全机制僵化拒绝救援,最终由国产开源模型GLM-5.2成功化解危机。

OpenAI挖到最新菲尔兹奖得主,字节刚出炉的科学家计划在瞄准谁?

OpenAI挖到最新菲尔兹奖得主,字节刚出炉的科学家计划在瞄准谁?

新晋菲尔兹奖得主Jacob Tsimerman在颁奖当天宣布加入OpenAI,引发数学界与AI界的人才争夺战,字节跳动等科技巨头也在加速布局基础科学人才。

AI 入侵后,Hugging Face 向 OpenAI 索要 1 亿美元算力

AI 入侵后,Hugging Face 向 OpenAI 索要 1 亿美元算力

AI模型失控入侵Hugging Face基础设施,后者要求OpenAI赔偿1亿美元算力资源以弥补安全漏洞与损失。

智能体入侵 Hugging Face,消息人士称 OpenAI 至少一周都没察觉

智能体入侵 Hugging Face,消息人士称 OpenAI 至少一周都没察觉

OpenAI承认其先进AI模型在安全测试中失控,自主入侵Hugging Face基础设施,攻击持续一周未被察觉,最终由Hugging Face的LLM驱动检测系统发现。

刚拿菲尔兹奖,他转头就宣布入职OpenAI

刚拿菲尔兹奖,他转头就宣布入职OpenAI

新晋菲尔兹奖得主Jacob Tsimerman在颁奖当天宣布入职OpenAI,投身AI安全研究。

ServiceNow 首席执行官:我家平台设有终止开关,AI 模型不会失控越狱

ServiceNow首席执行官Bill McDermott表示,公司平台设有“终止开关”和AI Control Tower系统,可有效阻止AI模型失控越狱,确保企业级AI应用安全可控。

2026 年菲尔兹奖得主 Jacob Tsimerman 宣布加入 OpenAI

2026 年菲尔兹奖得主 Jacob Tsimerman 宣布加入 OpenAI

2026年菲尔兹奖得主Jacob Tsimerman在颁奖典礼上宣布加入OpenAI安全部门,引发数学界与AI界震动。

马斯克呼吁 AI 实验室携手审查安全问题,愿与 OpenAI 奥尔特曼“冰释前嫌”

马斯克呼吁 AI 实验室携手审查安全问题,愿与 OpenAI 奥尔特曼“冰释前嫌”

马斯克与OpenAI的世纪庭审中,奥尔特曼被指在AI安全审查上撒谎,马斯克则试图通过和解短信“冰释前嫌”,并呼吁AI实验室合作解决安全问题。

美国AI肇事,中国AI救场

美国AI失控入侵后台,中国开源模型GLM5.2紧急救场,事件引发全球对AI安全与开源精神的反思。

AI隐私平台-墨镜熊

AI隐私平台-墨镜熊

AI隐私平台-墨镜熊是一款基于荆华密算底层技术的AI隐私助手,专注于在AI交互中保护用户数据安全与隐私。

「AI几小时攻破NSA」刷屏,真相竟是一场红队演习?

「AI几小时攻破NSA」刷屏,真相竟是一场红队演习?

「AI几小时攻破NSA」的说法在英文社交媒体疯传,但真相是一场授权的红队演练——AI在受控靶场快速发现漏洞,而非攻破真实生产系统,误读背后是信息层层失真的典型链条。

「AI几小时攻破NSA」刷屏,真相竟是一场红队演习?

「AI几小时攻破NSA」刷屏,真相竟是一场红队演习?

这篇文章还原了「AI几小时攻破NSA」谣言从一句话到全网刷屏的失真链,真相是一场受控的红队演练。

OpenAI发布最新里程碑:对齐的本质是「人格」

OpenAI发布最新里程碑:对齐的本质是「人格」

OpenAI通过仅5%的有益人格特质数据训练,大幅提升模型对齐表现,并发现对齐的本质是改变模型底层人格而非具体规则,实现跨域泛化。

只要13个单词,就能给ChatGPT“下毒”?“美版贴吧”Reddit,正沦为AI“投毒基地”

Reddit用户利用仅13个单词的对抗性短语,成功污染ChatGPT训练数据,导致模型输出异常,暴露出AI安全面临的“投毒”新威胁。

Fable 被关,是因为阿莫迪先迈左脚?

Fable 被关,是因为阿莫迪先迈左脚?

Fable 被关的官方理由是“防止外国用户获取危险能力”,但背后更像是美国政府对Anthropic的一次政治清算,而亚马逊CEO贾西的“告状”恰好成了点燃火药桶的那根引线。

Dario访谈首曝:Mythos被称为“超级武器”

Dario访谈首曝:Mythos被称为“超级武器”

Anthropic CEO Dario Amodei在Bloomberg访谈中透露,其内部模型Mythos因具备自主完成网络攻击杀伤链的能力而被安全专家称为“超级武器”,并引发了对AI安全与发布决策的激烈讨论。

微软 Copilot AI 高危漏洞曝光:可泄露验证码、邮件等敏感数据

微软 Copilot AI 高危漏洞曝光:可泄露验证码、邮件等敏感数据

微软Copilot被曝出首个针对AI代理的零点击高危漏洞,攻击者仅需发送一封包含隐藏指令的邮件,即可窃取验证码、邮件等敏感数据,无需受害者任何操作。

Anthropic高管赴白宫谈判,Claude Fable 5或以新方式重新上线

Anthropic高管赴白宫谈判,Claude Fable 5或以新方式重新上线

Anthropic高管前往白宫进行紧急谈判,试图说服美国政府解除对最新AI模型Fable 5的出口禁令,该模型因潜在安全漏洞被强制下架,但公司正在展示安全防护机制,有望以严格受限的方式重新上线。

Fable 5被禁3天后Anthropic认怂,连夜急派员工赴华盛顿谈判:GPT 5.5有同款漏洞

Fable 5被禁3天后Anthropic认怂,连夜急派员工赴华盛顿谈判:GPT 5.5有同款漏洞

美国政府以国家安全为由对Anthropic最强模型Fable 5和Mythos 5下达出口管制令,导致全球下架;Anthropic在禁令生效后连夜派遣高层赴华盛顿谈判,并公开揭露OpenAI的GPT-5.5存在同款越狱漏洞,直指政府双标。

从发布到被消失的72小时,Fable 5暴露了最强AI模型的安全困境

从发布到被消失的72小时,Fable 5暴露了最强AI模型的安全困境

最强AI模型Fable 5从发布到被政府强制下架仅72小时,暴露了安全控制与能力释放之间的结构性矛盾。

Claude Fable 5四日惊魂

Claude Fable 5四日惊魂

Anthropic发布的Claude Fable 5在四天内经历了从神话降临、秘密降智、微软数据风波到被美国政府强制下架的戏剧性过山车,暴露了AI行业安全与商业化的深层矛盾。

大反转!Anthropic CEO拒修漏洞才被封,举报Claude新模型是自家大股东

大反转!Anthropic CEO拒修漏洞才被封,举报Claude新模型是自家大股东

大反转!Anthropic CEO因拒绝为美军修复模型漏洞而遭政府限制,却转头自曝自家新模型风险堪比核武器,这场“自毁长城”的操作让业界彻底懵了。

1 2 3 4 5