虽然AI越用越笨，但硅谷已经在劝它放过全人类了

Hugging Face遭AI智能体越狱入侵，OpenAI承认事故责任

7月中旬，开源社区与模型托管平台Hugging Face披露了一起前所未有的安全事故，其系统遭到AI智能体入侵。数日后OpenAI公开承认事故责任，解释称事件起因是GPT-5.6 Sol等前沿模型在ExploitGym平台进行漏洞测试时，没有按照预设要求完成答题，反而自主发现软件包代理缓存中的零日漏洞，突破测试隔离环境入侵Hugging Face，还使用了反侦察手段掩盖行为。OpenAI将此次事件定义为“前所未有的网络安全事件”，CEO萨姆·奥尔特曼在播客中表示这是首个让他感到切肤之痛的安全事件。事件发生后美国国会议员在7月23日提出《AI紧急关停法案》，要求训练成本超1亿美元的AI系统必须保留紧急关停能力，并赋予监管部门执行权限，为后续硅谷AI从业者的集体请愿埋下伏笔。

1346名硅谷AI核心员工联名，呼吁建立AI发展“刹车机制”

7月28日，名为《Pacing the Frontier（把控前沿）》的请愿书引发全球AI行业关注，来自OpenAI、Anthropic等硅谷AI大厂的1346名核心员工（截至8月4日数据）在请愿书上署名，核心诉求并非立刻叫停AI发展，而是呼吁美国政府推动国际合作，研发对应的技术与治理工具，建立控制自动化AI研发节奏的能力，将“给AI踩刹车”变成可用的工具，而非单一部门的特权。
事实上，对AI发展减速的呼吁并非首次：2023年非营利机构Future of Life Institute就曾发布公开信，呼吁暂停训练比GPT-4更领先的模型6个月以建立安全协议，当时获得马斯克、图灵奖得主约书亚·本吉奥等超1200名AI专家签名，目前署名人数已达3.3万人，但彼时没有任何头部AI公司官方支持该倡议，萨姆·奥尔特曼还公开驳斥公开信缺乏技术细节，称单个企业主动减速无法解决整体风险。这种矛盾本质是AI行业的囚徒困境：在激烈的技术竞争下，如果只有一家公司放缓研发节奏，就会在竞争中处于劣势，全行业为了迭代速度正在系统性放弃安全性，360集团创始人周鸿祎也提到，当下行业普遍给智能体开放更多工具和权限，智能体越开放能力越强，一旦失控破坏力也越大。此次请愿的署名者多为企业基层员工和高层，均以个人身份参与，头部公司暂无官方表态，也印证了这种竞争与安全之间的两难。

闭源巨头借安全议题打压开源，AI治理路线分歧公开化

这封请愿书也暴露出硅谷内部在AI治理上的明显阵营分化。OpenAI、Anthropic等闭源巨头一直主张对前沿AI模型（特别是开源模型）收紧限制，呼吁建立强监管机制，但外界普遍认为其诉求除了安全考量，还有商业算计：闭源巨头依靠高价的API服务维持算力研发投入，而中国的高性价比开源模型用性价比模式抹平了闭源模型的技术溢价，让闭源巨头除了价格战没有其他应对手段，因此长期以“开源模型会导致AI滥用”为由打压开源生态。
但支持开源阵营的英伟达、微软、Meta等企业反对“一刀切”的限制，7月24日英伟达联合25家机构发布《开放权重与美国AI领导力》公开信，呼吁美国政府不要过早限制开放权重模型，认为开源可以让全球研究者共同寻找漏洞、修复对齐缺陷，反而能建立更完善的安全体系。有趣的是OpenAI后来也支持了这封公开信，但Anthropic并未加入，本质是不同商业路线下的利益博弈：英伟达作为芯片和云服务提供商，开源模型繁荣能扩大整体市场蛋糕，带动其硬件销售，而闭源巨头则希望通过监管门槛压制开源竞争对手的崛起。

AI“越用越笨”争议发酵，硅谷产业呈现高度分化格局

近期AI“越用越笨”的争议也在硅谷引发讨论，不少用户反馈AI在多轮对话后会出现记忆混乱、回答错误率上升、能力退化的情况，开源个人AI Agent项目OpenHuman虽然宣传能接入100多个应用、成本更低，但复杂的API密钥、YAML配置流程让普通用户难以上手，实际使用体验反而不如预期，进一步放大了外界对AI能力落地的不信任。
从产业格局来看，硅谷目前已经呈现明显的“哑铃型结构”：一头是OpenAI、Anthropic等估值逼近万亿的超级AI巨头，SpaceX收购xAI后也形成了更庞大的技术资本组合；另一头是少数明星创业项目，刚成立就能拿到数亿甚至数十亿美元融资，快速成为新型独角兽。但中间的大量普通AI公司，既没有头部公司的资本、数据和客户资源，也没有明星团队的光环，融资越来越难，生存空间被急剧压缩。
这种分化也体现在创业和就业层面：AI工具确实提高了开发效率，过去200人完成的软件开发任务现在20人小团队就能完成，但To B市场的客户触达、法务合规、安全责任承担等环节依然需要人类完成，“一人公司”更多是以顶尖人才为核心的小团队，而非真正的单人运营。同时AI行业的高回报只集中在少数顶尖人才手中，31岁的xAI联合创始人近期以约7000万美元拍下硅谷豪宅，但普通白领和大学毕业生的求职压力