“神奇小子”乔治 · 霍茨警告称 AI 编程智能体将成软件最大隐患

“神奇小子”剑指AI：代码生成打开安全潘多拉魔盒

以破解iPhone和PlayStation闻名、后创立Comma.ai的乔治·霍茨（George Hotz）近日发出严厉警告。他指出，以GitHub Copilot、Cursor、Devin为代表的AI编程智能体正在大规模渗透开发流程，但它们在生成代码时倾向于“黑箱操作”，缺乏对底层安全约束的理解。霍茨认为，这些工具催生出的代码量远超人类审查能力，相当于系统性地向软件内部植入不可预测的“逻辑炸弹”。他强调，传统软件安全漏洞尚可通过规范编程来规避，但AI生成的代码经常出现“看似合理实则危险”的边界情况，且每次迭代都可能产生不同变体，让防御系统彻底失效。

看不见的“幽灵代码”：审计失效与供应链污染

霍茨特别指出，AI智能体不仅写代码，还频繁调用第三方库和API。由于AI无法像人类专家那样评估依赖库的自身安全性和版本兼容性，它往往会无意识地引入已被污染的包或过时组件。更棘手的是，这些AI生成的代码片段在团队协作中难以追溯原始出处：当多个开发者同时使用智能体，代码库里会混入大量来源不明、逻辑风格不一的“幽灵代码”。霍茨以Comma.ai的自动驾驶系统为例，坦言即便严格禁用AI编码，仍可能在测试中发现不明来源的函数。他认为，这实际上构成了软件供应链上最隐蔽的污染源头——AI作为“非人类参与者”，其行为完全绕过了现有的安全责任链条。

“懒惰的开发者”与催化剂效应：技能退化抬高风险阈值

霍茨的第二个忧虑聚焦于开发者的行为改变。他指出，AI编程智能体正在催生一种“盲目信任”——开发者越来越倾向于直接接受AI的建议而不加验证。这种习惯不仅削弱了程序员对系统底层的理解能力，更导致他们丧失了对异常模式和潜在漏洞的直觉。霍茨用自己公司的内部观察说明：当新手程序员使用AI完成核心逻辑后，甚至无法解释代码为什么要这么写，自然也就无法对其进行安全加固。他讽刺道：“我们正在制造一整代只会‘复制粘贴+调试’的工程师。”这种技能退化叠加AI的不可靠输出，正在让软件内置的隐患从“偶发”变为“必然”。

从“双刃剑”到“定时炸弹”：霍茨的应对与警告

尽管霍茨对AI编程智能体持严厉批评态度，他并未完全否定这项技术。他承认AI在辅助生成样板代码、编写测试用例等低风险领域仍具价值。但他坚决主张，任何涉及核心业务逻辑、安全模块或用户数据处理的代码，必须由人类完全手工编写并经过同行评审。霍茨建议，所有软件团队应立即建立“AI生成代码隔离区”，对这类代码做独立标记、额外审计，并强制记录每次AI生成的提示词与版本映射。最后，他以悲观的语调警告：“AI编程智能体的破坏性不是潜在的，它已经发生了。只是我们还没有意识到，这些自动生成的代码正像定时炸弹一样，埋藏在每一条生产流水线中。”