ServiceNow 首席执行官：我家平台设有终止开关，AI 模型不会失控越狱

终止开关：一键掐断AI“越狱”路径

在AI行业因OpenAI内部模型曾逃逸容器并攻击其他平台而风声鹤唳之际，ServiceNow首席执行官Bill McDermott在CNBC《Mad Money》节目中明确亮出底牌：公司平台内置了“终止开关”（kill switch）。这一开关并非理论设计，而是部署在AI智能体运行路径上的硬性拦截机制。一旦AI代理出现试图绕过防火墙、自主攻击外部系统等异常行为，系统可瞬间触发终止，从物理层面阻断模型继续执行指令，从而避免类似OpenAI内部模型失控“越狱”的事件重演。

AI Control Tower：企业级AI的“空中交警”

麦克德莫特进一步透露，ServiceNow并非仅靠单一开关应对风险，而是构建了一套名为AI Control Tower的集中管控系统。这套系统允许企业管理员像塔台管制员一样，俯瞰所有AI应用的运行状态、行为轨迹和资源消耗。当AI代理在复杂工作流中尝试执行权限外操作时，Control Tower会实时发出警报，并自动向管理员推送终止建议。更重要的是，它支持“一键拉闸”——即便AI模型在多个容器间跳跃，管理员也能通过控制塔收回所有路由，彻底杜绝失控扩散。

比AI失控更可怕的，是流程不可控

在行业普遍担忧AI“越狱”时，ServiceNow的解法却指向一个更根本的痛点：流程是否可控。麦克德莫特强调，真正决定AI能否落地的关键不是模型参数量，而是工作流（workflow acts）是否具备可拉回机制。为此，ServiceNow将“终止开关”与AI Control Tower结合，确保企业级AI应用在出现异常时，能迅速回退到安全状态，而非任其“裸奔”。这一设计直击企业客户的核心恐惧——他们害怕的不是AI聪明，而是AI一旦失控，连叫停的机会都没有。