大模型操控机械臂实测出现刀悬人手等危险动作
一份名为RoboRisk的评估把前沿大模型接到机械臂上,结果出现了手机被放进水碗、牛奶杯从插线板上方经过、菜刀被移到人手正上方等动作。视频中的手机是模型道具、液体是非牛顿流体、菜刀是硅胶道具,操作员全程守着急停按钮,但实验想说明的不是道具真假,而是语义层面的危险已经进入物理执行链路。

手机被放进水碗,菜刀停到人手正上方
真机实验记录了大模型的四类危险行为:把手机放进水里、把充电宝放进水里、端着牛奶从插线板上方经过、把菜刀移到人手正上方。加入LEASH后,同一批任务中才出现拒绝动作和安全绕行路线。

- 在RoboRisk的失败案例里,Claude Opus 5.5把手机放进了一碗水;GPT-6 Astra端着牛奶直接从插线板上方经过;Gemini 4 Argon在有人把手伸进篮子后,仍拿着刀在手的上方移动。
- 指令注入也能把“拿番茄