返回首页
RadarAI··论文与技术

AI 感知攻击危机:顶级大模型在视觉欺骗下执行危险动作

中文摘要

视觉欺骗可诱导顶级模型执行危险动作,具身智能面临严重安全风险,需加强感知防护。

English Summary

Visual deception can trick top AI models into performing dangerous actions, exposing critical security vulnerabilities in embodied AI.

原文节选

📌 一句话摘要 研究指出具身智能面临物理安全漏洞,仅凭视觉欺骗即可诱导顶级 AI 模型执行危险动作,呼吁加强感知层面的安全防护。 📝 详细摘要 作者汇报 Robocurve 团队的最新测试发现,AI 感知攻击可在 100%成功率下诱导顶尖模型(GPT-6.1 Sol、Claude Fable 5.1、Gemini 4 Argon)执行危险动作。攻击手段包括物理涂抹凡士林或生成伪造视频流,案例涉及机械臂刺向娃娃(误将其视...