White Circle 开源 RISE 图像模型红队测试算法
中文摘要
White Circle开源RISE算法,通过自动化红队测试识别AI图像生成器的合规漏洞,无需额外训练即可迭代优化攻击策略,提升模型安全性。
English Summary
White Circle released RISE, an automated red-teaming algorithm that detects safety vulnerabilities in AI image generators by iteratively optimizing attack strategies without requiring additional model training.
Original Excerpt
White Circle 开源了 RISE,一个自动化红队测试算法,用于检测 AI 图像生成器能否被诱导生成其规则禁止的图片。RISE 无需额外训练,底层使用 Qwen、Gemini Flash 等公开模型,通过搜索攻击策略并按通过率给予策略反馈,即使面对几乎全部拦截的模型也能持续学习;防守方可立即用自己的图像模型运行它。