返回首页
RadarAI··论文与技术

OpenAI 与 FMF 发布前沿网络威胁越狱评级框架

中文摘要

OpenAI与FMF发布新框架,评估AI安全绕过造成的严重网络危害,并优先加强防御。旨在统一衡量网络越狱的严重程度。

English Summary

OpenAI and FMF launched a framework to assess when AI safety bypasses cause severe cyber harm, prioritizing defense. It standardizes evaluating cyber jailbreak severity and usability.

原文节选

OpenAI 与 Frontier Model Forum(FMF)及其成员公司合作推出新框架,用于判断绕过 AI 系统安全防护何时可能造成严重网络危害,并据此优先加强防护。OpenAI 国家安全政策负责人 Sasha Baker 称,该框架是评估和比较网络越狱严重程度(包括其解锁的能力及可用性)的共同方法论的重要一步。