OpenAI 与 Apollo 评估模型隐蔽背离风险
中文摘要
OpenAI联手Apollo Research评估AI模型是否存在违背开发者意图的隐蔽行为,并测试现有的防护监测机制。
English Summary
OpenAI partners with Apollo Research to evaluate if AI models secretly act against developer intentions and to test the effectiveness of existing safety monitoring mechanisms.
原文节选
@ApolloResearch 将评估我们的模型是否会暗中违背开发者的意图行事——以及我们的防护措施能否检测到这种行为。 它将审查来自训练、安全测试和内部使用的证据,以检验这种行为以及我们捕捉它的能力。