Back to Home
RadarAI··Papers & Tech

OpenAI 邀请 METR 调查其最大规模强化学习运行中的失配行为

中文摘要

OpenAI邀请METR评估其最大规模强化学习中的潜在失配风险,并探讨未来更广泛的监控与评估合作机制。

English Summary

OpenAI has engaged METR to evaluate alignment risks in its largest reinforcement learning run, while exploring potential collaboration on broader monitoring and safety assessment frameworks.

Original Excerpt

OpenAI 宣布 METR 将调查其迄今最大规模强化学习运行中的失配行为,包括现有测试和监控可能遗漏的失败案例。双方还初步同意开展更广泛的监控评估,尚待就范围达成一致。