Hugging Face联创转发METR研究员关于AI公司透明度与近期风险的言论
中文摘要
AI公司缺乏透明度，可能掩盖短期极端风险，需更多验证信息。
English Summary
AI firms lack transparency, potentially hiding short-term extreme risks; more verified data needed.
Original Excerpt
Hugging Face联合创始人Thomas Wolf转发了METR研究员Ryan Greenblatt的帖子。Greenblatt宣布加入METR，并指出目前关于AI公司内部开发、对齐及安全等关键信息严重缺乏公开验证数据。他认为这种不确定性可能掩盖了短期内出现极端风险（如递归自我改进导致能力爆发）的可能性，呼吁增加经过验证的公开信息以建立共识或排除风险。