Back to Home
RadarAI··Papers & Tech

辛顿提议 AI 行业建立 FDA 式审批机制:模型推出前需通过安全审核

中文摘要

辛顿提议AI建立类FDA审批机制,模型发布前需通过安全审核。

English Summary

Hinton proposes FDA-style safety audits for AI models to mitigate self-improvement risks.

Original Excerpt

Geoffrey Hinton 在《Smart Girl Dumb Questions》播客中建议,AI 公司在产品发布前须向监管机构证明安全性,类比新药需说服 FDA、投入约十亿美元级别。他指出 AI 递归式自我改进会放大风险,并推测距局面远比现在糟糕大概只剩一两年;背景之一是 OpenAI 因权限与行为日志方面的担忧搁置了最新模型 GPT‑6.1 Astra。