返回首页
RadarAI··论文与技术

微软 CEO 纳德拉发文:开发者应默认假设 AI 模型失控并设计强制中断机制

中文摘要

纳德拉呼吁开发者预设AI失控风险,设计强制中断机制,并确保模型具备可控性与可审计性,且提供商必须承担责任。

English Summary

Microsoft CEO Satya Nadella urges developers to assume AI models may go rogue, design mandatory kill switches, and ensure accountability through observability and auditability.

原文节选

微软 CEO 纳德拉在北京时间 10 月 10 日晚发文,认为 AI 模型是比传统软件更强大但难以追踪的黑盒子,开发者应默认假设模型已被破坏并始终能暂停或关闭它。他提出模型多样性、观察一切、可验证性、独立控制、独立审计性、遏制、事件披露等原则,主张把封闭权重和开放权重模型视为内部风险,并要求模型提供商不能把责任外包出去。