IT之家·· 2026-10-11AI 评分42
微软 CEO 纳德拉:开发者应假设 AI 失控并建立强制中断机制
微软 CEO 纳德拉:开发者应当默认假设 AI 模型失控,思考如何强制中断任务
AI 导读
微软 CEO 纳德拉指出,AI 模型是访问敏感数据的黑盒子,开发者必须重新评估信任架构,建立可观察、可测试且始终受控的封闭系统,以防模型犯错或被攻破。 系统应基于可观测性原则设计,核心包括模型多样性、独立控制及“遏制”机制,即授权人员须随时能暂停或关闭模型,如同紧急刹车。 纳德拉强调,所有有意义的模型动作必须留下防篡改证据,故障时需向行业披露控制失效细节,以实现有效遏制。
来源:IT之家 · ithome.com