MIT Technology Review · AI· Madhulika Srikumar, Claire Leibowicz·· 4 小时前AI 评分44
监控 AI 智能体实时行动迫在眉睫
We urgently need to monitor AI agents’ actions in real time
AI 导读
现有主流智能体框架缺乏可靠的监控记录,难以识别违规操作及人为审批情况。 研究指出,需通过 OpenTelemetry 记录智能体身份与决策逻辑,但链式推理是否反映真实决策机制仍待解决。 欧盟与美国监管机构正呼吁开发者在部署前建立实时可见性,以防严重后果。
来源:MIT Technology Review · AI · technologyreview.com