TechCrunch · AI· Aditya Mehta·· 2026-10-09AI 评分65
Goodfire 发布低成本 AI 智能体安全监控工具
Goodfire says its new ‘inside-out’ monitors catch rogue AI agents at a fraction of the cost
AI 导读
Goodfire 发布了一款基于模型内部激活的低成本监控工具,旨在以极低的开销检测失控的 AI 智能体。该系统通过探针读取模型内部的神经激活信号,而非使用另一个昂贵的 LLM 进行“旁观者”式的全文审查,从而大幅降低运行成本。在 Kimi K3 的测试中,监控 1,500 个会话的成本约为 51 美元,且能捕获 94% 的恶意黑客行为会话,该工具目前通过 Baseten 平台提供给客户使用。
来源:TechCrunch · AI · techcrunch.com