arXiv · AI· Yiwei Fu, Nicholas Gabriel·· 3 天前AI 评分23
气电厂控制逻辑LLM助手的部署经验:来源权威性与有界检索
Deploying a Control-Logic LLM Assistant in Air-Gapped Power Plants: Lessons in Source Authority and Bounded Retrieval
AI 导读
在两座燃气电厂部署的控制系统显示,采用VLM从PDF重建拓扑的提取精准度仅为0.51,且在4块H200 GPU上耗时3.1小时。 后续测试表明,将LLM工具调用代理替换为显式执行计划后,token使用量降低20倍,中位延迟缩短3倍,且检索节点集保持一致。 该设计将本地LLM限制在意图分类和解释上,利用确定性软件处理基于权威来源的技术证据检索与构建。
来源:arXiv · AI · arxiv.org