arXiv · AI· Masoud Shokrnezhad, Tarik Taleb·· 8 小时前AI 评分33
面向 Agentic AI 系统的感知不确定性的资源编排：提出 CRO 算法
Uncertainty-Aware Resource Orchestration for Agentic AI Systems
AI 导读
针对 Agentic AI 系统资源需求不可预测的问题，论文提出了 CRO 算法，在调度时为计算和带宽预留资源并验证截止期限满足概率。 CRO 是一种在线算法，利用过去执行轨迹的滑动窗口，通过 conformal prediction 提供有限样本的无分布覆盖保证。 CRO 是唯一在所有风险水平下同时满足目标概率覆盖的方法，且与 Chebyshev 界基线相比，资源浪费大约减少了一半。
来源：arXiv · AI · arxiv.org