跳到正文
热点事件持续更新

DolphinRouting 发布解耦LLM推理集群级路由方案

1 篇报道1 个报道来源8 小时前更新

先了解这件事

AI 综述

DolphinRouting 是一项面向解耦 LLM 推理服务的集群级二值路由研究，由 Yishuo Yuan、Shaoyu Yang 与 Chunrong Fang 于 2026 年 10 月 30 日在 arXiv（cs.lg）发布。该方案通过端到端 SLO 反馈学习，在给定 P/D 资源分配下优化请求路由，以降低推理延迟。 路由策略基于原始提示词长度、缓存调整后输入长度及输出长度对请求进行聚类，并通过离线策略搜索为每个簇分配本地或远程预填充的二值动作。该机制在既定资源约束下实现请求调度优化，适用于解耦式 LLM 推理集群场景。

AI 根据报道生成 · 3 小时前更新

最新进展10月30日 12:00
DolphinRouting：面向解耦 LLM 推理服务的集群级二进制路由方案

报道时间线

沿着报道，了解事件的不同侧面。

10月30日
  1. arXiv · ML
    DolphinRouting：面向解耦 LLM 推理服务的集群级二进制路由方案

    DolphinRouting 通过端到端 SLO 反馈学习，在解耦 LLM 推理服务中实现集群级二进制路由，降低推理延迟。 路由策略基于原始提示词长度、缓存调整后输入长度及输出长度信息进行请求聚类，通过离线策略搜索为每个簇学习一个本地或远程预填充的二进制动作。

本事件热度走势

可比范围当前
8
可比范围峰值
910月30日 17:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。