跳到正文
arXiv · ML· Oleksandr Klymenko·· 7 小时前AI 评分42

跨 Java 框架一致的 LLM 调用处理:参考实现与基准测试

Consistent LLM Call Handling Across Java Frameworks: A Reference Implementation and Benchmark

AI 导读

该研究提出六条款可靠性契约,测得 Spring AI 在 77 个适用案例中满足 72 个,LangChain4j 满足 47 个。 基于 HTTP 边界的 725 行核心实现使三者行为一致,在 91 个案例中满足 90 个,调用延迟中位数为 32-217 微秒。

来源:arXiv · ML · arxiv.org