AutoCompress：基于硬件引导的自动化大模型压缩框架

提出 AutoCompress 框架，将硬件约束纳入可微架构搜索，实现全局与逐层异构架构联合优化。 基于服务引擎成本模型生成模型，在长上下文编码、批量数据中心服务等场景优于 Minitron，八项基准测试平均准确率在 RTX 5070 上提升 6.57 个百分点。