HuggingFace Daily Papers(社区热门论文)
55
FlashEvolve:通过异步阶段编排加速智能体自我进化
AI 摘要
FlashEvolve 是一个高效框架,旨在解决基于大语言模型的智能体进化过程中因阶段同步和执行负载不均导致的时间瓶颈。它采用异步工作队列取代同步执行,允许不同进化阶段与步骤重叠运行。为处理异步引入的数据陈旧问题,框架追踪版本并对陈旧工件采取更新、丢弃或修补策略,并利用推测性阶段完成与自适应工作流控制进一步提升吞吐量与令牌效率。在 GEPA 基准测试中,其在本地 vLLM 上实现了 3.5 倍的提案吞吐量提升,在 API 服务上相比同步方法提升达 4.9 倍。该设计同样适用于 ACE 等任务。
该来源未收录可展示正文,站内仅提供摘要。
阅读原文arxiv.org