InternScience/MLEvolve

MLEvolve is an open-source autonomous system for end-to-end machine learning algorithm design and optimization powered by progressive search and experience-driven memory.

What it solves

MLEvolve 是一个智能代理式系统,旨在自动解决复杂的机器学习(ML)工程任务,例如 Kaggle 式竞赛与数学优化问题。它通过自动化机器学习算法的发现与精炼,消除了对手动试错的需求。

How it works

MLEvolve 使用由蒙特卡罗图图形搜索(Monte Carlo Monte Carlo Graph Search)驱动的多智能体协作框架。它并行地探索不同的解决方案路径,并通过以下几个关键机制进行演进:

  • Multi-Mode Planning: 它能自适应地在单次规划(single-shot planning)或增强记忆的检索增强规划(memory-enhanced retrieval-augmented planning)之间进行选择,并使用各种代码生成策略,例如逐步管道(stepwise pipelines)或增量差异修补(incremental diff patching)。
  • Experience-Driven Memory: 全局记忆层(使用 BM25 和 FAISS)存储了之前的规划、代码与结果,,允许智能代理重用成功的策略并避免过去的失败。
  • Progressive MCGS: 系统采用一个能检测停滞状态的搜索图,并执行“跨分支融合”(cross-branch fusion),将不同解决方案分支的最佳见解融合起来,以创建新的、改进后的候选方案。

Who it’s for

此工具是为机器学习工程师与研究人员设计的,他们希望自动化发现用于竞赛或科学发现任务的高性能机器学习算法。

Highlights

  • State-of-the-Art Performance: 在 MLE-bench 排行榜上获得第 1 名,奖牌率为 65.3%。
  • Generalization: 成功应用于数学优化任务,表现与专用框架相当或超越之。
  • Flexible LLM Support: 成功兼容 OpenAI-compatible APIs(GPT, Qwen, DeepSeek, 等)。
  • Integration: 为 InternAgent 系统中的代码编写与算法优化模块提供动力。

相关

  • 项目
  • 项目
  • 项目
  • 项目