InternScience/MLEvolve

MLEvolve is an open-source autonomous system for end-to-end machine learning algorithm design and optimization powered by progressive search and experience-driven memory.

What it solves

MLEvolve 是一個智能代理式系統,旨在自動解決複雜的機器學習(ML)工程任務,例如 Kaggle 式競賽與數學優化問題。它透過自動化機器學習算法的發現與精煉,消除了對手動試錯的需要。

How it works

MLEvolve 使用由蒙特卡羅圖形搜索(Monte Carlo Graph Search)驅動的多智能體協作框架。它並行地探索不同的解決方案路徑,並透過以下幾個關鍵機制來演進:

  • Multi-Mode Planning: 它能自適應地在單次規劃(single-shot planning)或增強記憶的檢索增強規劃(memory-enhanced retrieval-augmented planning)之間進行選擇,並使用各種代碼生成策略,例如逐步管道(stepwise pipelines)或增量差異修補(incremental diff patching)。
  • Experience-Driven Memory: 全局記憶層(使用 BM25 和 FAISS)存儲了先前的規劃、代碼與結果,允許智能代理進行重用成功策略並避免過去的失敗。
  • Progressive MCGS: 系統採用一個能檢測停滯狀態的搜索圖,並執行「跨分支融合」(cross-branch fusion),將不同解決方案分支的最佳見解融合起來,以創建新的、改進後的候選方案。

Who it’s for

此工具是為機器學習工程師與研究人員設計的,他們希望自動化發現用於競賽或科學發現任務的高性能機器學習算法。

Highlights

  • State-of-the-Art Performance: 在 MLE-bench 排行榜上獲得第 1 名,獎牌率為 65.3%。
  • Generalization: 成功應用於數學優化任務,表現與專用框架相當或超越之。
  • Flexible LLM Support: 相容於 OpenAI-compatible APIs(GPT, Qwen, DeepSeek, 等)。
  • Integration: 為 InternAgent 系統的代碼編寫與算法優化模組提供動力。

相關

  • 專案
  • 專案
  • 專案
  • 專案