ALTK-Evolve: LLMのパフォーマンス向上のためのエージェンティック・メモリのキャリブレーション

IBM Researchは、エージェンティック・メモリ（過去の軌跡から教訓を抽出し、ガイドラインへと蒸留するプロセス）が、普遍的な機能ではなく、モデルの特定の能力に合わせて調整（キャリブレーション）されるべき「用量」であることを示しました。ALTK-Evolveフレームワークを使用すると、強力なモデルは包括的なガイドラインセットから恩恵を受ける一方で、能力の低いモデルはコンパクトなコアとタスク固有の検索（retrieval）によってより高いパフォーマンスを発揮し、一部の飽和したモデルでは全く改善が見られないことが研究者によって明らかになりました。

ALTK-Evolve メモリ・ループ

ALTK-Evolveは、モデルの内部ではなくモデルの周囲で発生する学習ループを実装しています。これは、モデルの重みが更新されず、人間のアノテーションも必要とされないことを意味します。

プロセスは主に以下の4つのステップに従います：

Trajectory Generation: エージェントがタスクを実行し、実行軌跡（trajectories）を生成します。
Guideline Extraction: ALTK-Evolveは、成功した実行と失敗した実行の両方から、行動ガイドライン（成功した戦略、避けるべきミス、エッジケース）を抽出します。
Consolidation: これらのガイドラインは、再利用可能なセットへと集約されます。
Inference Injection: 推論時に、エージェントには完全なガイドラインセット、または厳選されたガイドラインの選択肢が提供されます。

モデルの能力とメモリの用量

さまざまなサイズとアーキテクチャにわたる8つのモデルの評価により、モデルがエージェンティック・メモリをどのように吸収するかに関して、3つの明確なパターンが明らかになりました：

余力のある強力なモデル

大きな容量を持つモデルは、稀なエッジケースに関するものを含む、完全なガイドラインセットを吸収し適用することができます。例えば、DeepSeek-V3.2 (671B MoE) は、自身で採掘した完全なガイドラインセットが提供された際、Task Goal Completion (TGC) が +9.5パーセントポイント (pp) 向上しました。

能力の低い、または選択的なモデル

小規模または能力の低いモデルは、膨大なガイドラインセットによって圧倒されてしまうことがあります。これらのモデルは、「厳選された検索（curated retrieval）」戦略によって最高のパフォーマンスを発揮します。これは、高信頼度のコア・ガイドラインに、タスクに関連する少数のガイドラインを補完するものです。gpt-oss-120b (117B MoE) は、厳選された検索を使用することで TGC が +16.1pp 向上しましたが、完全なガイドラインセットを使用した場合、効果は低く、トークンコストは約50%増加しました。

飽和したモデル

一部のモデルは、構成に関わらず、エージェンティック・メモリから測定可能な利得を得られません。GLM-5 (745B MoE) はこのパターンを示しており、これはモデルがテストされたタスクにおいてすでにパフォーマンスの限界に達しているか、提供されたガイダンスを効果的に適用できないことを示唆しています。

AppWorldにおけるパフォーマンス・ベンチマーク

このフレームワークは、9つのシミュレートされたアプリケーションにわたる585のマルチステップ・タスクで構成されるAppWorldで評価されました。パフォーマンスは、Task Goal Completion (TGC) と、より厳格な Scenario Goal Completion (SGC) を用いて測定されました。SGCは、エージェントが成功するためにシナリオのあらゆるバリエーションをパスすることを要求します。

Model	Pattern	Baseline TGC / SGC	Best-memory TGC / SGC	Best config	$\Delta$ TGC	$\Delta$ SGC
gpt-oss-120b	Weak / selective	39.9 / 21.4	56.0 / 37.5	curated retrieval	+16.1	+16.1
DeepSeek-V3.2	Strong w/ headroom	79.8 / 64.3	89.3 / 80.4	full guideline set	+9.5	+16.1
Claude Opus 4.6	Strong w/ headroom	90.5 / 87.5	94.6 / 94.6	full guideline set	+4.1	+7.1
GPT-5.5	Strong (near-ceiling)	92.3 / 82.1	95.2 / 89.3	full guideline set	+2.9	+7.2
GLM-5	Saturated	87.5 / 80.4	87.5 / 80.4	full guideline set	0.0	0.0

特筆すべき点として、SGCの利得はTGCの利得よりも大きいことが多く、これは自己蒸留されたガイドラインが、シナリオのバリエーションにわたるエージェントの信頼性を大幅に改善することを示しています。

コストと効率のトレードオフ

メモリの注入は、すべての ReAct ステップにおける入力トークン数を増加させますが、その影響は戦略によって異なります：

Curated Retrieval Efficiency: gpt-oss-120b のようなモデルの場合、厳選された検索は最小限のオーバーヘッド（+5% トークン）で、最も高い精度向上（+16.1pp TGC）をもたらしました。
Full Set Overhead: DeepSeek-V3.2 は、完全なガイドラインセットを使用する場合、タスクあたりのトークン数が +78% 増加しました。
Optimization via Caching: ガイドラインセットはステップ間で静的であるため、プロンプト・キャッシングを利用することで、本番環境における「完全なガイドラインセット」戦略の有効コストを計算上で大幅に削減できます。

将来の研究方向

IBM Research は、ALTK-Evolve フレームワークのさらなる発展に向けたいくつかの領域を特定しています：

Learned Selectors: コサイン類似度による検索ではなく、結果のシグナルに基づいて学習されたセレクターを使用することで、どのガイドラインが特定のタスクに役立つかをより正確に予測します。
Teacher-Distilled Memory: 自己蒸留に必要な内部シグナルが不足している、非常に能力の低いモデルのためのメモリ。
Context Window Isolation: コンテキスト・ウィンドウのサイズが、生の能力ではなく、完全なガイドラインセットを吸収するモデルの能力に影響を与えるかどうかを判断するための、制御された実験。