ax-llm/ax

The pretty much "official" DSPy framework for Typescript

何を解決するか

Axは、LLMアプリケーションの構築に向けた統一的で言語に依存しないプログラミングモデルを提供します。手動でのプロンプト設計の必要性を排除し、TypeScript、Python、Java、C++、Go、Rustなど複数の言語で、単一の意味的コアを使用して型付きの構造化生成を定義できるようにします。

動作方法

Axは「シグネチャ」を使用して、入力と出力を型付きの構造化データとして定義します。これらのシグネチャは文字列DSL、フレンドリーなビルダー、またはStandard Schema v1バリデータ(Zodなど)で定義できます。システムはこれらの定義をさまざまな言語向けのネイティブライブラリにコンパイルします。3段階のエージェントパイプライン(Distiller → Executor → Responder)と、長文コンテキストを管理するための再帰実行時(RLM)を備えており、JSをサンドボックスセッションで実行し、チェックポイント再実行を使用してプロンプトの肥大化を防ぎます。

対象ユーザー

異なるランタイムスタック上で実行される堅牢で型安全なLLMエージェントやワークフローを構築する必要があるソフトウェアエンジニア。

特徴

  • 多言語対応: 単一のコアをTypeScript、Python、Java、C++、Go、Rustにコンパイル可能。
  • 型付き構造化生成: Zod、Valibot、またはカスタム文字列DSLを使用したエンドツーエンドの型安全。
  • 高度なエージェントアーキテクチャ: コンテキスト予算、メモリ(ベクトル/BM25)、スキル(ランブック)、ツール実行用のサンドボックスJSランタイムを含む。
  • プロバイダ非依存: デプロイプロファイルを変更するだけで、OpenAI、Anthropic、Geminiなどプロバイダ間を簡単に切り替え可能。
  • AxFlow: 型安全でチェーン可能なワークフローランナー。安全なDAGとして実行を最適化。
  • マルチモーダル & オーディオ: 画像、オーディオ、リアルタイム音声ストリームをネイティブでサポート。

関連

  • プロジェクト
  • Dispatch
  • Dispatch
  • プロジェクト
  • Dispatch