Gnosil/semantix

semantic agent kernel which make agent efficient and self-evolve

解決する課題

Semantix は、AI コーディングエージェントの2つの主要な問題に対処します:セッション間でのコンテキストの喪失と、LLMプロバイダーのプレフィックスキャッシュの高コスト・非効率性。ほとんどのエージェントはセッション終了時にすべての情報を忘れてしまい、プロバイダーの標準キャッシュは、プロンプトの先頭に1文字でも変更があると完全に無効化されるため、結果として料金が高くなることがあります。

動作方法

Semantix は、単体の CLI エージェント(semantix-agent)として使用できる「メモリカーネル」を提供し、Claude Code や LangChain アプリなど既存のエージェントにツール、ゲートウェイ、スキルとして接続可能です。以下のメカニズムで動作します:

  • セッション間メモリ:完了したセッションから再利用可能な「スライス」(タスクパターン、プロジェクト知識、ツールシーケンス)を抽出し、ローカルライブラリに保存。類似したタスクが新しいセッションで出現した際に再注入します。
  • プレフィックスの整備:リクエストごとの帰属マークを削除し、ツール配列を正規化することで、プロンプトがバイト単位で同一になるようにし、プロバイダー側キャッシュのヒット率を最大化します。
  • バイト安定なインジェクション:取得したメモリスライスはスコアではなくID順に並べ替えられ、一貫したプロンプトプレフィックスを維持します。
  • L3 結果の再利用:検証済みの結果は、新しいモデル呼び出しを行わずに直接返却されます。
  • 適応的スケジューリング:ツール使用パターンを学習し、呼び出しを並列化し、読み取り専用コンテキストを事前取得します。

対象ユーザー

APIコストを抑え、応答速度を向上させ、異なるセッション間でプロジェクト固有の知識を保持したいと考える開発者。

主な特徴

  • 高いキャッシュヒット率:特定のプロバイダー(例:DeepSeek)で最大99.8%のヒット率を実証。
  • コスト削減:合成リプレイ比較で最大79.8%のコスト削減を報告。
  • 柔軟な統合:コード変更なしでゲートウェイ、ツール登録、特定のエージェントスキルとして統合可能。
  • プロバイダー対応:ベンダー機能表と各ベンダーごとのキャッシュ有効期間追跡を備え、ブレークポイントの最適配置を可能にします。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト