Polign: エッジ・エージェント・メモリのためのステートレスで型付きのデータベース

Polignは、ハードウェア制約のあるエッジ・デバイス上で動作するAIエージェントに、決定論的なメモリを提供するために設計された、軽量でステートレスなデータベースです。メモリ管理をLLMのプロンプト・コンテキストから型付きのスキーマへと移行することで、Polignはトークン・コストを削減し、セマンティック検索（意味的検索）や矛盾する情報に関連する曖昧さを排除します。

決定論的なメモリ：型付きスキーマによる実現

Polignは、メモリ管理の責任をLLMから構造化されたデータベース・スキーマへと移します。従来のエージェント・メモリ・システムでは、LLMは、ユーザーが好みを変更した際などに、古いテキストを読み直してどちらのバージョンが最新であるかを推測することで、矛盾を解決しなければならないことがよくあります。このプロセスはトークンを消費し、不正確さをもたらす可能性があります。

Polignは、上書きルール（supersession rules）を備えた型付きメモリ・ストアを利用します。モデルが事実を抽出した際、データベースはスキーマに基づいてその事実の意味と妥当性を判断します。モデルが、想起されたテキストが修正なのか矛盾なのかを判断する必要はありません。これにより、構造化されたフィルタリングや、正確な精密な想起が可能になります。例えば、LLMにテキストの段落を解釈させるのではなく、データベース内で直接数値比較（例：値が8000を超えているかどうかの確認）を行うことができます。

エッジ展開のためのステートレスなアーキテクチャ

運用コストとハードウェア要件を最小限に抑えるため、polign_dbは、オブジェクト・ストア（S3など）に存在するハイブリッド・ベクトルおよびBM25エンジン上で動作する、ステートレスなサーバーとして構築されています。

主なアーキテクチャの特徴は以下の通りです：

Zero Durable State: polign_dbサーバーは永続的なデータを保持しません。これにより、プロセスが再起動したり、マシンが故障したりしても、メモリの損失を防ぐことができます。
Low Resource Footprint: S3から1250万個のパッセージを配信するデモンストレーションでは、サーバーのアイドル時のRSSが約37 MiB程度で動作可能です。エンベッダー（embedder）とウェブ・アプリを含むスタック全体が、2 GBのARMマシンに収まることができます。
Cold-First Design: システムは、頻度の低いコールド・クエリに最適化されており、RAMやSSD上の高価なホット・ベクトル・インデックスの必要性を回避します。

ローカル・エージェント・スタック

Polignは、知能とメモリが完全にユーザーのデバイス上に存在する、モジュール式の「ローカル・エージェント・スタック」を提案しています。このスタックは、主に3つのレイヤーで構成されています：

Local LLM: 会話と高レベルのロジックを処理します。
Typed Memory: バリデーション、上書きルール、構造化フィルタリング、およびセマンティック・リコールを管理します。
Durable Local Store: ユーザーが自身のデータを所有することを保証するローカル・ディレクトリ（例：/var/lib/agent）です。

コミュニティの反応と批判

Polignの技術的な目標は効率性と決定論に焦点を当てていますが、プロジェクトはライセンスと独自性に関して、開発者コミュニティから批判を受けています。

クローズド・ソースへの懸念

Hacker Newsの複数のユーザーは、基盤となるpolign_dbのクローズド・ソース性は、インフラストラクチャ・ツールの採用における大きな障壁になると指摘しています。

"There are countless agent memory stores today. Closed source is a non-starter."

差別化の欠如という認識

一部の批判者は、提供される機能（具体的には、S3上でホストされるベクトル・データベース）は、既存のオープンソース・ツールを使用して実装することが現在では極めて容易であると主張しています。

"A vector database hosted in S3 is effectively trivial to set up at this point in time. What are you offering that I can't get from prompting a powerful enough model?"

その他のユーザーは、ローカル・エージェント・メモリのオープンソース版を求めている人に対し、SQLiteとベクトルベースの設計を組み合わせたLitestreamの使用などの代替案を提案しています。