Ktx: LLMエージェントとデータウェアハウスの間のギャップを埋める

多くの組織にとって、「データとチャットする」というインターフェースの夢は、しばしば現実の壁に突き当たります。汎用的なAIエージェントは、SQLを書くことはできますが、特定の企業のデータウェアハウスのニュアンスを理解することに苦労することがよくあります。彼らは頻繁に、プロンプトごとにスキーマを再探索し、指標のために独自のロジックを捏造し、企業の公式レポートと矛盾する数値を生成してしまいます。

従来のセマンティックレイヤーは、標準的な指標や結合(join)を定義することでこれを解決しようとしますが、それらの維持には膨大な手作業が必要であり、NotionのページやWiki、チームのドキュメントに埋もれている「暗黙知」を捉えることができません。Ktxは、技術的なメタデータとビジネス知識を統合することで、エージェントにウェアハウスへの正確なクエリ方法を教える、自己改善型のコンテキストレイヤーとして登場しました。

問題点:ビジネスロジックの「ハルシネーション」

エージェントに「月次経常収益(MRR)」を尋ねたとき、どのテーブルを結合すべきか、あるいは内部テストアカウントを除外するためにどのフィルタを適用すべきかを、エージェントは本来的に知りません。構造化されたコンテキストレイヤーがなければ、エージェントには2つの選択肢しかありません。カラム名に基づいて推測するか、定義をユーザーに毎回尋ねるかです。

従来のセマンティックレイヤー(LookMLやdbt MetricFlowなど)は「真実」を提供しますが、それらはしばしばサイロ化されています。ビジネスロジックはdbtプロジェクトに存在する一方で、「解約顧客」の定義はNotionドキュメントに記載されているかもしれません。エージェントは通常、これらの断絶されたソースを同時にナビゲートすることはできません。

Ktxの仕組み:多次元コンテキストレイヤー

Ktxは単なるプロキシとして機能するのではなく、いくつかの自動化プロセスを通じて、データ環境の包括的なマップを構築します。

1. 自動データスタックマッピング

人間がすべての関係性をマッピングする必要がある代わりに、Ktxはテーブルをサンプリングし、メタデータを取得し、使用パターンを分析して結合可能なカラムを検出します。これにより、セマンティックレイヤーのセットアップに伴う典型的な手作業のオーバーヘッドが軽減されます。

2. 知識の取り込み(Knowledge Ingestion)

KtxはWikiやチームのナレッジベースからコンテンツを取り込みます。情報を整理し、重複を削除し、そして極めて重要なことに、矛盾を人間のレビュー用にフラグ立てします。これにより、Wikiが何かを言い、dbtの定義が別のことを言っている場合、その不一致が無視されるのではなく、強調表示されるようになります。

3. セマンティックレイヤーの合成

生のテーブルと高レベルの指標を結合グラフ(join graph)を通じて組み合わせることで、Ktxは「chasm traps」や「fan traps」のような一般的なSQLの落とし穴を自動的に解決します。これにより、エージェントは宣言的に指標を取得できるようになります。つまり、毎回のクエリごとに標準的なSQL結合ロジックをゼロから書き直す必要なく、「収益(Revenue)」をリクエストできるのです。

4. エージェントによる実行(Agent Execution via MCP)

Ktxは、CLIおよびModel Context Protocol (MCP)を通じてその知識を公開します。これにより、Claude Code、Cursor、またはOpenCodeのようなエージェントがKtxをツールとして使用し、Wikiとセマンティックレイヤーの両方に対して全文検索およびセマンティック検索を実行して、正しいデータパスを見つけることができます。

比較:汎用エージェント vs 従来のレイヤー vs Ktx

特徴 汎用エージェント 従来のセマンティックレイヤー Ktx
ウェアハウスのコンテキスト 手動/アドホック 手動 自動
結合(Join)の検出 ヒューリスティック/推測 手動 自動
指標の定義 その場で捏造 承認済み/再利用可能 承認済み/再利用可能
知識の吸収 なし なし Wiki/Notionの統合
矛盾のフラグ立て なし なし 自動
エージェントの統合 部分的 なし CLI + MCP

技術アーキテクチャと安全性

データウェアハウスにAIを導入する際の主な懸念事項の一つはセキュリティです。Ktxは「設計による読み取り専用(read-only by design)」という哲学を通じてこれに対処します。データベースに書き込むことは決してなく、ウェアハウスの整合性を保証します。

さらに、Ktxはローカルで動作します。スキーマやクエリ結果をホトスティングサービスに送信することはありません。ローカル環境から送信される唯一のデータは、設定されたLLMプロバイダー(AnthropicやGoogle Vertex AIなど)に送信されるものだけです。

コミュニティの洞察:ドキュメントのROI

Hacker Newsのディスカッションでは、ユーザーがこのようなツールの価値提案が時間の経過とともに変化してきたことに言及しています。あるコメント主の @lifeisstillgood は次のように述べています。

"このようなドキュメントを作成することは、10年前にはROIがほとんどありませんでした。しかし今日では、それらは成功と失敗の分かれ目となります。"

これはデータエンジニアリングにおける根本的な変化を強調しています。ドキュメントはもはや人間が読むためだけのものではなく、AIエージェントが私たちのシステムと対話するための主要なインターフェースとなっています。さらに、トークン管理の課題も提起されており、階層的な検索(まず高レベルの事実を取得し、必要に応じてのみ全文を取得する)が、トークンコストを膨張させずにエージェントの有用性を維持するための最も効果的な方法であるとの提案がなされています。

Ktxで始める

Ktxは、PostgreSQL、Snowflake、BigQuery、ClickHouse、MySQL、SQL Server、またはSQLiteを使用しているチーム向けに設計されています。dbt、Looker、およびMetabaseといった既存のツールと統合できます。

プロジェクトを初期化するには、ユーザーは次のように実行できます。

npm install -g @kaelio/ktx
ktx setup
ktx status

これにより、ktx.yaml設定ファイル、YAMLソース用のsemantic-layer/ディレクトリ、およびビジネスコンテキスト用のwiki/フォルダを含むローカルプロジェクトディレクトリが作成されます。これにより、コンテキストレイヤーをGit経由でバージョン管理し、機密情報をローカルに保持することができます。

Sources