SQL Access for Crypto Market Data: A New Paradigm for LLM-Driven Analytics

加密貨幣市場數據的 SQL 存取：LLM 驅動分析的新範式

數據互動的格局正在演變，特別是隨著大型語言模型 (LLMs) 的興起及其在分析任務中的潛力。雖然傳統的 JSON 格式 REST APIs 為具有預定義數據需求的軟體提供了良好的服務，但當 LLMs 面對龐大且結構化的數據集時，其效率會大幅下降。Koinju.io 正在開拓一種新方法，為其廣泛的加密貨幣市場數據提供直接的 SQL 存取，並將其定位為 LLM 驅動分析的優越原語 (primitive)。

這一倡議部分受到 Didier Lopes 關於金融公司擁有其基礎設施（特別是進行 AI 推論的執行環境）之論文的啟發。核心理念是賦予 LLMs 不僅僅是檢索數據的能力，還能直接在數據集上執行複雜且可檢查的操作，從而將 LLM 的角色從單純的數據解析器轉變為規劃者與控制器。

LLMs 與大數據的挑戰

傳統的數據 API，旨在進行直接檢索，通常以 JSON 格式返回數據。這種模式雖然對許多應用程式有效，但在 LLMs 執行大數據集上的分析工作時，會面臨重大障礙：

  • Context Window 限制：當以 tokenized JSON 行的形式呈現時，LLMs 很難有效地對大型結構化數據集進行攝取、重塑、連接、聚合、驗證或推理。在大規模應用時，這會迅速超過 context 限制。
  • 效率與準確性：在客戶端處理大型 JSON 負載可能會導致高強度的計算需求，且容易發生無聲的數據丟失或誤解，因為微小的細節可能會在龐大的 context 中被視為離群值而消失。
  • 缺乏可檢查性：LLM 解析與操作 JSON 的過程通常是一個黑盒，這使得精確地規劃、重放或追蹤計算過程變得困難。

SQL 作為面向 LLM 的原語 (Primitive)

Koinju.io 的論點是，對於大數據集，面向 AI 的原語應該從「返回 JSON」轉變為「在數據集上執行受限且可檢查的操作」。SQL 在此角色中脫穎而出，成為一個強大的候選者。雖然這不是一個新概念，但 SQL 在此背景下提供了幾項優勢：

  • 明確性與可檢查性：SQL 查詢是明確的，允許 LLMs 檢查 schema，理解約束，表達操作，甚至檢查抽象語法樹 (ASTs)。這種透明度對於除錯與驗證至關重要。
  • 可組合性與可執行性：SQL 允許複雜操作被組合並直接在數據附近執行，利用查詢引擎的力的。這將沉重的計算任務從 LLM 的 context window 中卸載下來。
  • 精簡的結果：LLM 接收到的是一個精簡且具備類型的結果，它可以在其上進行更有效的推理，而不是在原始的 tokenized 數據中篩選。

在此模式下，LLM 扮演規劃者/控制器，生成 SQL 查詢，然後由提供商端的查詢引擎執行。REST APIs 對於簡單的數據檢索仍然有效，但 SQL 將處理大型市場數據集上的分析性問題，在這些場景下 JSON 分頁 (pagination) 被證明是低效的。

治理與架構邊界

對於金融領域，治理是至關重要的。公司通常希望對其整個工作流，包括內部 context、權限、模型策略、審計日誌與決定工作流，保持控制權，而不是將其移交給供應商的黑盒介面。這並不一定意味著所有外部數據集都必須在進行任何查詢之前先進行本地複製。

Koinju.io 提出了一種精煉的架構邊界：

  • 公司所有權：客戶公司擁有工作流與 AI 推論執行環境。
  • 提供商執行介面：數據提供商提供一個受控的執行介面（例如 SQL 介面）。
  • LLM 操作：LLM 發出受限的操作（SQL 查詢）。
  • 查詢引擎：提供商的查詢引擎執行實際的計算。
  • 結果交付：一個精簡的結果被返回到公司的環境中。

這種模式允許公司在保留對其核心流程的控制權的同時，受益於外部專業化的數據基礎設施，而無需進行大規模的本地數據複製。

未來的關鍵問題

這條探索性路徑為產業提出了幾個關鍵問題：

  • 今天面向處理大數據的 LLM 的最佳介面是什麼？

  • LLMs 應該在原始數據、JSON、schemas、SQL、具備類型的工具、語義層 (semantic layers)，還是它們的組合之上運作？

  • 客戶擁有的執行環境與提供商端的數據執行之間，精確的邊界應該在哪裡？

  • 當調用者是一個自主代理 (autonomous agent) 時，查詢限制、成本預覽、試運行 (dry runs)、權限與審計日誌應如何運作？

最終，目標是找到 AI 代理與大型、複雜數據集進行互動並從中獲取洞察的最有效且受治理的方式。無論這涉及發明全新的 AI 類別，還是僅僅提供乾淨的數據、穩定的 schema，強大的 SQL 存取、全面的文件與可預測的限制，這場探索都凸顯了 AI 時代數據互動的格局演變。

Sources