Mistral AI 美國專利 12,670,045:以程式碼實現的工具呼叫
Mistral AI 已獲得美國專利 12,670,045,題為「Code implemented tool calls」,該專利涵蓋了一種在大型語言模型 (LLM) 生成的程式碼區塊中封裝工具呼叫的執行方法。這項專利代表了這家法國 AI 實驗室在美國市場確保智慧財產權的戰略舉措,在美國,軟體專利比在歐盟更廣泛地被接受。
專利的技術機制
該專利的核心描述了一個系統,其中 LLM 不僅僅是輸出一個工具呼叫,而是生成一個包含一個或多個工具呼叫的完整程式語言程式碼區塊。
根據主要權利要求,該流程遵循以下步驟:
- 請求接收:伺服器接收到用戶執行工具呼叫的請求。
- 程式碼生成:LLM 生成一個封裝了所需工具呼叫的程式碼區塊。
- 沙盒執行:伺服器在沙盒中執行此程式碼區塊。
- 執行暫停:當系統遇到待處理的工具呼叫時,它會暫停程式碼區塊的執行。
- 用戶端通訊:待處理的工具呼叫會被傳送到用戶端進行執行,並將結果數據傳回伺服器。
- 恢復執行:伺服器將工具呼叫的結果代入程式碼區塊中,並恢復執行。
- 最終輸出:執行完畢的程式碼區塊最終結果會返回給 LLM。
進階實作:無狀態可恢復沙盒
雖然主要權利要求範圍很廣,但從屬權利要求建議了更具體的技術重點,即「stateless resumable sandbox」。這種實作方式透過執行程式碼直到遇到此類操作(例如隨機數或日期)為止,然後從頭開始重新執行程式碼,同時快取先前非確定性操作的結果,以確保一致性與效率。
行業反應與先前技術
這項專利的授予引發了技術社群內的重大辯論,許多人認為所描述的模式是一種基本的軟體工程實踐,而非新穎的發明。
先前技術主張
幾位社群成員指出,現有的框架與研究已經實作了類似的「CodeAct」模式:
- CodeAct:一篇描述 LLM 透過程式碼與電腦互動的研究論文 (arXiv:2402.01030)。
- LangGraph-CodeAct:據報導在 2 月份就已推出此功能的框架,早於該專利於 2026 年 3 月 4 日的申請日期。
- Cloudflare Code Mode:較早的 LLM 驅動程式碼執行實作。
- Scala Community:對「tracked capabilities」與
tacit專案的研究,探索了類似的代理執行模式。
社群對軟體專利的看法
Hacker News 上的批評者將此專利描述為試圖建立「護城河」或作為「法律戰」工具的嘗試,暗示其技術新穎性極低。
"Is 'by an LLM' the new 'on a computer' for lame patents?"
相反地,一些分析師認為這項專利是一種防禦性的商業策略。由於 Mistral 是全球營運的開源權重公司,持有美國專利可提供「防禦性槓桿、交叉授權,以及帳面上多一項資產來增加對投資者的吸引力」,無論該專利是否能在嚴格的法庭挑戰中站得住腳。
專利狀態摘要
與最初假設這是一項待處理申請不同,該專利 (US 12,670,045 B1) 已獲正式授予。它於 2026 年 3 月 4 日提交申請,並於 2026 年 6 月獲准,顯示出了一種加速審查程序。
Sources
相關
- Dispatch
- Dispatch
- Dispatch
- Dispatch
- Dispatch