google/langfun

解決的問題

Langfun 簡化了自然語言與電腦程式之間的互動。它解決了管理複雜提示（prompt）並確保 LLM 輸出具結構性且可預測的挑戰，而使用原始文字字串時，這通常很困難。

工作原理

Langfun 使用了一種稱為「物件導向提示」的概念。透過將語言視為函數，並利用 PyGlove，它允許使用者使用 Python 物件與類型來定義提示。這使得結構化資料可以無縫整合至提示中，並確保 LLM 的回應以類型化的 Python 物件形式回傳，而不僅僅是普通字串。

適用對象

專為需要從 LLM 取得結構化輸出的 AI 代理與應用程式開發者設計，也適合需要統一 API 與 Gemini、GPT、Claude 等多種模型互動的開發者。

主要亮點

• 物件導向提示：使用物件與類型進行提示，實現更精細的控制。
• 統一 API：無需微調即可相容主流 LLM，包括 Gemini、GPT、Claude 與 Llama3。
• 模組化提示：支援文字與多種模態的混合使用。
• 評估框架：內建強大的 LLM 輸出評估框架。
• 開發者友善：提供智能感知（intellisense）與輕量級除錯功能，開銷極小。