InternLM/lagent
A lightweight framework for building LLM-based agents
解決的問題
Lagent 是一個用於建構多智能體應用的框架。它借鑒了 PyTorch 的設計哲學，簡化了智能體的建立以及它們之間通訊與訊息傳遞的定義過程，讓開發者能直覺地使用工作流程。
如何運作
Lagent 將智能體與工具視為網路中的層，透過 AgentMessage 物件處理通訊。它透過記憶系統來管理智能體狀態，該系統會追蹤輸入與輸出訊息。框架提供靈活的回應格式化（透過解析器）以及透過 ActionExecutor 和鈎子實現的一致工具呼叫介面。為了同時支援快速原型開發與高效率部署，它為所有主要元件（LLM、動作、執行器）提供同步與非同步兩種介面。
適用對象
建構複雜 AI 智能體工作流程的開發者，例如自我優化寫作者、使用程式碼解釋器的數學求解器，或用於資料收集與視覺化的多智能體系統。
特色亮點
- 受 PyTorch 啟發的設計：使用類似層的類比來定義智能體工作流程與訊息傳遞。
- 雙介面支援：提供同步與非同步兩種元件變體，以支援除錯與大規模推論。
- 靈活的記憶體管理：內建基於會話的記憶體管理，用於隔離對話與工具環境。
- 可自訂聚合器：允許使用者實作自訂邏輯，用於訊息的組合與轉換為 LLM 提示（例如少樣本提示）。
- 整合工具支援：內建支援程式碼解釋器（IPython）與網頁瀏覽器。
相關
- 專案
- 專案
- 專案
- 專案
- 專案