NPC-Worldwide/npcpy

The python library for research and development in NLP, multimodal LLMs, Agents, ML, Knowledge Graphs, and more.

它解決的問題

npcpy 是一個專為簡化複雜 AI 應用程式開發而設計的程式庫,提供多模態語言模型、代理型 AI 和知識圖譜的統一介面。它消除了在不同本地與雲端 LLM 提供商之間切換的障礙,並提供結構化的方式來管理 AI 人格、多代理協作以及長期記憶。

如何運作

該程式庫作為使用者與各種 LLM 提供商(如 Ollama、Llama.cpp、Gemini 和 OpenAI)之間的資料層。它使用「Context-Agent-Tool」架構,透過軟體邏輯確保應用程式的合規性,而非僅依賴提示(prompts)。

主要組件包括:

  • NPC 和代理:具備特定指令的人格高階抽象。專用代理如 CodingAgent 可自動執行程式碼,而 ToolAgent 可透過自訂 Python 函數進行擴展。
  • NPCArray:一個在多個模型上執行平行推論的框架,並可管理多代理辯論或迭代優化鏈。
  • 知識圖譜:支援增量式演進生命週期的記憶系統,包含「睡眠」(整合/修剪)與「夢想」(假設性連結生成)過程。
  • 團隊協調:透過設定檔(.npc.jinx.ctx)定義多代理團隊的系統,可作為獨立腳本執行。

適用對象

專為研究人員與開發者設計,適用於建立代理型 AI 系統、多模態應用程式,或需要結構化多代理互動與持續演進知識庫的模擬情境。

特色亮點

  • 提供商無關:透過單一 API 支援本地(Ollama、LM Studio 等)與雲端提供商(Gemini、OrcaRouter 等)。
  • 多代理辯論:內建工具支援不同 AI 人格之間的平行推論與共識建立。
  • 自動化程式碼撰寫CodingAgent 可自動撰寫並執行腳本以自主解決任務。
  • 基於生命週期的記憶:實作具有生物啟發式「睡眠」與「夢想」週期的知識圖譜,以進行資料優化。
  • 多模態支援:整合影像、音訊與影片生成功能。
  • 結構化輸出:原生支援 JSON 與 Pydantic 模型,以確保資料提取的可靠性。

相關

  • 專案
  • 專案
  • 專案
  • 專案
  • 專案