kerpopule/hermes-jev-skills
Jev-powered model routing, memory, compaction, skill selection, computer and browser use for Hermes agents (also Claude Code and Codex)
解決的問題
AI代理經常在簡單的決策任務(例如選擇合適的模型、過濾搜尋結果或整理郵件)上浪費昂貴的前沿模型令牌,而這些任務並不需要複雜的散文生成。本專案提供一組技能和一個外掛程式,將這些「小決策」交由 Jev——一個專用且低成本的決策模型處理,該模型能以校準的置信度回答類型化問題(是/否、評分或從清單中選擇),從而降低延遲與成本。
如何運作
該系統透過外掛程式(特別是 Hermes 專用)或獨立的技能檔案將 Jev 集成到代理的工作流程中。它在關鍵節點攔截代理流程,快速做出決策:
- 模型路由:動態選擇能處理當前回合的最經濟高效的模型。
- 過濾與選擇:在主大語言模型讀取之前,識別出檢索到的記憶片段或搜尋結果中真正相關的部分。
- 任務分診:根據緊急程度和類型對傳入訊息進行分類。
- 動作選擇:從預定義的安全動作清單中選擇下一步的 GUI 或瀏覽器操作。
為確保安全與隱私,系統使用去敏層在傳送至 Jev API 前屏蔽敏感資料,並採用「故障開放」設計,即當決策模型無法使用時,代理將回退至預設行為。
適用對象
使用 Hermes 代理框架等建構 AI 代理的開發者,希望透過將高階推理與日常決策分離,來優化營運成本與回應時間。
亮點
- 成本與速度:決策通常耗時約 0.4 秒,成本不足一美分的幾分之一。
- 影子模式:允許使用者記錄 Jev 的決策,而無需實際切換模型或動作,可在上線前驗證效能。
- 隱私優先:內建對郵件、電話號碼和金鑰的去敏功能,並提供「私密設定檔」模式以處理高度敏感資料。
- 廣泛適用性:附帶 9 個與代理無關的技能,可在 Claude Code 或 Codex 等其他環境中使用。
- 故障安全:設計為故障開放,確保 Jev 故障不會阻塞代理的任何回合。
相關
- 專案
- 專案
- 專案
- 專案