forrany/Awesome-Ollama-Server

解決的問題

此專案提供一個用於 Ollama 服務的監控與偵測系統。它讓使用者能夠追蹤多個 Ollama 實例的可用性與效能，確保它們線上且運作最佳。

如何運作

系統使用 Next.js 14 網頁介面來偵測與監控 Ollama 服務。它能進行服務位址的批次偵測，測試回應時間與 TPS（每秒交易次數），並列出這些服務上的可用模型。同時也支援自動 FOFA 掃描以尋找服務。

適用對象

此工具專為需要管理或研究多個 Ollama 伺服器當日可用性與效能的使用者與系統管理員設計。

主要特色

• 服務偵測：支援 Ollama 服務的批次偵測，提供即時狀態更新與可匯出的結果。
• 效能監控：可視化回應時間與 TPS 資料。
• 模型過濾：可根據服務所託管的模型及其效能指標進行過濾與排序。
• 多語言支援：介面完整支援中文與英文。
• 彈性部署：支援標準 Node.js 安裝與 Docker Compose 快速設定。