forrany/Awesome-Ollama-Server

What it solves

このプロジェクトは、Ollamaサービスの監視および検出システムを提供します。これにより、ユーザーは複数のOllamaインスタンスの可用性とパフォーマンスを追跡し、それらがオンラインであり、最適に動作していることを確認できます。

How it works

このシステムは、Next.js 14ウェブインターフェースを使用して、Ollamaサービスを検出および監視します。サービスアドレスのバッチ検出、レスポンスタイムとTPS (Transactions Per Second) のテスト、およびそれらのサービス上で利用可能なモデルのリスト表示を行うことができます。また、サービスを見つけるための自動FOFAスキャンもサポートしています。

Who it’s for

複数のOllamaサーバーの当日の可用性とパフォーマンスを管理または調査する必要があるユーザーおよび管理者向けに設計されています。

Highlights

• Service Detection: Ollamaサービスのバッチ検出、リアルタイムのステータス更新、およびエクスポート可能な結果。
• Performance Monitoring: レスポンスタイムとTPSデータの可視化。
• Model Filtering: ホストされているモデルとパフォーマンス指標に基づいて、サービスをフィルタリングおよびソートする機能。
• Multilingual Support: 中国語と英語の両方で利用可能な完全なインターフェース。
• Flexible Deployment: 標準的なNode.jsインストール、および迅速なセットアップのためのDocker Composeをサポート。