forrany/Awesome-Ollama-Server

What it solves

이 프로젝트는 Ollama 서비스에 대한 모니터링 및 탐지 시스템을 제공합니다. 사용자는 여러 Ollama 인스턴스의 가용성 및 성능을 추적하여, 서비스가 온라인 상태이며 최적으로 작동하고 있는지 확인할 수 있습니다.

How it works

이 시스템은 Next.js 14 웹 인터페이스를 사용하여 Ollama 서비스를 탐지하고 모니터링합니다. 서비스 주소의 일괄 탐지, 응답 시간 및 TPS (Transactions Per Second) 테스트, 그리고 해당 서비스에서 사용 가능한 모델 목록을 나열할 수 있습니다. 또한 서비스를 찾기 위한 자동 FOFA 스캐닝을 지원합니다.

Who it’s for

이 시스템은 여러 Ollama 서버의 당일 가용성 및 성능을 관리하거나 연구해야 하는 사용자 및 관리자를 위해 설계되었습니다.

Highlights

• Service Detection: Ollama 서비스의 실시간 상태 업데이트 및 내보내기 가능한 결과가 포함된 일괄 탐지.
• Performance Monitoring: 응답 시간 및 TPS 데이터의 시각화.
• Model Filtering: 호스팅하는 모델 및 성능 지표를 기반으로 서비스를 필터링하고 정렬하는 기능.
• Multilingual Support: 중국어 및 영어로 제공되는 전체 인터페이스.
• Flexible Deployment: 빠른 설정을 위한 표준 Node.js 설치 및 Docker Compose 지원.