signerless/llm-checker

解决的问题

选择合适的本地 LLM 非常困难，因为模型变体、量化级别和硬件限制（VRAM、内存带宽）种类繁多。LLM Checker 通过分析用户的特定硬件，从多个注册表中自动推荐最匹配的模型来解决这一问题。

工作原理

该工具使用硬件检测系统识别 CPU、GPU（NVIDIA、AMD、Apple Silicon、Intel Arc）和 RAM 能力。然后在质量、速度、适配性、上下文四个维度上应用确定性评分引擎对模型进行排序。它利用包含来自 Hugging Face、Ollama 和 GPT4All 超过 33,000 个工件的多源注册表，以及同步的 Ollama 模型 SQLite 目录。它还包含一个结构化安全验证器（通过 ModelVet 实现），在加载前检查 GGUF 和 safetensors 文件。

适用人群

希望在本地运行 LLM（特别是通过 Ollama）的开发者和 AI 爱好者，他们希望在不进行手动试错的情况下，为自己的机器找到性能最佳的模型。

主要亮点

• 硬件感知推荐：自动检测系统规格，推荐实际可装入内存的模型。
• 大规模模型注册表：可访问 Hugging Face、Ollama 和 GPT4All 上的 33,000+ 个工件。
• MCP 服务器集成：内置 Model Context Protocol 服务器，允许 Claude 或 Cursor 等 AI 助手管理本地模型并分析硬件。
• 安全验证：集成模型文件的结构化验证，防止加载损坏或恶意数据块。
• 性能指标：ai-run 命令在模型执行期间提供实时的每秒令牌数（tokens-per-second）指标。