paulrobello/parllama

它解决了什么问题

ParLlama 是一个终端用户界面（TUI）应用程序，简化了大型语言模型（LLMs）的管理和使用。它提供了一个统一的界面，用于通过 Ollama 与本地模型以及各种基于云的提供商进行交互，无需在不同的 CLI 工具或网页界面之间切换。

它如何工作

基于 Textual 和 Rich 构建，该应用程序作为一个客户端连接到 LLM 提供商。它原生集成 Ollama 以实现本地模型的拉取、删除和量化，同时支持 OpenAI、Anthropic 和 Groq 等云 API。它具备会话管理功能，可保存和组织对话；具备记忆系统，用于持久化用户上下文；以及安全的密钥保险库，用于存储 API 密钥。

适合谁使用

偏好在终端中工作，但希望拥有丰富、直观的界面来管理本地和远程 LLM 的用户，以及需要集中化工具与多个 AI 提供商聊天的开发者。

主要特性

• 多提供商支持：支持 Ollama、OpenAI、Anthropic、Groq、XAI、OpenRouter、Deepseek 和 LiteLLM。
• 视觉能力：支持使用具备视觉能力的模型（如 LLaVA）进行图像对话。
• 本地模型管理：直接在 TUI 中拉取、删除和量化模型。
• 会话与记忆：可保存/加载聊天会话，并在对话间保持持久化的用户上下文。
• Fabric 集成：可导入并使用 Fabric 模式作为可复用的提示。
• 安全密钥保险库：使用 AES-GCM 加密存储敏感的 API 密钥。
• 模板执行：支持通过可配置的白名单安全执行代码。