techjarves/Uncensored-Local-AI-Multiplatform

解决的问题

本项目提供了一种直接在移动和桌面设备上运行开源、未经审查的 AI 模型的方法，无需依赖云服务、订阅或企业安全过滤器。

工作原理

该应用程序使用 Flutter 框架构建，并由 llama.cpp 引擎驱动，允许用户在本地下载并运行 GGUF 格式的模型。它管理模型存储，提供聊天界面，并包含一个内置的 HTTP 服务器，该服务器公开了一个与 OpenAI 兼容的 API，从而能够与其他本地工具和脚本集成。

适用人群

适用于那些希望在没有内容限制的情况下私密、离线访问 AI 模型，且在初始模型下载后无需互联网连接的用户。

亮点

• 零审查： 运行不包含企业安全过滤器或拒绝机制的模型。
• 完全隐私： 所有处理过程和对话历史记录完全保留在用户的设备上。
• 跨平台： 支持 Android 和 iOS，并提供社区支持的 Windows、macOS 和 Linux 构建版本。
• 本地 API 服务器： 包含一个与 OpenAI 兼容的 REST API，用于连接外部应用程序。
• 资源监控： 显示实时性能指标，如每秒生成的 token 数和模型加载进度。