Rose22/openlumara

handwritten harness for AI, not vibecoded, everything is a module/plugin, tailor made for use with local models, tiny system prompt (around 1k by default), support for exclusive llamacpp features, strong security, strict zero-trust-in-the-ai policy (the code hard limits the ai, no amount of prompt engineering will bypass it)

解决的问题

OpenLumara 是一个轻量级、以本地优先的 AI 代理框架,旨在减少令牌消耗和系统开销。它提供了一个模块化系统,用于管理个人任务、笔记和日常习惯,特别适合有执行功能障碍(如 ADHD 或自闭症)的人群,他们需要一个结构化的 AI 助手。

工作原理

该框架使用 Python 编写,可连接任何兼容 OpenAI API 的后端,包括本地提供者如 llamacpp、ollama 和 koboldcpp。它采用模块化架构,内存、日程安排、Shell 访问等功能可自由开关,以最小化系统提示词的大小。支持多种通信渠道,包括 WebUI、CLI、Telegram、Discord 和 Matrix。

适用人群

  • 本地 AI 爱好者:希望拥有私密、自托管且快速、高效使用令牌的代理的用户。
  • 开发者:希望使用 Python 类轻松扩展新模块或新通道的开发者。
  • 个人生产力追求者:希望通过 AI 界面管理生活任务、习惯和日常安排的人。

主要亮点

  • 极致的令牌效率:优化的系统提示词(低至 4000 令牌),并提供实时监控令牌使用量的工具。
  • 模块化设计:几乎所有核心组件(内存、调度器、时间感知)均可禁用,以减少开销。
  • 沙盒化 Shell:可切换的模块,可在 Docker 或 Podman 容器中运行命令,确保安全性。
  • 多通道支持:原生集成 WebUI、CLI、Telegram、Discord 和 Matrix。
  • 集成调度器:专为调度 AI 任务而构建的自研系统。
  • 内存系统:使用 MessagePack 格式进行紧凑且快速的数据存储。

相关

  • 项目
  • 项目
  • 项目
  • 项目