Rose22/openlumara
handwritten harness for AI, not vibecoded, everything is a module/plugin, tailor made for use with local models, tiny system prompt (around 1k by default), support for exclusive llamacpp features, strong security, strict zero-trust-in-the-ai policy (the code hard limits the ai, no amount of prompt engineering will bypass it)
何を解決するか
OpenLumara は、トークン消費とオーバーヘッドを削減することを目的とした軽量でローカル優先のAIエージェントフレームワークです。個人のタスク、ノート、ルーティンを管理するためのモジュール式システムを提供し、特にADHDや自閉症などの実行機能障害を持つ人々が構造化されたAIアシスタントを必要とする場合に特に役立ちます。
動作方法
このフレームワークはPythonで記述されており、llamacpp、ollama、koboldcppなどのローカルプロバイダーを含む、任意のOpenAI API互換バックエンドと接続できます。モジュールアーキテクチャを採用しており、メモリ、スケジューリング、シェルアクセスなどの機能はオン/オフ切り替え可能で、システムプロンプトのサイズを最小限に抑えることができます。WebUI、CLI、Telegram、Discord、Matrixなど、複数の通信チャネルをサポートしています。
対象ユーザー
- ローカルAI愛好家: プライベートで自己ホストできる、高速かつトークン効率の良いエージェントを求めるユーザー。
- 開発者: Pythonクラスによる新しいモジュールやチャネルを簡単に拡張できるモジュール式フレームワークを探している人。
- 個人の生産性向上志向者: AIインターフェースを通じて、生活のタスク、習慣、ルーティンを管理したい人。
特徴
- 極めて高いトークン効率: 最小4000トークンの最適化されたシステムプロンプトと、リアルタイムのトークン使用量を監視するツール。
- モジュール式設計: メモリ、スケジューラ、時刻認識など、ほぼすべてのコアコンポーネントを無効化可能で、オーバーヘッドを削減。
- サンドボックス化されたシェル: DockerやPodmanコンテナ内でコマンドを実行するセキュリティ強化モジュール(オン/オフ切替可能)。
- マルチチャネル対応: WebUI、CLI、Telegram、Discord、Matrixとのネイティブ統合。
- 統合スケジューラ: AIタスクのスケジューリング用に独自開発されたシステム。
- メモリシステム: コンパクトで高速なデータストレージのため、MessagePackフォーマットを使用。
関連
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト