ImDarkTom/LlamaPen

何を解決するか

LlamaPen は、複雑なインストールプロセスを必要とせずに、ローカルの大型言語モデル（LLM）と対話できる使いやすいウェブベースのグラフィカルインターフェースを提供します。さまざまなローカル LLM プロバイダーへの接続を簡素化し、プライバシーを重視した方法でモデルを管理し、チャットを行うことができます。

動作方法

このアプリケーションは、自己ホストされた LLM サーバーのフロントエンドとして機能します。Ollama、llama.cpp、LM Studio、Jan、vLLM など、幅広いプロバイダーに対応しており、OpenAI互換 API も利用可能です。Docker または Bun を使用して手動でデプロイでき、すべてのチャット履歴はブラウザ内でローカルに保存され、プライバシーを確保します。

対象ユーザー

自宅のハードウェアで LLM を実行しているユーザーで、デスクトップおよびモバイルデバイスで動作する洗練された、応答性の高いインターフェースを求める方に最適です。

主な特徴

• 広範なプロバイダー対応: Ollama、llama.cpp、LM Studio、Jan、vLLM、OpenAI互換サーバーに対応。
• 豊富なレンダリング: マークダウン、LaTeX 数式、"think" テキストをサポート。
• プライバシー最優先: すべてのチャットはブラウザ内でローカルに保存されます。
• 統合管理機能: 内蔵のモデルおよびダウンロードマネージャーを備えています。
• PWA 対応: オフライン動作とプログレッシブウェブアプリ（PWA）サポートを提供。