hecrj/icebreaker

A local AI chat app powered by 🦀 Rust, 🧊 iced, 🤗 Hugging Face, and 🦙 llama.cpp

何を解決するか

Icebreaker は、ユーザーが自らのハードウェア上で大規模言語モデル(LLM)と直接対話できるローカルAIチャットアプリケーションです。クラウドベースのAIサービスへの依存を排除します。

動作方法

このアプリケーションは、パフォーマンスのためにRustを使用し、インターフェースにはiced GUIフレームワークを採用しています。Hugging Faceとの統合によりモデルにアクセスでき、llama.cppをバックエンドとして利用してモデルをローカルで実行します。

対象ユーザー

Rustベースのソフトウェアを使ってプライベートでローカルなAIチャット体験を望むユーザーです。

特徴

  • llama.cppを介したローカルAI実行
  • Rustとiced GUIフレームワークで構築
  • Hugging Faceモデルとの統合

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト