CarWatch: Raspberry Pi 5 を使用した車両用ローカル AI エージェント

CarWatch は、Raspberry Pi 5 を使用してローカルな大規模言語モデル (LLM) を車両に統合し、車を機能的なチャットルーム・エージェントに変えるオープンソース・プロジェクトです。量子化された Qwen モデルをローカルで実行することで、システムはハンズフリーの音声インタラクション、RAG によるオーナーズマニュアルの検索、およびコア操作においてクラウド接続に依存しないリアルタイムの車両テレメトリを提供します。

ローカル AI アーキテクチャとパフォーマンス

CarWatch は、Raspberry Pi 5 (16 GB RAM) を活用して、Unsloth UD-Q3_K_S ダイナミック量子化を使用した Qwen3.6-35B-A3B を実行します。このセットアップにより、システムは完全にオフラインで動作し、ガレージやインターネット接続が利用できないデッドゾーンでの機能性を確保します。

実際のハードウェア上での主なパフォーマンス指標は以下の通りです:

生成速度: 3.5 tokens per second。
プロンプト処理: 25+ tokens per second。
熱性能: 65°C の持続的な温度 (アクティブ冷却が必要)。
メモリ使用量: モデルは約 14.3 GB の RAM を占有します。

コア機能

Grounded Knowledge と RAG

ハルシネーションを防ぎ、技術的な正確性を確保するために、CarWatch は語彙的 Retrieval-Augmented Generation (RAG) システムを利用しています。システムには、SD カードに車の 745 ページのオーナーズマニュアルが同梱されています。LLM は、ページ番号の引用を含め、マニュアルに厳密に基づいた回答を提供するように指示されており、ソーステキストに含まれていない回答は拒否するように設計されています。

リアルタイム車両状態モニタリング

システムは車両のハードウェアと統合し、根拠のある自己知識を提供します。以下のライブデータに関する読み取りが可能です:

ハードウェア状態: CPU 温度、スロットリング状態、ファン速度、メモリ使用量、およびディスク/ネットワーク状態。
車両テレメトリ: Ethernet-to-OBD (DoIP/ENET) ケーブルを介して、システムは RPM、冷却水温度、速度、および電圧 (現在はシミュレートされたゲートウェイに対して検証済み) を監視するように構築されています。

ハンズフリー音声インターフェース

CarWatch は、Pi 上で継続的なリスナー・パイプラインを実装しています: Energy VAD → whisper.cpp → Grounded LLM Pipeline → Room Output。これにより、ウェイクワードの儀式やクラウドベースの音声文字起こし (STT) の必要性がなくなり、すべての音声処理がローカルで行われます。

接続性とデプロイメント戦略

CarWatch は、ローカルな有用性とリモートな拡張性をバランスさせるために、3 階層の接続モデルを採用しています:

Always Local (常にローカル): 音声入力、LLM の回答、RAG 検索、および電話のダッシュボード (車によって提供される) は、信号なしの状態でも動作します。
Queued Connectivity (キュー付き接続): Room への投稿、ドライブレコーダーのクリップアップロード、およびメンションへの返信は、永続的なディスク上のアウトボックスに保存され、接続が確立されたときに配信されます。
Online-Only (オンラインのみ): cloudflared によるリモート到達性、GitHub からの自己アップデート、およびオプションとしてのクラウドモデルへのエスカレーション。

ハードウェア・リファレンス・ビルド

ビルドを再現する方のために、リファレンス・ハードウェアには以下が含まれます:

SBC: Raspberry Pi 5, 16 GB RAM (アクティブ冷却付き)。
Audio: Class-compliant USB マイク。
Dashcam: WOLFBOX G900 3-channel カメラ (イベントクリップの取得のために WiFi AP 経由で接続)。
OBD Access: Ethernet-to-OBD (DoIP/ENET) ケーブルまたは ELM327-class アダプター。
Power: 12V PD アダプターまたは 230V ソケット経由の 5V/5A USB-C 給電。

コミュニティの洞察と批判

プロジェクトが自動車環境におけるローカル LLM の実現可能性を示している一方で、Hacker News でのコミュニティ・ディスカッションでは、いくつかの技術的および実用的な懸念が事項として挙げられました:

正確性と安全性: 一部のユーザーは、LLM が非常に特定の自動車の詳細 (例: 特定のモデル年度のオイルウェイト) について苦戦することが多いと警告しており、機械的なメンテナンスに LLM に依存することはリスクがある可能性があることを示唆しています。

有用性とユースケース: 批判的な意見を持つ人々は、AC の調整やドアのロックなどのタスクにおいて、物理的なボタンよりも音声エージェントの有用性について疑問を視queriert (queriert) を呈しており、プロジェクトの価値は既存の車内コントロールの代替ではなく、車の「エージェント的」な性質 (例: チャットルームへの到着/出発の報告) にあると示唆しています。

統合の複雑さ: メーカー API とのインターフェース、および Raspberry Pi を介して車両への「第 2 の鍵」を作成することのセキュリティ上の影響について、疑問が提起されました。

"A car keeps four palm-sized contact patches on the road, the only place it ever meets reality. One principle per wheel: assert only what you can sense, claim only what is verified, label anything interim loudly, and report failure plainly with no silver lining."

— CarWatch development log