CrankGPT: ローカル・ヒューマンパワード AI 推論

CrankGPT は、物理的な労働で自分の電力を生成しながら LLM トークンを生成できるローカル AI 推論システムです。ハンドクランク、ペダル式発電機、そしてジムベースのエンタープライズワークフローを活用することで、AI を集中電力網や企業データセンターから切り離すことを目指しています。

ヒューマンパワードエネルギー階層

CrankGPT は、必要とされる肉体労働の強度と想定される使用ケースに基づいてハードウェアを分類しています。

ハンドクランクモデル: 基本的な日常家庭使用向けに設計。
ペダルパワーモデル: より高度な推論を必要とするパワーユーザーや小規模企業向け。
ジム/フィットネススタジオパートナーシップ: より高いエネルギー出力が必要な複雑なエージェント的・エンタープライズレベルのワークフロー向けに提案。

プライバシーとグリッド独立性

CrankGPT は完全にデバイス上で動作し、クラウド接続や Wi‑Fi が不要です。このアーキテクチャは、次の 3 つの主要な懸念に対処するよう設計されています。

データプライバシー: ローカルで実行することで、"メガコープ" が個人のクエリや企業のアイデアにアクセスすることを防ぎます。
環境への影響: 大規模 AI データセンターに供給されるガス燃焼発電所に依存する代わりに、"カロリーを燃やす" ことを奨励します。
レジリエンス: 人力で動くローカルデバイスは、クラウド障害、計画停電、あるいは電力網全体の停止時でも機能し続けます。

技術実装とハードウェア制約

技術文書によると、システムは Raspberry Pi 5 を中心に構築され、市販の 20W スイッチ可能電圧ハンドクランク発電機（緊急 USB 充電用に販売）を使用しています。

電源安定化

Raspberry Pi 5 の電流要求は、特に CPU 集中型の推論時にスパイクすることがあります。その結果、発電機の電圧が必要な 4.8V を下回ったり、過電流保護が作動したりします。これを緩和するため、開発者は約 20 秒間の短期電力リザーバとして機能するカスタムコンデンサ基板を実装し、出力を平滑化して推論スパイク時のブラウンアウトを防いでいます。

ソフトウェア最適化

根底にあるコンセプトは、エッジ音声エージェントリポジトリ (ktomanek/edge_voice_agent) にリンクされています。技術的議論では、起動時間のボトルネックとして、ONNX Runtime のような大きな共有ライブラリの dlopen による遅延や、Python のインポート時に SD カードから行われる多数の小さなランダム読み取りが指摘されています。

コミュニティの視点と分析

CrankGPT に対するコミュニティの反応は、AI 業界への風刺的コメントとして見るものから、興味深いエンジニアリング課題として捉えるものまで多岐にわたります。

エンジニアリングと持続可能性

一部のユーザーは、ハンドクランク電源という極端な制約に合わせて設計することで、より効率的で持続可能な AI フレームワークが生まれる可能性があると指摘しています。あるユーザーは、Taalas 製の高性能チップをスローダウンさせることで、自転車での推論に適したものにできると提案しています。

風刺 vs. 実用性

複数のコメントは、この概念を Black Mirror やディストピア小説に例え、人間の身体が機械知能を駆動するシナリオとして捉えています。別のコメントは、マーケティングサイトの独特なデザインが曖昧さを助長しているとして、製品がジョークなのか正当な提案なのか疑問を呈しています。

実用的比較

あるユーザーは、60 分間の激しい自転車走行（約 200Wh）が H100 GPU を約 20 分間稼働させられる可能性があると指摘し、エネルギーギャップは大きいものの、人力 AI の計算は小規模ローカルモデルに限っては不可能ではないことを示しています。