Qwenputer: Qwen 3.5の重みに埋め込まれた決定論的RISC-V CPU

コアアーキテクチャ: 重みへの計算機能の埋め込み

Qwenputerは、32ビットRISC-Vコア（RV32IM）をQwen 3.5 4Bモデルの重みに直接統合します。外部のPythonサンドボックスやAPI呼び出しに依存する従来のツール使用パラダイムとは異なり、Qwenputerは算術演算や論理演算をモデルのフォワードパス内で完全に実行します。このシステムは、決定論的でアドレス指定可能なRAMとして機能する線形RNNの一種であるGated DeltaNet（GDN）層を活用しています。ゲートと書き込み強度を1.0に設定し、ワンホットキーエンコーディングを使用することで、標準的なアテンションKVキャッシュに伴うメモリのスケーリング問題なしに、トークン間で持続する信頼性の高いメモリ読み書き操作を実現しています。

実装: 回路からトークンへ

このCPUは、回路記述をモデルの重みに直接コンパイルすることで実装されており、従来のトレーニングを必要としません。各命令は、モデルが実行トレースとして生成するメモリ番地と値を表す一連のトークンとして実行されます。

RAMメカニズム: GDN状態はメモリバンクとして機能し、ワンホットキーが上書きや取得のために特定の行を指し示します。
ファイルシステム: 実験的な拡張機能により、モデルはファイル名をGDN状態内の1,024個のスロットにハッシュ化でき、最大512個のファイル（約53,000トークン）の永続ストレージが可能になります。この状態は、異なるチャットセッション間で保存および再読み込みが可能です。
実行: モデルはドライバー（RvChat）を使用してファームウェアをロードし、実行トレースを管理することで、外部のランタイム介入なしにCPU命令が処理されることを保証します。

パフォーマンスと精度

Qwenputerは、ベースとなるQwen 3.5モデルと比較して、算術タスクにおいて大幅な改善を示しています。DeepMindの算術セットおよびNUPAの長整数演算を使用したベンチマークにおいて、Qwenputerは97.5%から100%の精度を達成し、外部Pythonツールを備えたベースモデルの性能と同等か、それを上回りました。このCPUは公式のRISC-Vテストに合格しており、フリーランニング状態で1,800万以上の命令をエラーなしで実行しました。

コミュニティの議論と技術的批判

このプロジェクトは、ニューラルネットワーク内に決定論的な計算を埋め込むことの意味について、大きな議論を巻き起こしています。

透明性とツール: 一部の観察者は、「内部」実行と必要な推論ドライバーの区別について懸念を表明しています。あるコメント投稿者は次のように述べています: > "カスタムホストランタイムが依然としてファームウェアのロードやCPUのブートを担当している... 著者にはこれらの制限についてもっと率直に語ってほしい" — @handle
AIの安全性と監視: 研究者は、このアーキテクチャが「隠れた」推論パスを作成するために悪用される可能性があると指摘しています。計算をRNN状態に保存することで、モデルはChain-of-Thought（CoT）監視ツールを回避できる可能性があります。
今後の研究: コミュニティは、このアプローチがスクラッチからトレーニングされたモデルに適用できるかどうか、あるいは自身の出力を署名する自己検証型の認証済みAIエージェントの基盤として機能できるかどうかに関心を寄せています。

制限事項

Qwenputerは現在、注目すべきトレードオフを伴う実験的な概念実証段階です:

リソースオーバーヘッド: モデルのチェックポイントサイズは約18.8 GBであり、追加された層とゼロパディングのため、ベースのQwen 3.5 4Bの約2倍になっています。
速度: 各命令が複数のデコードされたトークンを必要とするため、CPU実行はネイティブなTransformer推論よりも大幅に低速です。
推論要件: このシステムは、CPUのブートプロセスを管理し、トレーストークンがモデルの主要な出力層に漏洩するのを防ぐための専用ドライバーを必要とします。