muellerberndt/cadence

解決する課題

Cadenceは「継続的な脳」を作成するためのフレームワークを提供します。これは、従来のトレーニングと推論の分離なしに、経験からリアルタイムで学習するAIエージェントです。フィードフォワード型の深層ニューラルネットワークを、世界解釈をブートストラップし、環境内で行動し、経験を通じて故障を局所的に修復できるシステムに置き換えることを目指しています。

仕組み

標準的なニューラルネットワークとは異なり、Cadenceは神経活動が平衡状態に「落ち着く」相互処理領域を使用します。以下のような生物学に着想を得たアーキテクチャを実装しています。

• System 1: 知覚、可塑的な接続、記憶を備えたベースとなる脳。
• System 2: 観察領域がベースとなる脳を監視し影響を与える、オプションの再帰的フィードバック層。
• 局所的可塑性 (Local Plasticity): 学習は観察と報酬に基づく局所的な更新を通じて行われ、深層学習で使用される逆微分 (backpropagation) を回避します。
• 記憶システム: 最近の活動のためのワーキングトレースと、手がかりと結果の関連付けを長期保持するための連想記憶を利用します。
• 想像力 (Imagination): ライブメモリや状態を変更することなく、観察に対する反応を脳が評価できるようにするプライベートモード。

対象読者

生物学に着想を得たAI、オンライン学習、および継続的な存在状態を維持し、局所的な修復を通じてエラーから回復できるエージェントに関心のある研究者や開発者。

ハイライト

• トレーニング/推論の分離なし: 脳は単一の連続したストリームの中で同時に学習し行動します。
• 相互アーキテクチャ (Reciprocal Architecture): フィードフォワードパスではなく、平衡ベースの処理を使用します。
• 局所的修復: 目撃した故障を同じ平衡内で局所的に修復します。
• 生物学的抽象化: 有限の容量や探索のための覚醒設定など、人間のような脳機能をモデル化します。
• 統合された記憶: ワーキングトレースと永続的な連想記憶を組み合わせます。