muellerberndt/cadence

A brain that learns from live experience. System 1 by default: perception, memory, plasticity and action. Optional System 2 for self-observation and slow corrections.

解决的问题

Cadence 提供了一个创建“持续性大脑”的框架——即 AI 代理，它们无需传统的训练/推理分离，即可从经验中实时学习。它旨在取代前馈深度神经网络，建立一个能够引导世界解释、在环境中行动，并在经历经验时局部修复故障的系统。

运作原理

与标准神经网络不同，Cadence 使用相互处理区域，让神经活动“沉淀”到平衡状态。它实现了一种受生物学启发的架构，包括：

  • System 1：具有感知、可塑性连接和记忆的基础大脑。
  • System 2：可选的递归反馈层，观察者区域在此监控并影响基础大脑。
  • 局部可塑性 (Local Plasticity)：学习通过基于观察和奖励的局部更新发生，避免了深度学习中使用的反向微分 (backpropagation)。
  • 记忆系统：利用工作痕迹处理近期活动，并利用联想记忆进行线索/结果关联的长期保留。
  • 想象力 (Imagination)：一种私有模式，允许大脑在不改变其即时记忆或状态的情况下，评估对观察结果的反应。

适用对象

对受生物学启发的 AI、在线学习以及能够维持持续存在状态并通过局部修复从错误中恢复的代理感兴趣的研究人员和开发者。

特点

  • 无训练/推理分离：大脑在单一连续流中同时学习和行动。
  • 相互架构 (Reciprocal Architecture)：使用基于平衡的处理，而非前馈传递。
  • 局部修复：在同一平衡内局部修复观察到的故障。
  • 生物抽象：模拟人类大脑功能，包括有限容量和用于探索的唤醒设置。
  • 整合记忆：结合了工作痕迹和持久的联想记忆。

相关

  • 项目
    ixaxaar/pytorch-dnc

    一个 PyTorch 库，实现可微神经计算机（DNC）、稀疏 DNC（SDNC）和稀疏访问记忆（SAM），包含安装说明、API 使用方法、调试支持和示例训练任务（复制、加法、argmax）。

  • 项目
    meta-pytorch/captum

    Captum 是一个 PyTorch 库，提供了一套模型可解释性算法（Integrated Gradients、DeepLift、Gradient Shap、SmoothGrad、TCAV、TracIn、神经元/层导电性等），旨在帮助开发者和研究人员理解哪些输入、神经元或训练样本驱动了模型的预测结果。它可以通过 pip/conda 安装，并与任何 PyTorch 模型兼容。

  • Dispatch
    Lathe: 使用 LLM 生成动手实践的技术教程

    Lathe 是一个实验性工具，它使用 LLM 技能和基于 Go 的 CLI 来生成旨在手动实现的、多部分的的技术教程，帮助用户在不跳过批判性思考过程的情况下学习新领域。

  • 项目
    mindmuxai/brain.md

    一个为编码代理提供的持久化、基于文件的内存层，将项目决策和约束以结构化 Markdown 格式存储在您的仓库中。

  • 项目
    cactus-compute/needle

    Needle 是一款适用于边缘设备的 8‑29 MB 基础模型，具备工具调用、结构化 JSON 提取、文本嵌入及语音转文字（通过 Whistle 模型）功能。它采用阶梯式 Simple Attention 架构，每一层深度皆为可运行的子模型，并以单一 .cact 二进制文件搭配自定义 C++ 运行时发布。Python SDK 允许您将函数装饰为工具、在本地运行模型、使用 LoRA 或全模型训练进行微调，并部署至多种平台。