关于一阶元学习算法
OpenAI 的研究人员开发了一系列一阶元学习算法，其中包括一种名为 Reptile 的新算法，旨在寻找能够让代理快速适应未见任务的最佳参数初始化。该方法仅依赖一阶导数简化了元学习过程，降低了计算复杂度，同时在少样本分类基准上保持了高性能。
元学习的目标
元学习的目标是通过学习快速学习的能力，创建能够在从特定分布中抽样的未见任务上表现良好的代理。主要的技术挑战是获得一种参数初始化，使其在遇到新任务时能够仅用少量数据和计算进行微调。
一阶元学习算法
OpenAI 分析了一系列仅使用一阶导数进行元学习更新的算法，避免了像 MAML（模型无关元学习）等算法通常需要的计算成本高的二阶导数。
一阶 MAML
一阶 MAML 是原始 MAML 算法的近似。它通过在元更新过程中忽略二阶导数来实现高效，简化了梯度计算，同时尝试保留快速适应的核心优势。
Reptile
Reptile 是 OpenAI 推出的一种新算法，概括了一阶元学习。其运行机制如下：
- 任务采样：算法不断从分布中抽样任务。
- 任务训练：在该特定任务上执行多步训练。
- 初始化更新：将全局参数初始化向该任务训练后得到的权重移动。
性能与理论分析
该研究在 Finn 等人的先前发现基础上进行扩展，证明了一阶元学习算法在成熟的少样本分类基准上是有效的。此外，作者还提供了理论分析，解释了尽管省略了二阶导数，这些一阶近似仍能取得强劲结果的原因。