OpenAI 无监督情感神经元

OpenAI 开发了一种无监督系统，能够在仅仅为了预测 Amazon 评论文本中的下一个字符而训练的情况下，学习到情感的高质量表示。这种方法使得线性模型能够在 Stanford Sentiment Treebank 上达到最先进的情感分析准确率，准确率达到 91.8%，而之前的最佳准确率为 90.2%。

高效情感分析

无监督的情感表示可以在仅使用完全监督系统所需标注样本的 30-100 分之一的情况下，匹配甚至超过其性能。具体来说，在 Amazon 评论上预训练的 L1 正则化模型仅使用 11 个标注样本就能匹配多通道 CNN 的性能，仅使用 232 个标注样本就能匹配最先进的 CT-LSTM 集成模型，而完全监督的方法则使用了 6,920 个样本。

技术方法论

该系统使用了一个包含 4,096 个单元的乘法 LSTM（mLSTM），在 8200 万条 Amazon 评论语料库上进行训练。训练过程在四块 NVIDIA Pascal GPU 上进行了一个月，每秒处理 12,500 个字符。

为了将 mLSTM 转换为情感分类器，OpenAI 研究者对这 4,096 个单元进行线性组合——这些单元作为表示输入字符串的特征向量——并使用可用的监督数据学习该组合的权重。

情感神经元的发现

在使用 L1 正则化训练线性模型的过程中，OpenAI 发现了一个高度预测情感值的单一“情感神经元”。这一单元几乎包含了模型表示中所有的情感信号。

这一发现使得对生成文本情感的直接控制成为可能。通过覆盖此特定情感神经元的值，可以操纵模型的输出使其更积极或更消极。

字符级情感追踪

情感神经元会根据每个字符来调整其值。诸如 “best” 或 “horrendous” 这样的强指示词会导致该神经元值的显著变化。

有趣的是，该系统在句子和短语结束后也会进行大幅更新。例如，在短语 “And about 99.8 percent of that got lost in the film,” 中，单词 “lost” 之后会出现负向更新，随后在句子末尾出现更大的更新，尽管短语 “in the film” 本身不包含任何情感内容。

对无监督学习的启示

此研究表明，在巨大数据集上训练大型无监督下一步预测模型可以是通用表示学习的有效方法。OpenAI 认为这一现象不仅限于他们的模型，而是大型神经网络在训练以预测其输入的下一个维度或步骤时的一般属性。

局限性和未来方向

• 文档长度： 在包含长文档的数据集上性能较弱，这可能是因为字符级模型难以在数千个时间步上保持信息。层次模型可能是解决此限制的方案。
• 领域差异： 当输入文本与用于训练的评论数据分歧时，模型性能会下降。扩大训练语料库可能有助于在更广泛的领域中改进表示。
• 跨模态应用： 结果表明，在视频集合中训练大型网络以预测下一帧可能会导致对象、场景和动作分类器的无监督表示。