OpenAI AI 基础概览

TL;DR

OpenAI 发布了一份题为 AI 基础 的教育指南，定义了 AI，描述了大型语言模型，概述了预训练和后训练，区分了推理模型和非推理模型，并展示了 ChatGPT 如何融入这一层次结构。

什么是 AI？

人工智能（AI）是一类能够识别模式、从数据中学习并产生有用输出的软件的广泛类别。

"人工智能（AI）是一类能够识别模式、从数据中学习并产生有用输出的软件的广泛类别。" AI 出现在日常工具中，例如可以绕过交通的地图应用、标记异常购买的银行以及回答常见问题的客户支持聊天机器人。AI 是一个类别，而不仅仅是一个工具；其中包含专门处理语音、视觉或预测等任务的模型。初学者通常会从像 ChatGPT 这样的对话式 AI 工具开始使用，这些工具由大型语言模型驱动。

大型语言模型如何工作

大型语言模型（LLM）是一种专门用于处理语言的模型。它通过学习来自许多来源的大量文本中的模式，以便以有帮助的方式生成和转换文本。

"大型语言模型（LLM）是一种专门用于处理语言的模型。它通过学习来自许多来源的大量文本中的模式，以便以有帮助的方式生成和转换文本。" LLM 不像人那样“知道”事情；相反，它根据上下文预测最可能的下一个语言片段。计算能力、训练方法以及对大型数据集的访问的进步使得构建更大、更强大的 LLM 成为可能。像 OpenAI 这样的前沿实验室构建这些模型，并通过 ChatGPT 或 Codex 等产品以及面向开发者的 API 使其可用。

模型如何随时间演变

新模型在训练完成并通过内部评估和安全测试后才会变得可用。训练分为两个阶段：预训练和后训练。

"第一阶段是 预训练，此时模型从海量文本中学习一般模式，从而获得诸如摘要、起草、翻译和解释等广泛技能。" 预训练类似于新员工阅读手册、示例和过去的项目以了解工作的内容。预训练结束后，模型进入 后训练 阶段，在此阶段它会被引导以更清晰的方式表达、提出良好的后续问题、匹配正确的语气并遵守公司政策。此阶段还强调安全检查，旨在减少有害输出、避免不必要的请求，并在涉及敏感或不确定的话题时谨慎回应。随着模型的更新，用户可能会注意到语气或响应的变化；明确目标、受众、格式和约束有助于获得一致的结果，特别是在涉及安全或不确定性的时候。

推理模型和非推理模型

模型会根据速度、深度以及遵循多步骤指令的能力等不同权衡进行调优。

"非推理模型（有时标记为 ‘Instant’）经过优化，以实现快速、流畅的输出。当任务直接且主要希望保持势头时，它们是一个很好的默认选择。" "推理模型（有时标记为 ‘Thinking’）经过训练，能够更好地进行深思熟虑的、逐步的问题解决——例如规划、复杂分析、棘手的调试，或涉及约束和边界情况的决策。" 非推理模型在日常任务如起草、摘要、改写或头脑风暴中优先考虑速度和流畅度。推理模型在回答之前会分配更多的计算资源来思考问题，这可以提高在更难、多步骤工作中的可靠性，尽管它们可能需要更长时间。对于初学者，默认的 ChatGPT 体验会在模式之间自动切换，使用户能够专注于问题本身而不是设置。随着时间的推移，用户可以尝试使用可选控件，大多数时间选择 Auto，而在面对复杂或高风险任务时切换到 Thinking。

摘要

该指南提出了一个简单的层次结构：

• AI = 整个领域
• Models = 执行特定任务的训练系统
• Large language models (LLMs) = 专注于理解和生成语言的模型，由 AI 研究实验室随时间推移进行训练
• ChatGPT = 一种帮助您有效使用 LLM 的产品 理解这一层次结构有助于用户通过学习如何有效地与它们交流，从而从 ChatGPT 等工具中获得出色的结果。