Hacker News AI 目标:追踪 AI 进展与 AGI 的移动目标
对通用人工智能 (AGI) 的追求通常以“目标”为标志——即怀疑论者认为 AI 永远无法完成的特定任务。一个托管在 stoppels.ch/goalposts 的社区项目追踪了从 Hacker News 讨论中提取的这些挑战,允许用户投票决定这些里程碑是否已经实现。结果凸显了 AI 执行一次任务的能力与其可靠、常规地执行任务的能力之间持续存在的张力。
可靠性差距:一次性成功与常规能力
虽然许多前沿模型现在能够执行曾经被认为不可能的任务,但在随机成功与可靠工具之间存在着关键的区别。
用户指出,许多 LLM 在拥有无限计算预算和无限尝试次数的情况下可以完成任务,但它们无法在专业工作流程中常规地完成这些任务。例如,AI 在没有提示的情况下向用户提出问题的能力确实出现过,但这并不是开发者在进行应用程序设计时可以依赖的常规能力。
专业知识领域的特定失败
尽管编程似乎已被“解决”,但 AI 在专业、现实世界的物理知识和利基领域的复杂推理方面仍然举步维艰。
- 物理和机械知识: 用户报告称,AI 在农业、建筑和机械等领域经常失败。一位用户引用了一个例子,AI 在关于石膏抑制铂金硅胶固化的问题上提供了错误且可能具有灾难性的建议,并虚构了不支持该主张的来源。
- 视觉空间推理: ASCII 艺术仍然是一个重大障碍。虽然一个模型可能会生成一个尚可的 ASCII 脚,但其他模型(例如 ChatGPT 的免费版)可能会将同一个 ASCII 艺术误认为是“火车/机车”,这表明其空间理解能力存在缺陷。
- 复杂数据解读: AI 工具在解读“嘈杂”数据方面仍然存在困难,例如包含错误的国际象棋记分表,而人类专家可以根据比赛水平的背景推断出意图。
AI 挑战的演变 (2016–2026)
用户为 AI 设置的挑战类型发生了显著变化。早期的挑战侧重于基本功能能力,而现代挑战则侧重于更高阶的认知功能和物理交互。
- 2016 年代: 挑战集中在通过图灵测试、编写基础代码或执行简单的数字操作(例如“帮我点杯咖啡”)。
- 2026 年代: 挑战已演变为包括打开物理门、令人信服地模拟人类的琐碎情绪以及做出新的科学突破。
图灵测试与“鹦鹉”问题
围绕图灵测试的讨论表明,它可能存在根本性的缺陷,因为人类往往无法区分真实的人和复杂的“鹦鹉”。一些人认为,在短时间内通过图灵测试并不等同于在长时间内通过“对抗性”图灵测试,后者仍然是一个困难得多的里程碑。
数学和科学突破
一些用户认为,通过解决开放性数学问题(如纳维-斯托克斯存在性与光滑性问题),AI 的“最后考试”已部分完成。然而,另一些人认为,通过单一测试(例如拟议挑战集的 1/6)不足以宣称胜利,并强调 AGI 的“目标”往往是基于需求相对复杂性而不断移动的目标。
Sources
相关
- Dispatch
- Dispatch
- Dispatch
- Dispatch
- Dispatch