达里奥·阿莫代伊谈AI指数时代的政策

AI进步与政策的错位

AI能力正以指数级速度进步，远超立法和政治进程的速度。政治机构之所以设计得缓慢移动，是为了防止权力被仓促使用；而AI仅用四年时间就从基础编码助手发展到在主要AI公司编写大多数代码。这种时间尺度的不匹配造成了一个危险的差距：在政策制定者能够做出反应之前，AI可能已经从消费者工具演变为具有全球后果的战略资产。

从透明度向具有约束力的监管过渡

由于之前难以预见AI风险的具体形式，早期的政策工作侧重于透明度和披露。然而，像Claude Mythos Preview这样的模型的出现表明，前沿模型现在对网络安全、关键基础设施和国家安全构成了具体风险。

为了应对这些风险，AI监管应转向类似联邦航空管理局（FAA）的模型，在这种模型下，强大的技术在部署前必须经过严格的技术测试和审计。

提出的监管框架

阿莫代伊提出了一套具有约束力的监管体系，包含以下要求：

• 强制第三方测试： 超过特定算力阈值的模型必须在四个关键领域接受风险审计：网络安全、生物武器、失去AI控制以及可能加剧这些风险的自动化研发。
• 政府干预权： 政府应有权基于第三方评估阻止或威慑部署存在不可接受风险的模型。
• 安全标准： AI开发者必须实施严格的安全标准以保护模型权重，并定期进行红队渗透测试。
• 事件报告： 对四个关键风险领域的安全事件必须及时报告。

应对宏观经济颠覆和劳动力问题

强大的AI可能导致经济增长与劳动需求脱钩，从而在高增长伴随高不平等的情景中出现。由于AI可以作为人类认知能力的一般替代品，它可能导致传统市场机制无法解决的持续性岗位流失。

为了劳动力稳定的政策干预

为了减轻AI驱动的岗位流失带来的社会影响，建议采取以下措施：

• 增强测量： 政府应扩大经济统计，以实时准确跟踪AI驱动的岗位流失。
• 促进就业激励： 实施工资保险（补偿转岗至低薪职位的工人）、对雇主的留存税收激励以及劳动力培训补助金。
• 长期支持： 如果劳动需求永久下降，可能需要诸如全民基本收入（UBI）或全民资本账户之类的机制，这些机制可通过对AI公司征税或增加资本利得税来资助。

加速AI的积极科学影响

虽然AI本身需要更严格的安全监管，但它所加速的下游领域——如生物医学和材料科学——可能会因监管系统过于缓慢而受苦。目前的7-8年药物审批流程是为较慢的创新速度设计的，可能在AI生成候选药物的洪流下出现堵塞。

为了防止监管减缓救命进展，像FDA和EMA这样的机构应制定标准，以接受基于AI的模拟来替代缓慢的物理实验，包括：

• 基于AI的药效学和药代动力学（PD/PK）建模。
• 临床试验中的合成对照组，以减少参与者需求。
• AI驱动的毒理学预测，以减少动物测试。

保障公民自由和民主权力

AI带来了由能够利用自主系统规避民主监督的行为者实施“意外夺权”的风险。为了防止AI成为专制的终极工具，需要特定的法律保护：

• 自主武器问责： 完全自主武器必须被设计为能够响应宪法和司法监督（例如，司法“关闭开关”）。
• 国内禁令： 在国内边界和执法中禁止使用完全自主武器的法律禁令。
• 隐私漏洞关闭： 关闭“数据经纪人漏洞”，该漏洞允许政府购买大量私人数据用于大规模AI分析。
• 公平的AI访问： 确保面临不利政府行动的公民能够获得至少与政府所使用的AI工具同样强大的AI工具。

地缘政治策略：民主AI联盟

AI被视为军事和经济力量的主导来源，其影响可比甚至超过核武器。在AI方面具有显著领先优势的国家可能在战略、研发和情报方面拥有压倒性优势。

为了保持领先地位，民主国家应形成一个全球联盟，以：

• 控制供应链： 在成员之间协调芯片和半导体制造设备（SME）的共享，同时拒绝向对手提供这些资源。
• 协调标准： 协调生物和网络风险的国际安全标准，以降低行业负担并提高效果。
• 相互防御： 共同生产AI主导的网络防御和AI驱动的情报共享。

关键观点与反驳

围绕这些提案的讨论凸显了对其动机和实际效果的显著怀疑：

• 监管捕获： 批评者认为，FAA式的预先批准和强制审计会制造巨大的进入壁垒，实际上保护了现有企业，使得新兴AI初创公司几乎不可能出现。
• 开放权重辩论： 对于“保护模型权重的强安全标准”的要求，一些人将其解读为试图使开放权重模型非法，从而将权力集中在少数公司手中。
• 经济现实主义： 一些观察者认为，后劳动世界中对“意义和目的”的关注是富裕阶层脱离实际的观点，指出大多数人主要是为了生存而工作。
• 一致性问题： 批评者指出，主张对AI模型实施更严格监管，同时却呼吁放宽FDA对AI驱动药物的监管，存在矛盾。