Anthropic 预测性监控与活动人士监测

Anthropic 正在实施一套预测性监控系统,以监测活动人士和潜在威胁

Anthropic 正在构建一套广泛的监控机制,旨在追踪反对人工智能快速发展的活动人士,并预测安全事件的发生。这种“预罪”(pre-crime)方法涉及追踪“重点关注人员”以识别升级模式,并在犯罪发生前向执法部门报告嫌疑人。

主动威胁检测与“预罪”行动

Anthropic 的安全策略已从被动的信息收集转向“主动、预测性和预防性的威胁参与和管理”。根据内部安全官员的说法,其目标是在保护高价值目标方面实现“运营成熟度”。

该系统的关键组成部分包括:

  • 重点关注人员追踪:Anthropic 追踪“随时间变化的异常行为”以尽早发现升级模式。公司已确认,几名被报告给警方的个人此前已被内部安全部门追踪。
  • 执法部门集成:公司向全国各地的警察部门进行常规报告,涉及感知到的威胁。
  • 预测性路由:利用来自 Samdesk 等第三方承包商的情报,Anthropic 实时监测计划中的抗议活动,以重新规划高管路线以避免物理干扰。

情报收集与全球安全运营

为了支持这些行动,Anthropic 的全球安全、情报与安全(GSIS)团队正在扩大规模。最近一份针对企业情报专员(薪资范围为 $180,000 至 $230,000)的招聘启事中,明确将“活动主义”的识别、评估和追踪与恐怖主义、犯罪和国家级目标列为核心职责,与恐怖主义、犯罪和国家级目标并列。

该职位利用开源情报(OSINT)收集和深度研究,以使员工处于“可防御的位置”。

企业定位的矛盾之处

这些监控努力似乎与 Anthropic 作为“负责任”的 AI 实验室的公众形象相冲突。虽然该公司此前抵制涉及大规模国内监控和自主武器的国防部(DoD)合同,但最近已开始招聘“国家安全销售”职位以重启军事合同。

此外,公司在对待执法部门透明度方面的做法并不一致。据 San Francisco Standard 报道,在一次案例中,Anthropic 向旧金山警察局报告了一名通过 Claude 威胁 CEO Dario Amodei 的用户,但由于引用了内部政策,公司拒绝向警方提供实际的聊天消息。

关键基础设施与国家安全

目前存在一种更广泛的趋势,即将 AI 及其支持基础设施(数据中心和电源)指定为“关键基础设施”。此类指定将使 AI 实验室与水务和电力公用事业处于同等地位。这种转变可能会增加前沿实验室获取联邦情报产品的渠道,并可能允许这些公司影响联邦机构如何定义其运营中的“威胁”。

社区观点与反驳观点

公众对这些披露的反应呈现两极分化。一些批评者认为,该系统是镇压异议的工具,也是 CEO Dario Amodei 所描述的“信任危机”的一个例证。

"民主抗议现在变成了一种高压情况?"

其他人则认为,这些做法对于任何保护高价值目标和高管免受物理威胁的大型企业来说都是标准做法。

"如果我剥离掉评论性内容……我我认为结论是:1. 有人告诉 Claude 他们拥有一把 AR-15,并且 Anthropic 的 CEO 在他们的“目标中”。Anthropic 将此报告给了警方。2. Anthropic 与一家安全机构签约。3. Anthropic 正在寻求建立内部安全能力。"

观察者提出的额外担忧还包括“语言指纹识别”——即利用 AI 根据写作风格在不同平台识别个人——的可能性,以增强监控的规模。

Sources

相关