Fortress:用于隐蔽浏览器自动化的改装 Chromium 浏览器

Fortress 是 Chromium 的改装版,旨在防止浏览器自动化代理被机器人检测系统拦截。通过修改浏览器内部的 C++ 代码,Fortress 改变了浏览器指纹,使自动化代理在访问网站时看起来像是合法的、普通的 Chrome 安装。

Fortress 如何绕过机器人检测

Fortress 通过在 Chromium 的 C++ 源代码中修正浏览器指纹来实现。大多数机器人检测器通过读取浏览器指纹来识别自动化;Fortress 删除了通常标记自动化工具的指示器,确保浏览器表现为标准的 Chrome 安装。此方法针对机器人检测服务使用的指纹技术,以区分人类用户和自动化脚本。

浏览器自动化的技术挑战

虽然指纹识别是主要障碍,浏览器自动化还面临除单纯规避检测之外的其他技术复杂性。正如社区成员所指出的,绕过最初的拦截只是问题的一部分:代理还必须能够判断返回的页面是实际内容、站点的降级版本,还是旨在捕获机器人的静默挑战页。

社区关于爬取伦理与影响的争论

Fortress 的发布在开发者和站点管理员之间引发了激烈的伦理争论。讨论的焦点在于数据提取的需求与对网站所有者造成的负担之间的冲突。

对小型网站所有者的影响

多位贡献者认为,隐蔽爬取工具会增加维护网站的成本和复杂度。

“我们当中有些人必须维持这些站点的运行,过去几年一直被噩梦般的爬虫和僵尸网络困扰……并不是每个网站都有数十亿/数万亿美元公司那样的资源来承受这些压力。”

批评者指出,这些工具使得机器人能够不间断地攻击站点,导致小型运营者的托管费用上升,甚至可能因机器人流量被迫关闭网站。

设备认证的军备竞赛

一些开发者警告称,隐蔽浏览器的激增会引发技术军备竞赛。担忧在于,随着机器人检测技术的日益成熟,行业可能会转向强制性的设备认证——一种需要通过加密方式证明设备为合法硬件的系统,以维持对网络的访问。

“最终的结果不会是让你自由地爬取那些试图避免被机器人 DDoS 的站点,而是我们所有人都将生活在一个几乎所有在线活动都必须进行设备认证的世界里。”

数据访问的替代方案

相较于隐蔽方式,有人建议网站应提供标准化、低影响的数据访问方式,以降低爬取产生的整体流量。一个提议是通过标准子页面(例如 example.com/scrape)提供每月更新的站点数据种子,以尽量减少对实时服务器的影响。

Sources

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目