机器学习专家：访谈 Margaret Mitchell

Dr. Margaret Mitchell，人工智能伦理领域的先驱，也是 Google Ethical AI Group 的前共同负责人，强调机器学习中最紧迫的问题是确保设计系统的人员具有多样性和包容性。根据 Mitchell 的说法，这些人为因素直接影响技术成果、偏见缓解以及 AI 部署的整体安全性。

伦理 AI 与偏见缓解的必要性

伦理 AI 是必要的，因为训练数据仅代表世界的一个子集，这可能导致模型内化并传播有害的偏见。Dr. Mitchell 指出，以人为本的技术——例如人脸识别、行人识别和自然语言处理 (NLP) 工具——是数据伦理最为关键的领域，因为它们会对个人身份和隐私产生影响。

识别有害偏见

对于缺乏多样化词汇或视角的团队来说，偏见往往以肉眼不可见的方式表现出来。Dr. Mitchell 强调了模型失效的两个主要示例：

• 描述性偏见： 在辅助技术中，模型可能会将白人描述为 "people"，而将黑人描述为 "Black people"，将白人性视为默认设置。
• 语境误解： 一个在日落和烟花图像上训练的模型可能会将破坏性的爆炸场景描述为 "beautiful"，因为它将天空中的明亮色彩与正面属性联系起来，这展示了基准测试性能与现实世界安全性之间的危险差距。

模型卡片 (Model Cards) 与技术透明度

Model Cards 是标准化的产物，旨在为机器学习模型提供文档说明，类似于硬件的规格参数。Model Cards 是与 Timnit Gebru 共同开发的，旨在将伦理从一个抽象概念转变为一项强制性的发布产物，从而激励工程师记录模型行为和局限性。

决策阈值的角色

关于决策阈值的透明度对于模型安全性至关重要。在分类系统中，模型决定 "yes" 或 "no" 的阈值（例如 0.7）会显著影响错误率。Dr. Mitchell 指出，一些机构在使用人脸识别技术时使用了默认参数设置，而没有理解或调整这些阈值，导致特定人群（如黑人女性）的错误率不成比例地高。

模型文档的未来方向

在 Hugging Face，Dr. Mitchell 正在致力于将 Model Cards 从静态报告演变为交互式工具。这将允许用户实时改变决策阈值，以观察假阴性率如何变化，从而为如何部署模型做出更明智的决策。

多样性作为一种技术优化

多样性和包容性不仅仅是社会目标，也是提高模型成果的技术必要条件。Dr. Mitchell 将多样性视为扩大项目 "search space" 的一种方式。

"Just how you want to have a Gaussian approach over different start states, so too do you want that at the table when you're starting projects because it gives you this larger search space making it easier to attain a local optimum."

通过纳入更广泛的种族、族裔、性别和能力范围，ML 团队可以避免仅专注于 "beating the last numbers" 的 "macho" 文化，转而专注于严谨的评估以及识别 AI 中的刻板印象和性别歧视。

Hugging Face 的当前研究与计划

Dr. Mitchell 的当前工作涵盖了多个跨学科领域：

• 跨学科研究： 弥合 AI、法律和哲学之间的鸿沟，包括将《通用人权宣言》(UDHR) 应用于 AI。
• 数据治理： 参与 Big Science 项目，开发框架以研究如何在大规模数据进行全球扩散之前对其进行审查。
• 无障碍工具： 开发降低 AI 入门门槛的方法，允许非程序员直接查询数据而无需编写 SQL 或代码。
• 统计测试： 创建工具来测试语言模型的输出是否符合 Zipfian 分布，这是自然语言的特征。

对 AI 从业者的建议

Dr. Mitchell 根据个人在领域内的地位提出了不同的建议：

• 对于边缘化群体： 对自己的视角保持信心，不要让主管因不同的思维方式而否定你的贡献。
• 对于多数群体： 专注于支持和提升周围的人，从内部解决 "pipeline problem"。
• 通用技术建议： 始终优先考虑对系统的严谨评估。