機械学習の専門家：マーガレット・ミッチェル氏インタビュー

Dr. Margaret Mitchell, ethical AIのパイオニアであり、かつてGoogleのEthical AI Groupの共同リーダーだった彼女は、機械学習における最も切迫した問題は、システムを設計する人々の多様性と包摂性を確保することだと強調しています。Mitchellによれば、これらの人間的要因は技術的成果、バイアス軽減、およびAI導入全体の安全性に直接影響を与えます。

倫理的AIとバイアス軽減の必要性

倫理的AIは必要不可欠です。なぜなら、トレーニングデータは世界の一部しか表しておらず、これがモデルに有害なバイアスを内面化し、広める原因になるからです。Dr. Mitchellは、顔認識、歩行者認識、およびNatural Language Processing（NLP）ツールなどの人間中心のテクノロジーが、個人のアイデンティティとプライバシーへの影響により、データ倫理が最も重要な領域であると指摘しています。

有害なバイアスの認識

バイアスは、多様な語彙や視点に欠けるチームには見えない形で現れることがよくあります。Dr. Mitchellは、モデルの失敗の二つの主要な例を挙げています：

Descriptive Bias: 補助技術において、モデルは白人を「人」と表現し、黒人を「黒人」と表現することがあり、白人をデフォルトとして扱います。
Contextual Misinterpretation: 夕焼けや花火の画像で訓練されたモデルは、空の明るい色をポジティブな属性と関連付けるため、破壊的な爆発のシーンを「美しい」と説明することがあります。これは、ベンチマークでの性能と実際の世界での安全性の間に危険なギャップがあることを示しています。

Model Cardsと技術的透明性

Model Cardsは、機械学習モデルのドキュメントを提供するための標準化されたアーティファクトで、ハードウェアの仕様書に似ています。Timnit Gebruと共同開発されたModel Cardsは、倫理を抽象的な概念から必須のリリースアーティファクトに移行させ、エンジニアがモデルの動作と限界を文書化するインセンティブを与えることを目的としています。

決定閾値の役割

モデルの安全性において、決定閾値の透明性は不可欠です。分類システムでは、モデルが「はい」または「いいえ」を決定する閾値（例えば0.7）が誤差率に大きく影響します。Dr. Mitchellは、一部の機関がこれらの閾値を理解せずに調整もせずに顔認識技術のデフォルトパラメータ設定を使用していることを指摘しています。これにより、黒人女性など特定の人口統計学的グループに対して不均衡な失敗率が生じています。

Modelドキュメントの今後の方向性

Hugging Faceでは、Dr. MitchellはModel Cardsを静的なレポートからインタラクティブなツールへと進化させる取り組みを行っています。これにより、ユーザーはリアルタイムで決定閾値を変動させ、偽陰性率の変化を確認できるようになり、モデルの導入についてより情報に基づいた決定が可能になります。

多様性としての技術的最適化

多様性と包摂性は単なる社会的目標ではなく、モデルの成果を向上させる技術的必要性です。Dr. Mitchellは、多様性をプロジェクトの「探索空間」を広げる手段として捉えています。

"Just how you want to have a Gaussian approach over different start states, so too do you want that at the table when you’re starting projects because it gives you this larger search space making it easier to attain a local optimum."

より幅広い人種、民族、性別、能力を含めることで、MLチームは「マッチョ」な文化―つまり「前回の数字を上回ること」だけに焦点を当てる―を避け、代わりに厳密な評価とAI内のステレオタイプやセクシズムの特定に焦点を当てることができます。

Hugging Faceにおける現在の研究とイニシアティブ

Dr. Mitchellの現在の仕事はいくつかの学際的な領域にわたっています：

Interdisciplinary Research: AI、法律、哲学の間のギャップを埋め、AIに人権宣言（UDHR）を適用することを含みます。
Data Governance: 大規模データが世界中に拡散することなく検証できるフレームワークを開発するBig Scienceプロジェクトに参加しています。
Accessibility Tools: プログラマーでない人でもSQLやコードを書くことなくデータに直接クエリを実行できるように、AIへの参入障壁を下げる方法を開発しています。
Statistical Testing: 言語モデルの出力が自然言語を特徴づけるZipfian分布に一致するかをテストするツールを作成しています。

AI実践者へのアドバイス

Dr. Mitchellは、個人の立場に応じて異なるアプローチを提案しています：

マイノリティの個人: 自分の視点に自信を持ち、異なる考え方だからといって上司に貢献を無視されないようにしてください。
多数派の個人: 周囲の人々を支援し、持ち上げることで、「パイプライン問題」を内部から解決することに焦点を当ててください。
一般的な技術的アドバイス: 常にシステムの厳密な評価を優先してください。