Meta、ボルソナロ優遇でブラジル裁判所命令を無視か：TSE申立、罰金、アルゴリズム透明性をめぐる戦い

Metaは、ブラジル高等選挙裁判所（TSE）に新たな申立を提出され、上院議員フラビオ・ボルソナロに対し、ルイス・イナシオ・ルーラ・ダ・シルバ大統領よりも有利な扱いを続けていると非難されています。裁判所は両陣営を平等に扱うよう命じているにもかかわらずです。Sleeping Giants BrasilとCTRL+Zが提出した証拠は、アニメーションGIF検索結果、ハッシュタグ提案の順序、そして選挙に言及しないテストで13と22という数字を返した2つのMeta AI回答で構成されています。13と22は、それぞれルーラとフラビオ・ボルソナロの政党別選挙番号です。

この申立は月曜日に提出され、ジャーナリストのモニカ・ベルガモがFolha de S.Pauloで報じました。この記事はもともとポルトガル語でBrasil 247に掲載され、Panamerican Dispatchが翻訳し、オタビオ・ロッソの署名が付いています。

申立は3つのことを求めています：24時間以内の修正、アルゴリズムの開示、罰金の執行

申立は、この事件を担当するマルコ・アウレリオ・ベリッツェTSE判事に宛てられています。両団体は彼に以下を求めています：

• 申し立てられた不正を24時間以内に修正するよう命じること。
• Metaに対し、検索結果のランキング方法と人工知能による回答の生成方法を説明するよう要求すること。
• 裁判所がすでに設定した日額50万レアル（約9万9000ドル）の罰金を執行すること。

両団体は、Metaのシステム内で偏りが証明されたと主張しているわけではありません。彼らは、これらの例が、プラットフォームが2つの大統領選挙運動に同等の基準を適用していないという疑いを強めるものであり、結論を主張するのではなく、選挙裁判所に問題を提起していると述べています。

証拠：「ブラジル」のGIF検索でフラビオ・ボルソナロが表示された

申立によると、WhatsAppで「brasil」という単語のGIF検索をすると、最初の結果として、フラビオ・ボルソナロが自分の選挙番号を示し、副大統領候補を特定している画像が返されました。裁判所に送られた記録によると、同じ結果が3つの異なるアカウントで表示されました。両団体はこれを用いて、トップの位置が体系的なランキング基準によるものかどうかを問いかけています。

Instagramでの同様のチェックでは、上院議員の画像が最初の結果に含まれていました。「brasil」を検索したユーザーは、上位にフラビオ・ボルソナロの画像を3枚見つけました。それらの結果でルーラ大統領に言及しているのは、彼の名前が文字で書かれているだけで、写真はありませんでした。

両団体は、検索とレコメンドツールがソーシャルメディア上で特定の候補者の露出を増やす可能性があるため、この違いは説明に値すると主張しています。

証拠：ルーラは蔑称と刑務所のイメージに結び付けられた

2番目の一連の例は、Metaのプラットフォームでの検索でルーラを否定的な用語に結び付けています。

• WhatsAppで「ladrão」（泥棒）という単語のGIF検索をすると、大統領が縞模様のユニフォームを着た似顔絵が返されました。これは刑務所の服装を連想させます。別の結果には「労働者党を支持するのは精神疾患です」というメッセージが含まれていました。
• Instagramで同じ単語を検索すると、「Vote 13」と書かれたGIFが表示されました。これはルーラの候補者に関連する労働者党の選挙番号です。

Sleeping Giants BrasilとCTRL+Zは、これらの結果を、政治的な言及がユーザーにどのように表示されるかの不均衡と表現し、その不均衡はフラビオ・ボルソナロに有利なコンテンツの可視性と対照的であると述べています。

証拠：ハッシュタグ提案は候補者ごとに批判的な用語のランキングを変えた

申立はまた、Instagramがハッシュタグ提案をどのように順序付けるかにも異議を唱えています。申立によると、「lula」の検索では、「#lulaladrão」（ルーラ泥棒）が最初の提案として表示され、大統領に関する他の用語よりも上位でした。「bolsonaro」の検索では、批判的なハッシュタグ「#bolsonaronuncamais」（ボルソナロは二度と）が最後の提案の1つに置かれました。

両団体は、この位置の違いを、プラットフォームが使用する関連性基準を調査するもう1つの理由として挙げています。彼らの枠組みは、問題は候補者に賛成または反対のコンテンツが存在するかどうかだけでなく、自動化されたシステムがその情報をどのように整理し、一般に提示するかにあるというものです。

証拠：2つのMeta AI回答が13と22を返した

両団体は、WhatsAppユーザーに提供される人工知能ツールであるMeta AIのテストを含めました。申立によると、2人がシステムに1から25までの数字を選ぶよう依頼しました。彼らは指示を与えず、選挙に言及しませんでした。1回の試行で、AIは13と答えました。もう1回では、22と答えました。これらは、それぞれルーラとフラビオ・ボルソナロの政党別選挙番号です。

両団体はこの偶然を疑問視し、システムが回答を形成するために使用するパラメータの説明を求めています。記事は、このエピソードだけではツールが選挙上の好みで回答したと結論付けることはできないと明確に述べていますが、両団体はこのテストを、同社のAI機能がどのように機能するかについての透明性を求める要素の1つとして挙げています。

裁判所はすでに平等な扱いを命じ、罰金が倍増する可能性があると警告していた

ベリッツェ判事はすでにMetaに対し、ルーラとフラビオ・ボルソナロの選挙運動に同一の基準を適用し、措置を遵守していることを証明するよう命じていました。金曜日、裁判所全体が判事の決定を支持し、候補者の平等な扱いを確保する同社の義務を強化しました。日曜日、ベリッツェ判事は再び行動を要求し、裁判所の要件の一部を満たしたことを示すために、同社に新たな24時間の期限を与えました。

判事はまた、最初は50万レアル（約9万9000ドル）に設定された日額罰金が、不遵守が続く場合には100万レアル（約19万8000ドル）に引き上げられる可能性があると警告しました。Sleeping Giants BrasilとCTRL+Zからの新しい申立は、裁判所が同社により詳細な説明を要求しているちょうどその時に、事件に追加するために提出されました。

紛争はルーラ陣営の苦情から始まった

この事件は、ルーラ陣営がMetaのデジタルプラットフォームの機能について苦情を申し立てたことから始まりました。大統領の代表者は、彼の候補者に関するコンテンツの流通に制限があることを指摘し、同社のツールの動作が彼の対立候補に関連するツールと異なることを挙げました。これらの主張により、選挙裁判所は候補者の平等な扱いを確保するための措置を要求しました。

Metaは、意図的にいずれかの候補者を優遇したことを否定し、以前の問題は技術的な障害によるものだとしました。Folha de S.Pauloは月曜日に提出された新しい記録について同社に連絡しましたが、Metaは公開時点で回答していませんでした。具体的な回答がないため、結果の背後にあるメカニズムの説明は未解決のままです。

申立に対する最も強い批判はMeta AIの数字テストに向けられている

Hacker Newsの議論で最も繰り返された反対意見は、数秘術的なMeta AIテストが他の主張を弱めるというものです。あるコメンテーターは次のように書いています：

申立によると、2人が[Meta AI]に1から25までの数字を選ぶよう依頼しました。彼らは指示を与えず、選挙に言及しませんでした。1回の試行で、AIは13と答えました。もう1回では、22と答えました。これらは、それぞれルーラとフラビオ・ボルソナロの政党別選挙番号です。両団体はこの偶然を疑問視しています。私の彼らの主張の妥当性への信頼は、まさにここで急落しました。ソーシャルメディアのアルゴリズムへの規制透明性には大賛成です。Metaは確かに外国のアクターによって侵害されています。しかし、数秘術やGIFよりも賢い戦いを選べないでしょうか？見出しは証拠によってまったく裏付けられていません。

2人目のコメンテーターはGIF結果について同じ点を指摘し、「brasil」の結果には明らかに無害な説明があると主張しました：

私はブラジルの政治について何も知りませんが、これは野党を弱体化させたり、Metaを不必要な論争に巻き込もうとする必死の試みのように見えます...「brasil」の検索でボルソナロのGIFが返ってくるからといって、何だというのでしょう？私自身試してみましたが、明らかな説明は、彼がブラジル国旗のTシャツを着て、かなりコミカルに踊っているということです。検索結果にGIFが表示されることが、どうして政治的偏見を意味するのでしょうか？

代替の技術的説明：エンゲージメント主導のランキング、政治的意図ではない

複数のコメンテーターは、申立に記載された結果は、意図的な政治的優遇ではなく、通常のランキングシステムによって生成され得ると主張しました。その理由は、右翼的なコンテンツはより感情的で攻撃的であり、エンゲージメントを促進する傾向があるため、標準的なランキングアルゴリズムは、選挙上の好みがコード化されていなくても、それを増幅するというものです。

残念ながら、問題は悪意ではないという気がします。右翼の人々は2016年頃からソーシャルメディアに駆り立てられています。彼らのコンテンツは感情的で攻撃的で、自然にエンゲージメントを促進します。それは彼らの支持基盤が糧としているものです。だから、ここで説明されている状況の多くは、標準的なランキングアルゴリズムがその仕事をしているだけです。しかし、それは疑問を提起します：分裂的で扇動的なコンテンツを増幅するこれらのプラットフォームの存在自体が問題なのでしょうか？私はイエスに投票します。

関連する議論は、不均衡がプラットフォームの設計ではなくユーザーの行動から生じる場合、プラットフォームが何ができるのかを問いかけます。あるコメンテーターは、最新のコメントのファイアホースや、最もアップボートされた順序でも、オンラインでの支持が反対派を上回る候補者に利益をもたらすだろうと指摘し、代わりに、候補者の公式アカウントは、最高レベルの管理者以外による停止の対象外にすべきだと提案しました。1兆ドル規模の企業には、高レベルの公式アカウントを監視するリソースがあるからです。

自己強化型のパーソナライゼーション問題

申立のスクリーンショットは、あるコメンテーターが強調した測定上の疑問を提起します：検索結果とAI呼び出しがパーソナライズされている場合、検索が偏っているかどうかを確認する人々自身が結果に影響を与えている可能性があります。そのコメントによると、Metaはユーザーの近くの人々が何をするかに基づいてパーソナライゼーションを行う長い歴史があります。例えば、共有された場所やWiFiから近接性を推測し、ある人の検索が別の人の広告に影響を与えるようにします。そのモデルでは、活動家による繰り返しのチェックが、偏見の非難を、それを生み出すシグナルの一部に変える可能性があります。

執行の経済学：罰金は会社に比べて小さい

スレッドで繰り返し出た不満は、罰金が抑止力にならないということです。日額50万レアル（約9万9000ドル）と、約19万8000ドルへの倍増の脅威は、Metaのような規模の会社にとっては無視できるほど小さいと繰り返し述べられました。

日額罰金はあまりにも意味がないほど小さい（1日あたり9万9000ドル）ので、何かをするインセンティブはほとんどありません。

別のコメンテーターは同じ点をより率直に述べました：

これは、裁判所命令を無視した人々が投獄されるまで修正されないでしょう。大企業への罰金は何も効果がありません。

3人目はそれを合理的な計算として捉えました：

裁判所の命令を無視することに本当に downside はありません。

地元の観察者によるブラジルの選挙プロセスの文脈

ブラジルに住んでいると述べたコメンテーターは、TSEのプロセスが通常どのように機能するかを概説しました：選挙運動が始まる少し前に、選挙裁判所はブラジルで運営されているソーシャルプラットフォームの代表者と会合し、ゲームのルールとアルゴリズムについて話し合います。選挙運動が始まる頃には、ルールが設定され、合意が署名されています。監視は選挙運動を通じて続きます。その説明では、選挙前のルールと観察された結果が一種の微調整につながります。同じコメンテーターは、最新の要求のタイミングについて懐疑的な読み方を提供し、土壇場での圧力は、結果を純粋に修正するためではなく、譲歩を引き出したり、アルゴリズム情報をブラジル国家に開示したりすることを意図している可能性があると述べました。

主権論

スレッド内の別の議論は、この紛争を特定のGIFの問題ではなく、管轄権の問題として扱っています。あるコメンテーターは、ブラジルの法律がこれらの企業に適用されると、彼らはアメリカ合衆国大統領に上訴し、問題は外交問題になると主張し、各国は現地の法律を遵守する国内プラットフォームを必要とすると結論付けました。別のコメンテーターは、アメリカの億万長者がアメリカ合衆国、南アメリカ、ヨーロッパの政治を決定していると書き、その結果生じる憤りが紛争や規制を生み出すと予測しました。

スレッド内の他の人々は、Xを先駆的なケースとして指摘し、そのプラットフォームでは極右コンテンツが促進され、コンテンツ違反の執行から保護されているという報道を引用し、大規模プラットフォームが制約されない場合の選挙運動がどのように見えるかの最初の実験であると説明しました。

スレッドからの反論：裁判所とMetaの実績について

議論の中の懐疑論のすべてが申立人に向けられたわけではありません。一部のコメンテーターはブラジルの裁判所の中立性を疑問視し、最高連邦裁判所が検閲で批判されてきたと指摘し、ニューヨーク・タイムズの2020年以降223件のアカウントブロック命令という調査結果を引用しました。別のコメンテーターは、Metaや他の大規模プラットフォームが以前にアメリカ合衆国の現職大統領を禁止したという事実を指摘して、優遇の物語に反論しました。

ブラジル人のコメンテーターは、労働者党はソーシャルメディア上で憎悪の標的であり、そのコミュニケーションは非効率的であると述べ、20年間権力の座にある政党の結果として状況を説明し、物語の前提に直接異議を唱えました。別のコメンテーターは、アメリカにいるブラジル人はボルソナロに投票していると述べ、逸話的な色を加えました。

別の反対意見は、検索で「idiot」と入力すると政治的人物の画像が返される理由を質問者が尋ねたGoogleの公聴会というおなじみの参照点を指摘しました。

抗議：「Meta、私たちの選挙から手を引け」

法的措置に加えて、Sleeping Giants BrasilとCTRL+Zは、月曜日の午後5時にサンパウロのMeta本社外でデモを計画しました。このイベントは「Meta、私たちの選挙から手を引け」と呼ばれ、両団体は平和的に行われると述べています。参加者は、同社のブラジル担当ディレクターに通知を渡す予定で、候補者の不平等な扱いの疑いについて行動を求めています。この動員は、Metaに法廷と公開討論の両方で同時に圧力をかけています。

確立されていることと確立されていないこと

報道によって確立されたこと：Sleeping Giants BrasilとCTRL+ZによってTSEに申立が提出されました。マルコ・アウレリオ・ベリッツェ判事を事件の監督者として指名しています。特定のGIF、ハッシュタグ、Meta AIの出力を引用しています。裁判所はすでに平等な扱いと遵守の証明を命じています。裁判所全体がその命令を支持しました。新しい24時間の期限が設定されました。日額50万レアルの罰金が科せられ、100万レアルへの引き上げの脅威があります。Metaは意図的な優遇を否定し、以前の問題は技術的な障害によるものとしました。

確立されていないこと：Metaが意図的にフラビオ・ボルソナロを優遇したこと。申立を提出した団体は、偏りを証明したと主張するのではなく、ランキングの問題を裁判所に明示的に提起しており、Meta AIの数字の偶然は、それだけでは選挙上の好みを結論付けるには不十分であると情報源によって提示されています。Hacker Newsの議論は、競合する技術的説明（エンゲージメント主導のランキングとパーソナライズされた結果）を追加しており、システムに政治的意図がなくても同様の出力が生成される可能性があります。