オーストラリアのデジタル・デューティ・オブ・ケアと「My Feed, My Way」イニシアチブ

オーストラリア、「My Feed, My Way」を通じてアルゴリズムの選択を義務付け

オーストラリア政府は、「Digital Duty of Care（デジタル・デューティ・オブ・ケア）」に関する法案の草案を発表しました。その中心となるイニシアチブは「My Feed, My Way」と呼ばれています。この法律は、ソーシャルメディア・プラットフォームに対し、アルゴリズムによってパーソナライズされたフィードと、ユーザーが明示的にフォローしているアカウントのみで構成される非パーソナライズ・フィードの間の明確な選択肢をユーザーに提供することを義務付けるものです。

提案されている規則の下では、プラットフォームは新規ユーザーおよび既存ユーザーの両方にこの選択肢を通知しなければなりません。パーソナライズされた推奨事項をオプトアウトしたユーザーは、自身がフォローすることを選択した友人やクリエイターに基づいたデフォルトのフィードが表示されるようになり、プラットフォームの機能は、発見エンジンとしての機能から、伝統的なソーシャルネットワークへと実質的に回帰することになります。

未成年者向けのデジタル安全基準

Digital Duty of Careは、フィードの制御にとどまらず、オンラインゲーム、アプリ、AIチャットボットを含むデジタルサービスのための最低限の安全基準を確立することを目指しています。これらのサービスは、依存症行動を誘発したり、自尊心に悪影響を及ぼしたりする設計機能から、18歳未満のユーザーを保護しなければなりません。

プラットフォームは、特に以下のカテゴリーの有害なコンテンツから未成年者を保護することが求められます：

摂食障害を促進または加速させる素材。
女性やジェンダー平等に関する敵対的な考えを促進するコンテンツ。
ポルノグラフィ。
犯罪や生命を脅かすスタントを美化するコンテンツ。
いじめや虐待を含む、深刻なメンタルヘルスの苦痛を引き起こす素材。

執行とコンプライアンス・メカニズム

この法律は、独立したeSafety Commissionerに対し、コンプライアンスの執行を強制し、デジタルサービス・プロバイダーが危害のリスクを軽減するために講じる措置を文書化することを保証する権限を付与します。

主な執行権限には以下が含まれます：

削除通知: eSafetyは、「nudify」アプリやウェブサイトを削除するための通知を発行できます。
合理化された報告: 子供のサイバーいじめおよび成人のサイバー虐待スキームは、有害な素材のより迅速な削除のために合理化されます。
金融的罰則: Duty of Careへの不履行は、最大1億920万ドルの罰則につながる可能性があります。

技術的および社会的観点

業界の観察者やユーザーは、これらの義務付けに関する有効性と実施について、いくつかの点を指摘しています。

「アルゴリズムへの慣れ」という課題

一部の批評家は、ユーザーがキュレーションされたフィードの利便性に慣れてしまっているため、選択肢を提供しても効果がない可能性があると主張しています。この現象は「algorithmic complacency（アルゴリズムへの慣れ）」と呼ばれ、ユーザーが自身の体験をキュレーションするために必要な認知的な努力を払うよりも、「slop（低品質なコンテンツ）」を好む可能性があることを示唆しています。

実施のリスク

技術的な議論では、法律の執行におけるいくつかの潜在的な陥りやすい点（ピットフォール）が強調されています。

ダークパターン: プラットフォームが、ユーザーをアルゴリズム・フィードへ再び誘導するために、欺瞞的な設計（ダークパターン）を用いてオプトアウト・プロセスを実装する懸念があります。
時系列 vs 非パーソナライズ: 一部のユーザーは、「非パーソナライズ」フィードは必ずしも「時系列」フィードではないと指摘しています。厳密な時系列順序の義務付けがない限り、プラットフォームはフォローしているリスト内でも「ragebait（怒りを煽るコンテンツ）」やエンゲージメントの高いコンテンツを優先させることが可能です。
モデレーション・オーバーヘッド: 批評家は、プラットフォームに未成年者向けの特定の有害コンテンツ・カテゴリーをフィルタリングすることを義務付けることは、逆説的に、より侵襲的で強力な分類・モデレーションAIシステムを構築することを要求することになる可能性があると指摘しています。

代替アプローチ

デジタル主権の推進派の一部は、プロプライエタリなアプリ内での切り替えを義務付けるのではなく、政府が公開データのスクレイピングと再公開を合法化し、サードパーティの「alternate frontends（代替フロントエンド）」が、より優れたユーザー定義のアルゴリズムに基づいて競争できるようにすべきだと提案しています。

"The issue is that much of the problematic content doesn’t violate any law but still is poison that shouldn’t be on anyone’s feed... The ideal regulation would be to ban or heavily regulate algorithmic feeds." — @shubhamjain