호주의 디지털 주의 의무 및 'My Feed, My Way' 이니셔티브

호주, 'My Feed, My Way'를 통해 알고리즘 선택권 의무화

호주 정부는 "Digital Duty of Care"를 위한 법안 초안을 발표했으며, 그 중심에는 "My Feed, My Way"라고 불리는 핵심 이니셔티브가 포함되어 있습니다. 이 법은 소셜 미디어 플랫폼이 사용자에게 알고리즘 기반의 개인화된 피드와 사용자가 명시적으로 팔로우하는 계정으로만 구성된 비개인화 피드 사이에서 명확한 선택권을 제공하도록 요구합니다.

제안된 규칙에 따라, 플랫폼은 신규 및 기존 사용자 모두에게 이 선택권을 통지해야 합니다. 개인화된 추천을 거부하는 사용자는 자신이 팔로우하기로 선택한 친구와 크리에이터를 기반으로 한 기본 피드를 보게 되며, 이는 플랫폼의 기능을 발견 엔진(discovery engine)보다는 전통적인 소셜 네트워크로 효과적으로 되돌리는 역할을 합니다.

미성년자를 위한 디지털 안전 표준

Digital Duty of Care는 피드 제어를 넘어 온라인 게임, 앱, AI 챗봇을 포함한 디지털 서비스에 대한 최소 안전 표준을 설정하는 것으로 확장됩니다. 이러한 서비스는 18세 미만 사용자를 중독을 유도하는 설계 기능이나 자존감에 부정적인 영향을 미치는 기능으로부터 보호해야 합니다.

플랫폼은 특히 미성년자를 다음과 같은 범주의 유해 콘텐츠로부터 보호해야 합니다:

섭식 장애를 조장하거나 가속화하는 자료.
여성과 성평등에 관한 적대적인 아이디어를 조장하는 콘텐츠.
포르노그래피.
범죄나 생명을 위협하는 묘기를 미화하는 콘텐츠.
괴롭힘 및 학대를 포함하여 심각한 정신 건강 문제를 일으키는 자료.

집행 및 준수 메커니즘

이 법안은 독립적인 eSafety Commissioner에게 준수 여부를 집행하고 디지털 서비스 제공업체가 위해 위험을 완화하기 위해 취하는 조치를 문서화하도록 보장할 권한을 부여합니다.

주요 집행 권한은 다음과 같습니다:

Removal Notices: eSafety는 "nudify" 앱이나 웹사이트를 제거하도록 통지할 수 있습니다.
Streamlined Reporting: 아동 사이버 불링 및 성인 사이버 학대 체계는 유해한 자료를 더 빠르게 제거하기 위해 간소화될 것입니다.
Financial Penalties: Duty of Care를 준수하지 않을 경우 최대 1억 920만 달러의 벌금이 부과될 수 있습니다.

기술적 및 사회적 관점

업계 관찰자들과 사용자들은 이러한 의무 사항의의 효능과 구현에 대해 몇 가지 사항을 제기했습니다:

"알고리즘 안주"의 과제

일부 비판론자들은 사용자들이 큐레이션된 피드의 편리함에 익숙해졌기 때문에 선택권을 제공하는 것이 효과적이지 않을 수 있다고 주장합니다. "algorithmic complacency"라고 불리는 이 현상은 사용자들이 자신의 경험을 직접 큐레이션하는 데 필요한 인지적 노력 대신 "slop"을 선호할 수 있음을 시사합니다.

구현 리스크

기술적 논의에서는 법안의 실행 과정에서 발생할 수 있는 몇 가지 잠재적 문제점을 강조합니다:

Dark Patterns: 플랫폼이 사용자를 다시 알고리즘 피드로 유도하기 위해 기만적인 설계(dark patterns)를 사용하여 옵트아웃(opt-out) 프로세스를 구현할 수 있다는 우려가 있습니다.
Chronological vs. Non-Personalized: 일부 사용자는 "비개인화" 피드가 반드시 "연대기적(chronological)" 피드는 아니라는 점에 주목합니다. 엄격한 연대기적 순서에 대한 의무가 없다면, 플랫폼은 팔로우 목록 내에서도 "ragebait"나 높은 참여도를 유도하는 콘텐츠를 우선적으로 보여줄 수 있습니다.
Moderation Overhead: 비판론자들은 플랫폼이 미성년자를 위해 특정 범주의 유해 콘텐츠를를 필터링하도록 요구하는 것이 역설적으로 더욱 침해적이고 강력한 분류 및 중재재 AI 시스템을 필요로 하게 만들 수 있다고 지적합니다.

대안적 접근 방식

디지털 주권의 지지자들은 독점적 앱 내에서 토글 스위치를 의무화하는 대신, 정부가 공개 데이터의 스크래핑 및 재게시를 합법화하여 제3자 "alternate frontends"가 더 나은, 사용자 정의 알고리즘을 기반으로 경쟁할 수 있도록 해야 한다고 제안합니다.

"문제는 많은 문제적 콘텐츠가 어떤 법도 위반하지 않지만 여전히 누구의 피드에도 나타나지 않아야 할 독약과 같다는 점입니다... 가장 이상적인 규제는 알고리즘 피드를 금지하거나 강력하게 규제하는 것입니다." — @shubhamjain