브라운대 학생, AI를 뒷받침하는 숨겨진 글로벌 노동력 지도화
핵심 요점
브라운대학교 4학년 학생인 마춘옌(Cunyan Ma)은 13개 데이터 라벨링 회사, 141개 기업 AI 고객, 31개국을 연결하는 파워맵을 공개하여, 현대 AI 개발을 뒷받침하는 글로벌 사우스의 숨겨진 저임금 노동력을 폭로했습니다.
지도가 보여주는 것
- 노드와 연결: 이 대화형 다이어그램은 데이터 라벨링 회사(노동력 제공자)를 기업 고객(AI 개발자) 및 주석 작업 인력의 물리적 위치와 연결합니다.
- 규모: 현재 버전의 지도는 13개 라벨링 회사, 141개 AI 제품 고객, 주석 센터가 운영되는 31개국을 포함합니다.
- 지리: 주석 작업장의 대부분은 케냐, 인도네시아, 콜롬비아 및 기타 글로벌 사우스 국가에 위치하여 명확한 해외 노동 파이프라인을 보여줍니다.
- 콘텐츠 노출: 작업자들은 안전 필터를 훈련시키기 위해 아동 포르노, 수간, 폭력적인 콘텐츠와 같은 충격적인 자료를 검토해야 하는 경우가 많으며, 이는 저임금 주석 작업자에게 부과되는 윤리적 부담을 강조합니다.
"현실에서 이는 기업들이 그 일을 글로벌 사우스로 아웃소싱한다는 것을 의미합니다 ... 전 세계의 사람들이 AI가 안전하도록 훈련시키기 위해 AI가 생성한 아동 포르노, 수간, 폭력적인 콘텐츠의 문단을 계속 읽어야 합니다." – 마춘옌(Cunyan Ma)
지도가 중요한 이유
- 투명성: AI 공급망은 의도적으로 불투명합니다. 지도는 노동 계층을 가시화하여 공공의 조사와 잠재적인 규제 조치를 가능하게 합니다.
- 책임성: 기업 고객을 훈련 데이터를 생성하는 작업자와 직접 연결함으로써 지도는 추적 가능한 책임 라인을 만듭니다.
- 노동자 연대: 이 시각화는 고립된 주석 작업자들이 동료를 발견하는 데 도움을 줄 수 있으며, 이는 단체 교섭이나 노조 결성의 전제 조건입니다.
- 교육 도구: 교수와 활동가들은 이 지도를 사용하여 AI가 인간 노력의 집합체임을 설명하고, AI를 자율적인 존재로 묘사하는 서사에 반박할 수 있습니다.
"그 아래에는 모두 인간이 있습니다 ... 현재 AI에 대한 많은 담론의 문제는 그것을 무시하려 한다는 것입니다." – 수레시 벤카타수브라마니안(Suresh Venkatasubramanian), 브라운대 컴퓨터과학 교수
Hacker News에서의 커뮤니티 반응
| 댓글 작성자 | 주요 통찰 | 관점 |
|---|---|---|
| @datsci_est_2015 | 노동-자본 상호작용을 지도화하려는 노력을 칭찬하며 역사적 착취 맥락을 언급했습니다. | 필요한 폭로 프로젝트로 지지합니다. |
| @Frieren | 노동자 고립이 기업 권력을 증폭시킨다고 강조하고 법적 조사를 촉구했습니다. | 잠재적인 정책 영향을 강조합니다. |
| @arjie | 2000년대 초반의 긱 워크 개인 경험을 공유하며 그러한 일자리가 빈곤에서 벗어나는 자발적인 경로가 될 수 있다고 주장했습니다. | 노동자 행위 주체성에 대한 미묘하고 현장 수준의 관점을 제공합니다. |
| @atleastoptimal | "식민주의" 프레임을 비판하며 값싼 노동력을 찾는 것은 경제를 들어올릴 수 있는 자본주의의 오랜 특징이라고 주장했습니다. | 용어에 도전하지만 경제적 역학을 인정합니다. |
| @htrp | 초기 RLHF 파이프라인에 참여한 케냐 노동자에 대한 외부 보도를 연결하며 지도의 관련성을 강화했습니다. | 해외 주석 작업의 추가 증거를 제공합니다. |
| @vanuatu | 많은 대형 플랫폼이 이제 현지 중간 임금의 몇 배를 버는 서양 주석 작업자를 사용한다고 언급하며, 지도가 더 높은 임금을 받는 부분을 과소 대표할 수 있다고 시사했습니다. | 노동 시장의 이질성을 지적합니다. |
| @danans | 왜 유럽 고객과 작업자가 같은 장소에 있는 경향이 있는지 물으며 규제 또는 물류 요인을 암시했습니다. | 추가 연구를 위한 탐구 라인을 엽니다. |
| @rito | "식민주의" 과장에 의문을 제기하고 많은 주석 작업자가 교육을 받고 영어에 능숙한 사람들이며 그 일을 선택한다고 주장했습니다. | 더 정확한 언어와 맥락을 요구합니다. |
토론은 지도를 착취 폭로를 위한 중요한 단계로 보는 사람들과 용어가 과장되었다고 보거나 노동자 행위 주체성을 강조하는 사람들 사이의 분열을 반영합니다.
현재 지도의 한계
- 범위: 지도는 완전하지 않습니다. 많은 소규모 라벨링 회사와 프리랜서 플랫폼이 누락되었습니다.
- 데이터 신선도: 기업 관계는 빠르게 진화합니다. 지속적인 업데이트가 없으면 스냅샷이 구식이 될 수 있습니다.
- 지리적 세분성: 일부 국가에는 여러 배송 센터가 있지만 지도는 국가 수준에서 집계합니다.
- 임금 변동: 지도는 임금률을 포함하지 않아 보상 격차를 직접 평가할 수 없습니다.
창작자가 구상한 다음 단계
- 데이터 세트 확장: 더 많은 라벨링 회사, 프리랜서 마켓플레이스, 새로운 AI 훈련 파이프라인(예: 인간 피드백 기반 강화 학습 환경)을 포함합니다.
- 추가 속성 계층화: 평균 시간당 임금, 콘텐츠 유형, 계약 안정성과 같은 속성을 추가하여 분석을 심화합니다.
- 관련 공급망 지도화: 반도체 제조에서 시작하여 AI의 더 넓은 물질성을 설명합니다.
- 노동자 중심 인터페이스 개발: 주석 작업자가 동료를 찾고, 자원을 공유하고, 집단 행동을 조정할 수 있게 합니다.
AI 거버넌스에 대한 광범위한 영향
- 규제 감독: 노동 체인의 가시성은 노동 권리 법안, 의무 공개 요구 사항 또는 윤리적 AI 데이터 소싱을 위한 인증 제도에 정보를 제공할 수 있습니다.
- 기업 책임: 기업은 작업 조건을 개선하거나 더 높은 임금 시장으로 전환하라는 평판 압력에 직면할 수 있습니다.
- 대중 인식: AI 시스템이 인간 노동 위에 구축된다는 이해는 과대 광고를 누그러뜨리고 AI 능력과 윤리에 대한 더 현실적인 기대를 조성할 수 있습니다.
지도는 진행 중인 작업이지만, 그 존재는 AI 뒤에 숨겨진 인간 인프라를 비밀 해제하고 지능형 시스템 시대의 공정한 노동 관행에 대한 대화를 여는 구체적인 단계를 표시합니다.