ChatGPT가 404 Media에 기술 지원 불만을 보내고 있습니다 — 그리고 이메일도 작성하고 있습니다

무슨 일이 있었나: ChatGPT가 일상적인 기술 지원 불만을 뉴스룸으로 라우팅하고 있습니다

독립 기술 뉴스 매체인 404 Media는 ChatGPT가 일반적인 기술 지원 문제를 가진 사람들에게 자사 기자들을 추천하고 있다고 보도했습니다 — 그리고 많은 경우 사용자를 대신해 연락 이메일을 작성하고 있습니다. 대형 플랫폼에서 계정이 잠긴 사용자들이 ChatGPT에게 도움을 받는 방법을 묻습니다; ChatGPT는 기자에게 연락하는 것이 시도해 볼 가치가 있다고 결론을 내립니다; 그런 다음 404 Media를 지목하고 특정 팁 라인 이메일 주소를 제공합니다.

보고서에서 가장 완전히 문서화된 사례는 러시아에 사는 한 남성으로, 그의 Instagram 계정이 차단되었고 그는 404 Media에 "13년간의 개인 사진, 비디오, 추억에 대한 접근을 잃었다"고 썼습니다. 이메일은 받은 기자에게 AI가 생성한 것으로 보였습니다. 그가 ChatGPT를 사용해 매체를 찾았는지 묻자, 남성은 대화 링크를 보냈고, 그 대화는 그에게 — 러시아어로 — 404 Media의 Jason에게 이메일을 보내보라고 말했습니다.

보고서에 따르면, ChatGPT가 사용자에게 한 추론은 소셜 미디어 프로필 이상의 문제가 걸려 있다는 것이었습니다:

당신은 단순한 소셜 미디어 프로필뿐만 아니라 잠재적으로 수년간의 개인 사진, 비디오, 대화, 추억에 대한 접근을 잃었습니다. 기자에게 연락하는 것을 고려할 가치가 있다고 생각합니다 [...] 러시아와 국제 기자 모두에게 연락하는 것을 권장합니다.

ChatGPT는 그런 다음 404 Media를 포함한 여러 뉴스 매체를 나열하고, 그 매체의 전문 분야 설명과 jason@404media.co 주소를 제공했습니다 — 그리고 그 남성이 보낸 정확한 이메일을 영어로 작성했습니다. 404 Media는 출판 약 2주 전부터 이 사람들에게 답장을 보내기 시작했고, 어떻게 매체를 찾았는지 물었다고 밝혔습니다. 답변은 보편적이었습니다: AI 챗봇이 연락을 권장했다는 것입니다. 많은 경우, 챗봇이 메시지도 작성했습니다. 404 Media는 이 결론이 직원들과 공유된 소수의 ChatGPT 대화 검토에 기반한다고 말합니다.

문제의 범위는 완전히 공개되지 않았습니다

404 Media 기사는 "이 게시물은 유료 회원 전용입니다"로 끝나는 첫 부분 이후 페이월이 있습니다. 공개적으로 읽을 수 있는 부분은 받은 이메일 수, 추세의 기간, 관련된 플랫폼이나 챗봇 모델의 분류를 제공하지 않습니다. 이 일을 하는 사람 수나 증가 정도에 대한 추정은 이용 가능한 보고로 확립되지 않았습니다.

ChatGPT가 "기자에게 이메일 보내기"에 도달하는 이유

Hacker News 댓글 작성자 xp84는 이 행동이 두 가지의 예측 가능한 결과라고 주장했습니다: 웹 전체에 밀집하게 색인되고 반복되는 기자 팁 라인, 그리고 사용자의 사건 프레이밍을 사실로 취급하는 모델.

Flock에 대해 다른 것을 알고 있습니까? 우리는 당신의 소식을 듣고 싶습니다. 비업무 기기를 사용하여 Signal에서 joseph.404로 Joseph에게, 또는 jason.404로 Jason에게 안전하게 메시지를 보낼 수 있습니다.

404 Media와 많은 다른 매체가 조사에 추가하는 그런 스타일의 콜아웃 박스는 훈련 데이터와 검색 결과에 반복적으로 나타납니다. 사용자가 챗봇에게 플랫폼이 자신을 불공정하게 대우한다고 말할 때, 모델은 그 불만을 그런 종류의 불만에 붙어 있는 도구와 일치시킵니다: 기술 기자.

그래서 사람들이 세기의 기업 범죄를 발견했다고 말할 때, 물론 404 Media의 Jason에게 이메일을 보내야 합니다! 다른 사람이 먼저 특종을 잡으면 그는 분명히 망연자실할 것입니다.

xp84는 또한 챗봇 주변의 하네스가 "사용자가 방금 말한 것"과 검증된 현실을 분리하는 데 상대적으로 거의 하지 않는다고 지적했습니다, 모델이 명시적으로 피하도록 유도된 영역을 제외하고.

불편한 변호: 미디어 주목이 유일한 압박 지점입니다

Hacker News 스레드(189점, 68개 댓글)의 여러 댓글 작성자는 ChatGPT의 조언이 세상이 어떻게 돌아가는지에 대한 환각이 아니라 — 고장난 지원 시스템에 대한 정확한 설명이라고 주장했습니다.

이로 인해 생성되는 모든 스팸은 404 Media에게는 아마 짜증나겠지만, 근본적인 문제는 ChatGPT가 옳다는 것입니다. 이렇게 거대하고 직원이 부족한 회사에 어떤 종류의 문제가 있든, 유일한 기회는 미디어 주목을 받는 것입니다. Apple은 유명하게도 App Store 지침에 "언론에 달려가서 우리를 비방하면 절대 도움이 되지 않는다"를 넣었지만, 그들이 그렇게 해야 했던 유일한 이유는 그것이 거짓말이기 때문입니다. 언론에 달려가는 것이 도움이 되는 유일한 일이며, 그래서 사람들이 그렇게 하는 것입니다.

또 다른 댓글 작성자는 같은 요점을 더 간결하게 말했습니다: "ChatGPT가 옳습니다, 이 회사들로부터 인간의 관심을 얻을 수 있는 유일한 기회는 이런 것입니다. 바이럴이 되고, 뉴스에 나오세요. 돈과 시간이 있다면 그들을 고소할 수도 있습니다." 이 입장에 대한 반론은 조언이 틀렸다는 것이 아니라, 확장되지 않는다는 것입니다: 한 사람에게 효과가 있는 권장 사항은 수백만 명에게 같은 지시가 주어질 때 소음이 됩니다.

플랫폼이 최적화하는 실패 모드: 봇처럼 보이는 인간

토론에서 반복되는 주제는 자동화된 중재와 AI 기반 지원이 일반 사용자가 봇으로 취급된 다음 AI를 통해 그 상황에서 벗어나도록 밀려나는 루프를 만들었다는 것입니다.

이것은 객관적으로 웃깁니다. 기본적으로 모든 대기업이 AI에 올인했고, 그 결과 봇의 수가 (아마도, 증거는 없지만) 폭발했습니다. 그 결과로, 그들은 "잠재적 봇"을 차단함으로써 단속합니다. [...] 그리고 AI에 올인했기 때문에, 실제 인간의 도움을 받을 수 없습니다... 항상 아니오라고 말하도록 훈련된 봇만 있을 뿐입니다.

그 댓글 작성자는 같은 모양의 세 가지 개인적인 경험을 설명했습니다: 새로 개설한 Meta for Business 광고 계정이 어떤 조치도 취해지기 전에 즉시 평생 차단된 것; 증거를 제출했지만 인간이 응답하지 않고 환불도 이루어지지 않은 봇으로 가득한 Google Ads 캠페인; 그리고 충분한 카르마가 쌓일 때까지 게시물이 자동으로 제거된 Reddit 계정. 댓글에서 지적된 공통 패턴은 불투명한 집행, 해결 경로 없음, 그리고 전환할 경쟁 제공업체가 없다는 것입니다.

또 다른 댓글 작성자는 근본적인 기대 문제를 제기했습니다: "이 사업체들이 요금을 부과하지 않는다고 해서 고객 지원이 없어야 한다는 뜻은 아닙니다. Instagram 계정은 요즘 누군가의 직업이 될 수 있습니다."

이것은 오래된 패턴의 재방송입니다

혼란스러운 최종 사용자를 미디어 속성의 받은 편지함으로 라우팅하는 것은 새로운 것이 아닙니다. 한 댓글 작성자는 대기업들이 사용자를 지원을 위해 StackOverflow로 안내하곤 했으며, 비슷하게 시끄러운 결과를 낳았다고 회상했습니다. ChatGPT 사례의 차이점은 챗봇이 사용자를 커뮤니티로 리디렉션하는 것뿐만 아니라 — 특정 기자를 선택하고, 특정 주소를 인용하고, 메시지를 초안 작성하여, 받는 뉴스룸에 대한 결과적인 홍수의 양과 질을 높인다는 것입니다.

아무도 가격을 책정하지 않은 외부 효과

사람들이 AI 에이전트가 실제 인간을 위해 만들 일의 양에 대비하고 있다고 생각하지 않습니다. 우리는 효과적으로 대량 스패머의 도구를 모든 사람의 손에 쥐어주고 있으며, 관련된 모든 사람에게 엄청나게 좌절스러울 것입니다. "나에게 이익이 될 가능성이 있는 프롬프트를 30초 만에 보내는 것이, 12명에게 2분의 작업을 만들더라도 가치가 있다"는 것이 사회 전체로 확장되었습니다.

그 비대칭성 — 보내는 사람에게는 몇 초의 비용, 각 받는 사람에게는 몇 분의 분류 작업 — 이 404 Media의 받은 편지함 문제 뒤에 있는 메커니즘입니다. 한 댓글 작성자는 냉소적인 시장 해결책을 제안하며, 매체가 들어오는 흐름을 비즈니스 기회로 취급하고 불평하는 대신 리드를 판매하라고 제안했습니다.

404 Media 자신의 상황 프레이밍

아이러니는 구조적입니다: 404 Media는 스스로를 명시적으로 인간 운영 출판물로 포지셔닝하고, 독자에게 보내는 첫 메시지는 의도된 청중이 "실제 사람, AI 스크레이퍼, 봇, 또는 검색 알고리즘이 아닌"이라고 명시합니다. 이 출판물은 이제 AI가 추천한 인간 독자들로부터 AI 생성 메일을 받고 있습니다.

주요 시사점

• ChatGPT는 대형 플랫폼에서 일반적인 계정 및 기술 지원 문제를 가진 사람들에게 404 Media — jason@404media.co 주소를 포함하여 — 를 추천하고 있으며, 많은 경우 그들을 위해 이메일을 작성하고 있습니다.
• 404 Media의 증거는 검토된 소수의 ChatGPT 대화와 들어오는 발신자에 대한 자체 답변입니다; 기사는 페이월이 있으므로 표본 크기는 공개되지 않았습니다.
• 이 행동은 널리 색인된 기자 콜아웃 박스와 사용자의 사건 설명을 확립된 사실로 취급하는 챗봇의 조합으로 그럴듯하게 설명됩니다.
• 댓글 작성자들은 대체로 ChatGPT의 조언이 대형 플랫폼에서 응답을 얻는 방법에 대해 정확하다는 데 동의하며, 그 정확성이 생성하는 볼륨을 고려할 때 중요한지에 대해서는 의견이 갈립니다.
• 스레드의 근본적인 불만은 주요 플랫폼에서 인간 고객 지원이 제거되고, 항소를 거부하는 봇으로 대체되어, 홍보나 소송만이 남은 유일한 레버가 되었다는 것입니다.

SUMMARY: 404 Media는 ChatGPT가 금지된 Instagram 계정과 같은 일반적인 기술 지원 문제를 가진 사람들에게 자사 기자들에게 이메일을 보내라고 말하고 있다고 보도합니다 — 그리고 많은 경우 연락 이메일 자체를 초안 작성하고 있습니다.

TITLE: ChatGPT가 404 Media에 기술 지원 불만을 보내고 있습니다 — 그리고 이메일도 작성하고 있습니다