Tokenmaxxing: AI 도입 지표가 목표가 될 때

최근 Amazon 직원들에 관한 보고서는 기이한 트렌드를 조명했습니다. 직원들이 생산성을 높이기 위해서가 아니라, 단순히 자신의 AI 활동 지표를 높이기 위해 내부 AI 도구를 사용하여 불필요한 작업과 에이전트를 생성하고 있다는 것입니다. 일부에서 "tokenmaxxing"이라 명명한 이 현상은, 회사가 도구가 실제로 제공하는 가치보다 도구의 도입 측정을 우선시할 때 어떤 일이 발생하는지를 보여주는 교과서적인 사례입니다.

이 트렌드는 단일 기업에 국한되지 않습니다. 기술 산업 전반에 걸쳐, "AI를 통합하라"는 경영진의 명령과 소프트웨어가 실제로 구축되고 유지 관리되는 방식 사이의 실질적인 현실 사이에는 점점 더 큰 긴장이 존재합니다. 사용량 지표가 성과나 혁신의 대리 지표가 될 때, 직원들은 작업의 유용성과 관계없이 지표를 충족시키기 위해 자연스럽게 행동을 변화시킵니다.

Goodhart의 법칙의 발현

이 문제의 핵심에는 Goodhart의 법칙이 있습니다: "측정치가 목표가 되면, 그것은 더 이상 좋은 측정치가 아니게 된다." Amazon 및 기타 FAANG 관련 기업의 경우, 측정치는 종종 "사용된 tokens" 또는 "AI 활동 수준"입니다.

리더십이 리더보드를 만들거나 높은 AI 사용량이 생산성과 연결되어 있다고 암시할 때, 그들은 의도치 않게 낭비를 조장합니다. 한 댓글 작성자가 언급했듯이, 이는 직원들이 정체된 것처럼 보이지 않기 위해 가치 없는 작업에 tokens를 소진하는 압박을 느끼는 초현실적인 환경을 조성합니다:

"제 직장에서도 경영진이 tokens가 만료되기 전에 모두 사용하라고 요구하는 비슷한 사례가 있었습니다. 저는 보통 documentation 작업을 수행하거나 다른 사소한 작업들에 tokens를 소진하기 위해 설정합니다."

이는 "대시보드가 초록색"을 유지하기 위해 아무도 사용할 의도가 없는 코드나 documentation의 체인을 생성하는 데 AI를 사용하는 "투기적 노동"의 순환으로 이어집니다.

"강제 기능" 논쟁

모든 관점이 이 트렌드를 순수하게 파괴적인 것으로만 보지는 않습니다. 일부는 이러한 명령이 주저하는 직원들을 실험으로 밀어붙이는 "강제 기능(forcing function)" 역할을 한다고 주장합니다. 그 논리는 사람들이 도구를 "가지고 놀게" 함으로써—비록 초기 사용 사례가 무의미할지라도—결국 진정한 생산성 향상을 발견하게 될 것이라는 것입니다.

"소프트웨어나 도구 또는 프로세스를 배우는 좋은 방법은 그것을 가지고 노는 것입니다... 명령은 여러 면에서 멍청해 보일 수 있습니다. 하지만 그것은 코딩 이외에 AI로부터 유용한 것이 나올 수 있는지 여부를 발견하는 문제를 강제하게 만듭니다."

하지만, 이 논쟁은 전문적인 엔지니어링의 현실과 충돌합니다. 시니어 개발자에게 단일 CLI command를 수행하는 작업에 LLM을 사용하도록 강제하는 것은 "실험"이 아닙니다. 그것 이는 개발 주기에 마찰을 더하는 비효율성입니다.

1. 환경적 영향

LLM은 계산 비용이 매우 높습니다. "가치 없는 것"에 수백만 개의 tokens를 소진하는 것은 불필요한 에너지 소비와 탄소 배출에 기여합니다. 비평가들은 이를 소련 시대의 고래 고기 할당량 제도와 비교했습니다. 당시 할당량을 채우기 위해 고기가 실제로 필요하거나 소비되는지 여부와 관계없이 고래를 사냥했습니다.

2. 인프라 부하

높은 수준의 인공적인 트래픽은 AI 서비스 자체의 성능을 저하시킬 수 있습니다. 내부적인 "token burning"이 provider(예: Anthropic)의 정당한 사용자 트래픽을 처리하는 능력을 약화시킬 수 있다는 우려가 있습니다. 특히 회사가 해당 provider의 투자자인 경우 더욱 그렇습니다.

3. 문화적 침식

직원들이 시스템을 속이는 것을 권장할 때, 실력주의와 결과물 전달의 문화가 침식됩니다. 이는 실제로 가치를 전달하는 사람들과, 24/7 tokens를 소진하는 스크립트를 실행하여 리더보드에서 "편안하게 1위"를 차지하는 사람들 사이의 격차를를 만듭니다.

결론: "Day 2" 정신의 위험성

끊임없는 혁신과 고객 집착이라는 "Day 1" 철학을 옹호하는 것으로 유명한 Amazon과 같은 기업에게, 내부 지표를 조작하는 방향으로의 전환은 "Day 2"—정체와 프로세스 중심의 쇠퇴로의 전환을처럼 느껴집니다.

목표가 "고객의 문제를 해결하는 것"에서 "AI 사용량 지표를 높이는 것"으로 바뀌면, 회사는 혁신을 멈추고 연기하기 시작한 것입니다. 기술 리더십에 주는 교훈은 명확합니다: 결과물을 장려하고, 활동을 권장하지 마십시오. AI가 진정으로 10x 생산성 향상을 제공한다면, 그 향상은 대시보드상의 높은 token count가 아니라 더 빠른 배포 주기와 더 나성한 제품을 만들 것입니다.