Rich Hickey가 AI가 도구가 아닌 자동화인 이유에 대해

도구와 자동화의 구분

Clojure의 창시자인 Rich Hickey는 대규모 언어 모델(LLM)을 "도구"로 규정하는 일반적인 표현이 근본적인 범주 오류라고 주장합니다. 그는 도구는 전문성, 지속적인 지시, 감각적 피드백을 요구하는 도구인 반면, LLM은 자동화, 즉 사용자를 기본 프로세스에서 멀어지게 하면서 독립적으로 작업을 수행하는 시스템으로 기능한다고 말합니다.

도구의 정의

Hickey는 도구를 개인이 "휘두르는" 것, 즉 직접적인 통제, 의도, 신체적 또는 지적 참여를 요구하는 프로세스로 정의합니다. 진정한 도구는 특정한 속성을 지닙니다:

• 예측 가능성과 신뢰성: 결정론적이며 제한된 매개변수 내에서 작동합니다.
• 기술 습득: 도구를 사용하면 전문성이 쌓입니다. 도구를 휘두르는 행위는 사용자에게 작업의 물리, 논리, 본질을 가르치는 피드백을 제공합니다.
• 친밀성: 사용자는 출력에 대해 지속적인 방향을 유지합니다.

이 프레임워크에서 도구는 사용자 행위성의 확장입니다. 도구를 사용할 때 작업을 수행하는 것은 사용자이며, 도구는 단지 작업이 실행되는 매개체일 뿐입니다.

LLM을 자동화로 간주

반대로 Hickey는 LLM을 자동화로 분류합니다. 그는 LLM을 패스트푸드 드라이브스루에 비유합니다. 요리를 피하도록 설계된 시스템이지 요리를 돕는 도구가 아니라는 것입니다. LLM을 사용하여 코드를 작성하거나 텍스트를 요약할 때 사용자는 실제 작업을 기계에 위임합니다.

이러한 방식의 전환은 여러 가지 손실을 초래합니다:

• 학습의 손실: 쓰기나 읽기의 어려움을 우회함으로써 사용자는 비판적 사고, 논증 구조, 도메인별 지식을 개발할 기회를 놓칩니다.
• 통제의 손실: 사용자는 요청을 하지만 모델은 스스로 행동합니다. 이 "요청/자동화 주기"는 진정한 숙달에 필요한 지속적이고 세밀한 피드백 루프가 부족합니다.
• 취약성: 사용자는 모델의 현재 반복의 "세부 사항"에 의존하게 되며, 안정적이고 반복 가능한 기술 세트를 구축하는 대신 시스템을 속이기 위해 "주문" 프롬프트에 의존하는 경우가 많습니다.

커뮤니티 관점

Hickey의 입장을 둘러싼 논의는 AI를 변혁적 유틸리티로 보는 사람들과 인간의 창작 과정을 우선시하는 사람들 사이의 분열을 드러냅니다.

• 구분에 대한 지지: 많은 댓글 작성자는 "그냥 도구일 뿐이다"라는 서사가 종종 행위성의 상실을 모호하게 만든다는 데 동의합니다. 지지자들은 사용자가 생성되는 코드나 텍스트의 근본적인 아이디어를 이해하지 못한다면 실제로 작업을 수행한 것이 아니며, 따라서 "사소하게 대체 가능"하다고 주장합니다.
• 정의에 대한 비판: 비판자들은 Hickey의 정의가 지나치게 좁거나 현학적이라고 주장합니다. 일부는 도구가 "도구성"에서 "에이전트적 행동"에 이르는 스펙트럼에 존재한다고 제안합니다. 한 댓글 작성자는 "도구는 궁극적으로 손이 아니라 마음에 의해 휘둘린다"고 말하며, 복잡하고 비결정론적인 시스템도 생산적인 작업 흐름에 통합될 수 있다고 제안했습니다. 다른 이들은 전동 톱과 같은 전통적인 도구도 위험하거나 예측 불가능할 수 있지만 여전히 도구로 간주된다고 지적했습니다.
• 실용적 관점: 일부 실무자들은 학습에 대한 Hickey의 우려의 타당성을 인정하면서도 상용구나 반복적인 작업에 LLM을 사용하는 경제적 효율성이 순긍정적이라고 주장합니다. 그들은 LLM을 중심으로 구축된 "하네스" 또는 작업 흐름 자체가 모델의 내부 생성이 자동화되어 있더라도 도구로 간주될 수 있다고 제안합니다.

SUMMARY: Rich Hickey는 대규모 언어 모델이 전통적인 도구 사용에 내재된 통제, 피드백, 기술 구축이 부족하기 때문에 도구가 아닌 자동화로 분류되어야 한다고 주장합니다.

TITLE: Rich Hickey가 AI가 도구가 아닌 자동화인 이유에 대해