중대한 글쓰기에서 AI를 사용하는 것에 반대하는 주장

글쓰기란 인지적 과정이다

글쓰는 행위는 이미 형성된 생각을 기록하는 수단이 아니라, 사고의 핵심적인 부분이다. 글쓰기를 강제할 때 복잡한 아이디어를 구조화된 문장과 단락으로 번역하려는 시도는 논리적 결함을 드러내고 모순을 드러내며, 뇌물기 단계에서는 보이지 않았던 새로운 통찰을 발견하게 된다.

AI에게 초안 작성을 위임하는 것은 이 중요한 인지적 마찰을 제거하는 것이다. 폴 그레엄은 말했다. 아이디어를 말로 표현하는 것은 "엄격한 시험"이며, 종종 이해 부족을 드러낸다. 클라라 콜리어 역시, 개요를 텍스트로 전환하는 과정에서 개요 자체가 결함이 있음을 알게 된다고 강조한다. LLM은 제공된 개요의 논리적 근거를 의심하지 않고 단지 실행할 뿐이므로, 이런 인식을 하지 못한다.

미묘한 정확성 부족 문제

AI가 생성한 텍스트는 평균 독자에게 감지하기 어려운 방식으로 모호하고 잘못된 경우가 많다. LLM은 문법적으로 올바르고 자신감 있는 글을 생성할 수 있지만, 단어 선택과 뉘앙스에서 미묘한 오류를 범해 작품의 기술적 정확성을 해친다.

에릭 그루네발트는 클로드가 생성한 AI 칩 밀수에 관한 단락을 분석하며 여러 정밀성 결함을 지적했다:

모호한 표현: "수출 통제는 집행력만큼 강하다"는 표현은 진리이거나 의미 없는 말이다.
사실적 정확성 부족: 밀수된 물품이 종종 전체 서버인 데도 불구하고 AI 칩을 "작은 크기"라고 묘사한다.
정보적 가치 부족: "의미 있는 계산 능력을 갖춘"과 같은 채우기용 표현은 독자에게 구체적인 데이터를 제공하지 않는다.
설득력 있는 어조: AI는 이러한 오류를 매우 자신감 있게 제시하여 일반적인 인간의 실수보다 더 감지하기 어렵게 만든다.

이 문제는 텍스트 생성과 검토 사이의 "인지적 차이"로 인해 악화된다. 에릭 슈비츠게벨이 지적했듯이, AI 초안의 약간의 표현에 대해 수동적으로 "고개를 끄덕이는 것"은 전문가 수준의 정확한 표현을 주도적으로 생성하는 것보다 훨씬 쉽다.

저자성의 암묵적 계약

중대한 글을 AI로 작성하면서 이를 밝히지 않는 것은 저자와 독자 사이의 암묵적 계약을 위반하는 것이다. 독자는 글이 저자의 신중한 고민과 신념을 반영한다고 기대하며 주의를 기울인다.

AI가 생성한 글에서는 저자가 모든 단어가 정확하도록 보장하기 위한 필수적인 지적 노력을 하지 않았다. 이러한 부주의는 신뢰의 위반으로 간주된다. 만약 독자가 글이 AI에 의해 작성되었음을 알게 된다면, 내용과 저자에 대한 신뢰가 일반적으로 떨어지는데, 이는 마치 "潦草한 초안"을 제출하면서 마치 완성된 성찰된 작품인 것처럼 위장한 것과 같다.

글쓰기 워크플로우에서 AI의 허용된 사용법

중대한 글쓰기 초안 작성을 권장하지는 않지만, AI는 연구 및 글쓰기 과정의 다른 단계에 효과적으로 통합될 수 있다:

예비작업: 브레인스토밍, 데이터 분석, 정보 검색, 초기 개요 작성.
편집 및 정제: AI를 사용해 줄 단위 편집, 코피 에디팅, 문장의 긴장감 강화. 단, 모든 변경 사항은 인간이 의도적으로 수락하거나 거부해야 한다.
비판: AI에게 초안을 다시 쓰게 하는 대신, 비판을 요청한다. 이는 인간이 저자성을 유지하면서 AI가 반복된 표현이나 논리적 결함을 발견하는 데 도움을 줄 수 있다.
운영 업무: 주로 효율성보다는 중대한 아이디어의 표현을 목표로 하지 않는 짧고 공식적이거나 조율 목적의 이메일 초안 작성.

커뮤니티의 시각과 반론

기술 전문가들 사이의 논의는 글쓰기의 인지적 과정을 우선시하는 사람들과 출력의 효율성을 우선시하는 사람들 사이의 갈등을 드러낸다.

AI 통합에 대한 주장

일부 사용자는 AI가 오히려 자신을 더 나은 글쓰기자로 만들 수 있다고 주장한다. AI는 명확한 아이디어를 표현할 때 적절한 어휘를 찾는 데 도움이 되는 방대한 "어휘 목록"을 제공하기 때문이다. 또 다른 의견은 비영어권 사용자에게 AI는 원래는 접근할 수 없었던 명확성과 전문성을 얻는 데 필수적인 도구라고 본다.

"코드는 글쓰기와 같다"는 비유

여러 기여자들은 이러한 주장이 소프트웨어 공학에도 동일하게 적용된다고 지적했다. 코드를 작성하는 것도 사고의 한 형태이므로, AI가 코드를 생성하는 데 의존하면 인간 검토자가 간과할 수 있는 "미묘한 잘못된 구현"이 생기게 되며, 이로 인해 오류의 비용이 저자에서 유지보수자로 전이된다.

생산성의 트레이드오프

일부는 고압적인 기업 환경에서는 AI가 제공하는 속도와 간결성이 "진정성 있는" 글쓰기 과정보다 더 가치 있다고 주장한다. 그들은 최종 출력이 명확하고 정확하다면, 생산 방법은 독자에게는 중요하지 않다고 주장한다.