당신이 쓰지 않은 것을 읽고 싶지 않다 – 왜 AI 생성 텍스트는 소통을 약화시키는가

AI 생성 글쓰기는 읽기 어렵고 역효과를 낳는다

핵심 요약: AI가 작성한 설계 문서, PR 요약, 이메일은 종종 빽빽하고 맥락이 없으며 독자에게 부담을 주어 협업을 해친다.

저자들은 이미 구현한 작업을 후에 AI로 요약하려고 하며, 설계 문서를 관점과 합의 형성을 고려하지 않은 기계적 보고서로 전환한다.
LLM이 생성한 풀리퀘스트 설명은 모든 변경 사항을 나열하지만 위험도, 긴급도, 리뷰어의 입력이 필요한 부분을 표시하지 않아 리뷰어가 우선순위를 정하기 어렵게 만든다.
AI로 작성한 개인 메시지는 무감각하고 단절된 느낌을 주며, 발화자의 목소리와 감정적 뉘앙스를 상실한다.
저자는 시몬 사리스의 말을 인용한다: "자신의 경험을 가능한 한 많이 쓰라… 독자에게 삶이나 사건에 대한 자신의 해석을 전하라." 이는 진정성 있는 인간의 글쓰기 가치를 강조한다.

"나는 자신의 경험과 감각을 가능한 한 많이 사용해 글을 쓰는 것이 좋다고 생각한다. 독자에게 삶이나 사건에 대한 자신의 해석을 전달해야 한다." – 시몬 사리스, Resist Summary

독자는 프롬프트 엔지니어가 가진 맥락을 갖지 못한다

핵심 요약: 인간이 AI를 사용해 글을 쓸 때는 프롬프트 맥락을 유지하지만, 그 출력물을 받는 다른 사람들은 그 맥락을 알 수 없어 전체 텍스트를 읽어야만 이해할 수 있다.

시시니아 던로프의 설문 조사에 따르면, 개발자의 78%는 AI 생성 가능성이 있는 기사를 읽는 것을 중단하고, 71%는 그 저자와의 관계를 피한다.
브라이언 캔트릴은 이를 "LLM 트리거된 이젝션 핸들"이라고 묘사하며, 문장 중간에 읽기를 중단하게 만든다고 설명한다.
브야르네 스트루스트룹은 독자가 저자의 목소리에 대한 감각이 참여를 위해 필수적이라고 지적하며, AI 재작성 텍스트는 마치 건조하고 학술적인 느낌을 준다고 말한다.
저자의 경험: 저자가 LLM에 프롬프트를 주면 제약 조건을 알고 있으므로 출력물을 스캔할 수 있지만, 동료가 같은 출력물을 받으면 전체를 꼼꼼히 읽어야 하며 종종 포기한다.

AI가 실제로 글쓰기에서 도움이 되는 경우

핵심 요약: AI는 보조 도구로 사용될 때, 검증, 인용, 문법, 개요 요약과 같은 저수준 작업에서 뛰어난 성과를 낸다.

학술 논문에서 저자는 AI를 사용해 소스 코드와 로그를 기반으로 기술적 세부사항(예: 데이터베이스 인덱싱, Parquet 정렬)을 검증하여 인간 리뷰어가 놓친 오류를 발견했다.
AI는 BibTeX 인용을 자동으로 채워 넣어 글쓰기 흐름을 방해하지 않으면서 시간을 절약했다.
LLM의 문법 및 스타일 제안은 가독성을 향상시켰고, 모델은 완벽한 초록을 생성했으며, 이는 요약에 적합한 작업이었다.
AI가 그린 TikZ 다이어그램은 그림 생성을 가속화했다.

"AI는 정말 놀라울 정도로 정교했고, 사실상 냉혹하게 철자와 문법 오류를 찾아냈다… 내가 한 문단에서 잘못된 표기법을 사용한 아주 미묘한 실수도 발견했고, 이는 네 명의 인간 리뷰어가 놓친 부분이었다."

현재 LLM의 한계와 개선 가능성

핵심 요약: LLM은 공감 능력, 독자의 정신 모델, 개인적 이해가 부족해 진정으로 공감을 불러일으키는 글쓰기를 할 수 없다.

무라트 데미르바스는 글의 품질이 정체된 이유로 LLM이 다음 단어의 확률을 최적화하는 데 집중하지만 창의적 의도는 고려하지 않는다고 주장한다.
에세이에서는 기술 문서의 명확성을 강제하기 위해 ASD-STE100 단순 기술 영어 표준을 언급하지만, 이는 지침서에만 적합하다.
Oxide에서 Pangram이라는 AI 생성 텍스트를 탐지하도록 미세 조정된 모델이 도입되어 공개 글쓰기에 대해 "인간이 작성한" 계약을 강제하고 있다.

"LLM은 특정 인간 독자의 능동적인 정신 모델이 없기 때문에, 단지 다음 단어의 통계적 확률을 최적화할 뿐이다… 인간 독자에 대한 공감 능력은 없으며, 인간의 삶의 경험도 갖지 못한다." – 무라트 데미르바스

인간적 요소: 목소리, 불확실성, 서사

핵심 요약: 진정성 있는 글쓰기는 AI가 재현할 수 없는 불확실성, 개성, 서사 깊이를 전달한다.

아이언 맥길크리스트는 중요한 개념이 언어로 축소되는 것을 거부한다고 주장하며, AI 생성된 "세부 사항"은 진정한 이해 없이 의미의 환상만 만들어 낸다고 말한다.
시몬 사리스는 "서사는 압축에 저항한다" 고 강조하며, 세부 사항에 주목하는 것은 요약과 정반대라고 말한다.
HN의 댓글들은 이와 유사한 감정을 반복한다: 많은 사용자들은 AI로 채워진 PR, 티켓, 에세이를 읽는 것을 거부하며, 완벽하지 않더라도 원시적인 인간의 사고를 선호한다.

"글을 쓸 때, 우리의 말의 의미는 항상 직접적이거나 사실적이거나 간결한 것은 아니다… 전체는 부분으로 분해될 수 없으며, 그 과정에서 의미의 상당한 손실이 발생한다." – 아이언 맥길크리스트

커뮤니티 반응과 실용적인 대안

핵심 요약: Hacker News 토론은 AI 생성 텍스트의 소음 문제를 완화하면서도 유용한 보조 기능을 유지하는 구체적인 전략을 제시한다.

프리앰블 섹션: 한 사용자는 PR에 반드시 인간이 작성한 "AI;DR" 프리앰블을 추가하여 위험도와 리뷰 초점을 요약한다.
인간 전용 TL;DR: 다른 사용자들은 TL;DR 섹션을 AI에서 벗어나 고위도 의도를 전달하기 위해 유지하길 제안한다.
쌍방향 리뷰: 동기화된 PR 리뷰를 통해 인간의 맥락을 회복하고, AI 요약에서 놓친 실수를 포착할 수 있다.
ASD-STE100 프롬프트: 팀들은 에이전트 프롬프트를 조정해 단순 기술 영어로 출력되도록 하여 기술 텍스트의 가독성을 높였다.
선택적 프롬프팅: 일부 사용자는 신중하게 구성된 프롬프트를 통해 읽기 쉬운 AI 출력물을 얻을 수 있지만, 여전히 자신의 목소리를 유지하기 위해 편집한다.
경계 설정: 여러 댓글은 동료에게 "LLM이 아닌 버전"을 요청하도록 명시적으로 요청하는 것을 권장하며, AI 사용에 대한 문화적 규범을 세운다.

"나는 동료들에게 정직하게 그들의 'slop sagas'에 대한 LLM이 아닌 버전을 보내달라고 요청한다. 처음에는 다소 어색할 수 있지만, 지속적으로 인간의 글을 요청하는 것은 나에게 효과가 있다." – HN 사용자

결론: 인간의 목소리를 지키고, AI는 도구로 사용하라, 대체로 사용하지 마라

핵심 요약: 소통의 효과를 유지하기 위해, AI는 반복적이고 검증, 형식 작업을 처리하게 하고, 서사, 맥락, 목소리는 인간이 유지해야 한다.

에세이의 마지막 호소: "나는 당신이 중요한 것을 읽기 어려운 텍스트로 요약한 후, 내가 그것을 해독하려고 AI를 사용하는 세상에서 살고 싶지 않다. 나는 당신의 목소리, 완벽하지 않은 모습까지 듣고 싶다."
AI가 점점 더 보편화되면서, 생각하고 창조하며 공유하기 위해 쓰는 의도적인 글쓰기는 더욱 가치를 가지게 될 것이며, AI 생성된 '잡음'의 폭주를 읽는 이들이 진정한 인간의 표현을 요구함으로써 필터링될 것이다.

토론에서 인용된 주요 문장들

"누군가가 직접 글을 쓰는 데 시간을 들일 가치가 없다면, 나도 그것을 읽는 데 시간을 들일 가치가 없다." – HN 사용자

"이런 문서를 읽는 것은 단순히 어렵다는 것이 아니라, 고통스럽다." – 여러 사용자가 문제를 간결하게 요약하며 반복

"설계 문서는 더 이상 합의를 형성하기 위한 제안이 아니다… 기계가 맥락 없이, 지나치게 자세하게 작성한 요약일 뿐이다." – 저자의 AI 생성 설계 문서 비판

"나는 누군가가 자신을 그대로 보여주고, 자신의 목소리로 쓰거나, 약간의 열정을 가지고 쓰는 것을 훨씬 선호한다. 단어를 정확히 찾지 못하더라도 말이다." – 저자의 개인적 소통에 대한 견해

"AI;DR" 프리앰블은 인간이 작성한 고위도 개요를 제공함으로써 PR 설명을 구할 수 있다. – 커뮤니티 제안

실무자들을 위한 핵심 요약

LLM을 저수준 보조 도구로 사용하라: 문법 검사, 인용 형식, 다이어그램 생성, 사실 검증.
서사, 위험 평가, 리뷰어 안내는 인간이 작성한 섹션으로 유지하라.
기술 문서의 명확성을 강제하기 위해 ASD-STE100과 같은 표준을 채택하라.
필요 시 인간이 작성한 글임을 강제하기 위해 탐지 도구(예: Pangram)를 도입하라.
팀 내에서 중요한 소통에 대해 LLM이 아닌 버전을 요청하는 문화를 정립하라.

AI를 진정한 목소리의 대체가 아니라 협업 보조 도구로 간주함으로써, 엔지니어와 글쓰는 이들은 "읽기 어려운 잡음"의 유행을 피하고, 기술 소통의 효과를 유지하기 위한 인간적 연결을 지킬 수 있다.