AI 콘텐츠의 균일성: Amazon Slop에서 LLM 패턴 식별

AI 콘텐츠의 균일성: Amazon Slop에서 LLM 패턴 식별

AI 콘텐츠는 패턴 균일성을 통해 식별 가능

대형 언어 모델(LLM)이 인간이 쓴 글과 구별할 수 없을 정도로 텍스트를 생성한다는 믿음과는 달리, AI가 만든 콘텐츠는 개별 단어가 아니라 서로 다른 출력물 전반에 걸쳐 나타나는 특정 습관의 체계적인 반복을 통해 쉽게 식별될 수 있다. 여러 사용자가 동일한 소수의 지배적인 모델에 비슷한 프롬프트를 제공하면, 결과물은 예측 가능한 균일한 패턴으로 수렴한다—이는 흔히 “AI slop”이라고 불리는 현상이다.

“100,000 Whys” 사례 연구

이 균일성의 증거는 Amazon에 넘쳐나는 저품질 논픽션 서적에서 확인할 수 있다. "100,000 whys"를 검색하면 약 150개의 책 표지가 눈에 띄게 유사한 모습을 보여, 동일한 AI 도구와 비슷한 프롬프트를 사용해 생성된 것으로 추정된다.

시각·텍스트 수렴

  • 표지 디자인: 여러 책이 왼쪽 상단에 으르렁거리는 공룡, 빨강‑흰색 만화 로켓, 골든 리트리버, 사자 등 동일한 시각적 모티프를 사용한다.
  • 명명 규칙: 의심스러운 다수의 저자 성이 "Bright"인 책들이 군집을 이룬다(예: Ethan, Nolan, Pamela, Daniel, Thomas, Andrew W., Mayan, Mary, Levi Bright). 또한 "Molly Wonder", "Lucas Thinkwell"와 같은 주제형 이름도 나타난다.
  • 결정론적 출력: 이러한 수렴은 LLM이 준결정적이기 때문에 발생한다; 비슷한 프롬프트는 기능적으로 동일한 출력을 만들어내어 인간 관찰자에게 ‘뭔가 어색함’을 느끼게 하는 대량 생산을 초래한다.

LLM이 균일한 콘텐츠를 만드는 이유

단일 AI 생성 포스트는 영리하거나 인간처럼 보일 수 있지만, 대규모로 콘텐츠를 소비하면 그 패턴은 명백해진다. 이는 여러 기술적·구조적 이유 때문이며, 주요 원인은 다음과 같다:

모델 다양성 제한

인간은 다양한 삶의 경험, 기분, 기술을 글에 반영한다. 반면 대부분의 AI 콘텐츠는 비슷한 데이터셋으로 학습된 소수의 지배적인 모델에 의해 생성된다. 한 관찰자는 이렇게 말했다:

인간에게 1,000권의 책을 쓰게 하면 1,000명의 서로 다른 인간이 필요합니다… 하지만 LLM에게 1,000권을 쓰게 하면 아마도 3~5개의 모델만 사용할 것입니다.

모드 붕괴와 인스트럭션 튜닝

일부 기술 기여자는 이를 "모드 붕괴"라 부른다. 모델이 가능한 인간‑유사 응답 중 극히 일부만 생성하는 현상이다. 이는 인스트럭션 튜닝과 롤아웃 정책에 의해 더욱 악화될 수 있는데, 이 정책들은 모델이 가장 "통계적으로 명백한" 혹은 "안전한" 답변을 제공하도록 최적화한다.

프로그래밍 역설

흥미롭게도, 이러한 균일성은 소프트웨어 엔지니어링에서는 버그가 아니라 기능이다. 프로그래밍에서는 "창의적인" 구현보다 예측 가능하고 명백한 코드가 선호된다. 코드용 모델을 최적화하는 과정에서 자연어 작업에서의 창의적 변이가 무심코 감소했을 가능성이 있다는 이론이 있다.

AI Slop이 정보 생태계에 미치는 영향

자동화된 콘텐츠 생성의 증가는 사용자가 디지털 정보와 물리적 시장과 상호작용하는 방식을 변화시키고 있다.

신뢰 침식

콘텐츠를 생산하는 것이 소비하는 것보다 쉬워짐에 따라 전통적인 온라인 상호작용 모델이 붕괴하고 있다. 이는 무형의 디지털 제품에 대한 회의감을 키우고, 자동화된 콘텐츠를 식별하기 위해 "직감"에 의존하게 만든다.

물리적 시장 침투

AI‑생성 "slop"은 이제 디지털 스토어에만 국한되지 않는다. 보고에 따르면 이러한 책들이 월마트, 타깃 등 대형 오프라인 매장에도 등장하고 있으며, 이는 출판사가 내부 AI 생성으로 선반을 채우려는 시도에 기인할 수 있다.

품질 저하

표지와 제목의 겉보기에 일관된 유사성 외에도, 이러한 자동화된 책들의 실제 내용은 오류가 많아 전문 편집자가 만든 인간 작품과는 뚜렷이 구별된다.

요약: LLM의 준결정적 특성이 ‘AI slop’이라는 인식 가능한 패턴을 어떻게 만들어내는지 분석했으며, 이는 Amazon에서 거의 동일한 어린이 책이 급증한 사례로 보여진다.

제목: AI 콘텐츠의 균일성: Amazon Slop에서 LLM 패턴 식별

Sources