위키백과의 AI 생성 콘텐츠와의 지속적인 싸움

WikiProject AI Cleanup의 부상

위키백과 편집자들은 사이트의 지침을 위반하는 기계 생성 콘텐츠를 식별하고 제거하기 위해 'WikiProject AI Cleanup'이라는 전담 노력을 시작했습니다. 이 프로젝트는 2023년 말, 자원봉사자들이 "stands as a testament"(증거가 되다)나 "rich cultural heritage"(풍부한 문화 유산)와 같은 반복적이고 정형화된 문구, 그리고 "Why is this important?"(왜 이것이 중요한가?) 섹션과 같은 구조적 이상함이 포함된 기사가 급증하는 것을 발견하면서 시작되었습니다. 초기 ChatGPT의 결과물로 쉽게 식별할 수 있었던 이러한 패턴들은 이후 더 정교한 탐지 전략이 필요한 미묘하고 구조적인 형태의 AI 생성 텍스트로 진화했습니다.

탐지 과제와 진화하는 전술

AI 모델이 더욱 발전함에 따라 기계 생성 콘텐츠의 징후는 명백한 상투적 표현에서 '3의 법칙'이나 부정적 병렬 구조와 같은 구조적 패턴으로 변화했습니다. 이제 이러한 콘텐츠를 탐지하려면 텍스트 자체를 넘어선 분석이 필요합니다. 편집자들은 기여 속도와 양을 분석하며, 몇 분 만에 수천 단어를 생성하는 사용자들이 종종 자동화 도구를 사용하고 있다는 점에 주목합니다.

가짜 또는 오해의 소지가 있는 인용문은 여전히 주요 관심사입니다. 검색 증강 생성(RAG) 기술이 완전히 허구인 출처의 빈도를 줄였지만, AI 모델은 실제 출처를 잘못 해석하거나 텍스트에서 주장하는 내용을 뒷받침하지 않는 인용문을 제공하는 경우가 빈번합니다. 이를 해결하기 위해 커뮤니티는 주장과 인용된 출처를 교차 검증하는 AI 기반 검증 도구를 테스트하고 있지만, 이러한 도구는 완벽하지 않으며 주로 1차 필터로 사용됩니다.

위키백과 정체성의 철학적 변화

기술적 과제를 넘어, AI 콘텐츠의 유입은 위키백과의 정체성에 대한 논쟁을 불러일으켰습니다. 많은 기여자는 위키백과가 인간에 의해 작성되었기 때문에 '인터넷의 마지막 좋은 장소'라고 생각합니다. 이러한 상태는 핵심 가치가 되었으며, 일부는 순수하게 인간이 작성한 말뭉치를 유지하는 것이 학습 데이터를 위해 그러한 데이터에 의존하는 AI 기업들에게조차 필수적인 서비스라고 주장합니다.

그러나 플랫폼의 미래에 관해서는 지속적인 긴장이 존재합니다. 현재 정책은 기사 생성에 LLM 사용을 금지하고 있지만, 일부 기여자는 이러한 접근 방식이 지속 가능한지 의문을 제기합니다. 한 댓글 작성자가 언급했듯이, "AI가 저품질 콘텐츠를 생성한다면, 문제는 생산자가 아니라 저품질 그 자체라고 생각합니다." 다른 이들은 AI 도구가 단순히 인간 저자를 대체하는 것이 아니라 정리 과정을 돕거나 독자들이 더 효과적으로 기여할 수 있도록 돕는 등 AI와 위키백과 사이의 공생 관계가 불가피할 수 있다고 제안합니다.

커뮤니티 통찰과 우려

위키백과 커뮤니티 내의 토론은 자동화의 역할에 대한 몇 가지 상충하는 관점을 강조합니다:

• 품질 대 출처: 일부 편집자들은 AI 생성 콘텐츠가 사실적이고 유용하다면 출처보다는 그 가치에 따라 평가되어야 한다고 주장합니다. 반대로 비판자들은 AI 생성 콘텐츠가 종종 수정하기 어려운 미묘한 오류와 서식 문제를 야기한다고 지적합니다.
• '슬롭(Slop)' 문제: 많은 기여자는 저품질 콘텐츠의 엄청난 양에 좌절감을 표하며, 개별 편집이 무해해 보일지라도 누적된 효과가 백과사전의 신뢰성을 저하시킨다고 지적합니다.
• 공생: AI가 엄격한 인간의 감독하에 사용된다면, 잘못된 정보를 자동으로 표시하거나 편집자가 대규모로 인용문을 검증하도록 돕는 등 유지 관리를 위한 강력한 도구가 될 수 있다는 의견이 커지고 있습니다.

위키미디어 재단이 AI 생성 검색 결과에 대한 귀속 프레임워크를 탐색함에 따라, 프로젝트는 접근성의 필요성과 인간이 큐레이팅한 백과사전의 성격을 보존해야 할 필요성 사이에서 균형을 유지하고 있습니다. 프로젝트 멤버들에 따르면 목표는 AI를 완전히 추방하는 것이 아니라, 기계 생성 텍스트가 어디에나 존재하는 시대에 위키백과가 살아있는 인간 편집 프로젝트로 남도록 보장하는 것입니다.