AI 방지 글꼴: 왜 오염이 무의미하고 해로운가

현대 AI에 대한 AI 방지 글꼴은 본질적으로 무력하다

AI 방지 글꼴—예를 들어 Decoy, Shield, Ghost 글꼴—은 텍스트를 오염시키거나 뒤섞음으로써 AI 크롤링을 막으려는 시도를 한다. 그러나 인간이 시각적으로 정보를 해석할 수 있다면, 다모달 AI 모델도 결국 같은 일을 할 수 있도록 훈련될 수 있다.

새로운 오염 기법은 대부분 AI 기업들에게는 벤치마크로 작용하며, 장벽을 우회할 수 있는 해결책을 개발하라는 도전을 제기한다. 한 방법이 널리 사용되기 시작하면, AI 기업들이 이를 깨는 데 우선순위를 두게 되어 해당 기법은 곧 시대에 뒤떨어진다. 게다가 AI 시스템은 이미 사람이 읽기 어려운 손글씨를 해독하는 능력을 보여왔으며, 이는 시각적 오염이 최전방 모델에게는 낮은 기준임을 시사한다.

오염은 중요한 접근성 장벽을 만든다

비정상적인 글꼴을 사용하면 스크린 리더 등 접근성 도구에 즉각적인 문제가 발생한다. 텍스트가 시각적으로 오염되면, 이러한 도구가 분석하는 기반이 되는 데이터도 종종 오염되어 시각 장애를 가진 사용자에게 접근이 차단된다.

일부 프로젝트, 예를 들어 ShieldFont는 aria-hidden="true"를 사용하고 스크린 리더를 위한 진짜 텍스트를 보여주기 위해 계산이 많은 자바스크립트 퍼즐을 요구함으로써 이 문제를 완화하려는 시도를 한다. 그러나 이는 새로운 위험을 초래한다:

• 중앙 집중식 검증: 장애인을 위한 메타데이터에 대한 선택적 접근을 해결하려는 시도는 중앙 집중식 신원 검증 시스템을 통한 콘텐츠 필터링으로 이어질 수 있다.
• 사용자 불편: 퍼즐을 풀거나 처리를 기다려야 하는 요구는 창작자가 보호하려는 사람들에게 경험을 저해한다.

'게이트'가 된 웹의 위험

오염을 통한 '고양이와 쥐' 게임에 참여하는 것은 개방적인 웹을 분할되고 계산 비용이 큰 환경으로 전환할 위험을 내포한다. 만약 널리 퍼진 오염이 일반화된다면, 복잡한 복제 보호 시스템, 유료 게이트, 접근 차단 방법이 도입될 가능성이 높다.

이러한 변화는 정보에 대한 자유로운 접근이라는 인터넷의 근본 원칙에서 멀어지게 되며, 콘텐츠를 검열하려는 사람들을 위한 이익이 될 수 있지만, 지적 재산을 보호하려는 사람들을 위한 것은 아니다.

반론과 대안적 관점

이 글꼴의 무의미함에 대한 일반적인 합의에도 불구하고, 일부 개발자와 법조인들은 여전히 오염이 가치가 있다고 주장한다.

크롤링 비용 증가

일부는 오염이 암호화는 아니지만, 크롤러에게 '세금'을 부과한다고 주장한다. AI 기업들이 헤드리스 브라우저(예: Chrome)를 실행해 스크린샷을 OCR하거나, LLM 크레딧을 사용해 페이지를 역설계하도록 강제함으로써, 일부 행위자에게 크롤링 비용이 지나치게 높아질 수 있다.

법적 및 전문적 사용 사례

법적 맥락에서, 기계로 읽을 수 있는 설명이 포함된 오염된 문서 버전을 배포하는 것은 일종의 완화 조치가 될 수 있다. 제안된 방법 중 하나는 실시간으로 렌더링되는 글꼴을 사용하고, 잘못되거나 위조된 유니코드 매핑을 보고하여 일부 최전방 LLM의 감시를 피하는 것이다.

'고양이와 쥐' 산업

보안 및 반 cheating 산업과의 비교가 이루어졌으며, 영구적인 해결책은 없지만, 공격자와 방어자 사이의 지속적인 싸움을 관리하는 서비스 기반 산업이 형성된다.

"만약 효과적인 오염 방법이 갑자기 널리 사용되기 시작한다면, 그를 깨는 데에 훨씬 더 높은 우선순위가 두어지게 되어 결국 무용지물이 될 것이다."

결국 콘텐츠 창작자의 기본 시나리오는, 공개된 정보는 네트워크에 접근할 수 있는 권한을 가진 어떤 시스템에도 결국 접근 가능해진다는 점이다. 이로 인해 기술적 오염은 일시적이고 종종 역효과를 낳는 조치가 된다.