Decoy Font: 공간 주파수를 이용한 AI 텍스트 은폐

Decoy Font: 공간 주파수를 이용한 AI 텍스트 은폐

Decoy Font는 공간 주파수를 활용해 AI로부터 메시지를 숨깁니다

Decoy Font는 동일한 시각 공간 안에 두 개의 서로 다른 메시지를 삽입하여 AI 스크레이퍼와 OCR 시스템으로부터 텍스트를 은폐하도록 설계된 TrueType Font(TTF)입니다. 이는 공간 주파수 개념을 활용합니다: 얇고 선명한 윤곽선(속임수 메시지)을 가진 고주파 전경과 흐릿한 덩어리(숨겨진 메시지)로 구성된 저주파 배경.

대부분의 AI 비전 모델은 픽셀을 높은 수준의 디테일로 처리하기 때문에 일반적으로 선명한 전경 윤곽선을 우선시합니다. 따라서 AI는 속임수 텍스트를 읽게 되고, 사람은 눈을 가늘게 뜨거나 화면을 멀리서 보면 숨겨진 메시지를 확인할 수 있습니다.

하이브리드 이미지 방식을 통한 기술 구현

이 폰트는 "하이브리드 이미지" 뒤에 있는 기술을 사용해 제작되었습니다. 하이브리드 이미지는 한 이미지에 고역통과 필터를, 다른 이미지에 저역통과 필터를 적용해 두 이미지를 결합하는 잘 연구된 착시 현상입니다.

  • 고주파 성분: 이는 속임수 텍스트의 선명한 가장자리를 형성하며, 표준 OCR 및 AI 이미지 분석의 주요 대상이 됩니다.
  • 저주파 성분: 이는 숨겨진 메시지의 흐릿한 형태를 형성하며, 고주파 디테일이 필터링될 때(예: 눈을 가늘게 뜨거나 거리를 두고 볼 때) 인간의 눈에 보이게 됩니다.

Decoy Font는 DejaVu Sans Mono에서 파생되었으며, 개인 및 상업적 용도로 무료 TTF 파일 형태로 제공됩니다. 애니메이션이 필요한 Ghost Font와 달리, Decoy Font는 정적 폰트 파일로 표준 텍스트 편집기에서 설치·사용할 수 있습니다.

효과와 AI 성능

제작자는 Decoy Font가 GPT-4와 Gemini 같은 최첨단 모델을 혼란스럽게 할 수 있다고 주장하지만, 커뮤니티 테스트와 논의를 통해 그 효과는 보다 미묘한 것으로 드러났습니다:

AI 성공 및 실패 비율

  • 초기 실패: 많은 사용자가 단일 이미지에 대해 LLM이 숨겨진 메시지를 읽지 못하고 대신 속임수 텍스트에 집중한다고 보고했습니다.
  • 프롬프트 기반 발견: 일부 사용자는 힌트(예: "두 번째 숨겨진 텍스트가 있습니다")를 추가하면 고급 모델이 숨겨진 메시지를 식별한다는 것을 발견했습니다. 한 사용자는 "GPT 5.6은 알아내고, Gemini는 부분적으로 알아내며, Claude는 전혀 볼 수 없습니다"라고 특정히 숨겨진 텍스트를 찾도록 프롬프트했을 때 언급했습니다.
  • 해상도 의존성: AI가 숨겨진 메시지를 읽는 능력은 이미지 스케일링에 따라 달라질 수 있습니다. 한 사용자는 Gemma E4B가 이미지가 150x150으로 축소될 때까지는 선명한 텍스트를 읽고, 그 이후에는 다른 텍스트를 읽는다고 언급했습니다.

취약점

기술 사용자들은 이 폰트가 완벽한 보안 수단이 아니라고 지적했습니다. 여러 대응책이 제시되었습니다:

  • 이미지 처리: 간단한 PIL(Python Imaging Library) 스크립트나 ImageMagick 명령(예: magick download.png -morphology Close disk:6 output.png)을 사용해 숨겨진 메시지를 분리할 수 있습니다.
  • 에이전트 기능: 코딩 능력이 있거나 강력한 에이전트를 사용하는 모델은 프로그래밍적으로 이미지를 분석해 시각적 착시를 우회할 수 있습니다.

커뮤니티 인사이트와 비판

Hacker News 사용자들은 폰트의 유용성과 접근성에 대해 여러 관점을 제시했습니다:

"유용한가요? 아니요. AI가 읽는 것을 막나요? 역시 아니요. 하지만 멋진가요? 네, 매우 멋집니다."

접근성 및 사용성 우려

  • 스크린 리더: 이러한 폰트는 스크린 리더에 의존하는 사용자 경험을 크게 방해할 수 있다는 우려가 있습니다.
  • 시각 장애: 시각 장애가 있거나 안경을 착용하는 사용자는 초점이 시력 품질에 따라 변하기 때문에 혼란이 크게 발생할 수 있습니다.
  • 다크 모드: 일부 사용자는 배경이 흰색인지 어두운 색인지에 따라 텍스트 가시성이 달라져 두 메시지 모두의 가독성에 영향을 줄 수 있다고 지적했습니다.

개념적 가치

일부는 이 프로젝트를 보안 도구라기보다 디지털 아트 작품으로 보고, AI 스크레이핑에 맞서는 노력은 상징적인 제스처에 불과하다고 주장합니다. 다른 사람들은 한자와 같이 문자 크기가 균일한 언어에 이 기술을 확장하면 메시지를 숨기는 효과가 더욱 높아질 수 있다고 제안했습니다.

요약: Decoy Font는 하이브리드 이미지 기법을 이용해 거리와 시점에 따라 다른 메시지를 표시하는 TTF 폰트로, 고주파 전경 디테일을 우선시함으로써 AI OCR 시스템을 속이고 저주파 숨겨진 메시지를 인간에게만 보이게 합니다.

제목: Decoy Font: 공간 주파수를 이용한 AI 텍스트 은폐

Sources