Decoy Font: 空間周波数を使用してAIからテキストを隠蔽する

Decoy Font: 空間周波数を使用してAIからテキストを隠蔽する

Decoy Fontは空間周波数を利用してAIからメッセージを隠す

Decoy Fontは、同じ視覚空間内に2つの異なるメッセージを埋め込むことで、AIスクレイパーやOCRシステムからテキストを隠蔽するように設計されたTrueType Font (TTF) です。これは空間周波数の概念を利用しています。つまり、細く鋭い輪郭を持つ高周波のフォアグラウンド（デコイ・メッセージ）と、ぼやけた塊で構成される低周波のバックグラウンド（隠されたメッセージ）を組み合わせる手法です。

ほとんどのAIビジョンモデルは、非常に詳細なレベルでピクセルを処理するため、通常は鋭いフォアグラウンドの輪郭を優先します。その結果、AIはデコイ・テキストを読み取ってしまいますが、人間は目を細めたり、画面を遠くから見たりすることで、隠されたメッセージを見つけ出すことができます。

ハイブリッド画像による技術的実装

このフォントは、「ハイブリッド画像」の背後にある技術を用いて構築されています。これは、一方の画像にハイパスフィルタを適用し、もう一方にローパスフィルタを適用することで2つの画像を合成する、よく研究されている錯視の一種です。

  • High-Frequency Components: これらはデコイ・テキストの鋭いエッジを形成し、標準的なOCRやAI画像分析の主要な対象となります。
  • Low-Frequency Components: これらは隠されたメッセージのぼやけた形状を形成し、高周波の詳細がフィルタリングされたとき（例：目を細める、または距離を置くなど）に人間の目に見えるようになります。

Decoy FontはDejaVu Sans Monoから派生しており、個人利用および商用利用が可能な無料のTTFファイルとして提供されています。アニメーションを必要とするGhost Fontのような他の対AI実験とは異なり、Decoy Fontは標準的なテキストエディタにインストールして使用できる静的なフォントファイルとして機能します。

有効性とAIのパフォーマンス

開発者は、Decoy FontがGPT-4やGeminiのような最先端モデルを混乱させることができると述べていますが、コミュニティのテストと議論により、その有効性についてはより微妙な状況が明らかになっています。

AIの成功率と失敗率

  • 初期の失敗: 多くのユーザーが、単一の画像が提示された際、LLMはデコイ・テキストに集中し、隠されたメッセージの読み取りに最初は失敗すると報告しています。
  • プロンプトによる発見: 一部のユーザーは、ヒント（例：「2つ目の隠されたテキストがあります」）を追加することで、高度なモデルが隠されたメッセージを特定できることを発見しました。あるユーザーは、隠されたテキストを探すように具体的に指示された場合、「GPT 5.6は理解し、Geminiは部分的に理解し、Claudeは全く見ることができない」と報告しています。
  • 解像度への依存性: AIが隠されたメッセージを読み取る能力は、画像の解像度（スケーリング）に依存する可能性があります。あるユーザーは、Gemma E4Bが、画像が150x150にリサイズされるまで鋭いテキストを読み取り、その時点で別のテキストを読み取るようになったと指摘しています。

脆弱性

技術的なユーザーは、このフォントが万全のセキュリティ対策ではないことを指摘しています。いくつかの対抗策が提案されています。

  • Image Processing: 単純な PIL (Python Imaging Library) スクリプトや ImageMagick のコマンド（例：magick download.png -morphology Close disk:6 output.png）を使用して、隠されたメッセージを分離することができます。
  • Agentic Capabilities: コーディング能力を持つモデルや強力なエージェントを使用するモデルは、プログラム的に画像を分析して、視覚的な錯視を回避することができます。

コミュニティの洞察と批判

Hacker Newsのユーザーは、このフォントのフォントの有用性とアクセシビリティについて、いくつかの視覚点を提供しました。

"Is it useful? No. Does it stop AI from reading it? Also no. But is it cool? Yes, it is very cool."

アクセシビリティと使いやすさに関する懸念

  • Screen Readers: このようなフォントは、スクリーンリーダーを利用するユーザーの体験を著しく阻害する懸念があります。

  • Visual Impairment: 視覚障害を持つユーザーや、眼鏡を使用しているユーザーにとって、混乱が生じる可能性が高くなります。焦点が視覚の質によって変化するためです。

  • Dark Mode: 一部のユーザーは、背景が白か黒かによってテキストの視認性が変化し、ポテンシャルとして両方のメッセージの可読性にも影響を与える可能性があると指摘しています。

概念的な価値

一部のユーザーは、このプロジェクトをデジタルアートの一種として捉えており、AIスクレイピングに対する「戦い」は象徴的なジェスチャーであると主張しています。また、中国語のような文字ベースの言語にこの技術を技術を拡張することを提案する人もいます。文字のサイズが均一であるため、メッセージを隠すことがより効果的になる可能性があるからです。

Sources