人間には読めるのにAIには別の文字に見えてしまうフォント「Decoy Font」が登場

人間には本来の文章が読める一方で、画像認識AIには別の文章として認識させるフォント「Decoy Font」をフォント開発サービスのMixfontが公開しました。一般的なTTF形式で配布されており、パソコンにインストールして通常のフォントと同じように利用できます。

Decoy Font: A TTF font that hides what you type
https://www.mixfont.com/experiments/decoy-font

イベント画像から日時を読み取ったり、書類のスクリーンショットから文章を抽出したりできるように、AIの文字認識能力は大きく向上しています。一方で、人間だけに見せたい文章や無断収集されたくないコンテンツまで機械的に読み取られる可能性があり、AIによる自動収集から情報を守る手法への関心が高まっています。

Decoy Fontは1つの字形に「人間に読ませる文字」と「AIに読ませるおとりの文字」を重ねることで、人間とAIに異なる文章を見せます。近くで見ると細い輪郭で描かれたおとりの文字が目立ちます。

画面から離れたり目を細めたりすると背景に配置された本来の文字が読める仕組みです。

画像認識AIは輪郭が明確な文字を優先しやすいため、本来の文章よりもおとりの文章を読み取りやすいというわけ。MixfontがDecoy Fontを使用した画像をAIに読み取らせたところ、ChatGPTとGeminiは本来の文章ではなくおとりの文章を回答したとのこと。

Decoy Fontは文章全体に適用できるほか、Mixfontのウェブサイトで隠したい文章とおとりの文章を組み合わせ、画像として保存することも可能です。オープンソースフォントのDejaVu Sans Monoを基に作られており、個人利用や商用利用、クライアント向けの制作物で無料利用とのこと。

なお、Decoy Fontは内容を完全に隠せる仕組みではなく、コード実行などの高度な機能を備えたAIや隠し文字を探すよう指示されたAIには本来の文章を読み取られる可能性があるとのこと。MixfontはDecoy Fontについて、CAPTCHAや友人同士のメッセージへの応用に加え、AIの文字認識能力を測る基準として利用する案も挙げています。