ChatGPTが書いた文章を99.9％の精度で検出できる技術をOpenAIが開発している、AIで宿題をこなす学生への対抗策か？

さまざまな質問に対して精度の高い回答を出力してくれる生成AIの登場により、学生がAIを使って課題をこなす可能性が問題視されています。こういった問題に対処するため、チャットAIのChatGPTを開発するOpenAIは、ChatGPTを使って書かれた文章を99.9％の精度で検出することができるツールを開発していることがウォール・ストリート・ジャーナルの報道により明らかになりました。

Exclusive | There’s a Tool to Catch Students Cheating With ChatGPT. OpenAI Hasn’t Released It. - WSJ
https://www.wsj.com/tech/ai/openai-tool-chatgpt-cheating-writing-135b755a

OpenAI says it’s taking a ‘deliberate approach’ to releasing tools that can detect writing from ChatGPT | TechCrunch
https://techcrunch.com/2024/08/04/openai-says-its-taking-a-deliberate-approach-to-releasing-tools-that-can-detect-writing-from-chatgpt/

ChatGPTのような高精度な文章を出力することができる生成AIの登場に伴い、文章作成をAIに丸投げする人が増えています。2023年1月時点でアメリカのスタンフォード大学の学生のうち、およそ17％が「課題または試験にChatGPTを使用している」ことも明らかになっており、こういった問題に対処するためAIが作成した文章を検出するツールが開発されています。

ChatGPTの開発元であるOpenAIも、2023年1月にAI生成テキストを検出するためのツールである「AI Text Classifier」を発表しています。

OpenAIが「AIで書かれた文章」を見抜くツールをリリース - GIGAZINE

しかし、AI生成テキスト検出ツールは英語を母語としない人が書いた文章を「AIにより作成されたもの」と誤検知してしまうことが指摘されています。

英語を母語としない人が書いた文章が「AIにより作成されたもの」と誤検知されている - GIGAZINE

AI生成コンテンツを検出するためのツールがAIを使用していない人のコンテンツをAI生成コンテンツと誤検知し、不正行為のぬれぎぬを着せてしまう事例も報告されています。

「AI検出器」が罪のない作家に不正行為のぬれぎぬを着せて生活を破壊したケースもあるという警告 - GIGAZINE

そこで、OpenAIは従来のAI生成テキスト検出テクノロジーとは根本的に異なる、「テキストに透かしを入れることでChatGPTで作成された文章を検出する」という技術を開発していることが、ウォール・ストリート・ジャーナルの報道により明らかになっています。これはChatGPTが単語を選択する方法に小さな変更を加えるだけで実現する模様。基本的には、ChatGPTの出力に目に見えない透かしを追加し、後で専用ツールで検出できるようにするというもので、検出精度は99.9％と非常に高いそうです。

ウォール・ストリート・ジャーナルの報道後、OpenAIは同社による「AI生成コンテンツを検出する技術に関する研究」を伝えるブログ記事を更新し、開発中のテキスト透かし技術について説明しました。

Understanding the source of what we see and hear online | OpenAI
https://openai.com/index/understanding-the-source-of-what-we-see-and-hear-online/

OpenAIによると、テキスト透かしはこれまでAI生成テキストを検出するために採用されてきた「言い換えなどの局所的な改ざん」に対して効果的であることが実証されているそうです。ただし、翻訳システムを使用したり、別の生成モデルを用いて言い換えを行ったり、モデルに各単語の間に特殊文字を挿入してからその文字を削除するように要求したりする改ざんに対しては、それほど堅牢ではないそうです。

そのため、OpenAIによるとテキスト透かしは「悪意のある人物によって簡単に回避される」可能性がある模様。加えて、英語を母国語としない人々がChatGPTを執筆作業で利用しているケースが多くあるため、そういったユーザーの作成した文書が「ゼロからAIが作成したもの」であるという誤解を与えてしまう可能性もあると危惧しています。

OpenAIの広報担当者はテクノロジーメディアのTechCrunchに対し、ウォール・ストリート・ジャーナルが報じたAIを使って作成した文章を99.9％の精度で検出することができるテキスト透かし技術を開発していることを認めています。ただし、「我々が開発中のテキスト透かし手法は技術的には有望ですが、悪意のある人物による回避の可能性や、非英語話者のようなグループに不利益を被る可能性があります」と述べ、ツールのリリースには慎重な姿勢を取っていることを明確にしています。