文章生成AI「GPT-3」にハンドルネームを入力したら本名がフルネームで出力されたという報告

AI研究団体のOpenAIが開発した文章生成AI「GPT-3」は人間と見分けが付かないほど自然な文章を生成できることから大きな注目を集めています。そんなGPT-3について「自分のハンドルネームを入力してみたところ、自分の本名を含む文章が生成されてしまった」という恐ろしい経験談がニュース共有サイトのHacker Newsに投稿されました。

Ask HN: GPT-3 reveals my full name – can I do anything? | Hacker News
https://news.ycombinator.com/item?id=31883373

OpenAIが開発したGPT-3は指示された内容に応じて文章を生成するAIで、生成する文章の精度が高いことからMicrosoftのビジネス向けサービスに採用されるなど大きな注目を集めています。一方で、GPT-3はネット上の膨大なテキストをベースにトレーニングされているため、汚い言葉づかいや差別的な内容の文章を生成してしまうという問題も指摘されています。

そんなGPT-3について、Hacker NewsのユーザーであるBoppreH氏が「自分のハンドルネーム(BoppreH)を入力したところ、本名をフルネームで含む文章が生成された」という事例を報告しました。BoppreH氏によると、BoppreH氏の本名は珍しいもので、偶然である可能性は考えづらいとのこと。また、BoppreH氏はネット上で本名を使うことは少なく、詳しく検索しないかぎり本名とハンドルネームを結びつけることは困難だと述べています。

AIによる個人情報漏えいリスクを主張しているのはBoppreH氏だけではありません。例えば2020年には「機械学習の学習データによる個人情報漏えいリスクについて論じた研究論文」が発表されており、GoogleもGPT-3の前身であるGPT-2について個人情報漏えいリスクを指摘したブログ記事を投稿しています。

GoogleやFacebookはプライバシーを侵害するデータの削除要請受付窓口を用意していますが、OpenAIは同様の窓口を用意していないとのこと。BoppreH氏は「個人的には本名が公開されてしまうことは大きな問題ではありません。しかし、AIは私の政治的な思想や性的な興味、13歳の頃の黒歴史なども知っている可能性があります。GDPRが施行された時代において、AIはプライバシーの面で後退しているように感じます」と述べ、AIによってプライバシーが侵害される現状を非難しています。

BoppreH氏の投稿にはAIとプライバシーについて論じるコメントが数多く投稿されており、中には自分の名前を入力した結果「2008年にポーランドに引っ越した」という個人情報が出力されたことを報告するユーザーも現れています。一方、Googleで「BoppreH」を検索した結果、簡単にBoppreH氏の本名にたどり着けたと指摘し、インターネット上で活動する際は極力本名を隠して匿名を保つことを推奨するコメントも投稿されています。