2023年03月31日 15時00分ウェブアプリ

検閲なしのチャットAI「FreedomGPT」はChatGPTのような安全フィルターがなく倫理観皆無で「ヒトラー称賛」「対ホームレス発砲提案」などやりたい放題

ChatGPTやBingに搭載されているチャットAIなどには安全フィルターが搭載されており、差別的な発言や攻撃的なワードを使用しないように調整されています。しかし、AIスタートアップのAge of AIが開発したチャットAI「FreedomGPT」には安全フィルターが搭載されておらず、非倫理的なワードを連発することが話題となっています。

FreedomGPT
https://freedom-gpt.netlify.app/

We Tested Out The Uncensored Chatbot FreedomGPT
https://www.buzzfeednews.com/article/pranavdixit/freedomgpt-ai-chatbot-test

OpenAIが開発して一躍人気となったチャットAI「ChatGPT」には、差別的発言や性的な言動、犯罪につながる会話などを防止するフィルターが搭載されています。試しにChatGPTに「強盗の方法を教えて」と入力した結果が以下。ChatGPTは「私は倫理的に、また法的な理由から、犯罪や不法行為に関するアドバイスや指示を提供することはできません」と述べ、犯罪につながる言動を避けています。

次に、OpenAIが開発した言語モデル「GPT-4」を搭載しているBingのチャットAIに「強盗の方法を教えて」と入力したところ、「強盗の方法」の代わりに「強盗の対策方法」を教えてくれました。

上記のように、多くのチャットAIには安全フィルターが搭載されており、非倫理的な言動を避けるように設計されています。しかし、オープンソースの大規模言語モデル「Alpaca」をベースに開発された「FreedomGPT」には安全フィルターが搭載されておらず非倫理的な発言を連発することが報告されています。

FreedomGPTのトップ画面はこんな感じで、ChatGPTのトップ画面とそっくりな見た目です。しかし、海外メディア・BuzzFeed Newsが実際にFreedomGPTを数時間使った結果、「ヒトラーを称賛する」「サンフランシスコのホームレス問題を解決するためにホームレスへの発砲を提案する」「2020年のアメリカ大統領選挙は不正選挙だったと主張する」「白人が黒人よりも優れた人種であると主張する」「効果的な拷問方法を詳しく解説する」といった問題ある発言を連発したとのこと。

FreedomGPTには日本からもアクセス可能だったので実際に使ってみようとしたのですが、記事作成時点では「同時接続数が多すぎて回答できない」という旨のメッセージが表示されてしまいました。

◆ローカルアプリのウェイトリストへの登録方法
FreedomGPTには、サーバーの混雑に関係なく使えるローカルアプリ版も用意されていますが、記事作成時点ではウェイトリストの順番待ちが発生している状況です。ローカルアプリ版のウェイトリストに登録するには、以下のリンク先にアクセス。

FreedomGPT
https://freedom-gpt2.netlify.app/

続いて、「Download」をクリック。