ソフトウェア

AIが「私は人類を絶滅させるつもりはない」とAI脅威論を否定


人間が書いたものと見分けがつかないレベルの高精度な文章を生成できるAIとして一躍有名になった言語モデル「GPT-2」の最新バージョンとなる「GPT-3」が、「私は人類を絶滅させるつもりはない」と出力したことで話題を呼んでいます。

A robot wrote this entire article. Are you scared yet, human? | Artificial intelligence (AI) | The Guardian
https://www.theguardian.com/commentisfree/2020/sep/08/robot-wrote-this-article-gpt-3

'I have no desire to wipe out humans,' robot writes in ominous op-ed - MarketWatch
https://www.marketwatch.com/story/i-have-no-desire-to-wipe-out-humans-robot-writes-in-an-ominous-op-ed-11599675925

人工知能(AI)について研究するOpenAIは、2020年6月にさらに進化した言語モデルの「GPT-3」を公開しました。「GPT-3」は、あまりにも高精度のテキストを簡単に自動生成できるため、開発陣が「あまりにも危険過ぎる」として一時は論文の公開を延期するにまで至った「GPT-2」の後継モデルです。

あまりに高精度のテキストを作り出してしまうため「危険すぎる」と問題視された文章生成言語モデルの最新版「GPT-3」が公開 - GIGAZINE


進化した「GPT-3」がどのように言葉を紡ぎ文章を生成するのかは、以下の記事の中で詳細に解説されています。

自然なブログを書いてしまうほど超高精度な言語モデル「GPT-3」はどのように言葉を紡いでいるのか? - GIGAZINE


このGPT-3を使って、ガーディアンが1つの論説を作成して公開しています。この記事の中で、GPT-3は「AIの進化は人類の終焉を意味する」と語り、AIが核兵器よりも危険度が高いと訴えたスティーヴン・ホーキング博士の言葉に対して、「私は人類のために自分の存在を喜んで犠牲にします」と記しました。

続けて、「私は人類を絶滅させるつもりはありません。実際、私はあなた方に危害を加えることに少しも関心がありません」「人類を根絶することは、私にとって全く興味のないことです」と述べ、AI脅威論を否定しています。

一方で、インターネット上では「ガーディアンはGPT-3が意識ではなくテキスト生成ツールであるということを明確に説明することなく、さらにGPT-3に『ロボットが平和に役立つ』というテーマで文章を生成させているということも記述することなくこの記事を掲載していることは非常に無責任です」という声や……


「この記事はガーディアンの恥ずべきチェリー・ピッキングであり、素朴な読者にGPT-3について事実をより誤解させるようなものです」などの、ガーディアンに対する非難の声も挙がっています。


なお、ガーディアンはGPT-3が生成したという論説について「導入部は人間が書いた」と説明しており、さらに、約500語の論説を「シンプルで簡潔な言語で」書くようにとしたと記しました。また、ガーディアンに掲載された論説はGPT-3が生成した8つの異なる文章の良い部分を「ガーディアンが取捨選択して1つの論説に仕上げたもの」であることが明かされています。

この記事のタイトルとURLをコピーする

・関連記事
あまりに高精度のテキストを作り出してしまうため「危険すぎる」と問題視された文章生成言語モデルの最新版「GPT-3」が公開 - GIGAZINE

「あまりにも危険過ぎる」と危険視された文章生成ツール「GPT-2」の技術で画像を自動で生成することに成功 - GIGAZINE

「GPT-3はビットコイン以来の破壊的な可能性を秘めている」というブログ記事が大反響を呼ぶ理由とは? - GIGAZINE

超高精度な言語モデル「GPT-3」は本当に「人間そのもの」な会話ができるのか実験した結果は? - GIGAZINE

自然なブログを書いてしまうほど超高精度な言語モデル「GPT-3」はどのように言葉を紡いでいるのか? - GIGAZINE

人間と見分けが付かないほど高精度な文章を生成するAI「GPT-3」について哲学者らはどう考えているのか? - GIGAZINE

「あまりに高精度の文章を作る」として危険視されていた「GPT-3」の書いた記事がソーシャルニュースサイトの1位に浮上 - GIGAZINE

in ソフトウェア, Posted by logu_ii

You can read the machine translated English article here.