ChatGPTを使うとバカになるのか？

近年はChatGPTなどのチャットAIを日常的に使う人が増えており、ちょっとした調べ物や仕事の補助だけでなく、友人や相談相手としてChatGPTを頼りにする人もいます。そんな中、アメリカのケネソー州立大学で情報システム学科助教を務めるアーロン・フレンチ氏が、「ChatGPTを使うとバカになるのか？」という疑問について解説しました。

Is ChatGPT making us stupid?
https://theconversation.com/is-chatgpt-making-us-stupid-255370

2008年、月刊誌のThe Atlanticが「Google Making Us Stupid?(Googleは私たちを愚かにするのか？)」という挑発的な記事を発表して話題を呼びました。この中で筆者のニコラス・カー氏は、検索エンジンなどのテクノロジーによって人々が何かを覚えたり、学んだりする必要がなくなってしまい、結果として深く考える能力や知識を保持する能力が低下すると主張しています。しかしこの段階では、ユーザーには依然として検索結果を解釈し、文脈を理解する能力が求められていました。

そして記事作成時点では、ChatGPTのような生成AIツールの台頭により、インターネットユーザーは知識だけでなく思考すらもAIにアウトソーシングできる時代となりました。生成AIツールは単に情報を集めるだけでなく、集めた情報を分析したり、わかりやすく要約したりすることも可能です。フレンチ氏は、「これは根本的な変化を表しています。生成AIは人間の思考と創造性に取って代わる可能性がある、最初のテクノロジーと言えるでしょう」と述べています。

ここで生じるのが、「ChatGPTのような生成AIは人々を愚かにするのか？」という疑問です。フレンチ氏は、多くの人々が認知的タスクを生成AIに委ねるようになっている今、生成AIの導入によって得られるものと失うものを考える価値があると主張しています。

生成AIは人々が情報にアクセスし、処理する方法を変えつつあります。AIは指示を入力してから数秒以内に明確で洗練された回答を提供し、これは内容の正しさとは関係なく、間違いなく効率的なものです。すでに、人々の働き方や思考方法には大きな変化が生じており、多くの人々は情報源を精査したり、曖昧さに対処したりしなくなっています。

しかし、この利便性には代償も伴います。人々がAIに頼ってタスクを完了するようになると、批判的に思考する能力や複雑な問題を解決する能力、情報に深く関わる能力が低下する可能性があります。この点についての研究は限られているものの、AI生成コンテンツを受動的に消費することは、知的好奇心の減退や集中力の低下、そして長期的な認知発達を阻害する依存を生み出す危険性があるとのこと。

フレンチ氏は、このリスクをより深く理解するために、ダニング＝クルーガー効果を考えてみることを提案しています。ダニング＝クルーガー効果とは、能力が低い人は「自分が何を知らないのか」を理解できないため、自分の能力を過信しがちであり、これと対照的に有能な人は「自分が何を知らないのか」を知っているため、自分の能力についての自信が低いという現象を指しています。

このフレームワークは生成AIにも適用可能で、ChatGPTなどに依存して特定のトピックについてのコンテンツを繰り返し生成していると、本当は何も理解していないのに「自分はこのトピックに詳しい」と誤解してしまう可能性があります。このようにフレンチ氏が「愚か者の山」と呼ぶ段階でとどまるユーザーもいれば、AIを認知能力を強化するためのツールとして活用し、実際にトピックへの理解を深めるために利用するユーザーもいます。

フレンチ氏は、人間の知能を置き換えるために生成AIを使うのではなく、知能を拡張するために生成AIを使うべきだと主張しています。たとえば、ChatGPTに何かを尋ねて、その応答を見て満足してしまうのではなく、ChatGPTの応答を起点として新たな思考を切り開くといった使い方をすれば、自らの知識や能力をさらに拡張することができます。

フレンチ氏は、「言い換えれば、重要なのは人が生成AIを使うかどうかではなく、その使い方です。無批判に利用すれば、ChatGPTは知的怠慢を招く恐れがあります。ユーザーは前提を疑うことも、代替案を求めることも、深い分析を行うこともなく、その出力を受け入れてしまうかもしれません。しかし、ChatGPTを補助ツールとして活用すれば、好奇心を刺激し、アイデアを生み出し、複雑なテーマを明確化し、知的対話を促す強力な手段となり得ます」と述べました。