人間の持つ強みを強化するAIツールとはどのようなものになるのか？

大規模言語モデルの発達で、AIは人間が日常的に使うような言葉(自然言語)を処理できるようになりました。こうした利便性をもってさまざまなシステムに取り入れ始められているAIは、ときに人間の創造性を低下させ、AIに頼り切りになる人間を生み出してしまうのではないかと危惧されています。こうした状況を、人間の持つ強みを強化するAIツールを使うことで改善できる可能性があると、ソフトウェアエンジニアのヘーゼル・ウィークリー氏が指摘しました。

Stop Building AI Tools Backwards | Hazel Weakly
https://hazelweakly.me/blog/stop-building-ai-tools-backwards/

ウィークリー氏は、既存のAIが一方的に「答え」を出すだけの存在で、人間の思考力を高めるようなシステムになっておらず、AIの価値を人間が十分に引き出せていないと考えているそうです。ウィークリー氏は、「人間は人間なりに得意なことがある」として以下の考えを示しています。

「第一に、人間は情報を脳にインプットするだけでは本当に学んだとは言えず、インプットした情報をアウトプットすることで学んだと言えます。第二に、何を学ぶかということです。最も効果的に学べるものは『知識』ではなく『プロセス』です。例えばケーキの焼き方を学ぶとして、調理手順を暗記しただけでは実際に学んだとは言えません。第三に、どのようにレベルアップするかです。人間は新しいイノベーションが非常に苦手で、テクノロジーであれば開発者個人の技量に任されることが多いです。しかし人間は本質的にコミュニティ向けに最適化されているため、人間がコミュニティを通じて集団で学び、模倣や反復を通じて知識を累積することができるはずです」

これらの考えを総合すると、人間はそれなりに努力が必要なプロセスを通じて学び、知識を累積させて反復学習し、集団で物事を解決できるはずです。ところが、AIはこれらすべてをすっ飛ばして「答え」だけを提示します。ウィークリー氏はこの点を「人間が得意なことはAIが苦手ですが、なぜか人間は人間が得意なことをAIにやらせようとしています」と指摘しています。

その結果、人間はAIを改善するよりも早く人間をスキルダウンさせてしまい、AIに人間の卓越性を強化するための高品質なデータを供給できなくなり、人間はAIを改善できなくなってしまうと、ウィークリー氏は考察しました。

しかし、これはAIに一手間加えるだけで改善できる可能性があります。

ウィークリー氏が求めるAIは、「答え」を提示するAIではなく、「解法」を示して人間に考えさせるAIです。すぐに答えを出すのではなく、人間が行うべきことを1つ1つ思い出させ、考えさせるというもの。例えば人間のプロンプトを受けて検索結果をすぐ出すのではなく、人間のプロンプトを検索クエリに変換して自分で検索させるようなものです。

他にも、人間が「○○に困っています」というプロンプトを与えたとき、考えられる主な原因を先にすべて答えてくれるのが既存のAIですが、ウィークリー氏は「具体的にどのようなことに困っていますか？」「試そうとしている手順を教えていただけますか？」など、AIは人間の思考力を刺激するような質問を返すべきだと主張しています。

ウィークリー氏は「人間が本当に得意なことをAIで置き換えようとするAIは、人々のスキルを低下させます。推論や協力が可能な人間は、推論や協力のためのツールを構築し、人間が主導するプロセスを支援し強化することを優先する必要があります。その結果、ツールがより良くなり、それがまた人間を向上させるという、正のフィードバックループが形成されます。システムツールは、その設計、実装、評価の仕方において革命的な変化が求められています。しかし、それらを人間中心に設計しない限り、その変化は実現しません。人間をループに組み込むだけでなく、人間こそがループそのものであることを忘れないでください」と述べました。