会話AI「ChatGPT」の回答の投稿がコーディングQ＆AサイトのStack Overflowで一時的に禁止される

プログラミング技術に関するナレッジコミュニティのStack Overflowで、対話向け言語モデルの「ChatGPT」による回答が急増したことを受けて、一時的にChatGPTを使用した投稿が禁止されました。

Temporary policy: ChatGPT is banned - Meta Stack Overflow
https://meta.stackoverflow.com/questions/421831/temporary-policy-chatgpt-is-banned

OpenAIが開発したChatGPTは、テキストベースでの自然な会話が可能なだけでなくコーディングも非常に得意としており、大学生レベルの記述試験に合格できたという事例も報告されています。

対話AI「ChatGPT」が大学生レベルの試験の自由記述問題に合格してしまう - GIGAZINE

そんな中、Stack Overflowは2022年12月6日にChatGPTを用いた投稿を一時的に禁止することを発表しました。Stack Overflowのモデレーターが最も大きな問題だとしているのが、「ChatGPTが生成した回答は正答率が低いにもかかわらず、一見すると良好な回答が容易に作れてしまう」という点です。

ChatGPTを使うには専門知識が不要なので、誰でも簡単に質問への回答やお手本となるようなコードが出力できますが、それが実は不正確なものだと判断するには専門知識を持つ人による精査が必要です。しかし、Stack Overflowはボランティアによる善意に支えられているため、ChatGPTで生成された何千件もの投稿が殺到したことで、質疑の品質を維持するStack Overflowの基盤は圧倒されてしまいました。

こうした点から、ChatGPTのモデレーターはStack OverflowでChatGPTを使用して投稿を作成することを一時的に禁止し、AIを使用した回答を行ったユーザーが発見され次第、仮にその投稿に問題がなくてもペナルティを科すことを発表しました。この措置は、ChatGPTによる回答があふれるのを抑制させるための一時的なもので、最終的な判断はStack Overflowのスタッフやユーザー自身の議論によって決まるべきだとモデレーターは指摘しています。

Stack Overflowの発表に対し、ユーザーからは「素晴らしい！正しい決定を下してくれたことをうれしく思うと共に、これが恒久的な措置になって、AIが生成した回答が正式に禁止されるようになることを心から願っています」というコメントや「正直なところ、AIによる回答は盗作と呼ぶべきだと思います。人々は別の場所から『答え』を抜き出し、あたかも自分の作品であるかのように投稿しています」というコメントなど、称賛する意見が寄せられていました。

その一方で、「AIの回答が許されないのは結構なことですが、キュレーターとして何ができるでしょうか？モデレーターが指摘しているように、AIの回答は良い回答のように見えることがある一方、熟練した人には間違っていることが分かるため反対票(downvote)が投じられる可能性がありますが、それはフラグを立てる正当な理由にはならないでしょう」と、実際問題としてどのようにAIを見分けてそれに対応していくべきか問いかけるコメントもあったほか、「私はボットを使って回答することに全く賛成です。自動化できるなら、やらないのはばかげています」とAIの使用に前向きな意見も見られました。

また、中には冗談半分でChatGPTに「Stack OverflowでAIが生成した回答を禁止すべき理由」という質問をぶつけた結果、「AIによって生成された回答は常に正確または関連性があるとは限らないため、Stack Overflowで助けを求めているユーザーを混乱させたり、誤解を与えたりする可能性があります」と、図らずもモデレーターが出した結論に近い回答が返ってきたことを報告する投稿もあり、多くの賛成票(upvote)を集めていました。