ChatGPTなどのAIで科学論文を書くことが国際会議で禁止に、ただし自分の文章の編集・推敲はOK

機械学習に関する国際会議の1つであるInternational Conference on Machine Learning(ICML)が、「ChatGPTのようなAIを使って科学論文を執筆することを禁止する」という方針を発表しました。この方針をめぐって、AI研究者の間でも意見が割れています。

ICML 2023
https://icml.cc/Conferences/2023/llm-policy

ChatGPT and AI language tools banned by AI conference for writing papers - The Verge
https://www.theverge.com/2023/1/5/23540291/chatgpt-ai-writing-tool-banned-writing-academic-icml-paper

ChatGPTのような自然言語処理AIが誰でも簡単に使えるようになり、多くの組織で混乱が生じており、ICMLのようにAIの生成物を禁止するサイトも出ています。2022年12月にはコーディングQ＆AサイトのStack Overflowで、ChatGPTで生成した回答を提出することが禁止されました。

会話AI「ChatGPT」の回答の投稿がコーディングQ＆AサイトのStack Overflowで一時的に禁止される - GIGAZINE

また、アメリカ・ニューヨーク市の教育局は学校のコンピューターおよびネットワークからChatGPTにアクセスすることを禁止しました。

生徒と教師によるChatGPTの利用をニューヨーク市が禁止 - GIGAZINE

そんな中でICMLは、ChatGPTのような一般にアクセス可能な自然言語処理モデルの台頭は刺激的な発展を意味するものの、「こうしたAIを使って出力したものは誰のものなのか」「AIが生成したテキストや画像は新規のものなのか、それとも既存の作品の派生物に過ぎないのか」といった未解決問題を生み出したと述べています。

「こうした問題やその他多くの疑問は、大規模なAIがより広く採用されるにつれて、少しずつ解決されていくことでしょう。しかし、現時点ではこれらの疑問に対する明確な答えはまだ出ていません」とICMLは声明で述べており、AI禁止は2024年に再評価する予定だとしています。

ただし、ICMLが禁止しているのは「『完全に』AIによって生成されたテキストを論文に使うこと」であり、「著者が自分の書いた文章を編集したり推敲(すいこう)したりすること」に使うことは禁止していません。これは、すでに記事作成時点でAIで文法を修正してくれるツールを使って論文のテキストをチェックするケースが多いからだそうです。また、特に論文をAI検出ソフトウェアにかけてチェックを行うようなことはせず、他の学者から疑惑が指摘されたものについてのみ調査するとしています。

Mozilla FoundationのAI研究フェローであるデブ・ラジ氏は、「ChatGPTは文法修正ツールとは異なり、すでに書かれている文章の構造や言語を調整するために設計されたものではなく、新規のテキストを生成することに特化しており、文章の内容に大きな変化を与えてしまう可能性があります」と述べ、ICMLの方針を支持しています

一方で、イスラエルのバル＝イラン大学のヨアフ・ゴルドベルグ教授は、「査読で論文を検証する時、よどみない英語で書かれた論文の方が好まれるという無意識のバイアスが明らかに存在し、このバイアスは英語の母語話者に有利に働きます。多くの非母語話者はChatGPTのようなAIを使って自分のアイデアを表現することで、公平な競争の場に立てると考えているようです。ChatGPTのようなAIは、研究者にとって時間短縮に役立つだけでなく、仲間とのコミュニケーションを円滑にすることができるかもしれません」と述べており、ChatGPTの使用に肯定的な姿勢を見せています。

ただし、ゴルドベルグ教授は「学者がAIを使って論文をまるまる1本生成することは可能だと思いますが、実際にそれを行うインセンティブはほとんどありません。偽の論文がどうにか査読を通ったとしても、間違った記述はその学者のせいとなり、その学者のキャリアに終始つきまとうことになります」と語り、ChatGPTで論文を生成するメリットがないとしています。