AIのトップ学会NeurIPSは論文の著者に「理論が社会に与える影響」についての記述を要求

人工知能(AI)及び機械学習分野の国際学会「NeurIPS」が、会議に提出される論文の必要要件として、「理論が与える広範の影響についての記述」を追加しました。

The NeurIPS 2020 broader impacts experiment « Statistical Modeling, Causal Inference, and Social Science
https://statmodeling.stat.columbia.edu/2020/12/21/the-neurips-2020-broader-impacts-experiment/

コンピューター科学者が作成したものが与える潜在的な影響について、それが良い結果であれ悪い結果であれ、バランスの取れた議論が必要だとされています。理論が与える倫理的な側面などについて議論する方法は以前から検討されてきましたが、「理論が社会に与える影響についての記述」のような要件が設定されたのは今回が初めてです。これにより、理論が与える影響についての議論がより積極的に行えるようになるものと思われます。NeurIPSがこのような要件を設定したことについては、「アルゴリズムや数式は倫理とはかけ離れている」という従来の見方から、コンピューター科学の価値観を大幅に変えることを目的とした改革運動の一部だとする見方もあります。

しかし、「広範の影響」とは何か、どのように記述すれば要件を満たすのかという点については非常に基準があいまいです。公式のFAQページを参照すると、「広範の影響についての記述は必須であるが、与える影響が理論的に予見できる一般的なものとなる場合や何も影響を与える可能性がない場合は、その旨を自由に記述できる」とあります。

論文の査読についても、査読者はあくまで「研究内容がもたらす影響が厳密に記述されているか」を判断するのであり、「影響の善悪」について判断するものではないという記述もあります。FAQページには「研究内容が不当な偏見を生み出したり、危害を加えることを目的としたりするものは倫理的な観点から受領を拒否する場合があるが、研究内容が将来的に社会にただ悪影響をもたらすものであっても受領は拒否されない」とも書かれています。しかし、倫理的な観点から問題のある研究内容であっても、一度は査読され、厳密な審査の結果受領されるものもあるとのこと。

NeurIPS主催で2020年12月6日から12日にかけて行われた国際会議のNeurIPS 2020では、「広範の影響」の要件を満たしていないという理由で却下された論文はなく、査読対象となった倫理的に問題のある論文は13件あり、そのうち却下されたものは4件のみであったとのこと。また、こういった要件を設定し、より議論を活発化させることで、悪影響をもたらす研究に取り組む研究者たちの心理的支えとなったり、研究者たちが自身の研究内容についての倫理的意味を知り、より責任感を持たせるための大きな実験だといった意見もあります。