学校図書館が「ChatGPT」で書籍にセックス描写があるか確認したことが発覚、実際に19作品が禁書へ

アメリカ・アイオワ州メイソンシティを中心とした地域に教育を提供するメイソンシティ・コミュニティ学区が、学校の図書館に置かれている本に性行為の描写が含まれていないことを要求する新法に対応するため、ChatGPTを用いて本の内容の確認を行ったことがわかりました。

19 books pulled from Mason City school libraries | The Gazette
https://www.thegazette.com/k/19-books-pulled-from-mason-city-school-libraries/

School district uses ChatGPT to help remove library books | Popular Science
https://www.popsci.com/technology/iowa-chatgpt-book-ban/

Using GPT-4 for content moderation
https://openai.com/blog/using-gpt-4-for-content-moderation

アイオワ州の地元紙・The Gazetteは2023年8月11日に、メイソンシティ・コミュニティ学区が人工知能ソフトウェアを使用して書籍の内容を確認し、19冊の本を図書館から撤去したと報じました。

The Gazetteは、本の内容確認に用いられた具体的なAIの名称を明かしませんでしたが、科学系ニュースメディア・Popular Scienceの調査により、当該AIソフトウェアはOpenAIが開発したChatGPTであることが判明しました。

メイソンシティ・コミュニティ学区の学校図書館で禁書になった19冊の本の一覧は以下の通り。

学校から撤去された本の中には、マーガレット・アトウッドの「侍女の物語」やマヤ・アンジェロウの「歌え、翔べない鳥たちよ」など、邦訳され日本人にも広く親しまれている書籍が含まれています。

The Gazetteによると、今回の処分には2023年7月にアイオワ州で施行されたばかりの新法が関係しているとのこと。州教育委員会の規則を改正するこの法律では、性自認や性的指向に関連する指導を禁止することなどが盛り込まれたほか、生徒が利用できるすべての本が「性行為に関する表現や視覚的描写」を含まないことも規定されました。

とはいえ、図書館にある膨大な蔵書をすべて精読し性行為に関する記述を探し出すのは気の遠くなるような作業です。しかも、アメリカでは9月から新学期が始まるため、新しい生徒を学校に迎えるまでに残された時間はほとんどありません。

そのため、州の教育当局はよく問題となる本のリストを作成し、AIを使用してそれらの書籍に性行為の描写が含まれているかをチェックさせ、その結果に基づき本を図書館から撤去するという対応に踏み切りました。これにより禁止となった19冊の作品は、さらなる検討が行われるまで保管されるとのこと。図書館ではなく教室に置かれている本は、学校の教員らによって確認される予定です。

AIを用いた規制のニーズの高まりを受けてか、OpenAIは8月15日に「GPT-4を使うことでコンテンツモデレーションが可能」と主張する記事を公式ブログで公開しました。OpenAIによると、GPT-4のような大規模言語モデルを使用することで、コンテンツのラベリングやポリシー変更への対応が迅速に行えるようになり、従来の方法では数カ月はかかる作業を数時間で行えるようになるとのことです。

LGBT教育や性教育をめぐる議論に揺れるアメリカの教育現場では、2023年8月8日に下品な描写があるとして「ロミオとジュリエット」をはじめとするシェイクスピア作品が規制されたばかりです。

シェイクスピア作品が「性的」としてフロリダの学校で禁止に、「世界から笑われている」と教師も困惑 - GIGAZINE

メイソンシティ・コミュニティ学区でカリキュラムと指導担当の副教育長を務めるブリジット・エクスマン氏は、声明の中で「私たちの学校の教室や図書館には、購入や寄贈、元からの蔵書を含む膨大な書籍があります。これらすべての本を読み、新しい要件に対応するためのフィルタリングを行うことは、単純に実現不可能です」と述べて、新学期に向けて早急に対応するためやむなくAIを使用したと説明しました。

エクスマン氏はまた、Popular Scienceの取材に対して「率直に言って、子どもたちを本から守る方法を考えるのに多くの時間を費やすよりも、もっと大切なことがあるのです」とコメントして、対応に苦慮している様子をにじませました。