2023年01月18日 16時44分ネットサービス

ニュースサイト「CNET」に掲載されたAI製記事は人間のファクトチェックを経てもなお重大な誤りが含まれていた

ITニュースサイト・CNETで、2022年11月ごろから金融解説記事の作成にAIを用いていることが報じられていましたが、人間の編集者によってファクトチェックが行われたにも関わらず、記事に誤りが見つかったことをニュースサイトのFuturismが報じています。

CNET's Article-Writing AI Is Already Publishing Very Dumb Errors
https://futurism.com/cnet-ai-errors

CNET used AI to write articles. It was a journalistic disaster. - The Washington Post
https://www.washingtonpost.com/media/2023/01/17/cnet-ai-articles-journalism-corrections/

CNET Is Experimenting With an AI Assist. Here's Why - CNET
https://www.cnet.com/tech/cnet-is-experimenting-with-an-ai-assist-heres-why/

2023年1月11日、FuturismとWebマーケターのガエル・ブレトン氏が、CNETの金融記事はAIによって書かれたものだったことを発見しました。

ニュースメディアのCNETが2022年11月から「CNET Money」という署名を付けて密かにAIで記事を作成していると報じられる - GIGAZINE

その後、2023年1月12日にCNETは金融記事の作成にAIを用いていたことを認め、AIが作成したすべての記事は人間の編集スタッフによってレビュー、ファクトチェック、編集が行われていることを発表しました。

Even as we test an AI engine for story drafts or to gather info for basic explainers, every @CNET story continues to be reviewed, fact-checked by a knowledgeable editor. Our rep as a trusted source for fact-based news and advice matters. #JournalismMatters.https://t.co/tLa5lWKkok
— Connie Guglielmo (@techledes)

にもかかわらず、AIが作成した記事には複数の間違いが見つかっています。CNETが2023年1月12日に公開した「複利とは？」という記事では、「年利1万％の複利で普通預金口座に3ドルを預けると、初年度の終わりに利息が1万300ドルになります」と記載されていますが、実際に得ることができる利息は300ドルの誤りです。

該当の記事はその後修正されましたが、Futurismは「事実の正誤とは関係なく、正確な内容のように思える文章を作る文章生成AIの技術的な課題が浮き彫りになりました」と指摘しています。

カリフォルニア大学バークレー校のハニー・ファリド氏は「AIが生成した文章は一見権威があるように見え、編集者が警戒を緩めた結果、人間のジャーナリストの時よりもファクトチェックを慎重に行っていなかったのではないかと思います」と述べています。

1月12日に発表された声明の中でCNETの編集者であるコニー・グリエルモ氏は、CNETでのAIの使用を、記者をAIに置き換えるためのものではなく、人間の仕事を支援することを目的とした「実験」と呼んでいます。グリエルモ氏は「私たちの目標は、あらゆるトピックをカバーする必要のある忙しい記者や編集者をAIが助けることができるかどうかを確認することです」と述べています。

CNETは2023年1月17日に、「人間もAIも間違いを犯すため、これ以上の誤りがないように編集プロセスを通じてAIが作成したすべての作品を積極的にチェックしています」と述べています。また、「再度誤りが発見された場合にも引き続き必要な修正を行います」とのこと。

記事作成時点では、CNETのAIによって公開されたほぼすべての記事の上部に「この記事はAIエンジンによって支援され、編集スタッフによってレビュー、ファクトチェック、編集されました」との記載が加えられ、AIが作成した記事であることが判断しやすくなっています。