MicrosoftのAIがカナダ・オタワの見逃せない観光スポットとしてフードバンクを紹介したことが報告される

Microsoftは自社のポータルサイト「MSN」内で観光地案内などを行うMicrossoft Travelを運営しています。そんなMicrossoft Travelで、「オタワへお出かけですか？お見逃しなく！」というカナダ・オタワの観光スポットを紹介するAIが生成した記事内において、フードバンクが紹介されていることが指摘されています。

Microsoft says listing the Ottawa Food Bank as a tourist destination wasn’t the result of ‘unsupervised AI’ - The Verge
https://www.theverge.com/2023/8/17/23836287/microsoft-ai-recommends-ottawa-food-bank-tourist-destination

Microsoft AI suggests food bank as a “cannot miss” tourist spot in Canada | Ars Technica
https://arstechnica.com/information-technology/2023/08/microsoft-ai-suggests-food-bank-as-a-cannot-miss-tourist-spot-in-canada/

Microssoft Travelが2023年8月14日に公開した「Headed to Ottawa? Here's what you shouldn't miss!(オタワへお出かけですか？お見逃しなく！)」という記事では、オタワの伝統的な冬祭り「Winterlude」や「国立戦争記念碑」などが紹介されています。

しかし、リストの中には「オタワ・フードバンク」のような観光には適さないスポットも含まれていました。「フードバンク」とは、賞味期限や包装不備を理由に市場に流通できなかった食品を集め、ホームレスや児童養護施設の入居者、低所得世帯、生活保護世帯などに供給する慈善団体や施設です。

Microssoft Travelによる記事では、オタワ・フードバンクについて「この組織は1984年以降、オタワ地域の貧しい人々や家族に食料を入手、購入、生産、配達してきました。私たちは、飢餓が日常的に男性、女性、子供にどのように影響するか、そしてそれが達成への障壁になる可能性があるかを観察しています。私たちのところへやってくる人々は、仕事や家族を抱えるだけでなく、生きていくための出費もあります。このまま生活を維持することは困難です」と記されており、文末には「空腹の時はオタワ・フードバンクを頼ることを検討してください」と記載されています。

海外メディアのArs Technicaによると、「空腹の時はオタワ・フードバンクを頼ることを検討してください」という文章は、AIが作成した文章にありがちな、空虚な決まり文句の一例とのこと。また、記事の作成者の欄に「Microsoft Travel」とクレジットされていることから、この記事はAIが作成した記事の可能性があることを指摘しています。

AIや大規模言語モデルの研究を行うエミリー・ベンダー氏は「Microsoft Travelが公開したこの記事内では、『この記事はAIが生成した』と明記されていません。このことは、Microsoftの『責任ある信頼されたAI』の原則に反しているようです」と述べています。ベンダー氏は、MicrosoftがAIに関する透明性の確保や、説明責任を果たしていないことを指摘しています。

また、Ars Technicaは「オタワに関する記事の内容から判断すると、記事を書いたのは人間ではなく、記事の掲載前に内容を十分に確認した人間がいなかった可能性が高いです」と述べ「MicrosoftはAIが作成したコンテンツの監視や編集などを行うことなく、そのままインターネット上に公開しています」と指摘しています。

記事作成時点で、Microsoft Travelによる当該記事は削除されています。Microsoftのシニアディレクターであるジェフ・ジョーンズ氏は「この記事における問題は人為的ミスであることが判明しました。この記事は教師なしAIによって公開されたものではありません。私たちは、テクノロジーの力とコンテンツ編集者のこれまでの経験を組み合わせて記事を作成しています。今後このようなコンテンツが投稿されないように対策を行います」と述べ、AIが生成した文章であることは認めたものの、人間による記事チェックが欠如しているという指摘については否定しました。