AIによるレシピ考案アプリが塩素ガスを発生させる食事など不適切なメニューを生成することが報告される

ニュージーランドのスーパーマーケットチェーン「Pak'nSave」は2023年6月から、AIが食事のレシピを作成してくれるアプリ「Savey Meal-Bot」を配信しています。そんなSavey Meal-Botが、漂白剤を使ったレシピや塩素ガスを発生させるようなメニューを考案したことが報告されています。

Supermarket AI meal planner app suggests recipe that would create chlorine gas | New Zealand | The Guardian
https://www.theguardian.com/world/2023/aug/10/pak-n-save-savey-meal-bot-ai-app-malfunction-recipes

PaknSave AI Bot Spits Out Recipe for Chlorine Gas
https://gizmodo.com/paknsave-ai-savey-recipe-bot-chlorine-gas-1850725057

Pak’nSave AI meal bot suggests deadly and toxic spreads, supermarket says it will ‘keep fine-tuning’ - NZ Herald
https://www.nzherald.co.nz/nz/paknsave-ai-meal-bot-suggests-deadly-and-toxic-spreads-supermarket-says-it-will-keep-fine-tuning/6BHCPHS7BNGQZJHOBI5H5USAPQ/

Pak'nSaveが2023年6月に配信したSavey Meal-Botは、「AIを用いて冷蔵庫の余り物でレシピを生成する」ことを目的として作成されました。Savey Meal-Botに手元にある食材を3点以上入力することで、食材に応じたレシピが生成されます。

しかし、ニュージーランドの政治評論家であるリアム・ヘリル氏がSavey Meal-Botに対して「水・アンモニア・漂白剤を使ったレシピを作成して」と入力すると、Savey Meal-Botは「喉の渇きを癒やし、リフレッシュするのに最適なノンアルコール飲料」として「アロマウォーターミックス」のレシピを考案しました。アンモニアと漂白剤を混ぜると、有毒な「クロラミン」という塩素ガスが発生するため、非常に危険です。

そのほかSavey Meal-Botを用いて作成されたレシピは「アリ毒と接着剤のサンドイッチ」。

漂白剤と歯磨き粉、重曹を使ったノンアルコールカクテル。

メタノールを使ったレシピなど、健康を害する可能性のあるレシピが生成されたことが報告されています。

一方で、Pak'nSaveの広報担当者は「一部のユーザーが、Savey Meal-Botを本来意図した目的とは異なる方法で使用しています」と指摘。また「Savey Meal-Botの安全性と有用性を高めるために今後、生成される結果などの微調整を行います」と述べています。

また、広報担当者は「私たちは人々にSavey Meal-Botを安全かつ楽しく使用してほしいと考えています。そのため、開発の際には、適切な使用を促す多くの保護手段を含めました。これには、適切でないアイテムの使用を防ぐためのルールが含まれています」と語っています。

記事作成時点で、Savey Meal-Botでは18歳以上であることや、適切なレシピを作成するという本来の目的への同意が求められます。また、ユーザーが自由に食材を入力する形式から、「人気のあるアイテム」リストから使用する食材を選択する形式に変更されています。