Apple Intelligenceが「医療保険会社のCEOを殺害した犯人が自殺とBBCが報道」と誤通知しBBCがAppleに猛抗議、Apple Intelligenceの要約機能が生み出した虚偽の情報

Apple Intelligenceには複数のニュースを要約し、1つの通知として発信する機能があります。このニュース要約機能が誤報を生成したせいで、あたかもBBCニュースが誤報したかのようになっていると、BBCがAppleに抗議しています。

BBC complains to Apple over misleading shooting headline
https://www.bbc.com/news/articles/cd0elzk24dno

Apple Intelligence botched a notification summary about Luigi Mangione, and the BBC isn't happy - 9to5Mac
https://9to5mac.com/2024/12/13/apple-intelligence-summary-luigi-mangione/

Apple AI News Alert Claimed Luigi Mangione Shot Himself
https://www.mediaite.com/tech/apple-takes-heat-over-false-ai-generated-news-alert-luigi-mangione-shoots-himself/

Apple's AI feature spreads misleading headlines, BBC complains
https://www.androidheadlines.com/2024/12/apples-ai-feature-spreads-misleading-headlines-bbc-complains.html

Apple’s AI summary mangled a BBC headline about Luigi Mangione - The Verge
https://www.theverge.com/2024/12/13/24320689/apple-intelligence-summary-bbc-news-unitedhealthcare-luigi-mangione

False Luigi Mangione suicide report triggers Apple AI complaint
https://www.nydailynews.com/2024/12/13/luigi-mangione-suicide-false-report-apple-intelligence-complaint/

現地時間の2024年12月4日、アメリカ・ニューヨークのマンハッタンにあるヒルトンホテル前の路上で、医療保険会社ユナイテッド・ヘルスのブライアン・トンプソンCEOが銃で射殺されました。この事件で、地元警察は12月9日に重要参考人としてルイジ・マンジョーネを逮捕。同氏は同日夜に殺人罪で起訴されています。

米ユナイテッドヘルス幹部殺害容疑、26歳男を訴追 - WSJ
https://jp.wsj.com/articles/police-identify-26-year-old-as-person-of-interest-in-killing-of-unitedhealth-executive-731d6101

米保険会社CEO射殺事件、男を殺人罪で起訴 - BBCニュース
https://www.bbc.com/japanese/articles/cvgp1l88ll3o

2024年12月11日から、AppleはイギリスでパーソナルAI「Apple Intelligence」の提供を開始しています。そのApple Intelligenceには、通知の要約機能が搭載されており、複数の通知を要約してひとつにまとめることが可能です。

Apple IntelligenceがBBCニュースの報道を通知の要約機能でひとつの通知にまとめ、「(トンプソンCEOを殺害した)ルイジ・マンジョーネが自殺した」という通知をAppleユーザーに発信しました。しかし、イギリスの公共放送事業体であるBBCは、このような見出しのニュースは発信しておらず、マンジョーネも自殺していないと述べ、Appleに苦情を申し立てました。

Apple IntelligenceがAppleデバイスに通知したものが以下。BBCニュースからの通知には、「ルイジ・マンジョーネが自殺した(Luigi Mangione shoots himself)」と確かに記されています。なお、この通知に含まれる「シリアのアサド政権」および「韓国のユン・ソンニョル大統領」に関する最新情報は、正確な内容が記されていました。

BBCの広報担当者は、「懸念を表明し、問題を解決するためにAppleに連絡しました」「BBCニュースは世界で最も信頼されているニュースメディアです」「我々の名前で発行されるあらゆる情報やジャーナリズム、通知を視聴者が信頼できることが極めて重要です」と述べ、Apple Intelligenceが虚偽の情報を生成してBBCニュース名義で発信したことに苦言を呈しました。

BBCによると、Apple Intelligenceの通知の要約機能が間違った見出しを付けたのはBBCニュースの報道だけではないそうです。2024年11月21日にはThe New York Timesの異なる話題の記事3本を1つの通知にまとめ、その中でイスラエル首相のベンヤミン・ネタニヤフ氏について、「ネタニヤフ氏逮捕」と記述していたそうです。なお、The New York Timesがネタニヤフ首相逮捕について報じたわけではなく、国際刑事裁判所(ICC)がネタニヤフ氏に逮捕状を発行したという記事を不正確に要約した結果、不正確な通知が生み出されてしまった模様。

Apple IntelligenceがThe New York Timesの報道を不正確に要約して通知していたことは、報道メディアProPublicaのKen Schwencke記者により指摘されていました。

Apple AI notification summaries continue to be so so so bad

[image or embed]

— Ken Schwencke (@schwanksta.com) 2024年11月22日 4:22

なお、BBCは「Apple Intelligenceが生成したThe New York Timesの不正確な報道通知」を独自に検証することができなかったと報じています。また、BBCはこの件についてThe New York Timesにコメントを求めていますが、The New York Timesはコメントを拒否したそうです。

イギリスのロンドン大学シティ校でメディア政策を教えるペトロス・イオシフィディス教授は、BBCニュースに対してApple Intelligenceの通知の要約機能について、「恥ずかしいミス」であると指摘。同氏は「市場に圧力がかかっているのは分かりますが、明らかに未完成の製品にAppleの社名を載せたことに驚いています。確かになるべく早くサービスをリリースすることに、潜在的な利点はあります。しかし、技術がまだ完成しておらず、誤情報が拡散されてしまう危険性があります」と語り、AppleがAI企業との競合の中で未完成のApple Intelligenceをリリースすることになってしまったと指摘しています。

Apple Intelligenceについては、メールやテキストメッセージの要約機能で的外れな要約を生成することがあるとも指摘されています。

なお、AI機能の要約が正確でないケースはしばしば報告されており、Google検索のAIも「ピザにチーズをくっつけるために接着剤を使用する」などと、おかしな回答をしたことがあります。

Google検索のAIによる概要機能が「ピザにチーズをくっつけるために接着剤を使用する」などおかしな回答をしていることが明らかに - GIGAZINE