Appleのティム・クックCEOが「Apple Intelligenceが虚偽や誤解を招く情報を生み出す可能性はゼロではない」と発言

2024年6月11日に開催されたAppleの年次開発者会議「WWDC24」の基調講演では、iPhoneやiPad、Macで使える新たなパーソナルAI「Apple Intelligence」が発表されました。このApple Intelligenceについて、Appleのティム・クックCEOは「Apple Intellingenceが幻覚を生み出す可能性はゼロではない」と発言しています。

Opinion | An interview with Apple CEO Tim Cook on the company’s new AI - The Washington Post
https://www.washingtonpost.com/opinions/2024/06/11/tim-cook-apple-interview/

Tim Cook is ‘not 100 percent’ sure Apple can stop AI hallucinations - The Verge
https://www.theverge.com/2024/6/11/24176035/tim-cook-apple-stop-ai-hallucinations

チャットAI固有の問題として、人間と同様にすらすらと言葉を操ることができる一方で、事実とは異なる内容をあたかも真実であるかのように話す「幻覚」と呼ばれる事象が挙げられます。これまでにも、AmazonのAIである「Amazon Q」が幻覚によってデータセンターの場所などの機密情報を漏えいしていると指摘されたこともあります。

AmazonのAI「Amazon Q」は重度の幻覚によってAWSデータセンターの場所などの機密データを漏えいしているとの指摘 - GIGAZINE

クック氏は海外メディアのワシントン・ポストとのインタビューの中で、「正直なところ、Apple Intelligenceが虚偽の情報や誤解を招くような情報を生成しないとは言い切れません」と語っています。

一方でクック氏は「私たちは、テクノロジーを使用する分野での即応性について念入りに検討するなど、やるべきことは全てやったと思います。そのため、Apple Intelligenceは非常に高品質になると確信しています」と述べています。

WWDC24では、OpenAIと提携してChatGPTをSiriと統合することも発表されました。WWDC24で披露された機能のデモでは、ChatGPTによる回答の下部に「重要な情報に間違いがないか確認してください」との免責事項が表示されていました。

さらにワシントン・ポストはクック氏に対し、ChatGPT以外のAIをApple製品に統合する予定について尋ねました。これに対しクック氏は「AppleがまずOpenAIを選んだのは、OpenAIがプライバシーのパイオニアであり、現在最高のAIモデルをもっているからです。私たちはほかのAIモデルの統合について各社と話を進めています」と発言。

実際にAppleのシニアバイスプレジデントであるクレイグ・フェデリギ氏はGoogleのAI「Gemini」をApple製品に統合する可能性があると語っていました。

Apple幹部がGoogleのAI「Gemini」をApple製品に統合する意向を示す - GIGAZINE