iPhoneに搭載予定のAIが詐欺メールをオススメ表示してくることが報告される

iPhoneやMacに搭載される予定のアシスタントAI「Apple Intelligence」の開発者向けテストが2024年7月に始まりました。この開発者向けテストに参加した人物が「Apple Intelligenceが詐欺メールを優先メールとしてオススメしてきた」と報告しています。

Apple IntelligenceはiPhone・iPad・Mac向けに開発されたアシスタントAIで、「文章の要約」「文章の生成」「画像の生成」などの機能を活用して「自分で書いた文章を校正してもらう」「自分で描いた下描きを高品質なイラストに変換してもらう」といった操作を実行できます。Apple Intelligenceに関するAppleの発表内容は以下の記事で確認できます。

Appleが新たなパーソナルAIの「Apple Intelligence」を発表、OpenAIとの提携でSiriがChatGPTをサポート - GIGAZINE

Apple Intelligenceには「メールの内容を分析して重要なメールを識別し、優先メッセージとして受信ボックス上部に表示する」という機能も搭載されています。

しかし、実際にApple Intelligenceのテスト版を試用したユーザーからは、「フィッシングメールが優先メッセージとして表示された」という報告が寄せられています。Redditユーザーのicedout223氏が投稿した以下の画像を見ると、アメリカの通信会社「Xfinity」を名乗る者から届いた「支払い上の問題によってアカウントが停止しました。支払い情報を更新してください」という内容の怪しすぎるメールが受信箱の上部に優先メッセージとして表示されていることが分かります。

Apple Intelligenceは開発者向けのテスト段階であるため、一般ユーザー向けにリリースされるまでにメールの識別性能が向上する可能性もあります。

なお、Apple Intelligenceのベータ版は2024年中に一般ユーザーにもリリースされる予定です。ただし、2024年中にリリースされるのは英語版のみで、ほかの言語版は2025年にリリース予定です。