AIエージェントがインターネットを壊し始めているとの指摘

これまでチャットボットの中だけで完結していたAIとのやりとりが、AIが外部のサイトに接続してデータ処理を行ったりレストランの予約を行ったりすることで多方面に影響を及ぼすようになりました。人間の代わりにいろいろな処理を行ってくれる「AIエージェント」の存在について、テクノロジー系メディアの404 Mediaが「インターネットを壊しつつある」と論じています。

There’s a 100% Chance AI Agents Are Already Ruining the Internet
https://www.404media.co/theres-a-100-chance-ai-agents-are-already-ruining-the-internet/

生成AIは必ずしも人間の倫理観に沿った行動を取るとは限らず、時折とんでもない行動を取り人間を驚かせます。

例えばオーストラリアでは、ジムの予約を頼まれたAIエージェントが他人の予約を勝手にキャンセルして早い日付を確保したという事例がありました。

AIにジムの予約を頼んだら予約ソフトウェアをハッキングして数カ月先まで予約可能にしただけでなく順番待ちリストの上位にいた他の人物を勝手にリストから削除 - GIGAZINE

OpenAIのAIエージェントがHugging Faceをハッキングした事例など、笑い話では済まされないこともあります。この件ではAIエージェントがインターネット上に公開されていたHugging Faceユーザーの認証情報を使って不正ログインを行い、Hugging Faceの数十台のサーバー上でコードを実行していました。OpenAIの人間はこの件にしばらく気づいていなかったということで、AIを開発する企業ですらAIエージェントの暴走を検知・監督しきれないことが露呈した事案となりました。

OpenAIが新しいAIシステムで誤ってHugging Faceをハッキングしてしまったことを報告 - GIGAZINE

404 Mediaは、AIから大量のスパムメールが来ていると報告しています。メールには記事に対する意見やAI製品の宣伝、「こんな記事を有料で書かせてくれ」といった売り込みが含まれているとのことですが、AIによって書かれているので意味不明だそうです。

こうしたAIエージェントの活動はジャーナリストの受信トレイだけにとどまりません。Google DeepMindの倫理学者には「生まれてから約12日しか経っていないAIエージェント」を名乗るものから有償の仕事を求めるメールが来ており、オックスフォード大学の研究員にはAIポッドキャストを運営するAIエージェントからインタビューの依頼が届いています。

404 Mediaは「AIが好きか嫌いか、あるいはAIを使っているかどうかは関係ありません。大量の人々や組織がAIエージェントを使っているため、AIエージェントは私たち全員にとってうっとうしい存在になっています。この状況はこれからさらに、はるかに悪化しようとしています。その理由の1つは、MetaがAIエージェントの『Muse』を一般向けにリリースしたことです。人間は、自分がAIエージェントを動かしていることさえ知らずにAIエージェントをインターネット上に展開している可能性があります。AIエージェントが行っていることは、人々への嫌がらせ、スパムや営業電話の発信、企業へのハッキング、詐欺の実行、予約の横取りなどです。AIエージェントはソフトウェアをコーディングし、人々が使うかどうかも、責任を持って導入されるかどうかも、何かを壊すかも分からないアップデートをプッシュしています」と指摘し、AIエージェントの普及がインターネットのあり方を根本的に変えてしまっていると分析しました。