2024年04月04日 13時02分メモ

イスラエルはAIシステム「Lavender」を用いてハマスなどの標的3万7000人を識別し攻撃している、識別率は90％

2023年10月から続いている、いわゆる「イスラエル・ハマス戦争」において、イスラエル国防軍(IDF)がAIベースのシステム「Lavender(ラベンダー)」を導入して、ターゲットを識別し攻撃していることがわかりました。その標的数は3万7000人に上りますが、システムによる誤認も10％ほど発生しているそうです。

‘Lavender’: The AI machine directing Israel’s bombing spree in Gaza
https://www.972mag.com/lavender-ai-israeli-army-gaza/

תחקיר: בתוך המנגנון האוטומטי של ההרג ההמוני בעזה - שיחה מקומית
https://www.mekomit.co.il/%d7%91%d7%aa%d7%95%d7%9a-%d7%94%d7%9e%d7%a0%d7%92%d7%a0%d7%95%d7%9f-%d7%94%d7%90%d7%95%d7%98%d7%95%d7%9e%d7%98%d7%99-%d7%a9%d7%9c-%d7%94%d7%94%d7%a8%d7%92-%d7%94%d7%94%d7%9e%d7%95%d7%a0%d7%99-%d7%91/

‘The machine did it coldly’: Israel used AI to identify 37,000 Hamas targets | Israel-Gaza war | The Guardian
https://www.theguardian.com/world/2024/apr/03/israel-gaza-ai-database-hamas-airstrikes

ニュースサイト「+972 Magazine」とイスラエルのオンライン紙「Local Call」の共同調査により、IDFが「Lavender」と呼ばれるAIシステムを導入して標的の識別を行っていることがわかりました。

「Lavender」はハマスとイスラム聖戦(PIJ)の軍事部門に所属するすべての容疑者を識別し、標的とするように設計されています。特に、IDFは戦争初期においてLavenderに強く頼り、Lavenderが標的であると識別した対象について、攻撃直前の20秒だけ「対象の特徴は合致しているか、たとえば報告されている20代男性に見えるか」といった確認を行って、攻撃の承認を行っていたそうです。

Lavenderも完全無欠ではなく、認識率は90％程度で、10％ほどの割合で武装組織とは無関係な人を標的だと誤認するとのことですが、IDFはLavenderがなぜその人物を標的であると識別したのか、識別の根拠になるデータは何なのかには一切興味を示さなかったとのこと。

また、攻撃のタイミングは「個人の識別が容易である」という理由もあって、ハマスとして活動しているときではなく、在宅中に行われることがありました。取材に応じた諜報関係者は、「IDFはハマスのメンバーが活動に従事しているときだけ攻撃することに興味はなく、最初から在宅中を狙っていた」とコメントしていて、この攻撃を効果的に行うために「Where's Daddy」と呼ばれる追加システムがあったことがわかっています。

さらに、諜報関係者は攻撃にあたって、IDFが精密誘導弾よりも無誘導弾を好んで用いたことも証言しています。精密誘導弾は文字通り、標的に的中する直前まで細かく誘導が行われますが、無誘導弾はおおまかに標的に向けて発射されるだけなので、標的の周辺施設や周囲にいた人々も巻き添えになります。

IDFには、家族などに巻き添えが出ることがわかっていても攻撃を仕掛けていい「ヒューマン・ターゲット」という設定があり、従来は司令官や大隊長といった幹部クラスだけが対象になっていました。

しかし、2023年10月のハマスによる攻撃でイスラエル市民ら約1200人が犠牲になって以降は、組織末端の工作員まで含めた全員が「ヒューマン・ターゲット」設定となったため、ありとあらゆるところで巻き添えが出るような攻撃が行われるようになったとのこと。

以前からLavenderは補助的に用いられていましたが、「ヒューマン・ターゲット」対象の拡大以降は、Lavenderの生成した標的リストがそのまま承認されるような流れになっていったそうです。

なお、Lavenderは対人用システムですが、同様の仕組みが対施設用システム「The Gospel」にも採用されています。

ちなみに、「+972 Magazine」と「Local Call」によれば、2021年に出版された「The Human-Machine Team: How to Create Synergy Between Human and Artificial Intelligence That Will Revolutionize Our World」という書籍において、「迅速に大量の標的を処理できる特別な機械」が開発されているという言及があるとのこと。この書籍の著者であるBrigadier General Y.S.なるペンネームの人物は、イスラエルの諜報部隊の指揮官であるとみられています。

Amazon.co.jp: The Human-Machine Team: How to Create Synergy Between Human & Artificial Intelligence That Will Revolutionize Our World : Y.S, Brigadier General: Foreign Language Books