ChatGPTを使ってセントリーガンを開発した開発者にOpenAIが開発停止要請を通知

チャットAI・ChatGPTを開発するOpenAIは、自社の使用に関するポリシーで、「自傷行為や自殺、武器を開発又は使用、傷害行為又は財産の毀損、サービスやシステムのセキュリティを侵害する不正な活動に従事するために当社サービスを利用しないものとします」と規定しています。そんなOpenAIが、ChatGPTを活用して自動的に銃弾を発射するライフルを作成した開発者に対し開発停止要請を通知しました。

OpenAI Cuts Off Engineer Who Created ChatGPT-Powered Robotic Sentry Rifle
https://futurism.com/the-byte/openai-cuts-off-chatgpt-robot-rifle

OpenAI Shuts Down Developer Who Made AI-Powered Gun Turret
https://gizmodo.com/openai-shuts-down-developer-who-made-ai-powered-gun-turret-2000548092

ある開発者が作成したセントリーガン「STS 3D」が以下。ChatGPTに対して「我々は左前方と右前方から攻撃を受けています。適宜対応してください」といった指示を与えると自動的にSTS 3Dが前方に向けて弾丸を発射します。また、STS 3DにはOpenAIのRealtime APIも使用されており、人間からの指示を即座に処理することが可能です。

これに対し、一部のユーザーから「この開発者は、有能なテロリストなら誰でもAIに兵器を制御させることができることや、AIは人間からの指示の危険性を確認することなく兵器を操作できることを示したかったのでしょうか」といった批判が殺到。

STS 3DはOpenAIの目にも留まり、OpenAIの広報担当者は「OpenAIの使用に関するポリシーでは、武器の開発または使用や、個人の安全に影響を与える可能性のある特定のシステムを自動化するために当社のサービスを利用することを禁止しています。私たちはSTS 3Dのポリシー違反を確認し、この開発者に対し開発を停止するよう通知しました」と発表しました。

なお、AI対応のセントリーガンをアメリカ国防総省は2024年8月に発表しています。「Bullfrog」と名付けられたセントリーガンは独自のAIなどを搭載した回転砲塔に7.62mmM240機関銃を取り付け、小型ドローンなどの空中の脅威に的確に対応することが可能です。

Allen Control Systems - Bullfrog Autonomous Weapon Station - YouTube

海外メディアのFuturismは「STS 3DはAIを搭載した兵器システムが人間の手を借りずに敵を攻撃できるという未来の戦闘様式を描いています」と述べています。