OpenAIはアメリカ国防総省と協力して退役軍人の自殺防止支援など複数プロジェクトを進行中

ChatGPTのポリシーから「軍事・戦争目的への使用禁止」という文言を削除したOpenAIが、アメリカ国防総省と協力して複数のプロジェクトに取り組んでいることを、世界経済フォーラムにおいて明らかにしました。

World Economic Forum Annual Meeting 2024 | World Economic Forum
https://www.weforum.org/events/world-economic-forum-annual-meeting-2024/

Davos 2024: OpenAI Is Working With US Military on Cybersecurity Tools - Bloomberg
https://www.bloomberg.com/news/articles/2024-01-16/openai-working-with-us-military-on-cybersecurity-tools-for-veterans

OpenAI opens the door for military uses but maintains AI weapons ban | Ars Technica
https://arstechnica.com/information-technology/2024/01/openai-reveals-partnership-with-pentagon-on-cybersecurity-suicide-prevention/

スイスのダボスで2024年1月15日から始まった「世界経済フォーラム」において、OpenAIでChatGPTのグローバル担当バイスプレジデントを務めるアンナ・マカンジュ氏は、OpenAIがアメリカ国防総省と協力して、オープンソースのセキュリティツールを含めたAIツールの開発を進めていることを明らかにしました。

OpenAIは先日、ChatGPTのポリシーから「軍事・戦争目的への使用禁止」という文言を削除していて、その理由についてニュースサイト・Engadgetのコメント依頼に対し、国家安全保障に関連して利用する事例があり、従来のポリシーのままではこれが「軍事使用」かどうか不明確だったためと回答していました。この回答の中でOpenAIは、国防総省の国防高等研究計画局(DARPA)と組んで、サイバーセキュリティツールの開発を進めているという事例を述べていましたが、今回はそれを広く明らかにした形です。

OpenAIがChatGPTのポリシーから「軍事・戦争目的への使用禁止」という文言を削除 - GIGAZINE

マカンジュ氏によると、ほかには退役軍人の自殺防止を支援する方法について政府と協議を行ったとのこと。

また、選挙のセキュリティに関する取り組みも加速させており、生成AIツールが政治的なフェイクニュースの拡散に利用されないようにするためリソースを割いていると説明しました。

OpenAIが2024年の選挙ラッシュでAIが悪用されることを防ぐための施策を発表 - GIGAZINE

世界経済フォーラムには、OpenAIのCEOであるサム・アルトマン氏も出席しており、「選挙はとても重要です。たくさん心配事があるというのはいいことだと思います」と言及しています。

OpenAI's Atlman and Makanju on Global Implications of AI - YouTube