OpenAIがAIサイバーセキュリティ機能の開発を支援するプログラムをスタート、1億3900万円の資金を提供

チャットAIのChatGPTを開発するAI研究団体のOpenAIが、AIを活用したサイバーセキュリティ機能の開発を促進するためのプログラムを始めると発表しました。

OpenAI cybersecurity grant program
https://openai.com/blog/openai-cybersecurity-grant-program

2023年6月1日、OpenAIがサイバーセキュリティ助成プログラムを立ち上げました。OpenAIはこのプログラムについて、「AIを活用したサイバーセキュリティ機能を強化・定量化し、ハイレベルなAIとサイバーセキュリティの議論を促進するための100万ドル(約1億3900万円)のイニシアチブです」と説明しています。

OpenAIが始動するサイバーセキュリティ助成プログラムで目指すのは以下の3点です。

1：防御側に力を与える
最先端のAI機能が何よりもまず防御側に利益をもたらすようにしたいと考えています。

2：機能の測定
AIモデルの有効性をより深く理解し改善するために、AIモデルのサイバーセキュリティ機能を定量化する方法の開発に取り組みます。

3：議論のレベルを高める
AIとサイバーセキュリティの厳密な議論を促進し、この領域における課題と機会についての包括的な理解を促進することに専念します。

OpenAIは「サイバーセキュリティにおける従来の見方は、自然環境が防御側よりも攻撃側に有利であるというものです」「攻撃側が直面する制約は少なく、防御側は人々の安全を守るという共通の目標に向けた協調性という、より価値のあるものがあります」と述べ、サイバーセキュリティにおける現状が「攻撃側有利」になっていると指摘しています。

OpenAIはこのプログラム向けに以下のようなアイデアを提案しています。

・サイバーセキュリティの防御側からデータを収集してラベルを付け、防御側のサイバーセキュリティ担当者を訓練する。
・ソーシャルエンジニアリング戦術を検出して軽減する。
・インシデントのトリアージを自動化する。
・ソースコード内のセキュリティ問題を特定する。
・ネットワークまたはデバイスのフォレンジックを支援する。
・脆弱性に自動的にパッチを適用する。
・パッチ管理プロセスを最適化して、セキュリティ更新プログラムの優先順位付け、スケジュール設定、展開を改善します。
・GPUでの機密コンピューティングの開発または改善。
・ハニーポットと欺瞞テクノロジーを作成して、攻撃者を誤った方向に誘導したり罠にかけたりする。
・リバースエンジニアによるシグネチャーの作成とマルウェアの動作ベースの検出を支援します。
・組織のセキュリティ管理を分析し、コンプライアンス体制と比較する。
・開発者が安全な設計およびデフォルトで安全なソフトウェアを作成できるように支援します。
・エンドユーザーがセキュリティのベストプラクティスを採用できるように支援します。
・セキュリティエンジニアと開発者が堅牢な脅威モデルを作成できるように支援します。
・組織に合わせて調整された防御側向けの重要な関連情報を含む脅威インテリジェンスを生成します。
・開発者がメモリセーフな言語にコードを移植できるように支援します。

なお、プログラムに参加したい場合は以下のページから申請可能。プログラムに参加すると、100万ドルの資金プールから1万ドル(約139万円)単位で助成金が支払われることとなるそうです。

Cybersecurity grant program
https://openai.com/form/cybersecurity-grant-program