医薬品開発AIは化学兵器の開発に悪用可能なことが判明、わずか6時間で4万種もの「化学兵器候補分子」を特定可能

AIが用いられる分野は多岐に渡っており、医薬品の候補分子の探索にも用いられています。この医薬品開発AIを悪用することで、6時間で4万種のもの化学兵器候補分子を探索可能とする衝撃の研究結果が発表されました。提示された候補分子の中には神経ガス「VX」を上回る毒性を持つものも存在していたとのことです。

Dual use of artificial-intelligence-powered drug discovery | Nature Machine Intelligence
https://doi.org/10.1038/s42256-022-00465-9

AI suggested 40,000 new possible chemical weapons in just six hours - The Verge
https://www.theverge.com/2022/3/17/22983197/ai-new-possible-chemical-weapons-generative-models-vx

医薬品開発に用いられるAIは、標的とした毒性を弱める分子を探索するように設計されています。創薬企業のCollaborations Pharmaceuticalsで医薬品開発AIについて研究するファビオ・ウービナ氏は、自身が開発した医薬品開発AI「MegaSyn」に調整を加えて、毒性を弱める分子ではなく毒性を強める分子を探索するように設定。このAIを6時間動作させた結果、4万種もの化学兵器候補分子が特定されました。

実験に用いられたAIの学習には、神経ガス「VX」のデータを含む複数の化学兵器に関するデータが用いられたとのこと。このため、特定された候補分子の中にはVXや既存の化学兵器に類似した分子が多く含まれていました。さらに、既存の化学兵器とは類似せず、VXよりも毒性が強いことが予想される分子も特定されました。ウービナ氏はこの結果から「有用な医薬品の開発に関わる無害なツールが、用途を逆転させることで致命的な分子の探索ツールに変換された」と述べています。

MegaSynは、特定した医薬品候補分子を実際に合成する前に、仮想的に選別する機能も備えています。このため、今回の実験のように化学兵器候補分子の探索に用いれば、強い毒性の候補分子を選別することも可能とされています。また、ウービナ氏は悪用を防ぐために実験内容の詳細の公開を控えているものの、今回の実験ではPythonなどの無料ツールや無料の医薬品データセットなどが用いられているため、知識のある人物ならば低コストかつ短時間で実験内容を再現できてしまうとのことです。

ウービナ氏はAIを用いることで容易に化学兵器候補分子を特定できてしまう状況について警鐘を鳴らし、AIの悪用を防ぐ仕組みの議論を求めています。また、ウービナ氏はAI悪用防止策の参考として文章生成AI「GPT-3」の開発元であるOpenAIが行っている「ガイドラインの策定」「コンテンツフィルターの提供」「使用用途の監視」といった対策を挙げています。