AIを生物兵器開発に使うのを防ぐ誓約書に130人以上の科学者が署名、AIによるタンパク質設計の利益を最大化しリスクを最小限に抑える

20カ国以上・130人以上の科学者が、タンパク質設計におけるAIの利点を最大化しつつリスクを最小限に抑えるように呼びかける、責任あるAI開発を推進するための取り組みについてまとめた10項目の誓約書に同意しました。

Responsible AI x Biodesign
https://responsiblebiodesign.ai/

Our commitment to responsible AI development - Institute for Protein Design
https://www.ipd.uw.edu/2024/03/our-commitment-to-responsible-ai-development/

AIの進歩により、機能的な生体分子、特にタンパク質の設計が可能になるなど、生物学の研究にとって大きな飛躍が訪れています。AIによるタンパク質の立体構造解析や設計が可能になることで、人類がこれまで見つけることができなかった新薬の開発や病気の治療法が発見される可能性があります。

一方で、こうした先進的な科学技術は時として人類を脅かす存在にもなり得ます。新しい生体分子は生命に危険を及ぼすかもしれず、生物兵器として応用される可能性も十分考えられます。

そこで、ワシントン大学タンパク質設計研究所で2023年10月25日に行われたサミットの内容を基に、参加者の科学者や企業・慈善団体・政府組織の代表者は、「タンパク質設計用AIの責任ある開発に対するコミュニティの価値観、指導原則、および取り組み」と題した誓約書が発表されました。

この誓約書では、「AIを社会の利益のために役立たせる」「AIの安全性とセキュリティー」「AIのオープン性」「AI開発の公平性と国際協力」「テクノロジーに対する責任」という指導原則に基づいて、以下の10項目の誓約がまとめられています。

01：私たちは社会の利益を目的として研究を行い、社会に害を及ぼす可能性や技術の悪用を招く可能性のある研究を行いません。
02：私たちは感染症の発生やその他の緊急事態に備えて、対応するための地域社会の取り組みを支援します。
03：私たちは、危険な生体分子を製造前に検出する業界標準のバイオセキュリティースクリーニングを順守していることを示すプロバイダーからのみDNA合成サービスを受けます。
04：私たちは、危険な生体分子を製造する前により検出できるようにするため、DNA合成スクリーニングを改善する新しい戦略の開発を支援します。
05：私たちは、タンパク質設計AIの能力を継続的に評価し、有意な安全およびセキュリティリスクをすべて特定し、軽減するように努めます。
06：私たちは、タンパク質設計AIを評価する方法を改善し、リスクを特定するための努力をサポートします。
07：私たちは定期的に安全な会議を開き、自分たちの分野における能力とリスクを省みます。
08：私たちは、研究実践について報告します。
09：私たちは、自分たちの研究が持つ恩恵とリスクを共有します。
10：私たちは、以上の原則とコミットメントを必要に応じて改訂し、現場の新しい仲間と共有していきます。

この誓約書には記事作成時点で131人の科学者が賛同を表明しています。その中には、2018年にノーベル化学賞を受賞したフランシス・アーノルド氏や、Microsoftの最高科学責任者(CSO)でMicrosoft Researchの所長でもあるエリック・ホロヴィッツ氏の名前もあります。

誓約書の筆頭著者であるワシントン大学タンパク質設計研究所のデビッド・ベイカー所長は、「タンパク質設計で責任を持った上でAIを活用することで、世界に利益をもたらす新しいワクチンや医薬品、持続可能な材料が開発されるでしょう。私たちは科学者として、AIが悪用されて害をもたらす可能性を最小限に抑えながら、これを確実に実現しなければなりません」とコメントしています。