Googleがディープフェイク作成にリソースプラットフォーム「Colab」を利用することをひそかに禁止

ブラウザを介してPythonのコードを直接実行し、GPUなどのコンピューティングリソースを利用できるGoogleのオンラインプラットフォーム「Colaboratory(Colab)」で、2022年5月のある時期に禁止行為に「ディープフェイクの作成」がこっそりと追加されていたことがわかりました。

Google Has Banned the Training of Deepfakes in Colab - Unite.AI
https://www.unite.ai/google-has-banned-the-training-of-deepfakes-in-colab/

Google quietly bans deepfake training projects on Colab
https://www.bleepingcomputer.com/news/google/google-quietly-bans-deepfake-training-projects-on-colab/

ディープフェイクは写真・映像内の顔を自由に入れ替えたり年齢を変えたり口を自由に動かしたりすることができ、使いようによっては非常に便利なのですが、一方では面白半分に利用されるばかりか、フェイクニュースの拡散やリベンジポルノの作成などに用いられることもあり、利用における倫理の欠如が論争や懸念の種となってきたことを、IT系ニュースサイト・Bleeping Computerは指摘しています。

ColabのFAQにはもともと、制限に関して、リソースは保証されておらず無制限ではないこと、利用制限の変更があり得ることといった説明があり、禁止行為として「ファイルホスティング、メディア配信、Colabとのインタラクティブコンピューティングに関係しないウェブサービス提供」「torrentのダウンロードまたはP2Pのファイル共有への参加」「リモートデスクトップまたはSSHの使用」「リモートプロキシへの接続」「仮想通貨マイニング」「DoS攻撃の実行」「パスワードのクラッキング」「複数アカウントを用いてアクセスやリソース使用の制限を回避すること」が挙げられていました。以下は2022年5月14日時点で取得されたColabの禁止行為が記されたページのアーカイブ。

Google Colab
https://web.archive.org/web/20220514170909/https:/research.google.com/colaboratory/faq.html

2022年5月24日時点で取得された同じページのアーカイブ。上述の禁止行為に「ディープフェイクの作成」が加わっています。

Google Colab
https://web.archive.org/web/20220524020957/https://research.google.com/colaboratory/faq.html

ディープフェイク作成ソフトウェアとして知られるDeepFaceLabの開発者・chervonji氏は、Colabでディープフェイクのトレーニングを行おうとすると「あなたは許可されていないコードを実行している可能性があり、将来的にColabの利用を制限される可能性があります。FAQ記載の禁止行為にご注意下さい」とのメッセージが表示されることをDiscordで報告しています。ただ、コードの実行自体はできるとのこと。

同じくディープフェイク作成ソフトウェアとして知られるFaceSwapの共同リード開発者Matt Tora氏は、「Googleは倫理的な問題を理由にディープフェイク作成を禁止したわけではないのでは」と予想。もともとGoogle Colabは研究者やデータサイエンティスト、学生が計算コストの高いコードを実行できるようにするためにリソースを提供するサービスだったものを、計算コストの高いディープフェイクモデルを作成するために本来想定外だったユーザーがリソースを消費する状態になっていたことが、今回の措置につながったものだと考えているとのこと。その上で、「我々のコードを試すための道が閉ざされるのは悲しいことですが、本来のターゲットがリソースを確実に利用できるようにするため保護するのは、理解できます」と述べています。

ディープフェイク関連では、多くのユーザーがColabで事前にトレーニングされたモデルを利用して高解像度のプロジェクトを迅速に展開しているとのことで、今回の制限はディープフェイクの世界で広範囲に影響を及ぼすものになるとみられます。