YouTubeがAI生成・改変動画をはっきり明示する方針を発表、クリエイターに情報開示を義務づけ違反するとパートナープログラム停止も

「視聴者に誤解を与え、重大な危害をもたらす可能性がある」として、YouTubeが「AIを使用して作られた動画」であることをはっきりと示すように義務づける方針を明らかにしました。今後は動画プレイヤーや説明欄を見ることで、AI生成であることがわかるようになります。

Our approach to responsible AI innovation - YouTube Blog
https://blog.youtube/inside-youtube/our-approach-to-responsible-ai-innovation/

クリエイターは「AIを用いた動画生成」という新たな創作の可能性を手に入れましたが、一方で、視聴者が誤解を招くようなコンテンツが生成される危険性もはらんでいます。「AI生成」であることを明示して作品を公開している場合は問題ありませんが、コンテンツ内にAIで変更を加えた部分があったり、全体がAI生成であっても、視聴者は気づかないということが発生する可能性があります。

このためYouTubeは今後数カ月かけて、AIツールを用いた動画を視聴しているとき「この動画は合成である」と視聴者に伝えるようなアップデートを行っていく予定だとのこと。

具体的には、動画のアップロード時に「改変素材・合成素材が用いられている」という新しい選択肢が加えられ、クリエイターに対し、AI生成およびAIを用いて変更を加えたコンテンツについては「AIを使った」という情報の開示が義務づけられます。これにより、「実際に発生したわけではない出来事をリアルに描写した動画」や「誰かが本当はしていない言動をまるでしたかのように描写する動画」を見分けることができるようになります。

以下は説明欄の例。「How this content was made(このコンテンツはどのように作られたか)」という項目が追加され、「Sound or visuals were altered or generated digitally(音または映像は改変・生成されたものです)」という注意書きが表示されます。

動画プレイヤー上にも同じように「改変・生成されたコンテンツです」という注意書きが表示されるようになります。

情報を開示しないことを選んだ場合は動画削除やYouTubeパートナープログラムの停止、またはその他の罰則の対象になる可能性があるとのこと。

なお、ラベリングを行うだけではリスクを軽減できない可能性があるため、動画の内容がコミュニティガイドライン違反になるようなものは、ラベルの有無に関係なく削除されます。

これに合わせて、顔や声を含む、特定可能な個人を模倣したAI生成の動画、および改変が加えられた動画の削除依頼システムが導入されます。なお、削除依頼があった動画については内容がパロディや風刺ではないかどうか、個人を特定可能かどうか、公務員や著名人が登場するかどうかといった観点でチェックが行われ、すべてが削除されるわけではないとのこと。

YouTubeは「好きなアーティストの声を使った動画が作れるAIツール」に向けて音楽レーベルと協議しており、「アーティストの声を使った音楽コンテンツの削除を依頼できる機能」も準備されているとのことです。

YouTubeが「ミュージシャンの声を使った動画を作成するためのAIツール」のリリースに向けてメジャーレーベルと協議を進めている - GIGAZINE