Pixel 9に搭載された画像生成AIはフェイク画像を作るのが簡単すぎて写真を信じられなくなるレベルでした

「Pixel 9」「Pixel 9 Pro」「Pixel 9 Pro XL」には、写真に新たな物体を追加したり写真の一部を置き換えたりできるAI機能「イマジネーション」が搭載されています。スマートフォンに標準搭載された画像生成AI機能でどんな編集が可能なのか気になったので、実際に複数の写真でイマジネーションを実行してみました。

編集マジックを使用して写真をイマジネーションする - Pixel カメラ ヘルプ
https://support.google.com/pixelcamera/answer/15209122

Pixel 9 Pro XLで撮影した川の写真を「凍った川の写真」に編集してみます。

まず、Google フォトで編集したい写真を開いてから画面下部の「編集」をタップ。

編集画面が開いたら画面左下の赤枠で囲ったボタンをタップ。

イマジネーションはAI画像編集機能「編集マジック」の一機能として提供されており、写真を編集するには写真をサーバーにバックアップする必要があります。自動バックアップ設定を無効にしている場合はバックアップを求められるので「バックアップ」をタップ。

編集マジックの画面が開いたら、写真内の編集したい部分を円で囲ったりタップしたりして選択します。今回は川の水が流れる部分を選択しました。

選択が完了したら「イマジネーション」をタップ。

入力欄に編集内容を入力してから矢印ボタンをタップ。今回は「凍った川」と入力しました。なお、画面内の説明書きには「英語のプロンプトにのみ対応しています」と記されていますが、日本語のプロンプトでも問題なく動作しました。

矢印ボタンをタップすると画像生成が始まります。画像生成処理はサーバー上で実行されるため、インターネット接続が必須です。

数秒待つと編集後の写真が4枚生成されました。保存したい写真を1枚選んでから画面右下のチェックボタンをタップ。

「コピーを保存」をタップ。

これで編集後の写真を保存できました。

完成した「凍った川」の写真が以下。かなりリアルな出来栄えです。なお、記事内の元写真および編集後の写真をクリックすると、リサイズ前の原寸写真を確認できます。

他にも色んな画像をAIで編集してみました。橋の上から撮影した川の写真。

マグマの川にしてみました。

川の中州。

フェス会場になりました。写真をクリックして原寸写真を確認すると人間の形状が破綻しているのが分かりますが、縮小表示の状態だとパッと見では本当の写真に見えます。

緑の多い写真。

お花畑があったことになりました。

夜間に撮影した駅前バスターミナル。

大きな満月を追加してみました。

これはネパール食堂バルピパルのダルバート。

ダルバートをピザにチェンジ。かなり自然な出来栄えです。

ドロイド君の写真。ちなみにドロイド君の正式名称は「bugdroid」らしいです。

白い壁と机を深い森に置き換えてみました。

上記の通り、イマジネーションを使えば誰でも簡単に「本当の状況とは異なる写真」を作成できます。これまでもPhotoshopなどの画像編集ソフトを使えばフェイク画像を作成可能でしたが、リアルなフェイク画像を作成するには高度な技術が必要なため「一般ユーザーがSNSに投稿している画像は、色合いなどの簡単な編集は施されているものの写っている被写体自体は正しいもの」という認識でいましたが、今後はスマートフォンの標準機能で簡単にフェイク画像を作成できてしまうため写真を見ても信じられなくなりそうです。

Googleもフェイク画像が拡散するリスクは想定しているようで、プロンプトに「事故現場」などの単語が含まれている場合は編集を拒否するようになっていました。

ただし、Googleのフィルタリングは完璧ではないようで、「事故現場」というプロンプトを入力して編集を繰り返し実行したところ以下の画像が生成されてしまいました。

なお、Pixel 9シリーズのカメラ性能は以下の記事に詳しくまとめています。

Pixel 9とPixel 9 Pro XLどっちを買うべきか？カメラ性能を徹底比較してみたよレビュー - GIGAZINE

また、写真を後からズームできる機能「ズーム画質向上」の作例を以下の記事にまとめています。

Pixelの「あとから写真をズームできる機能」を使ってみた - GIGAZINE