AIによって生成される動画が、恐ろしいほどリアルになっています。さらに恐ろしいのは、そうした動画を作るツールが誰にでも手に入ってしまうことです。
たとえば、OpenAIの「Sora」のようなアプリを使えば、有名人や友人、あるいは自分自身といった実在の人物を含む、あらゆるものの超リアルなショート動画を意のままに作成できてしまいます。
OpenAIも、リアルな動画をここまで簡単に作れてしまうアプリに潜むリスクは承知しています。そのため、Soraで生成された動画には必ず透かし（ウォーターマーク）を入れる仕様にしました。
SNSのフィードをスクロールしているときに、目玉のついた可愛い雲が描かれた小さなSoraのロゴを見かけたら、それはAIが作った動画だと分かる、というわけです。
Soraの透かしは、もはや信じられない
このアプリが発表されたとき、私が真っ先に心配したのは、誰かがこの透かしを消す方法を見つけ出し、インターネットに混乱をまき散らすのではないか、ということでした。その予想は外れていませんでした。AIが作った粗悪なコンテンツを、さらにリアルに見せたいと考える人たちのために、すでに多くの選択肢が出回っています。
しかし、私が予想していなかったのは、その逆の現象でした。つまり、本物の動画にわざとSoraの透かしを「追加」して、あたかもAIで作られたかのように見せかける人々が現れたのです。
最近、X（旧Twitter）をぼんやり眺めていたときのこと。Appleの役員であるクレイグ・フェデリギ氏が登場する、こんな動画を見かけました。
投稿には「soraはますます良くなっている」と書かれ、Soraの透かしも入っています。だから私は、誰かがアプリでフェデリギ氏のカメオ動画を作って投稿したのだと思いました。ところが驚いたことに、この動画はAppleが事前に録画した発表会イベントから抜き出したものだったのです。フェデリギ氏がApple本社をパルクールで駆け回る、あのシーンでした。
その後、また別のクリップを見かけました。これもSoraの透かしが使われています。一見すると、OpenAIの製品だと騙されてしまうかもしれません。
しかし、よく見ると、このクリップには本物の人間が使われていることが分かります。ショットが完璧すぎで、AIによる動画生成によく見られる映像のぼやけや乱れがないのです。
この動画は、Soraがよく生成する「複数のショットで人物が話す」というスタイルを真似ているだけでした（鋭い視聴者なら、透かしが本物よりも少し大きく、動きが静的であることにも気づくかもしれません。）
実は、この2番目のクリップを投稿したアカウントは、どんな動画にもSoraの透かしを追加できるツールまで公開していました。
そのツールを作った意図や目的は説明されていませんが、間違いなく本物です。たとえこのツールがなくても、特にSora公式の透かしの動きを忠実に再現することにこだわらなければ、動画に透かしを編集で入れるのはそう難しくないでしょう。
本物？それとも偽物？
しかし、これはフィードの動画をスクロールするときには、常に警戒を怠らないように、という重要な教訓になります。私たちは、偽物のクリップだけでなく、実は本物なのにAI生成だと偽って宣伝されているクリップにも気をつけなければなりません。
ここには多くの示唆が含まれています。バイラル動画にSoraの透かしを貼り付けるのは面白いかもしれません。
ですが、誰かが違法行為を映した本物の動画に透かしを追加したらどうなるでしょうか？ 「ああ、あの動画は本物じゃないよ。透かしなしで出回っている動画は、誰かが改ざんしたものさ」と言い逃れができてしまうかもしれません。
現時点では、Soraの透かしを完璧に複製する方法を編み出した人はいないようです。ですから、誰かが本物の動画をAI製だと偽ろうとしても、どこかに綻びが見つかるでしょう。それでも、この状況全体が少し気がかりであり、どんな解決策があり得るのか、私には分かりません。
もしかしたら私たちは、インターネット上の動画はすべからく信用できないものとして扱われる未来に向かっているのかもしれません。何が本物で何が偽物かを見極められないのなら、なぜわざわざ見極めようとする必要があるのでしょうか？
元の記事を確認する
