あまりにも自然なフェイク動画

１．あまりにも自然なフェイク動画

・ネット上の普通の写真から顔のモデリングを作成しフェイク動画を作る技術が公開
・元々はホロコースト体験者とバーチャルな会話体験を可能にさせるための技術から出発
・動画を注意深く見ればわずかに不自然さを感じる部分もあるがほとんどの人は気づかなそう

２．実在の人物を自由にしゃべらせるフェイク動画

以前、あるテレビ番組でホロコースト体験者の３D動画と人工知能を使った音声チャットボットを組み合わせて、あたかも本人と対話しているかのように会話できるとシステムが紹介されていた。非常に精巧且つ音声チャットの出来も良く感心した。アイディアも良くて、ホロコースト体験者との会話に脱線した会話が発生するシチュエーションはあまり考えられないので比較的容易にスクリプトを考える事ができるし、対話している人も人工知能の会話能力を試すような事は失礼に感じてしまい実行しにくいだろうから。

そして先日、TEDにそのプロジェクトに携わっている人のプレゼン動画があがっていた。冒頭から４人のオバマ大統領が話をしている動画が映され「本人はどれでしょう？」とクイズが出されたけれども、どれも真に迫っており見分けが全くつかない。

ネットに存在する画像から本人の顔を作り上げる事ができるとの事で驚愕したのだけれども、少なくともデモは0から全てを作り上げるのではなく実際の動画の口の周りだけを置き換えているようだった。

それでも十分インパクトがあって、フェイク動画が世の中を混乱させるような時代はそう遠くなさそう。プレゼン内では、フェイク動画を見破るツールの開発も行われているとの事だったけれども、９割以上の人はそれが本当かどうかなんて確かめず、それがセンセーショナルかどうかだけでSNS上で知人に伝えるだろう。

まぁ、昔から「この話をX人以上の人に伝えないと貴方に不幸が訪れます」などと称して拡散を狙うチェーンメールとか色々あったけれどもインターネット時代はあまり簡単に沢山の人に拡散できるし、人工知能によるフェイク動画はほとんどの人に見わけがつかない。

そして、ネットを通じて扇動や他国の選挙や世論に介入するのは既に現実世界の脅威になっているので、うーん、これって地雷や化学兵器のように紳士協定的に使うの止めましょうってしないと何とも収拾がつかないし、無政府主義者的な人でなければ誰も得しない世界になってしまいそう。