フォロワー10万人超えチアリーダーの喫煙ビデオが流出したが…「映ってるのは私じゃない」逮捕されたのは同チームの“ライバルのママ”だった〈ディープフェイク・ママ〉
スキャンダルビデオが流出し、ディープフェイクを主張したけれど、実はスキャンダルがあったという事件。なるほどね。
ディープフェイクが流通することで、ディープフェイクによる冤罪が発生することはもちろん、その事件が実際に起こっているのにディープフェイクだと主張することで罪を逃れるケースも出てくると。後者は「噓つきの配当」と呼ばれてるそうです。
これ自体は目新しい話ではなくて、古くからある話ですよね。証拠があったとして、その証拠が真正であるかどうかってのは論点ですから。近年でも永田メール事件とかありましたし。ディープフェイクは最近出始めた技術ですから、警察も裁判所も扱いに慣れておらず短絡的な判断が働きやすいという傾向はありそうですが、事件が積み重なっていくにつれて落ち着いていく傾向は期待できるかなという気はします。
一方、ディープフェイクを生産する技術は日々向上していきます。パッと見た目はもちろん、専門家が詳細に確認しても真正を判断できないケースも増えていくのではないかという気がします。AIにはAIだってことで、AIを使ったディープフェイク検出技術も発達するでしょうが、どれも完璧にはならないような気はしますよね。だからってこの手の検出技術を開発しなくていいってわけではないんですけれども。武器は多い方がいいので、ぜひ開発は進めてもらいたいとして。
それとは別の手段として、カメラ側に写真や動画に電子署名を埋め込んだらどうかと思うんですよ。機器名とユーザ特定識別子と撮影日時とデータそのものからなる電子署名を作成しておけば、その写真や映像が改ざんされているかどうか容易に検出できるわけなんですよね。そんな技術は昔からあるわけで、むしろ今やってない方がどうかしてるって気もするわけです。
これまあ、ちょっと難しいのは動画の場合は再エンコードが行われることですかね。SNSにアップした場合、通常はオリジナルの動画ファイルではなく、SNSのサーバサイドで再エンコードされます。写真でも同様ですが。この場合はどうしましょうかね。電子署名のブロックチェーンで途中の改ざんの有無を判定するようになるのかなぁ。こう考えると、ブロックチェーンってコインみたいな技術にではなく、改ざん検出方向に発展するといいような気もします。
なお、このような話は裁判になってから通用することであって、例えばディープフェイクをSNSで共有されて評判が落ちてしまうなんてことは、裁判になる前に実際に起こってしまう。あとで裁判で真実が明らかになっても一度落ちた評判は容易に戻らないし、評判が落ちた時に最悪自殺してしまうと取り返しがつかない。
というようなことを考えると、SNSにアップする際にSNS側でディープフェイクの検出を行うってのは今後重要になりそうな気がしますね。今はYouTubeに動画をアップすると著作権侵害をしていないかどうかのチェックプロセスが走りますが、それと同じような仕組みでディープフェイク検出が行われるといいのかなぁと思います。