フェイクの時代

昔からプロパガンダや情報操作はありました。戦時中の大本営発表とかね。インターネットは情報をオープンにすることで、透明性の高い公平な世の中がやってくると期待されていました。昔はマスメディアしか情報を得ることができませんでした。雑誌や新聞やテレビ。そうした限られた情報源から操作された情報を流されたらどうしようもありませんでした。インターネットはそれを変えてくれると期待されていました。

いま、これらをすべて過去形で書かなければいけないのが非常に残念でなりません。

インターネットはフェイクニュースであふれています。昔は情報源は限られていましたが、いまはあらゆるところからフェイクニュースが流れてきます。偽情報は他のコンテンツと共に中央集権型からインターネットらしい分散型に進化しました。

メディアも多様化したようでいて、実はさほど多様化していません。むしろ集約化しているかもしれません。だって、ほとんどの情報はグーグルかフェイスブックかツイッターから得ますよね。もし、グーグルとファイスブックとツイッターが情報操作をしていたら？彼ら自身が情報操作をしなくても、誰かが彼らを利用して情報操作をしたら？これが現実的に起きてしまったのがケンブリッジ・アナリティカの事件でした。

ネットフリックスで現在公開されている『グレートハック：SNS史上最悪のスキャンダル』がさらけ出したのは、インターネットが民主主義を攻撃するツールへと変貌してしまった姿です。インターネットも所詮はツール。インターネット自体に色はありません。使う人によって明るい未来を生み出すこともできるし、暗黒の世界に落とし込むこともできます。フェイスブックのマーク・ザッカーバーグだって、グーグルのラリー・ペイジだって、ツイッターのジャック・ドーシーだってこんな世の中を作りたかったわけではないでしょう。

インターネットは開かれた世界ではなくなってしまいました。いや、壁があるわけではないんです。非常に広大なオープンスペースです。しかし、そこには基幹道路が通っていて、みんなそこを走っている。その基幹道路の名前がグーグルやフェイスブックです。バズフィードと並ぶバイラルメディアのアップワーシーの創業者であるイーライ・パリサーはそれを「フィルターバブル」と呼びました。情報がアルゴリズムで歪んでしまい、そこにあるのに見えなくなってしまう現象です。まあ、お前が言うなという気がしないでもないですが。

閉じこもるインターネット――グーグル・パーソナライズ・民主主義

しかし、ケンブリッジ・アナリティカ（だけ）がトランプ政権やブレグジットを起こしたわけではありません。それほど単純ではないのが現代のフェイクの根深いところです。これまでのフェイクは政府のプロパガンダやメディアの印象操作みたいに発信元が（あとあと考えればなのかもしれませんが）わかりやすいものでした。現代のフェイクは貧しい国が簡単にお金を儲けるビジネスモデルにもなっています。例えばフェイクニュース工場といわれるマケドニアです。AIとか特別な技術は必要なく、ただインターネットに接続できればフェイクニュースを作って簡単に金儲けができます。DeNAの医療バイラルメディアで問題を起こしたWELQも同じです。

また、フェイクはエンターテイメントにもなっています。最近話題になったのはディープフェイクのフェイススワッピングアプリのZAOですね。ユーザーはZAOにアップロードした自分の顔データをメーカーに無償で永続的に提供する利用規約になって問題になりました。さらに個人データは第三者に譲渡できて、再ライセンスもできる記述となっていました。個人データももちろん問題なのですが、簡単にフェイクを作れてしまう技術ができたこと自体がこの問題の根の深さなんだと思います。

技術的にはAIが使われてたりするのですが、泥棒も警察もAIを使ってイタチごっこになっています。TikTokで有名な中国のスタートアップ头条（ByteDance）は元々はニュースアプリで有名になり、AIでの記事の生成も世界に先駆けて実現しました。このような正しい使われ方をする分にはいいのですが、フェイクニュースを大量生産できるという意味でもあります。AIによるフェイクニュースを阻止する技術も生まれつつあります。すでに有名なツールとしてはBotometerがありますし、IBMとMITは共同でAIを使って生成されたテキストを発見するツールGLTRを発表しました。

最近では声もフェイクできます。フィッシング詐欺が問題になっていますが、音声のフィッシングであるヴィッシング（Vishing）も登場しました。ヴィッシングには音声のディープフェイク技術が使われています。やっぱりイタチごっこなのですが、イスラエルのPindropのような音声のディープフェイク対応したソリューションも出はじめています。もう、こうなるとマッチポンプなんじゃないかと疑いたくなってきますよね。

昔からメディア・リテラシーは大事だと言われていますが、ここまでフェイクが高度化して大量生産されてしまうと、また違うレベルのリテラシーが必要になってくるのかもしれません。