「SNSを全削除しました」ディープフェイク増加で危機感を高めるZ世代の対応 「一番怖いのは被害を自覚できないこと」「ターゲットは女性だけじゃない」

生成AIによって作成された“ディープフェイク動画”が各国で社会問題化している。

テクノロジーの急速な進歩にともない、従来にくらべてより簡易にクオリティの高い画像や動画の生成が可能になったことで、AI技術を用いてわいせつな画像や動画を作成する「性的ディープフェイク」が氾濫し、被害が急増している。

そうしたなか、デジタルネイティブのZ世代のあいだでも、危機感が広まっているようだ。

彼ら／彼女らはどのようにAIディープフェイク問題を受け止め、対応しているのだろうか──。

都内の大学に通っている女性・Aさん（21歳・大学生）は、韓国での犯罪報道を目にしたことがきっかけで、自身の顔写真をアップしていたSNSアカウントを削除したという。

「韓国でディープフェイクポルノが拡散される事件が多発し、昨年にはポルノの視聴と所持が懲役3年以下の有罪になるなど、法整備が進んでいるというニュースを見ました。大学の授業でも生成AIについて扱っていることもあって、このニュースを見て強い危機感を覚えました。自分も含めて若い世代は、当たり前のようにSNSに自分の動画や画像をアップします。その画像データが悪用されて、簡単に生成AIで性的なフェイク動画が作られてしまうなんて、私が高校生の頃は想像もできなかった。私もこれまで、インスタ（Instagram）やBeRealなどのSNSに顔写真をたくさん載せてきたのですが、怖くなってアカウントごと消しました。鍵アカウントにしていても、身内から流出することもあると思ったからです。とはいっても、すでに画像や動画をたくさんアップしてしまっているので、悪用されているかもしれない……。ダークウェブ上にディープフェイク動画が流出していたとしても、悪用された被害者側がそれを知ることは難しい。一番怖いのは、被害を自覚できないことですよね……。とにかく、今からでもネット上から自分の情報を消した方がいいと判断しました」（Aさん）

都内の大学に通うかたわら、DJとしてイベントに出演するなど、学生以外との付き合いも多いという男性・Bさん（19歳）は、次のように語る。

「最近、写真を読み込ませると自動で特定のアニメ風に加工してくれる、いわゆるAIアニメ化アプリが流行していますよね。中学生の妹も、自分の写真や友人の写真をアップしてアニメ化して遊んでいるので、10代前半にも普及しているのは間違いないです。ただ逆にいうと、アプリに写真をアップするだけで精巧な画像加工ができるということ。そうしたなかでネット上には、スマホやPCで誰でも簡単に作成できる、『ディープフェイク作成アプリ』のまとめ情報などが氾濫しています。悪用されたくないので、具体的なアプリ名は述べませんが、もっとも簡単にできるのは『顔入れ替え』の画像生成。ある画像の顔だけを、別の人の顔に入れ替えることです。また、推しの芸能人や知人の写真を使って、自分とキスをしているようなAI動画を簡単に生成できるアプリもあります。こうしたアプリは、まとめサイトなどで丁寧に使い方が解説されているため、若年層でも簡単に使えてしまうんです」（Bさん）

Bさんは音楽イベントなどで知り合う知人から、「ディープフェイク動画を作って欲しい」と依頼されたことがあるという。

「もともと僕が映像制作が得意だったり、遊びでAI生成の音楽を作ったりしていることもあり、イベントで知り合った人から『あの子の画像でエロ動画つくってよ（笑）』、『この子に別の服着せられたりするの？』などと頼まれたことがあります。もちろん断っていますが、今後こうしたツールが広まっていけば、被害者が増えるのは目に見えています。大学の友人の女子は、『就活の時に悪影響があったら困るから、高校時代までのSNSは全部削除した』と言っていました。デジタルネイティブ世代のなかでも、リテラシーがある子たちは危機感を抱いています。今はディープフェイクポルノの被害者は圧倒的に女性が多いとされていますが、今後は男性もターゲットにされかねないと思っています。ポルノだけでなく、社会的信頼を失墜させるようフェイクコンテンツが作成され、仕事を失うこともあり得ると考えると、不安でしかたないですね」（Bさん）

急速にAI技術が進歩し、スマホひとつあれば簡単にディープフェイク画像や動画が作成できるようになった昨今、SNSに慣れ親しんだZ世代たちの危機感は高まりつつあるようだ。

参照元：Yahoo!ニュース