中高生さらに小学生も被害に”生成AIでわずか30秒 性的な画像作成も”「性的ディープフェイク」の実態
今、急増しているディープフェイクによる性的被害。
見ず知らずのうちに写真が悪用され、生成AIにより、性的な映像や画像が作られるケースが相次いでいる。
体操服を着た幼さが残る少女たち。
性的ディープフェイクにより下半身が露出したように加工されたり…
なかには卒業アルバムの写真を悪用されるケースも…
生成AIによりいとも簡単に作成され、誰もが被害者になりうる性的ディープフェイク。
卑劣な実態を取材した。
先月、こども家庭庁が開いたあるワーキンググループでは、生成AI技術などを悪用し実在する児童、女性などを性的に加工した画像や動画「性的ディープフェイク」について議論されていた。
【三原じゅん子こども政策担当相】「生成AI技術を悪用した児童の性的ディープフェイクについては、だれでも簡単に被害者にも加害者にもなってしまう」
警察庁によると、性的ディープフェイクに関する全国の相談や通報は、去年100件を超えた。
一体、どのような実態があるのか。
ネットパトロールやデジタル性暴力の通報活動を行う「ひいらぎネット」代表の永守すみれさんに聞きました。
性的ディープフェイクは近年、未成年者がターゲットになっていると指摘する。
【ひいらぎネット 永守すみれ代表】「数年前までは有名人の方が被害に遭っていることが多かったんですけれども、最近では一般の中高生、もっと小さいと小学生も性的ディープフェイクの被害に遭ってしまっている現状があります」
「ひいらぎネット」の調査によると、未成年者の性的ディープフェイクがことし3月～6月で252件、SNS上などで確認されたという。
【ひいらぎネット 永守すみれ代表】「ヌードに加工されているものがもっとも多いんですけど、性的な行為をしているものもありました」
そしていま悪用されているのが卒業アルバムだ。
【ひいらぎネット 永守すみれ代表】「とくに3～4月くらいにかけて卒業アルバムが配布されてすぐくらいのタイミングというのは卒業アルバムを使った画像加工の被害というのが大変多かった」
被害者の知らないところで卒業アルバムの写真を悪用。
性的な画像や動画に変えられ、誰でも見られるSNSなどに投稿されているという。
実際に、コミュニケーションアプリを見てみると…「#卒アル晒し」という名前が付けられた項目が。
そして卒業アルバムとみられる名前が入った写真がずらりと投稿されています。
【ひいらぎネット 永守すみれ代表】「自分で衣服をはだけて胸をあらわにするようなもの、おそらく小学生だと思うが服を脱がされているようなものになります」
なんと小学生とみられる少女の写真を性的な動画に変えているものやSNSに投稿した写真を悪用され下半身に何も着けていないかのように加工された画像も。
驚くのは作成の依頼者が「同級生」の可能性もあるという。
【ひいらぎネット 永守すみれ代表】「例えば、同級生を名乗る人が『自分の同級生の画像を加工してください」というふうに書いて、元画像をあげている」
性的ディープフェイクはどのようにして作られてしまうのか。
記者の写真を使用し実際に作成してみると…
【ひいらぎネット 永守すみれ代表】「今開いているページは、ヌードフェイクが作れるサービスへのリンクがずらっと貼られているところ」
コミュニケーションアプリに貼られた多くのURL。
このURLに飛ぶと簡単に作成できるという。
記者の証明写真をアップしてみると、作成サイトには、「胸の大きさ」を選ぶ機能もあった。
そして、作成ボタンを押すと…
【ひいらぎネット 永守すみれ代表】「『26秒でできます』と書いています」
【記者】「服が脱がされています」
わずか30秒ほどで、記者が着ていたはずの服が消えている。
【記者】「違和感ない。ここまで精度があるんですね」
【ひいらぎネット 永守すみれ代表】「本当に言われなかったらAIで脱がされたものってわからない。普通にこういう写真がもともとあったのかなって思うようなものが簡単に作れてしまうんですね」
AIの技術向上により誰でも簡単に作ることができ、一見しただけでは、真偽の判断が難しくなってきているという。
被害者の知らないところで作成・投稿されている性的ディープフェイク。
永守さんは、「個人での対策は難しい」と指摘する。
【ひいらぎネット 永守すみれ代表】「卒業アルバムとか、学校行事の写真っていうのは、自分の管理ができる範囲外にあるので、正直に言って完全な自衛というのはもはや不可能。国がしっかりと対策をしていくべき」
卒業アルバムが悪用される現状に若者は…
【高校生】「悪用されるのは悲しいし、怖いなって思います」
【高校生】「3年間とか6年間の思い出があると思うので残してほしいと思うけど変な風には扱ってほしくない」
卒業アルバムが悪用される問題について大阪市にあるアルバムメーカーはどのように思っているのだろうか。
【株式会社ダイビ 前田哲治社長】「卒業アルバムがディープフェイクに関わるような伝わり方をしていると不本意」
この会社では、昨年度2230校分のアルバムを作ったが近年、中身にある変化が…
【株式会社ダイビ 前田哲治社長】「個人情報の繋がりかねないデータに関しては掲載しない傾向。個人と名前が一致しないように写真だけにする、数は少ないが出てきている」
個人情報保護のため、変わりゆくアルバムのカタチ。
しかし卒業アルバムをめぐってはことし4月、仙台市の印刷会社がサイバー攻撃をうけたと発表。
全国の小中学校などおよそ17万3000人の個人情報が流出した可能性があるという。
こうした漏洩を防ぐため、この会社では最高水準のセキュリティ対策をしているという。
【株式会社ダイビ 前田哲治社長】「卒業アルバムは人の人生において学生時代の記憶の象徴、誰にとっても大事なアイテム。我々もプライドを持って仕事をさせてもらっている。モノ作りをするまでは我々の責任。生徒の手に渡った先は関与できないので…」
誰もが被害者になりうる性的ディープフェイク。
大切な写真が悪用されないために早急な対策が求められる。
「ひいらぎネット」の永守すみれ代表によると、保育園の写真購入サイトからIDやパスワードが流出し、そこから写真を取って、悪用されるケースや投稿したウェディングフォトがディープフェイクの被害に遭うこともあるそうだ。
日本には、現段階で性的ディープフェイクに特化した法律がない。
しかし自治体が対策に動き始めていて、鳥取県は、児童ポルノ（ディープフェイク含む）の作成・提供を禁止する条例を今年の4月に施行した。
来月から以下の罰則が強化されるという。
・5万円以下の過料
・画像の廃棄・削除の命令
従わない場合には…
・追加で5万円以下の過料
・氏名の公表も
この問題について、犬山紙子さんは、「国が対策をすべき」と提言する。
【犬山紙子さん】「国が対策していくべきだと思うんですよね。AIを規制する方向ではなくて、児童ポルノとしてどう罰していくか。同級生による（依頼）もあるとお話ありましたけれども、こいつ気に入らないからディープフェイクで（生成AIに）してもらおう（という発想）にもなり得る。教師による盗撮も話題になっていますが、自分の教師がそれを（ディープフェイク画像生成を）やっているけど罰せられないのは違うと思うんですよね」
【関西テレビ・神崎博報道デスク】「鳥取県のような取り組みが本当に国レベルでやればいいんですけれども、例えば海外の人に（法律の範囲が）及ぶのかなど（の課題が）ありますし、AIそのものの規制は難しいんですけど、EU・ヨーロッパでは、 AI自体を規制し、性的なものを含めて人権侵害するものであれば、AIを開発した企業に対しても制裁金をかけるという形で動いている国もあります」
一方、大阪大学大学院・安田洋祐教授は、国が規制をかけることで、「他の技術革新を阻害してしまう可能性もあるのでは」と、「技術革新」と規制の両立の難しさを指摘した。
【大阪大学大学院・安田洋祐教授】「規制が実効性を持つかという点も難しいですし、ポルノ対策でかけた規制が他の技術革新を阻害してしまうかもしれない。こういった動機でAIを使う人は、多数派ではないと思う。守るべきものは守るけれども、社会を便利にしていくイノベーションを削がない形のルール作りができるかですね」
参照元：Yahoo!ニュース
