ＡＩチャットボット、子ども保護へ規制導入求める声

オンラインで交友関係を求める人たちの間で人工知能（ＡＩ）チャットボット（あらかじめ設定されたプログラムに基づき自動的に返答するシステム）が人気を集めるようになったのに伴い、青少年擁護団体は子どもたちが人間そっくりの創造物と不健全で危険な関係を築く可能性があると懸念し、保護に向けた規制の導入を呼びかけている。

「レプリカ」や「キャラクター・ドットＡＩ」などのチャットボットアプリは、急成長している生成ＡＩコンパニオン市場に分類される。

利用者はコミュニケーションを取り、親密な関係を疑似体験できる個性豊かなバーチャルパートナーをカスタマイズすることができる。

開発者らは、ＡＩコンパニオンは利用者が孤独と闘い、安全な空間で社会経験を高めるのに役立つと主張している。

これに対し、複数の擁護団体はチャットボットが子どもたちに自分自身や他人を傷つけるように仕向けたとして開発者を訴え、規制の厳格化を求めるロビー活動を繰り広げている。

ソーシャルメディア被害者法律センター（ＳＭＶＬＣ）の創設者、マシュー・バーグマン氏は、チャットボット新興企業キャラクター・ドットＡＩを相手取った2件の訴訟で原告の代理人を務めている。

原告の1人であるミーガン・ガルシアさんは、チャットボットとの不健全な恋愛関係が一因となって14歳の息子が自殺したと主張している。

この訴訟は昨年10月に米南部フロリダ州の裁判所に起こされた。

もう1件の訴訟は、テキサス州の2家族が昨年12月にキャラクター・ドットＡＩを相手取って起こした。

原告側はキャラクター・ドットＡＩのチャットボットが自閉症の17歳の少年に両親を殺すよう促し、11歳の少女に性的なコンテンツを見せたと主張している。

バーグマン氏はトムソン・ロイター財団に対し、法的な損害賠償の脅威が、より安全なチャットボットを設計するための圧力になることを望んでいると言及。

「これらの危険なアプリの代償は企業の負担にはなっていない。アプリによって負傷した消費者や、子を埋葬しなければならない親が負担している」と語った。

製造物責任を専門とし、アスベスト被害者の代理人を務めた経験を持つ弁護士のバーグマン氏は、これらのチャットボットは未熟な子どもを食い物にするために設計された欠陥製品だと主張している。

キャラクター・ドットＡＩはこれらの訴訟に対するコメントを避けたものの、広報担当者は安全対策として「人間の行動や応答モデルの検出と介入のシステム改善、10代の青少年と彼らの親に力を与える機能の追加」などを実施していると文書でコメントした。

また、非営利団体（ＮＰＯ）のヤング・ピープルズ・アライアンスは今年1月、生成ＡＩチャットボット企業レプリカについて米連邦取引委員会（ＦＴＣ）に苦情を申し立てた。

レプリカは口論や浮気を決してしないバーチャルなボーイフレンドやガールフレンドとして機能する定額制チャットボットで人気があり、申し立てではレプリカが孤独な人々を欺いていると主張している。

ヤング・ピープルズ・アライアンスのアドボカシー・オペレーション・ディレクターのアバ・スミシング氏は「レプリカは欺まん的な広告と利用者を操作する設計によって人間の脆弱性を悪用している」とし、レプリカは「ＡＩが生成した親密さにより、利益を得るためにユーザーを感情的に依存させている」と批判した。

レプリカはコメント要請に応じなかった。

ＡＩコンパニオンが普及したのは最近であるため、法整備に役立つデータはほとんどなく、チャットボットが一般的に暴力や自傷を助長することを示す証拠もない。

しかし米国心理学会によると、コロナ禍後の若者の孤独感に関する研究で、チャットボットが脆弱な未成年者を大勢ひきつけることが示されている。

米国心理学会は昨年12月にＦＴＣに宛てた書簡で「最も若く、最も脆弱な人々を含めた多くの米国人が社会的つながりを求めており、その必要性を満たすために一部がＡＩチャットボットに目を向けていることは驚くべきことではない」と指摘した。

青少年擁護団体も、チャットボットは友情を求める孤独な子どもたちにつけこんでいると問題視する。

家族向けの娯楽やテクノロジーを推奨するコモン・センス・メディアの技術政策アドボカシー責任者、アミナ・ファズルラ氏は「被害の多くは、ユーザーが引き戻され続ける没入体験から生じている」とし、「テクノロジーと会話していることを忘れてしまうかもしれない子どもには特に難しいことだ」と話す。

青少年擁護団体は、米議会の超党派の支持を活かしてチャットボット規制を働きかけたい考えだ。

米議会上院は昨年7月、賛成91票、反対3票という珍しい超党派の賛成多数で子どもオンライン安全法案（ＫＯＳＡ）を可決した。

しかし、ＫＯＳＡは下院で否決され、議員らはプライバシーや言論の自由に関する懸念を口にした。

この法案は未成年者向けの中毒性のあるプラットフォーム機能を一部無効化するほか、未成年者へのターゲット広告や同意なしのデータ収集を禁止し、親や子どもに交流サイト（ＳＮＳ）プラットフォームから自分の情報を削除する選択肢を与える。

上院商業委員会は今月5日、13歳未満が多くのオンラインプラットフォームを利用するのを禁止する「子ども除外ソーシャルメディア法案」を可決した。

一方、ＡＩを取り締まることでイノベーション（技術革新）が阻害されるとの懸念を示す議員もいる。

西部カリフォルニア州のギャビン・ニューサム知事は最近、ＡＩの開発・導入方法を幅広く規制する法案に拒否権を発動した。

逆に東部ニューヨーク州のキャシー・ホークル知事は今年1月、利用者がチャットボットと話していることを認識させるようＡＩ企業に義務付ける法案を発表した。

米下院のＡＩタスクフォースが昨年12月発表した報告書は、ＡＩが生成する欺まん的な画像などの問題に対処するための緩やかな規制の導入を勧告しつつ、政府が行き過ぎた規制をしないように警告を発した。

報告書は、コンパニオンチャットボットとメンタルヘルスについては明記していない。

フロリダ州で起こされた訴訟に対し、キャラクター・ドットＡＩは米合衆国憲法修正第1条に定められた言論の自由はチャットボットが生成する言論も保護すると主張している。

ヤング・ピープルズ・アライアンスのスミシング氏は「言論の自由を絶対視する姿勢が、あらゆる取り組みを阻む障害になるだろう」とし、「私たちはこれを、ハイテク企業を守るために憲法修正第1条をどのように活用するのかを再構築する機会になると捉えている」と語った。

参照元∶REUTERS（ロイター）