新たな報道によると、英国の児童委員は、子供のヌードや性的画像を作成するAIディープフェイクアプリの禁止を求めた。同紙は、こうした「ヌード」アプリがあまりにも普及したため、多くの少女がソーシャルメディアに写真を投稿しなくなったと指摘した。 CSAM 画像の作成やアップロードは違法ですが、ディープフェイクのヌード写真を作成するために使用されるアプリは合法のままです。
「子どもたちは、この技術が利用可能であること、ましてや実際に使われていることさえ、恐怖を感じていると私に話しました。誰もが、見知らぬ人でも、クラスメートでも、友達でさえも、スマートフォンを使ってカスタマイズされたアプリを使ってヌード画像を作成できるのではないかと恐れていたのです」と、児童委員のレイチェル・デ・ソウザ女史は述べた。 「これらのアプリが存在する明確な理由はありません。」
デ・ソウザ氏は、ネイキッド AI アプリは、大手検索エンジンやアプリ ストアを含む主流のプラットフォームで広く利用可能であると指摘しました。同時に、彼らは「少女や若い女性を不当にターゲットにしており、多くのツールは女性の身体にしか効かないようだ」彼女は、若者たちはそのようなツールの悪用に対する対策を求めていると付け加えた。
このため、デ・ソウザ氏は政府に対し、ポルノのディープフェイクを生成するためにAIを使用するアプリを全面的に禁止するよう求めた。彼女はまた、政府に対し、GenAIアプリ開発者に対し、自社製品が子供に及ぼすリスクを特定する法的責任を課し、インターネットからCSAMを除去するための効果的なシステムを確立し、ディープフェイクによる性的虐待を女性や女児に対する暴力の一形態として認識するよう求めている。
英国はすでにそのような技術を禁止する措置を講じており、ポルノディープフェイクの作成や共有に対する新たな刑事犯罪を導入している。また、同意なしに親密な写真やビデオを撮影することは刑事犯罪であるとも宣言した。しかし、ガーディアン紙が指摘するように、児童委員は、ディープフェイクの乱用と自殺念慮および心的外傷後ストレス障害との関連を指摘し、こうした技術が若者に及ぼす可能性のある危害に特に焦点を当てている。
「論争が起きる前から、それが何に使われるのか、そしてそれが良いものではないことは分かっていました。これは技術の驚異であり、悪用されるだろうと、すでに分かっていました」と、コミッショナーの調査を受けた16歳の少女は語った。
米国の National Suicide Prevention Lifeline の電話番号は 1-800-273-8255 です。または、988 に直接電話することもできます。危機テキストラインに連絡するには、「HOME」と入力して 741741 (米国)、686868 (カナダ)、または 85258 (英国) にテキストメッセージを送信してください。 Wikipedia には、これらの国以外の人々のための危機ホットラインのリストが掲載されています。