スペインの町、未成年少女をターゲットにしたAI作成のディープフェイク画像に激怒

アルメンドラレホという小さな町のスペイン人たちは、10代の少女たちが偽の裸の写真がインターネット上に出回っていることを知り、激怒している。人工知能が再びこの怒りの中心となっています。

何が起こったのか:スペインの小さな町で、悪意のある俳優たちが AI を活用したアプリを使用して、若い女の子たちの裸のディープフェイク写真を作成したと伝えられており、町の住民の間に衝撃、恐怖、怒りを引き起こしているとエル・パイスが報じた。

関連記事： 「衝撃を受けた」：俳優スティーブン・フライ、自分の声はハリー・ポッターの本からAI音声として盗まれたと発言、これは始まりに過ぎないと警告

報告書によると、11歳から17歳までの20人以上の少女がディープフェイクの被害者として特定されている。

犯罪者らはソーシャルメディアのプロフィールから少女たちの写真を選び出し、AI搭載のアプリを使って少女たちが裸であるかのように見せかけた。

「私が家に着くと、娘の一人が、とても嫌悪感を持って『彼らが私にしたことを見てごらん』と言いました。彼らは彼女の写真を撮り、彼女が裸であるかのように見せかけていました。彼らは彼女にそんなことをしたのです」そしてさらに数十人の女の子たちです」と犠牲者の一人の親であるミリアム・アル・アディブは語った。

アディブさんや他の少女たちの両親も同様にショックを受けているが、被害者の中には恐怖のあまり「家から出られない」人もいるとBBCニュースが報じた。

地元警察はすでに10人の容疑者を特定したと伝えられているが、驚くべきことにこれらの容疑者の中には13歳以下も含まれているということだ。 14歳未満の子供は刑事告訴されないため、被害者にとって事態はさらに悪化する。

なぜ重要なのか: AI の進歩により、人間が実行できるタスクの種類が急速に進化しました。 Web サイトのロゴの無料作成から、ChatGPT のような AI を活用したチャットボットの無料使用まで、AI によって可能になったさまざまな機能があります。

しかし、これによりディープフェイクの問題も悪化しました。スティーブン・フライのようなハリウッド俳優はすでに、AIが兵器化される様子に遺憾の意を表明している。

先週初め、フライは、ハリー・ポッターのオーディオブックからの自分の声が、同意なしにこれまでに言ったことがないことを言うAIバージョンを作成するために使用されたことを明らかにした。

13 歳以下の子供がアプリを使用してディープフェイクを作成できるという事実は、AI を兵器化することがいかに簡単かを示しています。

これは、SAG-AFTRA組合の16万人以上の組合員がハリウッドスタジオに対してストライキを行っている時期でもあり、懸念の1つは、脚本執筆や将来的に俳優の肖像を使用する際にAIを使用することである。

画像 – Shutterstock

このリンクをクリックして、ベンジンガのコンシューマー テックに関する記事をさらにご覧ください。

次を読む: バイバイ・バーディー: イーロン・マスク氏、Twitterの象徴的なホームアイコンを引退へ