電脳塵芥

四方山雑記

反イスラム感情惹起に生成AI動画が使用されることが増えてきた


https://archive.md/cpALC

 電車内でイスラム教徒が礼拝をしているという動画がやや拡散していた。勿論、動画の端々を見ると違和感がいくつもある生成AIで、存在しない現実を映し出した動画となる。なのでコミュニティノートがついたりしていたのだが、それを察知してか投稿者の「司令官@Oputimasu1224」はこの投稿を現在削除している。ただ例えば有名どころだと「めいろま 谷本真由美@May_Roma」が生成AIだと気づかずに釣られていた。

https://archive.md/a4cGz

とはいえ現在こちらの投稿は削除されているので、生成AIであると気づいたのだろう。ちなみにこの動画の冒頭部分は生成AIなのだが、その他にはイスラム教徒が年に一度の催しなどで集団で練り歩く動画(この動画は定番で良く利用される)などの複数で構成されており、この生成AI動画以外は現実に存在している動画である事は念のために書いておく。ただ冒頭部分に関しては例えばスレッズだと未だに投稿が存在するし、Xでは「 鈴森はるか 『haruka suzumori』@harukaawake」という基本的に英語で発信しているアカウントがこの動画を使用することで英語圏にも流布している可能性がある。なおこの電車内で礼拝するイスラム教徒のAI動画だが、遡れた限りだと元動画を作成したのは10月4日にtiktokの「cutepeoplehere HandsomeMen」というアカウントだ。このアカウントは「HandsomeMen」という名前を使用している様にハンサムな男性が半裸であったり、男性器などを強調する様な生成AI動画ばかりを作成しているアカウントなのだが、突如としてこの様な動画を投稿していた。


https://www.tiktok.com/@cutepeoplehere/video/7557172276559498517

今までの投稿傾向から見ると突然の路線変更なのだが、おそらくそんなアカウントの投稿した動画に結構な人数が騙されていたこととなる。全体的に見ると細部がおかしいと気づきそうなものだなのだが、状況のみを見て解釈して細部を見ないと簡単に騙されてしまう様だ。
 また日本語圏では流布していないが、英語圏では次のような動画も若干の拡散が見られた。


https://x.com/emilykschrader/status/1986853674144997585

女性に近づくイスラム教徒と思しき男性を猫が襲って救ったという生成AI動画なのだが、コミュニティノートにある様に女性のバッグが変化していたりするし、またSoraのウォーターマークを消したと思われる動画の揺らぎが存在している。ただこの動画は電車で礼拝よりもAIであると気付きにくいといえる。今後、こういったクオリティの真偽不明の動画がどんどん増えていくと考えた方がよいだろう。



■投げ銭用ページ note.com