「Al-Jazeera」ウェブ版に、インドのイスラーム教徒女性たちがオンライン上で日々直面している嫌がらせや犯罪行為について詳しく報道する記事があり、戦慄した。

‘Looked so real’: How AI is being weaponised against India’s Muslim women

インド統治下カシミール出身でフリーランスモデルを職業とする24歳の女性は、友人から送られてきたメッセージで、Instagram上で拡散されている動画に気づいた。

それは、まるで自身が大学進学をきっかけに出てきたデリーでの生活を紹介する、テレビのニュース特集のような内容だった。

ナレーション音声やテロップ、ニュース見出し風の演出まで施されていた。

しかし、その内容はすべて捏造されたものだった。

「大学1年生のころから卒業まで、私の生活を追跡した完全なストーキングでした」と女性は語る。

AIで生成された音声は、イスラーム教徒である女性がヒンドゥー教徒の男性に「身体を売っている」と虚偽の説明を行い、写真に写る人物を誤認し、実の兄を「売春斡旋者」とまで紹介していた。

「本物に見えました。両親でさえ、見れば本物だと思ったでしょう」とおののく。

女性は近年目立ちはじめている、AIを利用してイスラーム教徒女性を性的に描写した画像やプロパガンダを生成する犯罪現象の被害者のひとりである。

この現象は、インドがAIガバナンスに関する国際的議論へ積極的に参加している時期と重なっている。

今年初めにはデリーで国際会議「AI Impact Summit」が開催され、イノベーションと規制枠組みが議論された。

米ワシントンに拠点を置く「組織的ヘイト研究センター（Center for the Study of Organized Hate、CSOH）」は、2023年5月から2025年5月までの期間に、X、Facebook、Instagramなどのソーシャルメディア上にある297の公開アカウントから収集した1,326件のAI生成画像・動画を分析した。

その結果、イスラム教徒女性を性的に描いたコンテンツが最も高い反応を集め、総計670万件以上のエンゲージメントを記録していた。

CSOHのデジタル研究アナリストで共同執筆者のゼニス・カーン（Zenith Khan）氏は次のように警鐘を鳴らす。

「画像生成AIやディープフェイク技術によって、性的幻想を画像へと変換することが、瞬時かつ無料で可能になった。これにより、高度な技術知識はほとんどなくても、敵意に満ちた物語を極めてリアルな視覚素材へと変換できるようになった」

ムンバイーに拠点を置く「RATI Foundation」が運営するオンライン安全相談窓口「Meri Trustline」でも、この種の相談件数が増加している。

2024年の報告書によると、メディアでは有名人や政治家の被害が注目されがちだが、一般女性もAI生成画像による被害を受けており、実際に深刻な影響が生じているという。

2022年の設立以来、同窓口は482件以上の案件を扱ってきた。

その約10％がデジタル加工コンテンツに関するものであり、AIツールの普及に伴って割合は増加している。

相談員のサルマン・ムジャワール（Salman Mujawar）氏は指摘する。

「こうした被害は、恥や恐怖、トラウマによって表面化しにくい。家族にさえ打ち明けられず、公的議論の場に上ることもほとんどない」

冒頭の女性の動画は数時間のうちに複数のSNSアカウントへ拡散され、誹謗中傷コメントや脅迫電話、人格攻撃が相次いだ。

「まるでデジタル・リンチだった。十数ものアカウントが動画を投稿し、何百ものアカウントが再共有していた」

CSOHの調査では、宗教的な服装をしたイスラム教徒女性を性的な状況に置いたAIミームや、ジャーナリストや活動家を標的とした偽のポルノ画像も多数確認され、そこには共通するパターンが存在した。

「イスラーム教徒らしい女性」と「ヒンドゥー教徒らしい男性」が対にされる構図である。

カーン氏はこう説明する。

「こうした物語では、イスラーム教徒男性は暴力的で道徳的に堕落した存在として描かれる一方、イスラーム教徒女性は、従順であり、多数派コミュニティの男性によって『救済される』存在として描かれる」

ドイツ・ミュンヘンのルートヴィヒ・マクシミリアン大学（Ludwig Maximilian University）のメディア人類学者、サハナ・ウドゥパ（Sahana Udupa）氏は、この現象を「政治のポルノ化（pornification of politics）」の一部だと位置付ける。

そこでは右翼的なデジタル文化が、ユーモアやミーム、性的イメージを組み合わせながら差別や暴力を常態化させているという。

「これらはひとつのエコシステムとして、集団的な祝祭感覚と集団的攻撃性によって支えられている」

さらに、査読付き学術誌『South Asia Multidisciplinary Academic Journal』に寄稿した研究者ソーマ・バス（Soma Basu）氏は、現在起きている現象について、性的なものそのものが政治化されている事例だと論じている。

同氏によれば、イスラーム教徒女性の身体は共同体間の優位性をめぐる象徴的な戦場となっている。

その最も顕著な例が、「Sulli Deals」*および「Bulli Bai」*と呼ばれる模擬オークション事件である。

バス氏は、これらの事例が、与党BJP（インド人民党）の一部関係者による公的な支持と、同党のデジタル支持者による非公式な後押しの双方と結び付いていたと指摘している。

一方、先述のCSOHのカーン氏も別の角度から同様の問題を指摘する。

「南アジアでは、女性は家族の名誉の象徴として捉えられることがまだ根強い考え方としてある。そのため、イスラーム教徒女性を視覚的に攻撃することは、イスラーム教徒全体を劣った存在として描く手段にもなるのだ」

カーン氏自身も、この研究から大きな精神的打撃を受けたという。

「イスラーム教徒女性であり研究者でもある私にとって、この研究は非常に大きな衝撃だった。ヒジャブを着けた女性がソフトポルノのような形で描かれている画像を見たとき、心底恐怖を感じた。女性であるだけでも日常的にミソジニー（女性蔑視）に直面している。その上に、宗教的アイデンティティを理由とする新たな攻撃が加わっているのだから」

こうした懸念に対し、BJPの政治家アティフ・ラシード（Atif Rasheed）氏は、AIは「良い目的にも悪い目的にも利用され得る」と述べ、その悪用を防ぐための規制強化を求めた。

同氏はディープフェイクや性的コンテンツについて「非常に遺憾である」と述べ、加害者に対して厳格な措置が取られるべきだと主張した。

一方で、この問題を宗教的観点から捉えることには反対し、「BJPはすべての宗教の女性を尊重している」と述べるにとどめた。

また、「Sulli Deals」および「Bulli Bai」の事件についても、法に基づいて適切に処理されたとの見解を示した。

「Sulli Deals」と「Bulli Bai」は、それぞれ2021年と2022年に発生した事件であり、加工された女性の写真を用いてイスラーム教徒女性を標的にした侮辱的な模擬オークションサイトであった。

両事件は社会的な怒りを呼び、警察による捜査が行われた。

インド当局は、「Sulli Deals」のアカウント作成者オームカレーシュワル・タクール（Aumkareshwar Thakur）と、「Bulli Bai」の作成者とされるニーラジ・ビシュノイ（Niraj Bishnoi）を2022年1月に逮捕した。

しかし両名は、その2か月後にニューデリーの裁判所から「人道的理由」により保釈を認められた。

研究者らは、生成AIの登場によって、イスラーム教徒女性へのオンライン嫌がらせが飛躍的に拡大したと考えている。

現在では、利用者が写真をアップロードするだけで性的画像を自動生成できるアプリも存在する。

こうしたツールはインターネット上で広く利用可能であり、多くは無料で提供されているうえ、専門知識も必要としない。

CSOHの研究・アウトリーチ責任者であるエヴィアン・レイディグ（Eviane Leidig）氏は次のように述べる。

「テクノロジーが女性、とりわけ少数派女性を攻撃し嫌がらせを行うために使われてきた歴史は非常に長いものだが、現在が異質なのは、AIツールによって被害の規模と侵害の深刻さが大幅に拡大したことだ」

2019年、市民権改正法（India’s Citizenship (Amendment) Act、CAA）への反対運動で知られる研究者・活動家のアフリーン・ファティマ（Afreen Fatima）氏も、「Sulli Deals」で写真を無断掲載された数十人のイスラーム教徒女性のひとりである。

同法は、近隣のイスラーム教徒多数派国家から2025年以前にインドへ移住した非イスラーム教徒少数派に対し、市民権取得を優遇するものであり、国連は同法について「イスラーム教徒に対する根本的な差別である」と批判している。

「Sulli Deals」事件から4年が経過した現在も、ファティマ氏への嫌がらせは続いている。

SNSへの投稿をほとんど行っていないにもかかわらず、匿名アカウントからレイプ予告や殺害予告を含むメッセージが送り続けられているという。

「数日おきに、どこかの匿名アカウントからレイプ予告や殺害予告が届く」

AI生成による性的画像の存在は、さらに恐怖を増幅させている。

「それは人々の中に恐怖心理を作り出す」

ファティマ氏によれば、オンライン上の憎悪は現実世界での行動にも影響を与えている。

「私はひとりで移動することに不安を感じるようになった。イスラーム教徒女性についての幻想がネット上で広まっているのを見ると、現実世界で誰かに襲われるのではないかと考えてしまうのだ」

冒頭の女性は、自身の仕事にも大きな損害が生じていると訴える。

「プロフィールに否定的なコメントが並ぶようになると、企業は仕事の依頼をしなくなる。この経験は、SNSとの向き合い方そのものも変えてしまった。Instagramはもはや、かつてのように安全だとは感じられる場所ではなかった。デリー警察のサイバー犯罪部門に被害を届け出たが、何も起こらず、問題のコンテンツの多くは、友人たちが一斉通報してくれたことで削除された」

インターネット自由財団（Internet Freedom Foundation）の創設者で弁護士のアパール・グプタ（Apar Gupta）氏は、現行法がAI生成コンテンツに十分対応できていないと指摘する。

「画像自体が偽物であっても、被害は現実だ。インド情報技術法（Information Technology Act）第66E条では、本人の同意なく私的部位の画像を撮影・公開することを犯罪としている。しかし、身体そのものが撮影されておらず、画像が完全にAI生成である場合、この条文が適用されない可能性がある。たとえ偽物であっても、女性にとっては永久に消えない汚名となるのに」

さらにSNSプラットフォーム側の対応も十分ではない。

「これは私の画像だ、ディープフェイクだ、削除してほしい、と被害者が申告すること自体が容易ではない。法制度やプラットフォーム設計、アルゴリズムの優先順位が変わらない限り、AIによる虐待は法制度の対応速度を上回って拡大し続けるだろう」とグプタ氏は警告する。

そうした状況の中で、標的とされたイスラーム教徒女性たちは依然として十分な救済を得られていない。

冒頭の女性は、最後にこう語った。

「私が最も知りたかったのは、あのアカウントの背後にいた人たちが誰なのかということだ。私のまったく知らない人が、私の評判を破壊したのだ」

---
*Sulli Deals:
2021年に発覚した事件。イスラーム教徒女性の写真を無断掲載し、あたかも「オークション」にかけるかのように扱って侮辱した悪質なオンライン上の嫌がらせ。GitHub上で公開され、大きな社会問題となった。

*Bulli Bai:
2022年に発覚した同様の事件。イスラーム教徒女性の写真を無断使用し、模擬オークション形式で標的化したことで社会問題となった。被害者にはジャーナリストや活動家なども含まれていた。
 

ASKSiddhiは、Noteでも記事をアップしています。
今後メンバーシップを利用した企画なども考えていますので、
よろしければフォローしてみてください。