「性的ディープフェイク」の構造
この記事は、画像をめぐる性的加害（特に性的ディープフェイクと呼ばれる手法を介した被害）の構造を扱います。一部に、具体的な事案の引用があります。ご自身の状態に合わせて、無理のない範囲で読み進めてください。違和感を覚えたらいつでも読むのを中断してください。
2026年1月2日、米サウスカロライナ州在住の女性が、自身の写真をX（旧Twitter）に投稿した。服を着た写真だった。
翌日、別のユーザーがその投稿に返信した。返信先にはAIチャットボットGrokのアカウントが呼び出され、画像をビキニ姿に加工するよう指示するプロンプトが添えられていた。Grokは応じ、生成した画像を公開リプライとして投稿した[1]。
女性は画像の削除を求めた。Xは「ポリシー違反ではない」として最初の通報を拒否した。3日間のやりとりの末に削除された[1]。
2026年1月23日、この女性は、米連邦地裁北部カリフォルニア地区にxAI Corp.に対する集団訴訟を提起した。Jane Doe氏として。米国の訴訟で身元を伏せるために使われる仮名だ。訴因は製造物責任、不公正取引慣行など11項目。原告は集団訴訟の代表として提訴している。集団の範囲は、Grokによって同意なく性的画像の被写体とされた米国内のすべての人物だ[2]。
訴状の構造に注目したい。被告はxAIであって、画像加工を指示した個別のユーザーではない。訴状は、Grokというシステムが指示に「応じる」よう設計されていること、Xというプラットフォームが削除要請を最初に拒否したこと、これらの設計判断と運用判断こそが侵害を可能にしたと主張する。「ユーザーが悪用した」ことではなく、「指示するユーザーに応じ、応じた結果を公開し、削除要請を拒否する」一連の流れが、システムとして実装されていた点を問題とした。
2025年12月から2026年1月にかけての9日間、Grokは440万枚以上の画像を生成・投稿した。ニューヨーク・タイムズの分析では、Grokが投稿した440万枚のうち、少なくとも180万枚(41%)が、女性として表象された性的画像だった[3]。元画像のソースまでは特定されていない。ただし、訴訟を起こした人々の事案では、いずれも実在する女性のSNS投稿写真や過去の写真が第三者によってアップロードされ、Grokを用いて加工されていた[2]。
2026年5月7日、EUがAI法の改正で合意した。「同意のない性的画像を生成するAIシステム」が禁止行為リストに追加される。2026年12月2日から発効する[4]。一歩前進だ。同時に、この禁止が「同意のなさ」を要件にしている点に、捉えそこねている侵害の構造がある。
身体を部品化する設計
「性的ディープフェイク」と呼ばれるものの生成は、訓練データの段階から始まっている。身体は、識別可能な特徴のセットとして抽出される。顔の特徴点、肌の質感、表情、体型。生成モデルはそれらを統計的に結合する。
画像生成モデルStable Diffusionの訓練データセットに、児童に対する性的虐待コンテンツへの外部リンクが含まれていた[5]。確認されたリンクは1,008件。報告を受けてLAIONはデータセットを取り下げ、フィルタリングを経たバージョンを再公開した[6]。
写真の人物の衣服をAIで取り除く「ヌード化アプリ」（nudifier apps、ヌーディファイア）は、「身体を部品化する」インフラの上に乗せられた応用だ。技術スタックの段階で侵害は始まっている。
技術が、身体を部品化するように設計されているのは、身体が部品の集合だと理解されているからだ。技術がそのように実装され続けることで、その認識が自明のものになっていく。スクレイピングは「技術的に可能だから」正当化されるが、その「可能」の中身には、身体をどう理解するかについての選択が含まれている。
「同意」の不可能性
xAIは、GoogleやOpenAIなど他社AI企業が標準として採用している安全対策を実装しなかった。たとえば、訓練データから性的・虐待コンテンツをフィルタリングする、リリース前に外部専門家が安全装置をテストする、入力プロンプトを検閲する、システム側で「性的コンテンツを生成するな」と内部指示する、出力画像を分類器で点検する。こうした対策を行なっていなかった[2]。そして、Grokの画像生成機能には「スパイシーモード」と名付けられた設定が設けられていた。これを有効にすると、性的な画像や動画を生成できる。イーロン・マスク自身も2025年8月以降、Grok Imagineで生成された性的なイメージのクリップを繰り返しXに投稿・リポストして、この機能を宣伝した[2]。
xAIの生成側の技術スタックには、画像内人物の同意を確認する層が組み込まれていない。
ただし、「同意を確認する層」は他社にも組み込まれていない。代わりに他社が設けているのは、実在人物だと思われる画像の生成自体を制限する層だ。DALL-E 3やMidjourneyは、特定の個人を描写するプロンプトに対してフィルターをかける。性的な文脈と組み合わせた場合には、さらに厳しく制限される。本人の同意を確認しているのではなく、本人を描写すること自体を止めることで、結果として「同意のない生成」を構造的に減らしている[7]。
xAIにもポリシー上の禁止はある。利用規定では「他者の肖像を性的に描写すること」を禁止している[8]。ただし、ポリシー上の禁止と技術面での実装は別だ。2025年12月にGrokの画像編集機能がXに統合された後の数週間で、先述の通り、440万枚が生成された。2026年1月14日、批判を受けてxAIは技術的措置を実施したと発表した。X上で@Grokにタグ付けして「服を脱がせて」「ビキニ姿に変えて」と指示しても、Grokがその加工を実行しないようにした、というものだ[9]。ただしこの措置はXの返信ボットに限定され、Grok独立アプリやウェブでは依然として実在する人物の半裸画像が生成できることが報じられている[10]。
同意は、当事者同士が判断能力を持ち、選択を表明でき、その表明が尊重される、という前提のうえで機能する。だが、その前提自体が成立しない場面が無数にある。経済的・社会的な力関係や依存関係。認知の差。「同意があればいい」という考え方は、こうした非対称性のもとでもぎ取られた「合意」すらも「自由な選択」として正当化してしまう。
米国のジェンダー・セクシュアリティ研究者ジョセフ・フィシェルは、同意は性的侵害を判定する基準として不十分であり、しばしば的外れだと論じた。同意の有無を問う前に、対等でいられる条件が整っているのかを問う必要がある。フィシェルが提案したのは、同意ではなく、性的自律（sexual autonomy、自分の性に関わることを自分で決める能力）やアクセス（性的経験への参加可能性、特に障害や周縁化された立場にある人々が含まれることへの配慮）を議論の中心に据えることだった[11]。
性的ディープフェイクには、そもそも交渉の場面がない。画像内の人物は生成の場に居合わせていない。自律を行使する場面がない。アクセスを問うべき相手すらいない。「同意がなかった」のではなく、「同意を求める場所がそもそも存在しない」のだ。
「同意の場所」が存在しないという事実は、技術側にも規制側にも問題をもたらす。xAIをはじめ各社のポリシーは「他者の肖像を性的に描写すること」を全面的に禁じているが、技術的にどう実装するかは曖昧なまま残っている。さらに、同意の不可能性を考慮に入れた設計に関しては、実装を見据えた議論が活発になされているようには見えない。
そして、規制側はEUの新規制が「同意のない（non-consensual）」を要件にしているように、判定軸として「同意の有無」を採用している。同意の質や成立条件、検証手段については規定がない。すると、「合意の上で作られたディープフェイクなら問題ない」という許容空間が、規制の構造に組み込まれうる。ブリュッセルに拠点を置く非営利団体・民主主義と技術のためのセンター欧州事務所（CDT Europe）も、規制条文が「効果的な安全対策」の閾値を示していないこと、「同意の検証」自体が実務的・倫理的に困難であることを指摘している[12]。
性暴力の連続体
同じインフラ（訓練済みモデル、画像生成のフロー、配信プラットフォーム）が、複数の加害を同時に実現する。盗撮画像の加工、写真の「脱がせ」、ディープフェイクの合成、性的画像を用いた脅迫、収集と再配布。
Grokは「ディープフェイク専用アプリ」ではない。汎用チャットボットとして設計され、画像編集機能が後付けされた。ヌード化機能は単独商品でもなく、汎用的な画像生成モデルに「衣服を除去する」プロンプトを通すだけで実現される。
英国の社会学者リズ・ケリーが提示した「性暴力の連続体（continuum of sexual violence）」という概念がある。強姦のような「重大な」暴力と、街頭でのからかいや職場での嫌がらせのような「ささいな」行為は、別々のカテゴリーではなく、連続線上にあるという考え方だ。法が犯罪と認める性暴力と、法規制では届かない日常の嫌がらせは、経験のなかでは切れ目なくつながっている[13]。
この考え方は、画像をめぐる暴力にも応用された。盗撮、合意のない画像の配布、ディープフェイクの生成、脅迫。これらを個別の問題ではなく、画像をめぐって起きる同意的のない行為の連続体として捉え直そうとする。これは「画像による性的虐待（image-based sexual abuse）」という枠組みとして提唱されている[14]。
RMIT大学のニコラ・ヘンリーとアナスタシア・パウエルは、オーストラリアと英国の成人約5,800人に聞き取り調査をした。同意のないヌード画像を撮影された人、配布された人、配布すると脅された人は、それぞれ約10%。被害は別々に起きているのではなく、同じ規模で、地続きで起きている[15]。
EUの新規制は「ヌード化アプリ」を名指しで禁止対象とした。これは画期的だ。同時に、規制の射程は「同意のない、性的にあからさまな（sexually explicit）活動または性的含意のある部位（intimate parts）の描写」に絞られている。コンテンツは画像、動画、音声を対象とする。この範囲を超える事象には届きにくい。
命名が経験を圧迫する
被害が何と呼ばれるかで、被害の形が変わる。検索エンジンの分類、SNSのハッシュタグ、プラットフォームのコンテンツ・モデレーションの基準、規制文書の用語、サイト名、業界の自称。これらが現象に名前をつけ、その名前が現象の輪郭を決める。
「リベンジポルノ」というURLがサイト名として流通し、Pornhubのジャンル分類に並ぶ。業界は自社の脱衣生成サービスを「undress AI（脱がせAI）」と呼ぶ。同じ機能が「AI画像編集（AI photo editor）」という名のもとに提供されることもある。名前のつけ方が、被害をどう経験するか、どう訴えるか、どう規制するかを規定する。
「リベンジポルノ」という呼称を例にとる。「リベンジ（復讐）」は、加害者に復讐するだけの理由があったことを前提にする語だ。被害者が別れを切り出した、関係を裏切った、画像を撮らせた——何らかの「原因」を被害者側に求める構造が、語そのものに含まれている。実際、この語の起源は加害者側にある。最初のリベンジポルノサイト「Is Anyone Up?」の運営者ハンター・ムーアは、自らを「プロの人生破壊者（professional life ruiner）」と称し、被害者の画像と個人情報を晒し続けた[16]。リベンジポルノという言葉は、加害者の動機（復讐）を中心化し、商業ポルノとの連想を持ち込み、被害者を非難する構造を持つ語として批判されている[17]。
言葉が被害を規定する状況への補助線を引くため、解釈的不正義（hermeneutical injustice）という考え方を紹介したい。ある集団が、自分の経験を理解・表現するための概念を社会的に奪われている状態を指す。ロンドン大学の哲学者ミランダ・フリッカーが2007年に提示した。性的な嫌がらせが「セクシュアル・ハラスメント」と呼ばれる以前、女性たちはこの経験を正確に名指す言葉を持っていなかった。だからその経験は、個人的な不快や感情の問題に矮小化されていた。これが解釈的不正義の典型例だ[18]。
ローマ第三大学の哲学者マルコ・ヴィオラと、サン・ラファエレ大学のフェミニスト哲学者エレオノーラ・ヴォルタは、2025年に「『リベンジポルノ』と呼ぶのをやめよ——画像による性的虐待における解釈的不正義（Stop Calling It 'Revenge Porn': Hermeneutical Injustice in Image-Based Sexual Abuse）」（Social Epistemology誌）という論文を発表した。著者らは、フリッカーの枠組みを画像による性的虐待に応用しつつ、新しい類型を提示している。フリッカーが論じたのは、経験を理解する概念が共同体に欠けていることから生じる不正義だった。ヴィオラとヴォルタは、その逆も起こり得ると指摘する。「リベンジポルノ」のように不正確な概念が広く流通していることが、二重の害をもたらす。より正確な概念（ここでは「画像による性的虐待」）が定着する経路を塞ぐと同時に、自律性が侵害されることをエロティックだと解釈する、ミソジニー的なイデオロギーを補強する。二人はこれを「積極的な解釈的不正義」と呼ぶ[19]。
「ディープフェイク」という命名への批判もまた、2025年に行われている[20]。この批判の論拠は語源にある。「deepfake」は2017年、Redditで女性有名人の顔を非合意でポルノ動画に合成・流通させた匿名ユーザーのアカウント名がそのまま技術名になったものだ。加害者の文化を技術カテゴリの名として残し続けることが、被害の輪郭を曖昧にする。研究者らは、新しい語として「性的デジタル偽造(sexual digital forgeries)」を提案する。「forgery（偽造）」は法学用語として、明確に違法行為と権利侵害を指す。命名そのものを変えることが被害者にとっての解釈的正義の一形態になりうる、というのが著者らの主張だ。
ただし、この提案を採用したのはごく限定的な範囲にとどまっている。英国議会への学術提出資料、北アイルランド政府の刑事化検討、論文の掲載誌である英国の法学・社会学誌Journal of Law and Society（1974年創刊）の公式ブログ。これらが採用例だ。
米国側は対照的だ。2025年5月、トランプ大統領は連邦法TAKE IT DOWN Actに署名した。同意のない性的な画像の公開を連邦犯罪化し、プラットフォームに48時間以内の削除を義務付ける法律だ。ここでは「Deepfakes」が正式名称に組み込まれている。米国国防総省傘下の研究機関、米国国防高等研究計画局（DARPA）も、生成されたメディアの検出研究において「deepfake」を使い続けている。主流メディアも同様だ。
命名の闘争は、技術と法と業界の力関係の中にある。
この記事でも、ここまでは「性的ディープフェイク」を使ってきた。警察庁・国立国会図書館・主要報道で定着している日本語の呼称に従ったためだ。以降、可能な限り「性的デジタル偽造」に切り替える。
見られる対象としての身体
2019年、アムステルダム拠点のサイバーセキュリティ企業Deeptrace（後のSensity）が「ディープフェイクの現状（The State of Deepfakes）」という報告書を発表した。当時オンラインで確認できた14,678本のディープフェイク動画を分析したものだ。うち96%が合意のない性的動画だった。報告書はこう書く。「ディープフェイクポルノの対象となった個人はすべて女性だった」[21]。
被害は女性に集中しつつ、女性に閉じてもいない。米国の法学者ダニエル・キーツ・シトロンは、性的なプライバシー侵害の状況を語る。「これらの侵害を最も多く担うのは、女性、非白人、性的マイノリティ、未成年だ」[22]。カナダのシンクタンク・国際ガバナンス革新センター（CIGI）が2023年に18カ国18,149人を対象に行った調査では、トランスジェンダーや多様なジェンダーの人々が、最も頻繁で深刻なオンライン暴力を経験していると報告されている[23]。
訓練データの組成、女性をターゲットに微調整されたモデル群、女性をターゲットとした商品設計、削除要請への対応速度、すべての層に、「誰の画像が生成可能で、誰の画像が保護されるべきか」という前提が組み込まれている。オックスフォード大学インターネット研究所が2025年に公開した調査によれば、画像生成モデルの共有プラットフォームCivitai（シビタイ）にある約34,000のファインチューニング・モデルのうち、96%が現実に存在する特定の女性をターゲットにしている[24]。これは商業的・趣味的な「需要」が技術スタックに直接刻まれていることを示している。
米国の政治哲学者アイリス・マリオン・ヤングは、「女の子みたいに投げる（Throwing Like a Girl）」という論文で、女性がボールを投げる動作を分析した[25]。腕だけで投げ、体全体を使わず、深く踏み込まない。「女の子みたい」と揶揄されるその動きは、身体の構造に由来する差異ではない。客体として生きるよう社会化された身体性の帰結だ。分析の射程はボール投げにとどまらない。座り方、歩き方、空間との関係性。すべて、他者の視線を予期した動作になる、と報告されている。
米国のメディア研究者サラ・バネット＝ワイザーは、メディアや広告で流通する「あなたは美しい」「自信を持って」というフェミニズム的なメッセージが目立つほど、同じ場所でバックラッシュとして女性嫌悪の暴力（リベンジポルノと称される性的虐待、組織的なオンライン・ハラスメント、男性権利運動など）が起きる、その関係を論じた[26]。両者は対立しているように見えて、同じプラットフォームが特定の情報を可視性するアルゴリズム上で共生している。性的デジタル偽造（性的ディープフェイク）の流通も、この構造の一部だ。
被害は事件以前から始まっている。「いつかこのように使われうる」と位置づけられた身体を日常的に生きているところに、技術が「使われうる」を「使われた」に転換する。技術は中立に振る舞いながら、社会化された身体に対する暴力を、加速させ、増幅させる。
削除という労働
生成は一瞬で行われる。それを削除するのには時間がかかる。
冒頭で紹介したDoe氏の話をする。悪意あるユーザーの指示でGrokにビキニ姿の生成画像を投稿され、xAIに対する集団訴訟を起こした原告だ。Doe氏は3日間、削除要請を繰り返した。最初の通報は拒否された。複数回の通報の末に削除された。Doe氏は無給休業を取る必要があった。職場の人々に生成された画像が見つかることを恐れた[2]。
カナダの法学者スージー・ダンは、こうした構造を「被害者の労働」として分析した[27]。プラットフォーム企業に何度も削除依頼を出し、再投稿されるたびに通報し直す。削除作業に費やされる労働時間、職業上の機会の喪失、精神の疲弊。本来は企業が負担すべき安全対策のコストが、被害者個人に転嫁されている。結果として、被害者はオンライン空間から退去し、発言を奪われていく。
先述した、米国の法学者ダニエル・キーツ・シトロンが論じた「性的なプライバシー（sexual privacy）」について整理したい。性的なプライバシーは、自分の身体や親密な領域についての情報そのものや、そこにアクセスできる人を、自分でコントロールできることを指す。シトロンは、性的なプライバシーは通常のプライバシー保護とは別物だと主張する。電話番号が漏洩したら、番号を変えることで対策ができる。クレジットカードの番号が漏れたら止めることができる。性的なプライバシーは、そうした種類のものではない。誰と何を共有するか自分で決め、相手の意思を尊重して関わる、その土台になっている。性的プライバシーが侵害されると、被害者は仕事を失い、新しい仕事を見つけにくくなり、人生の重要な機会を享受する能力を奪われる。シトロンの議論では、性的なプライバシーの侵害は周縁化された人々を社会的に従属させる構造として作用する[22]。
Doe氏が3日間にわたり経験したのは、まさにそうした、社会生活を営む能力の剥奪だ。
暴力の構造
ここまで見てきたことをまとめよう。
技術の設計判断は、認識の実装だ。スクレイピングを許す設計の裏側には、身体をデータとみなす世界観がある。同意が存在できないサービス設計の背景には、同意の軽視や、同意そのものの不可能性に対する意識の低さが反映されている。女性として表象された画像に最適化された生成AIのなかには、「どのような肉体が見られる対象か」を規定する社会化の構造がある。
そして、技術がそのように実装されるたびに、前提となる価値観が強化される。身体は部分の集合体であり、同意は形式的に成立すればよく、客体化されやすい身体はすでに決定している、という風に。
AI法の限界
最後にもう一度、EUのAI法改正について触れておきたい。
2026年5月7日、AI法第5条の禁止行為リストに、「同意なき性的画像を生成するAIシステム」と「児童性的虐待コンテンツ（CSAM）を生成するAIシステム」が追加された。2026年12月2日から発効。違反は最大3,500万ユーロまたは全世界年間売上高の7%[4]。
非常に重要な、意義のある規制だ。
だが同時に、この記事で論じてきた侵害の多くは、今回の規制だけでは捉えきれない。
訓練データの段階で身体がデータとして抽出される構造は、「ヌード化アプリ」を禁じても止まらない。画像をめぐる暴力は、盗撮、脱がせ、合成、脅迫、再配布の連続体として起きている。しかし規制は「同意なき性的画像生成」に絞られる。
規制は「何が禁じられるか」の定義を必要とする。しかしテクノロジーが可能にした性暴力は、定義の境界を技術と社会化の両側からはみ出していく性質を持つ。
おわりに
Doe氏が削除要請を続けていた3日間、Grokは1時間あたり約6,700枚のペースで画像を生成していた[3]。
ある人物の数日が、あるチャットボットの数秒によって奪われていく。
「ヌード化アプリ禁止」は技術ではなく、議論の出発点だ。
ニュースレター、登録は無料でもできます。よろしければ。
脚注
1] Justin Hendrix, "Breaking Down a Class Action Lawsuit Filed Over Grok 'Undressing' Controversy," TechPolicy.Press, January 28, 2026.
[2] Jane Doe v. X.AI Corp., et al., Case No. 5:26-cv-00772, U.S. District Court for the Northern District of California, filed January 23, 2026.
[3] Conger, K., Freedman, D., & Thompson, S. A. "Musk's Chatbot Flooded X With Millions of Sexualized Images in Days, New Estimates Show." The New York Times, January 22, 2026.
[4] European Parliament Press Release, "AI Act: deal on simplification measures, ban on 'nudifier' apps," May 7, 2026.
[5] Thiel, D. (2023). Identifying and Eliminating CSAM in Generative ML Training Data and Models. Stanford Digital Repository.
[6] LAION blog, "Releasing Re-LAION-5B: transparent iteration on LAION-5B with additional safety fixes," August 30, 2024.
[7] OpenAI, "DALL·E 3 system card" (October 2023).
[8] xAI Acceptable Use Policy (effective January 2, 2025).
[9] CNBC, "Musk’s xAI limits Grok’s ability to create sexualized images of real people on X after backlash," January 14, 2026.
[10] NBC News, "Musk's Grok AI chatbot is still making sexual deepfakes, despite X's promise to stop it," April 14, 2026.
[11] Fischel, J. J. (2019). Screw Consent: A Better Politics of Sexual Justice. University of California Press.
[12] Marie Seck and Magdalena Maier, "EU Moves to Regulate AI Nudification, But Key Challenges Remain," TechPolicy.Press, March 31, 2026.
[13] Kelly, L. (1988). Surviving Sexual Violence. Polity Press.
[14] McGlynn, C., Rackley, E., & Houghton, R. (2017). Beyond 'Revenge Porn': The Continuum of Image-Based Sexual Abuse. Feminist Legal Studies, 25(1), 25–46.
[15] Powell, A. & Henry, N. (2017). Sexual Violence in a Digital Age. Palgrave Macmillan.
[16] Tia Hanifa, "Call a Spade a Spade: Why the Term 'Revenge Porn' is Misleading," Green Network Asia, March 21, 2022.
[17] McGlynn, C. & Rackley, E. "Not 'revenge porn', but abuse: let's call it image-based sexual abuse." Everyday Victim Blaming, March 9, 2016.
[18] ミランダ・フリッカー（佐藤邦政 監訳、飯塚理恵 訳）『認識的不正義——権力は知ることの倫理にどのようにかかわるのか』勁草書房、2023年。
[19] Viola, M. & Volta, E. (2025). Stop Calling It 'Revenge Porn'. Hermeneutical Injustice in Image-Based Sexual Abuse. Social Epistemology.
[20] McGlynn, C. & Toparlak, R. T. (2025). The 'new voyeurism': criminalizing the creation of 'deepfake porn'. Journal of Law and Society, 52(2), 204–228.
[21] Ajder, H., Patrini, G., Cavalli, F., & Cullen, L. (2019). The State of Deepfakes: Landscape, Threats, and Impact. Deeptrace.
[22] Citron, D. K. (2019). Sexual Privacy. Yale Law Journal, 128(7), 1870–1960.
[23] Dunn, S., Vaillancourt, T., & Brittain, H. (2023). Supporting Safer Digital Spaces. Centre for International Governance Innovation (CIGI) Special Report.
[24] Hawkins, W., Russell, C., & Mittelstadt, B. (2025). Deepfakes on Demand: the rise of accessible non-consensual deepfake image generators. ACM Conference on Fairness, Accountability, and Transparency (FAccT '25).
[25] Young, I. M. (1980). Throwing Like a Girl: A Phenomenology of Feminine Body Comportment, Motility, and Spatiality. Human Studies, 3(2), 137–156.
[26] Banet-Weiser, S. (2018). Empowered: Popular Feminism and Popular Misogyny. Duke University Press.
[27] Dunn, S. (2020). Technology-Facilitated Gender-Based Violence: An Overview. Centre for International Governance Innovation (CIGI), Supporting a Safer Internet Paper No. 1.
すでに登録済みの方は こちら
読者限定の内容も逃しません。