米ミネソタ州、「AIで服を脱がせる」機能を禁止　xAIの差し止め要求を裁判所が退ける

Updated 2026/09/05

何が起きた？

米ミネソタ州で、実在する人の写真や動画をAIで加工し、本当に裸であるかのような画像を作る「nudification（ヌーディフィケーション）」機能を規制する法律が施行されています。

これに対し、Grokを開発するイーロン・マスク氏のAI企業xAIは「表現の自由を保障する米憲法修正第1条に反する」として、裁判が終わるまで法律を止めるよう求めていました。

しかし2026年9月4日、ミネソタ州の連邦地裁はxAIの要求を却下。法律は引き続き有効となります。xAIは第8巡回区連邦控訴裁判所へ不服を申し立てる方針です。

この法律は5月7日に成立し、8月1日に施行されました。

対象となるのは、Webサイトやアプリ、ソフトウェアなどを運営し、利用者が実在人物の写真を加工して、元の写真には写っていない胸や性器などを本人のものに見えるほどリアルに生成できるサービスです。

簡単にいうと

たとえば、普通に服を着て撮った写真をAIに渡して、

「この人の服を消して」

と指示しただけで、本物の裸の写真のような画像が数秒で出来上がるサービスがあります。

もちろん、その人が実際に裸になったわけではありません。

しかし画像が十分リアルなら、見た人には本物か偽物か区別できない可能性があります。

ミネソタ州は、こうした画像が作られてから削除するのではなく、そもそも簡単に作れる機能をサービス側が提供すること自体を規制する方法を選びました。

違反したサービス提供者には、州司法長官が1件につき最大50万ドルの民事制裁金を求めることができます。

被害を受けた本人も、損害賠償や差し止めなどを求めて訴えることができます。

それで何が変わる？

今回の法律で重要なのは、「偽の裸画像をネットに投稿してはいけない」という規制から、さらに一歩進んでいることです。

AIサービスを提供する会社そのものに、簡単に偽の裸画像を作れないようにする責任を負わせています。

実際、xAIは法律が施行された8月1日、ミネソタ州の利用者向けにGrok Imagineの画像編集機能へ追加の制限を導入しました。

裁判資料によると、その結果、ミネソタ州で画像編集の指示がモデレーション対象になる割合は10％以上増えたとxAIは主張しています。

つまり今後、AI企業にとっては、

「利用規約に『悪用禁止』と書いてあります」

だけでは十分ではなく、

実際に作れないよう技術的に防ぐことまで要求される可能性が出てきたわけです。

この考え方が他の州や国にも広がれば、画像生成AIの自由度そのものに影響する可能性があります。

なぜxAIは「禁止するな」と争っている？

ここは少しややこしいところです。

xAI自身も、実在人物を裸にする画像や、子どもを性的に扱う画像を利用規約で禁止していると裁判所に説明しています。

xAIによれば、2026年だけでも規約違反などを理由に5万以上のアカウントを停止し、全米行方不明・被搾取児童センターへ7万件以上を報告したとしています。

では、なぜ法律には反対するのでしょうか。

xAIが問題視しているのは、「悪質な利用者を禁止すること」と「画像生成技術そのものを州が禁止すること」は別問題だという点です。

xAIは、この法律によって本来は憲法で守られる芸術、風刺、創作などまで制限される可能性があり、米憲法修正第1条に違反すると主張しています。

さらにミネソタ州法の条文を見ると、「本人の同意がない場合だけ禁止する」とは書かれていません。

法律上の「nudify」は、実在する特定可能な人物について、元画像には存在しない身体の一部をリアルに生成することを基準に定義されています。

一方で、人間側に相当な技術や芸術的判断が必要なツールについては例外も設けられています。

つまり争点は単純な「偽ポルノを認めるかどうか」ではなく、

被害を防ぐために、AI生成機能を法律でどこまで制限してよいのか

という問題になっています。

裁判所は「この法律は合憲」と決めたわけではない

ここは今回のニュースで最も注意が必要な点です。

裁判所は今回、ミネソタ州の法律が憲法に違反していないと最終判断したわけではありません。

xAIが求めていたのは、本格的な裁判の結論が出るまで法律を一時的に止める「仮差し止め」です。

ドノバン・フランク連邦地裁判事は、xAIが法律によって直ちに回復不能な損害を受けることを十分に示していないと判断しました。

法律が5月に成立していたのに、xAIが差し止めを求めたのは施行直前だったことも裁判所は問題視しています。

一方、裁判所は、AIによる偽の性的画像による被害を抑える州側の利益は大きいと判断しました。

州議会では、この技術によって作られた偽画像の被害者から、仕事を休まざるを得なくなったことや、家族への影響、画像が誰に見られたか分からない精神的苦痛などについて証言が行われていました。

法律は州下院で132対1、州上院では65対0という圧倒的多数で可決されています。

今後の裁判では、

「実在人物をAIで裸にする被害を防ぐためなら、画像生成サービスそのものを制限してもよいのか」

という憲法上の問題が本格的に争われます。

今回決まったのは、その答えではありません。

答えが出るまでは、とりあえずミネソタ州の禁止法を有効なままにする、という判断です。

米ミネソタ州、「AIで服を脱がせる」機能を禁止 xAIの差し止め要求を裁判所が退ける