昭和・平成世代向けのWebメディア、LifeGoodTrend編集部です。
Grokで他人の写真を性的に加工する行為は、懲役刑や数百万円の罰金が科される可能性がある犯罪です。
米実業家イーロン・マスク氏が率いる人工知能（AI）新興企業xAIの対話型生成AI「Grok」は2日、子どもや女性の写真をエロチックな画像に変換しているとのユーザーからの苦情を受け、人工知能（AI）ツールの不具合の修正に取り組んでいると発表した。
引用元: 生成AI「Grok」に苦情殺到、子どもの服を脱がすこともできる画像編集機能めぐり（AFP通信）
「面白半分でやってみた」が人生を狂わせる犯罪行為になりかねません。
詳しい情報は以下をご覧ください。
Grok画像編集って何が問題になってるの？
2025年末に画像編集機能が追加された
Grokはイーロン・マスク氏率いるxAI社が開発した生成AIで、X（旧Twitter）に統合されています。
2025年12月下旬、新たに「画像編集」機能が追加されました。
この機能を使うと、テキストで指示を出すだけでX上に投稿された画像を自由に加工できてしまうのです。
便利な機能のはずが、悪用する人間が続出して大問題になっています。
他人の写真を「ビキニ化」「ヌード化」する悪用が多発
問題の本質は、他人の写真を無断で性的な画像に加工する悪用が横行していることです。
Ｘ上では今年に入り、著名人や実在するとみられるコスプレイヤーの女性の写真を指定して「ビキニを着せて」などと指示し、グロックが実際に指示通り生成した性的画像が多数確認された。米メディアによれば、中には未成年の子供を被写体としたものもあったという。
引用元: 実在人物写真を性的に加工 Ｘの生成機能、批判集まる（時事通信）
調査によると、約1分に1枚のペースで実在女性の性的加工画像が生成されていたという報告もあります。
これは散発的な嫌がらせではなく、AIによってスケール化された組織的な人権侵害といえるでしょう。
この動画ではGrok画像編集問題の全容を解説しています。
未成年被害で国際問題に発展？
事態が深刻化した最大の要因は、未成年者の写真が性的画像に加工される被害が発生したことです。
米国法では、AIで生成されたものであっても実在の未成年者を描写した性的画像はCSAM（児童性的虐待記録物）と見なされ、刑事罰の対象となる可能性が高いのです。
「AIが勝手に作ったから自分は悪くない」という言い訳は通用しません。
軽い気持ちでやったら犯罪になるケース
児童ポルノ禁止法に抵触する可能性（最も重い）
未成年者の写真を性的に加工した場合、児童ポルノ禁止法違反で逮捕される可能性があります。
鳥取県では2025年3月、全国で初めて「性的ディープフェイク」を明確に禁止する条例が可決されました。
児童の写真をAI技術で加工してわいせつ画像を作成・提供する行為を児童ポルノと同等に扱い、行政罰の対象としています。
知らなかったでは済まされない時代になっているのです。
名誉毀損罪・侮辱罪・わいせつ物頒布罪のリスク
成人の写真を加工した場合でも、複数の刑事罰が適用される可能性があります。
ディープフェイクポルノの作成には、既存のアダルトビデオなどの著作物を改変する行為が伴うことが多く、これらのアダルトビデオは、著作権法上の著作物であり、制作会社などが著作権を有しています。著作権者の許可なく、既存のアダルト動画を元に無断で改変（翻案）や複製を行うことは、著作権法27条（翻案権）や21条（複製権）の侵害となり得ます。
引用元: ディープフェイクポルノで問われる法的責任（長岡法律事務所）
リポストや「いいね」で拡散に加担しただけでも同様の罪に問われる可能性があることも覚えておきましょう。
この動画ではGrok問題の深刻さと影響を解説しています。
肖像権・プライバシー侵害で民事訴訟も
刑事罰だけでなく、民事での損害賠償請求を受けるリスクもあります。
肖像権やプライバシー権の侵害は刑事罰の対象ではないため、警察が積極的に動かないケースもあります。
しかし被害者が弁護士を通じて発信者情報開示請求を行い、投稿削除や損害賠償請求を起こすことは十分可能なのです。
知っておくだけで防げるリスクなので、周りの人にも教えてあげたいですね。
実際に処罰されるとどうなる？
刑事罰の具体的な量刑（懲役・罰金）
実際に逮捕・起訴された事例では、懲役刑や高額の罰金が科されています。
2024年10月には、生成AIを使ってコンピューターウイルスを作成した被告人に対し、東京地裁が懲役3年、執行猶予4年の有罪判決を言い渡した事例もあります。
「遊びのつもり」が実刑判決につながる可能性があることを忘れてはいけません。
民事での損害賠償額の目安
刑事罰とは別に、被害者から民事訴訟を起こされるリスクもあります。
肖像権侵害やプライバシー侵害の損害賠償額は、ケースによって数十万円から数百万円に及ぶことがあります。
特に拡散された画像の削除が困難な場合、被害者の精神的苦痛は甚大なものとなり、高額の賠償を求められる可能性が高まります。
SNSアカウント凍結・社会的制裁の影響
法的な処罰以外にも、社会的な制裁を受けるリスクがあります。
一度ネットに出回った情報は完全に消すことが困難です。
たった一度の「軽い気持ち」が、その後の人生に取り返しのつかない影響を与えることを肝に銘じておきましょう。
ここまで読んだなら、絶対にやらないと決めていただけたのではないでしょうか。
被害に遭わないための自衛策
X（Twitter）の画像公開設定を今すぐ見直す
Grokの画像編集機能はX上の画像を対象としているため、まずXの設定を見直すことが重要です。
完全な対策は難しいですが、公開範囲を限定することでリスクを大幅に減らすことができます。
この動画では被害に遭わないための具体的な対策を解説しています。
顔写真・全身写真の投稿はリスク大！
AI技術の発展により、一度ネットに上げた写真は何にでも加工される可能性があるという認識を持ちましょう。
SNSに写真を投稿する際は「この写真がAIで加工されたらどうなるか」を一度考えてから投稿する習慣をつけることをおすすめします。
周りでも話題になっているので、家族や友人にも注意を呼びかけておきたいですね。
被害発覚時の通報・削除請求のやり方
万が一被害に遭ってしまった場合、迅速な対応が被害拡大を防ぐカギになります。
被害者は時間の経過とともに拡散リスクや心理的被害が深刻化するため、早期に専門家に相談することが重要です。
(警察庁サイバー犯罪相談窓口より)
こういう情報、知っておくだけで安心感が違いますよね。
まとめ
Grokで他人の写真を性的に加工する行為は、軽い気持ちでも重大な犯罪になるということをお伝えしてきました。
「面白そう」「みんなやってるから」という軽い気持ちが、取り返しのつかない結果を招きます。
知らないと損する情報なので、この記事を読んだ方はぜひ周りの人にも共有してあげてください。
一人ひとりがリスクを正しく理解することで、被害者も加害者も減らすことができるはずです。
他人の写真を勝手に「ビキニ姿」や「ヌード」に加工できてしまう状態で、未成年を含む被害が世界中で報告されているのです。