■画像生成 AI (LoRA)によるポルノ被害

前回のまとめ

前回の記事では日米における画像生成AIの使われ方の違いを説明しました。

雑にまとめると以下です

• 日本人は萌え絵を生成させている一方、アメリカ人はフェイク写真を生成させている。
• アメリカでは政治家が被害に遭うのでAI規制論に傾きがち

今回はAIポルノの話

以下のPostが X (Twitter) で話題になっていました。

https://twitter.com/Pureevilbich/status/1751662096381587457　　　

（2.5万RT, 16万いいね 863コメント）

元の投稿は (r/TwoXChromosomes)になされたものです。　

内容はインスタグラムの写真を使われてポルノ画像を作られてしまったという話です。調べてみると友人、知人に LoRAされた AIポルノを生成されたという被害はそこそこ稀にあるトラブルのようです。今回炎上しているのは警察が対応してくれないということについてです。以下翻訳：

(r/TwoXChromosomes) url:https://x.gd/gl4BT

誰かが私のAIポルノを作った・・・

・・・そして警察は、彼らは何もすることができないと言った。電話は４分にも満たなかった。（もちろん110ではない普通の電話だ）警察は私の名を聞くことすらしなかった。警察は私に彼らをブロックしてこれ以上接触してこないことを願いましょうと言った。まるで私がまだブロックしていないかみたいな言い草だ。

　

何者かは私のインスタ写真を使いAI生成に使ったのだ・・・そしてそれは気持ち悪いほどリアルに見えた

全く加工していない写真に見えた。指の形まで精巧で。まさに不気味の谷だった。私は震えていて、どうすればいいのかわからない

これが女性としての人生として受け入れろとでもいうのだろうか？

　

　

Someone made AI porn of me…

…And the police officer said they can’t do anything about it. The phone call (to the non-emergency line) lasted four minutes. He didn’t even ask for my name. He told me to block them and hope they don’t contact me again. Like I hadn’t already blocked them by the time I decided to report it.

The person had taken a photo of me from my instagram and put it though an AI generator… and it looked sickeningly realistic. It didn’t look altered at all. Even the fingers were fine. It was so uncanny-valley. I am shaking, and I don’t know what to do.

Is this really what life as a woman has come to?

トップコメント：

法律はいつもテクノロジーの進歩から大きく遅れている。

ホスティングサービスにDMCA削除通知を提出しましょう。あなたの著作権で保護された画像があなたの許可なく使用されているのです。(+2.9k)

　

Laws always lag far behind technology.

File a DMCA takedown notice with the hosting service. It's your copyrighted image being used without your permission, you can even sue if you want. (+ 2.9k)

日米の法律の違い

AI画像生成自体は罪になりません。上記のやりとりではインスタグラムの写真を勝手に学習に使われたということで、著作権侵害として対処しようとしています。

ただし日米で法律が異なるのに注意です。

日本ではどうでしょうね？

日本ではよく知られたように著作物のAI使用は広く認められています。ただし

第三十条の四　

著作物は、次に掲げる場合その他の当該著作物に表現された思想又は感情を自ら享受し又は他人に享受させることを目的としない場合には、その必要と認められる限度において、いずれの方法によるかを問わず、利用することができる。ただし、当該著作物の種類及び用途並びに当該利用の態様に照らし著作権者の利益を不当に害することとなる場合は、この限りでない。

とあります。『著作権者の利益を不当に害することとなる場合』に該当すると良いのですが。そうじゃないと困る。

また、プライバシーの侵害という観点から見れば「宴のあと事件」「石に泳ぐ魚事件」などの判例をみるに民事で訴えることは可能なように思えますね。

さらにいえば、もともと日本ではポルノの扱いが厳しくてポルノ画像を公共の場に送信するのは禁止されています（猥褻物頒布罪）

なので上で話題になっている男は日本なら刑事罰で捕まるはずです。

こんなわけで、アメリカで起こっている問題がそのまま日本ですぐさま問題になるわけではありません。

日本における表現規制の厳しさに救われたようなちょっと不思議な状況ですね

萌え絵が女性を救う？

あくまで現状においてですが、LoRAによるAIポルノ被害は日本では全然耳にしません。

だって日本人は萌え絵を生成させているんですもの

アメリカ人はフォトリアルなポルノを作るのに対し、日本人は萌え絵を作る。

萌え絵のおかげで日本人女性はあまり被害に遭わないというちょっと不思議なおはなし。　

もちろんこれはあくまで傾向です。例外はありますよ。アメリカ人にも萌え絵を生成する萌えオタはいます。また、古くはグラビアアイドルでコラ画像を作る日本人もいました。

ここで重要なのは数の問題です。

昔はコラ画像を作る技術を持った人たちはごく一握りだったのに対し、技術を持たないアホが画像生成AIを手にしてしまったということが数々の問題を引き起こしています。

アメリカでは大量のアホがフォトリアルなエロ画像を生成しているせいで出てくる問題なわけです　　

逆に言い換えれば、日本にも知人でLoRAする知人の写真で追加学習させるアホが探せばいるかもしれないけれど数が少なすぎて表面化しないということですね

最後に

念のためAI画像生成絵師さん達の名誉のために書いておきますが、Pixiv等でルールを守って投稿されている方々は何のトラブルも起こしていません。生成している絵もこだわりが込められていて、使う道具が違うだけで愛があるのだと感じます。まともな人ほど静かで目に入らない、問題のあるやつほど悪目立ちするというのが話がこじれる原因ですね

一連の記事は絵師とAI絵師の対立を煽るものではないことを強調しておきます。（いちおう私は絵師の立場です）

追記

コメントどうもありがとう。修正しました

RoLA 　→ LoRA

LoRAする → の写真で追加学習させる

LoRAされた　→ AIポルノを生成された

あー　すでにあるんですか・・・・困りましたね

トラバ

トラバが長すぎて全然探せないです。読めなくてすみません。

再追記

短縮url 追記しました

https://x.gd/gl4BT

増田の仕様でRで始まる某所へのリンクが貼れなくて困っていたのですが、短縮url がありましたね

Permalink | 記事への反応(8) | 17:36

ツイートシェア