  |
はてなキーワード: 石に泳ぐ魚とは
前回の記事では日米における画像生成AIの使われ方の違いを説明しました。
雑にまとめると以下です
以下のPostが X (Twitter) で話題になっていました。
https://twitter.com/Pureevilbich/status/1751662096381587457
元の投稿は (r/TwoXChromosomes)になされたものです。
内容はインスタグラムの写真を使われてポルノ画像を作られてしまったという話です。調べてみると友人、知人に LoRAされた AIポルノを生成されたという被害はそこそこ稀にあるトラブルのようです。今回炎上しているのは警察が対応してくれないということについてです。以下翻訳：
(r/TwoXChromosomes) url:https://x.gd/gl4BT
・・・そして警察は、彼らは何もすることができないと言った。電話は４分にも満たなかった。（もちろん110ではない普通の電話だ）警察は私の名を聞くことすらしなかった。警察は私に彼らをブロックしてこれ以上接触してこないことを願いましょうと言った。まるで私がまだブロックしていないかみたいな言い草だ。
何者かは私のインスタ写真を使いAI生成に使ったのだ・・・そしてそれは気持ち悪いほどリアルに見えた
全く加工していない写真に見えた。指の形まで精巧で。まさに不気味の谷だった。私は震えていて、どうすればいいのかわからない
これが女性としての人生として受け入れろとでもいうのだろうか？
…And the police officer said they can’t do anything about it. The phone call (to the non-emergency line) lasted four minutes. He didn’t even ask for my name. He told me to block them and hope they don’t contact me again. Like I hadn’t already blocked them by the time I decided to report it.
The person had taken a photo of me from my instagram and put it though an AI generator… and it looked sickeningly realistic. It didn’t look altered at all. Even the fingers were fine. It was so uncanny-valley. I am shaking, and I don’t know what to do.
ホスティングサービスにDMCA削除通知を提出しましょう。あなたの著作権で保護された画像があなたの許可なく使用されているのです。(+2.9k)
Laws always lag far behind technology.
File a DMCA takedown notice with the hosting service. It's your copyrighted image being used without your permission, you can even sue if you want. (+ 2.9k)
AI画像生成自体は罪になりません。上記のやりとりではインスタグラムの写真を勝手に学習に使われたということで、著作権侵害として対処しようとしています。
ただし日米で法律が異なるのに注意です。
日本ではよく知られたように著作物のAI使用は広く認められています。ただし
第三十条の四
著作物は、次に掲げる場合その他の当該著作物に表現された思想又は感情を自ら享受し又は他人に享受させることを目的としない場合には、その必要と認められる限度において、いずれの方法によるかを問わず、利用することができる。ただし、当該著作物の種類及び用途並びに当該利用の態様に照らし著作権者の利益を不当に害することとなる場合は、この限りでない。
とあります。『著作権者の利益を不当に害することとなる場合』に該当すると良いのですが。そうじゃないと困る。
また、プライバシーの侵害という観点から見れば「宴のあと事件」「石に泳ぐ魚事件」などの判例をみるに民事で訴えることは可能なように思えますね。
さらにいえば、もともと日本ではポルノの扱いが厳しくてポルノ画像を公共の場に送信するのは禁止されています（猥褻物頒布罪）
なので上で話題になっている男は日本なら刑事罰で捕まるはずです。
こんなわけで、アメリカで起こっている問題がそのまま日本ですぐさま問題になるわけではありません。
日本における表現規制の厳しさに救われたようなちょっと不思議な状況ですね
あくまで現状においてですが、LoRAによるAIポルノ被害は日本では全然耳にしません。
アメリカ人はフォトリアルなポルノを作るのに対し、日本人は萌え絵を作る。
萌え絵のおかげで日本人女性はあまり被害に遭わないというちょっと不思議なおはなし。
もちろんこれはあくまで傾向です。例外はありますよ。アメリカ人にも萌え絵を生成する萌えオタはいます。また、古くはグラビアアイドルでコラ画像を作る日本人もいました。
昔はコラ画像を作る技術を持った人たちはごく一握りだったのに対し、技術を持たないアホが画像生成AIを手にしてしまったということが数々の問題を引き起こしています。
アメリカでは大量のアホがフォトリアルなエロ画像を生成しているせいで出てくる問題なわけです
逆に言い換えれば、日本にも知人でLoRAする知人の写真で追加学習させるアホが探せばいるかもしれないけれど数が少なすぎて表面化しないということですね
念のためAI画像生成絵師さん達の名誉のために書いておきますが、Pixiv等でルールを守って投稿されている方々は何のトラブルも起こしていません。生成している絵もこだわりが込められていて、使う道具が違うだけで愛があるのだと感じます。まともな人ほど静かで目に入らない、問題のあるやつほど悪目立ちするというのが話がこじれる原因ですね
一連の記事は絵師とAI絵師の対立を煽るものではないことを強調しておきます。（いちおう私は絵師の立場です）
RoLA → LoRA
あー すでにあるんですか・・・・困りましたね
アニメ『推しの子』の件で、遺族に対し気の毒、みたいな主張も散見されたけど、あれ、木村響子さんってそういう立ち位置の人だったっけ？
木村花さんの事件を契機にネット上の誹謗中傷をなくす活動に尽力され、侮辱罪の厳罰化という表現の自由を脅かす悪法の成立を強く後押しされてきた、いわば政治活動家とでも言うべき方だったと思うんだけど。
ただの遺族なら、まあ、感情的になってアニメに当たり散らしたりしても仕方ないですよ。でも木村響子さんは、政治活動家として、ご自分の掲げた政治的アジェンダに反することをしないという倫理的責任があるんじゃないですか？
畜産業反対の活動家は尊敬に値するかもしれないけど、そいつがミルク飲んでステーキ食ってたら軽蔑すべき存在でしょう？ 中絶反対はそれはそれで理解できる主張だけど、プロライフの活動家が彼女に堕胎させてたら大問題でしょう？
それと同じように、誹謗中傷に反対して懲役刑を導入する刑法改正まで求める――つまり、他人を刑務所に入れるべきだと主張する――政治的活動をなさってきた木村響子さんは、当然、あらゆる誹謗中傷を行わない倫理的責任を強く有するはずだけど。
事実誤認に基づいて見てないアニメの制作陣を軽蔑すると公言するのは、木村花さんのことを断片的な印象だけで侮辱してきた人たちの行為と何が違うんですか？ という問いはなされて当然。なぜなら彼女はただの遺族ではなく政治活動家なのだから。自らが掲げ他人を刑務所に入れるべきだとまで主張してきた政治的アジェンダには忠実であるべきだ。
作品の発表時期や作者のツイートから、木村花さんの事件が元ネタではない可能性は非常に高い（元々リアリティショーは自殺者が大勢出ることで有名なものなのだ）。また、仮に木村花さんの事件を元ネタにしていたとしても、キャラ設定などの内容が大きく異なっているし、有名な事件なので一々許可を取る必要性は存在しない。
（しばしば持ち出される『石に泳ぐ魚』は、実在する無名の在日コリアン女性の経歴やら顔貌の奇形やらをほぼ事実そのままで事細かに描写し、身近な人が「あ、これ○○さんだ」と特定できる案件だから問題になったのであって、キャラ設定などがかなり変わっている本件とは比較にならない。マジで「元ネタの人物と大学院も専攻も父親の逮捕歴とその容疑も顔面に奇形があることも一緒の在日コリアン女性」を登場させてたんだぜ、あの作品……その上でそのキャラを怪しげな新興宗教に入信させたんだからそりゃ大問題になるわ）
見る人が見れば実在の事件をモデルにしたとわかる作品はいくつもある。たとえば東野圭吾さんの『沈黙のパレード』は明らかに実在の無罪事件（城丸君事件）を題材にしているが、東野さんは事件の遺族から許可を取るべきだっただろうか？ そうは思わない。なぜなら『沈黙のパレード』単体で見れば、遺族や被害者のプライバシーを明かすような内容ではないのは明白だからだ。さらに言えば、事件前から有名人だった（しかも偶然ではなく自分から望んでそうなった）木村花さんの場合、仮に芸歴などが元ネタそのままだったとしてもプライバシーの侵害には何ら当たらないだろう。プロレスラーとしてデビューし、リアリティショーに出るのを決断したのは彼女自身であって、それらの経歴がモチーフにされても何の問題もないからだ（『石に泳ぐ魚』の登場人物のモチーフは無名の大学院生だった）。
そして、『推しの子』が木村花さんをモチーフにした、とは言い切れない以上、なおさら問題はないことになる。加えて、木村響子さんは作品を見てはいないと公言されている（それとも今は見たのかな？）。見ていない作品を本当かどうかわからない情報に基づいて「売るため 話題になるためなら 手段を選ばないやりくち 心から 軽蔑します」とツイートすることは、木村花さんがされていた誹謗中傷とどのように違うのか、彼女は答えなければならない。なぜなら、そのような行為を戒めることこそが、彼女の政治活動の中核だったのだから。社会を変えようとする活動家はその理念に忠実であるべきだ。
増田の指摘はごもっとも。それはそれとして、これまでの主張なんか知ったことかこの作品が憎くてたまらんのじゃい、と怒りを表明するのもまた自由。
もちろんその通り。『テラスハウス』を流し見して木村花さんに憤りを感じた人がその憤りをSNSで本人に見えるように表明するのが自由であるべきであるように、『推しの子』について仄聞して怒りを感じた木村響子さんがアニメ制作陣への怒りを彼らの目につくような場所で表明するのはまったくの自由であるべきだ。政治活動家としては一貫性が取れていないが、しかし、政治活動家としての筋を通さないことは自由なので（その結果生まれる評判は自己責任というやつだろう）。
学者兼活動家や弁護士兼活動家とかを見ると、これは学者/弁護士として、これは個人の主張として的な使い分けは普通にありのようなのでそういうものかと。個人的にはどの時点で自分にそれを許すかに興味がある。
学者や弁護士にも色々いるが、客観的な事実の提示と政治的な主張は分離できるだろうし、分離できている限りにおいて一貫性の問題にはならない。「法律によれば、あなたは賭け麻雀をしてはならない、なぜならそれは犯罪であるからだ。ところで単純賭博は個人の自由なのだから非犯罪化されるべきである」という法学者がいたとして、その言明には何の矛盾もない。しかし仮に「賭博は悪いことなのだから重罰化すべきだ」と主張する法学者が賭け麻雀をやっていたら、それは一貫性の問題になるだろう。
石に泳ぐ魚事件は例外的なケースで、実際には表現の自由によって望まざる情報を拡散されても泣き寝入りしてる人間が山ほどいるのが分からんもんかね。
だから何？
だからといって俺は表現の自由を縮小しろと言ってるんじゃないぞ。
それでもなお表現の自由のほうを優先すべきだと言ってるの。
いやもう、意味不明すぎて議論にならないんだわ。たかだか不快感に屈する表現の自由って何？
ggr.
石に泳ぐ魚事件は例外的なケースで、実際には表現の自由によって望まざる情報を拡散されても泣き寝入りしてる人間が山ほどいるのが分からんもんかね。
だからといって俺は表現の自由を縮小しろと言ってるんじゃないぞ。
それでもなお表現の自由のほうを優先すべきだと言ってるの。
表現が誰かを不快にさせたら多少は幸福追求権に抵触するし、企業への不満がSNSで拡散されたら財産権を侵害する場合もあるよ。
いや幸福追求権は、「その場その場で不快な思いをしない権利」ではないのだが。終わり。
誰かの権利を侵害したのが明白なら、表現の自由も一定の制限を受ける。
有名なのは「石に泳ぐ魚事件」。「表現の自由」と「プライバシー権」が衝突したと見なし、表現の自由が一定の制限を受けた。
いわゆる公共の福祉だな。
プライバシー権は、まさに幸福追求権から導かれる新しい人権の代表格だろう。
不快にさせただけなら権利侵害じゃない！と思ってるのかもしれないけど、実際には実害が証明されてないのに何となくの不快感で規制されているものなんていくらでもあるよ。
風営法とかな。
しばしば違憲が疑われ、訴訟になった場合、適用次第によっては実際に違憲判決が出ることもある。「青少年の健全な育成」なんて完全なるグレー案件だろ。
何となくの不快感で規制したいなら、お前は「公共空間における性的な二次絵の禁止」みたいな立法を望むのか？
どんな表現の自由戦士だよ。
ここは力を込めて言わせてもらおう。バーカ。
お前の挙げた幸福追求権は侵され放題でも構わないのか？名誉棄損なんてやり放題でも構わない？
もう支離滅裂だな。
お前は何をもって「実害」「無害」と言ってるんだ？
ハンパンナ氏の「悪表現」と同じで、何が悪か、何が害かについての前提がないなら「表現の自由」の議論にはならない、という所に逆戻り。
「不快だ」という表明は自由にしたらいい。我慢する必要はない。どしどしやればいい。
私企業はマーケティングの問題を無視できないだろうし、公共機関が不快感の蓄積を見て配慮が必要だとする判断もありうるだろう。
問題となるのはそれを不快感の表明にとどまらず、広告が「性差別」のバリエーションだとする批判に踏み込んだ場合だ。
性的搾取とか性的モノ化とか性犯罪を誘発とか性犯罪と地続きとか。
これらは見逃すことができない。
ただし、ある表現が「性差別である」と認定された場合、いくらゾーニングされればOKと言われようが、表現としては決定的なスティグマを刻印されることになる。
そのことを踏まえて、もしその広告が性差別のバリエーションだという主張をするならば、
「性差別である＝誰かの人権が侵害されているという十分なエビデンスをもとに、慎重に判断してくれよ」
という慎ましい要求をしているだけなんだ。
本当に誰かが搾取されているのか、モノ化は誰かの人権を損ねるものなのか、本当に性犯罪は助長されるのか。
【追記】
というコメントを見かけて。
「公共の福祉」は、「◯◯の自由」といった人権が制限を受けるのは、唯一その自由権の行使が別の人権を侵害している時に限る、というものなので、ちょっとイメージされてるものは違うんじゃないかな。
で、表現規制の問題こそ、この「公共の福祉」が適用されるべきだと思うのだけど。
「石に泳ぐ魚」事件は表現の自由とプライバシー権の相剋だけど、発想としては萌え絵も同じだと思うんだよね。
【追記２】
歴史的に見れば、「萌え」の起源はポルノグラフィである、と見るべき。この前提を否定しないまま議論を進めても、いずれ「性差別」の論点は避けられなくなる。
私の主張は、「本当に性差別であるかどうか慎重に問え」なんだから、最初から「性差別」は論点ではあるけど…。
よく分からないけど、萌え絵の起源がポルノグラフィだから、個別の絵柄はどうあれ性差別に相当するって意味？そんな雑な議論ある？
萌え絵っつったって千差万別（何でこんな当たり前のことを言わねばならんのだ）なんだから、萌え絵の起源がどうとか、全く関係ないでしょう。
性的搾取とか性的モノ化とか性犯罪を誘発とか性犯罪と地続きとかは、全て批判側が言ってるんですよ？
そう主張するなら言いっぱなしでなく、それをきちんと証明しなさいよ、という当たり前の話じゃないですか。
【追記３】
で、不快感の表明は好きにすればいいって言ってるの。
何でこんなことも読み取れないかなあ。
繰り返すと、不快感の表明に留まらず、ある表現を「性差別」であると踏み込んで批判するなら、そう主張する側が相応の論拠を示せと言ってるの。
表現の自由で人を傷つけてきた柳美里さんが、「表現の自由といえばどんな表現も許される」ことが間違いだと気づいてくれました。週刊ポストの見出しへの抗議です。
『週刊ポスト』の「10人に一人は要治療 怒りを抑制できない 韓国人という病理」という見出しは、人種差別と憎悪を煽るヘイトスピーチです。
柳美里さんは、時間は掛かっても人は変われることを示してくれました。
実在の女性をモデルとして、国籍、出身大学、専攻、家族の経歴や職業をそのまま描写し、顔の腫瘍を陰惨な表現で描写した小説石に泳ぐ魚をその女性に無断で雑誌に発表した。 その女性の出版差し止めの願いを聞いていたのに、それを無視して単行本化した。出版差し止めの裁判で、柳美里さん側の敗訴が最高裁判所で確定するが、確定後、柳美里さんと新潮社は、単行本の出版を強行した。そんな柳美里さんと新潮社の主張。
Ａさん側の「『朴里花』の存在を作品から完全に削除せよ」という要求は、作品を根底から崩壊させるものであり、「表現の自由」からしても、了解することはできない。なぜなら、「石に泳ぐ魚」は、あくまでも文学作品であり、著者・柳美里氏が、現実に存在する人物、状況等に想を得たとしても、作品自体は、柳美里氏の文学的感性によって抽象化されているからである。
（略）
この小説は文芸作品であり、一般読者が実在の人物と作品の登場人物を同一視しながら読むことはない。この小説は現実から想を得たにせよ、実在人物の行動や性格がデフォルメされ、現実の事実と意味や価値をことにするものとして表現されている。小説の主題は「困難に満ちた〈生〉をいかに生き抜くか」という人間にとって普遍的かつ重要なものであり、被告側が「朴里花」に贈った生の賛歌である。表現の自由は、憲法の定める基本的人権の中で優越的地位を占める。
プライバシーを暴いたうえで陰惨な表現をした相手に、止めてといわれても、それは生の賛歌だと言い訳する姿は、愛と勘違いして暴力をふるうDVと取られかねません。
「表現の自由」からしても、了解することはできない。表現の自由は、憲法の定める基本的人権の中で優越的地位を占める。
週刊ポストには報道の自由がある。内容は、韓国精神健康医学会の調査をもとにした、中央日報の記事に沿っていて、本当のことである。
「石に泳ぐ魚」は、あくまでも文学作品であり、著者・柳美里氏が、現実に存在する人物、状況等に想を得たとしても、作品自体は、柳美里氏の文学的感性によって抽象化されている。この小説は文芸作品であり、一般読者が実在の人物と作品の登場人物を同一視しながら読むことはない。
週刊ポストの記事はあくまでも事実をもとにした報道。医学統計を基にしており、個別の韓国人の疾患と同一視することはない。
柳美里さんは、「10人に一人は要治療、（略）家族、親族、10人います。10人のうち一人は、治療が必要？」と尋ねていますが、初歩的な間違いが2つあります。
1つは統計に対して一例で否定していることです。統計の初歩すら理解できていません。
もう一つは、確率1%のガチャを100回引けば当たるはずなのに、と同じ間違いです。
10人いるときに要治療になる人がいない確率は、それぞれが独立な時、(1-0.1)^10 = 0.3486... 約34% あります。週刊ポストの記事が正しいときに、柳美里さんの家族、親族の場合が起きるのは、ままあります。（もし遺伝性疾患であれば、要治療の人は特定の家系に偏るので、国内の統計結果に対して、親族に要治療者がいない確率は、もっと高くなるでしょう。）
間違った理由で非難することは、相手を不当に貶めるものなので、普通は慎みます。常識のある人なら、すぐに訂正し、相手に謝罪するでしょう。
自由の名の下の表現であっても人を深く傷つける表現をしてはならない、と柳美里さんが気づいたことは、四半世紀と時間はかかりましたが、非常に素晴らしいことです。
人を傷つける表現という点で、週刊ポストと石に泳ぐ魚は同じです。週刊ポストはこの件について、すぐ配慮が欠けていたと謝罪しましたが、柳美里さんは、最高裁判決確定後ですら、表現の自由を盾にしてAさんを傷つけ続けました。柳美里さんが最低限の常識を持つ人ならば、新潮社とともに自らの過去を反省し、彼女への深い謝罪を今後公にされるでしょう。
