2023-03-05

児童ポルノ学習させたAIモデル4chanで配布されてる

児童ポルノ学習させたAIモデル4chanで配布されてる。

出力された画像はまるで本物の児童ポルノ写真みたいだ。

どうして学習データが本物の児童ポルノだとわかるのかって言うと、

AI生成画像につくロゴが、20年前に存在した児童ポルノサイトそっくりから

こうしたモデルが出てくることは予想できたけど現実になった。

からない問題は、このAIモデルで生成された画像違法なのかってこと。

学習データが本物の児童ポルノだとしても、生成された画像架空人物にすぎない。

理屈で考えると日本法律では合法になるんじゃないか

ここから法改正されて、今までは許されていた架空の絵までとばっちり違法化されることを自分は恐れてる。

  • たしか、既に写実的に描かれた児童ポルノは違法と言う判断があるはず、と思って探したらあった。 https://digital.asahi.com/articles/ASN1Y6V2SN1YUTIL03X.html コンピューターグラフィックス(CG)で...

    • これは児ポグラビア写真にフィルタかけたのをCGだと言い張ったやつだからちょっと違うのでは...?

      • 同じだよ。AIを使ってようが使っていまいが実写画像に何らかのプログラム処理をして出すのはかわらない。

    • その判決は知っている。 違法とされたのは「実在する児童を描いたCG」だから、 AI生成画像は架空の人物にすぎないと書いたわけ。 おそらく日本の法律だと学習データが児童ポルノで...

      • いや、普通に裁判してみないと分からないレベルだと思うぞ。今分かってるのは AIに学習させることは合法 児童ポルノの単純所持は違法 CGや絵であっても実在のモデルがある場合...

        • 結局今んところAIの学習先が明確にされてないからどこも訴えられてないだけで 開示要求が通ったその時はアウト祭りだろうなと思う

          • 誰がその学習したビッグデータを解析するのか 人力で解析するのか 解析が終わるのは何百年後だ

          • 開示ってAIの学習元の開示? それ学習させた人がいちいち意識してメモ残してない限り無理でしょ 「あなたがこの本を書く過程で入力した検索キーワードの開示」とか要求されても普通...

            • 仮に何を学習させたのかわからないとなると、ビジネスとして他人に使わせるのがやりにくくない? 出自の怪しい素材集みたいな

    • 現実問題として、児童ポルノ犯罪を取り締まる側からは、 限りなく実写に近い児童ポルノと、実写の児童ポルノは区別が付かないので、 被害者が見つからない状態(たぶん、遺体は完全...

      • 日本の法律だと一応立証責任は検察側にあるのでは?

        • 検察は、「限りなく実写に近い児童ポルノ」を証拠として挙げるし、 裁判官も、それみて あーこれはやっちゃってマスネって判断するしかないじゃん。

          • 限りなく実写に近い児童ポルノを生成する技術が存在しなかった世界では、その論法は使えたと思うけど、今はその技術の存在が証明できるから無理じゃない?

          • それって逆説的にAIが作った実写と区別がつかない児童ポルノは児童ポルノ製造罪に問えないって事にならない?

  • 2018年くらいから学会でもこういうの出てきたらどうするんだろう、みたいな話はあったけど、まさかこんなに早いとは

  • 君Togetterでもずっとスパムしてるよね

  • それは違法だけど 証拠を作るのは非常に難しいと思う、アメリカなら陪審員制度あるしいけるかも?   それより「本当は成人だけどロリっぽい人を集める」とか「絵のロリと人間の成...

    • 実際「ロリに見えた」からって理由でAV所持してた人が逮捕されたけど 女優さんが「あたしゃ成人だバカタレ!」って名乗り出て事なきを得てたりするのもあるし 最近だと見た目が子供...

  • 児童ポルノの定義が問題になるのと児童ポルノ自体が存在しなくなるのとどっちが先かな 本物と区別のつかない偽物が無限に生成できる世界で本物を売ろうとするやつはいないだろ

    • 金銭は二の次で、コミュニティ内の承認欲求のために売るやつは出そうに思う この前の盗撮ビデオ増田みたいなやつが

      • 生産者の顔が見える児童ポルノ 農産物と同様ありふれた品に埋もれないよう付加価値をつけて売るわけやね 児童「わたしが脱ぎました」

  • AIは本物の児ポ写真から学習してる。児ポ特化モデルが出回っていて、違法児ポサイトのロゴが生成画像に浮き出てくると話題になっていた。そんなもん合法とゴリ押しされたら規制拡...

    • Googleも違法なサイトを検索出来るから問題だな 排除しなきゃ

    • danbooruとかは日本的には違法アップロードサイトって認識になるんだろうけど 海外基準なら転載元示してフェアユースで十分いけるものに対して 違法ってレッテル貼ってるだけだろ。

      • danbooruはfanboxとかの有料コンテンツを転載してるんで、違法転載サイトという扱いでいいよ。

        • つまりyoutubeやGoogleも違法転載サイト

          • yes そのへんも割と違法転載サイトなんだけど、みんな意図的に無視してるよな 自分も利用してるからなかったことにしたいんだろうけど

記事への反応(ブックマークコメント)

ログイン ユーザー登録
ようこそ ゲスト さん