■anond:20241105143355

できるよ！！

一番確実な学習妨害は公開しないこと

公開範囲を限定するのそれなりに効果はあるけれど100％ではないよ。

…例えば物理Onlyでかつ有償でのみ閲覧可にしてもネタ画像と称して漫画のコマを切り抜きしてtweetする人がいるように

Glaze も学習妨害の効果はあるけれど100％ではないよ。

…Glazeの仕組みは他人の画風と混ぜ混ぜして学習をだます仕組みだけれど、Glazeは、学習に使用するモデルと妨害したい画像データ、欺瞞用データで計算するため 計算に使用したモデルに対してのみにしか妨害効果がないから、適用範囲が限られてるよ。そのうえ、GlazeはSD1.5で動作するように設計されてるけれど、現時点でSD1.5を使用している人はほとんどいないよ。さらに、SD1.5の時代においても、ユーザーは各自のニーズに合わせてファインチューニングされたモデルを使っていて、素のSD1.5そのままを利用している人はほぼいないよ。加えて、素のSD1.5に対しても、効果のある元データと欺瞞データの組み合わせの幅が狭く、常に効果があるわけではないよ。…論文は正しいしアプリもそれなりに動くけれど前提が現実に合っていないの

Nightshadeも学習妨害の効果はあるけれど100％ではないよ。

…Nightshadeの仕組みは大規模モデルではトークンと画像の特徴の結びつきが弱いから簡単に乗っ取れるよなの。スタバなうでラーメンが出る現象みたいなやつ。論文では画像をWEBで公開する時は画像と関係ないテキストをつけろと言ってるけれど、そんなことしたら意味不明なツイートになったり、画像投稿サイトにUPしても見つけてもらえなくなるから誰も実践してないの。Nightshadeのアプリは画像から画像の説明を生成するアプリを騙す処理を施すのであって学習を妨害する機能は無いよ。しかも実際は全然騙せていないのん。それに、学習する側はNightshadeとは関係なしに説明文の生成で誤検出等があるのが前提で手動で画像の説明文を修正するのが当たり前だから…論文で言ってることは正しいけれど誰も実践できてないの

ウォーターマークは学習妨害の効果はないよ

…「この画像はウォーターマークのついている画像です」の説明文とともにウォーターマークごと学習して、ウォーターマークの画像の特徴はウォーターマークのトークンに関連付けられて学習されるの。ウォーターマーク以外の部分はその他のトークンに学習されるの。ウォーターマーク付きのデータが増えると、より正確にウォーターマークの概念を学習できるの。

ウォーターマークは学習妨害ではなく当該著作物の2次利用の防止のためにつけるものなの。例えば、勝手にグッズにされたとか

ウォーターマークがついていない本商品を売るためにサンプルとしての参考画像にウォーターマークをつけるの。本商品にまでウォーターマークつけるとウォーターマークついた状態で2次利用されてしまうの。

サインは学習妨害の効果はないよ

…ウォーターマークと同様にサインのトークンに吸収されて学習されるの。

サインは盗作防止のためにつけるの。例えば、第３者がこの絵は俺が描いたとか。

無断転載は防げないけれど、無断転載されても著作者を主張できるように積極的にサインはつけるべきと思うの

Permalink | 記事への反応(1) | 15:42

ツイートシェア