■AI絵師の現在進行形の惨状について、AIに浸かった側から告発する

長文を読ませても何なので、まずは要点から。

特定人物の絵柄をパクる新機能が水面下の野良で氾濫し始めている。

これが問題だと思った人は読み進んでほしい。

とはいえ、混み入った話をするつもりは無いので、多少かいつまんで解説する。

この話に興味がある人なら、NovelAIはご存知のはずだ。各所で手足が雑でまともにラーメンが食べられない画像を何度も見た人も多いだろう。

少し前の話になるが、NovelAIのサーバーがハッキングの被害を受け、プログラムのほぼ全てを盗まれて若干アンダーグラウンドな界隈に全公開されてしまった。

この中には、NovelAIの次期リリースに向け開発が進められていた新機能も含まれていた。

それが、今回の主役であるhypernetworkだ。

hypernetworkとは、それほど手間をかけずにAIの出力を追加調整する機能で、

その調整とはズバリ、絵柄の調整である。

そう、言うなればハイパーmimicとでも言うべき追加機能が、アンコントローラブルな状態でいきなり野に放たれたのだ。

親切な方々がセーフっぽいプロセスやアウトっぽい(？)プロセスを経て構築したサンプル画像がTwitterにいくつか上がっているので、

ご興味のある方はTwitterで「hypernetwork」で検索してみるとよい。(見た勢いでクソリプを送るのは全くお勧めしない。)

で、放たれて早々例のアジア2ヶ国のAI画像コミュニティが活性化し、完全にアウトな行動をとり始めた。

有名絵師の絵柄を学習させ始めたのだ。そしてそのデータを絵師の名前付きで配布している。ド直球だ。

アウトだ。名前を伏せて分かる奴だけ使え的に配布すればまだマシなんじゃないかという、モラルの大分終わったトンデモ思考を持っている私からしてもこれはアウトだ。

諸外国のAI学習法制はよく知らないが、よく言われる日本の著作権法ではAI学習用途ならセーフという話は少なくとも破ったポジションにある。

(絵柄を似せるために少量の絞り込んだデータセットを故意に組んでいる、模倣を目的としなおかつ名指しをしている等々という点で。)

そして、日本のコミュニティも当然やっている奴が居る。配布している奴も居る。アレコレ言ったところで底辺はそう変わらないので。

というか他の国のコミュニティに潜り込んで配布されている絵柄のデータをわざわざ輸入してきている。

なので今までAI絵で遊んでいた立場ながら告発に至った。これは既に、そして進行している惨状である。

何をして欲しいとかこうするべきだ等は一切言わない。そういう立場にない。

ただ、AI絵師は「とりあえず見ないことにしておく」では済まない方向にとてつもない速度で悪用され始めている。

mimicを潰したから日本の技術がどうこうという時間軸ではない。事はStableDiffusionが公開された瞬間に第二宇宙速度を超えていたのだ。

hypernetworkという存在自体広めるのもどうかと考えたが、放置してもどうせどこかで発火するため仕方ないと判断してこの文を書いている。

もう少し事がうまく運べばいいのに、私にはどうすることもできない。

ここからはこぼれ話である。もう少し暇潰しが必要な人はこの先も読むとよいだろう。

そもそも、NovelAI特有の奇妙に整った、それでいてさらりとしている例の絵柄はデフォルト設定で使用すると出るものだ。

当然のように他の絵柄も出すことができる。つまり、巷でNovelAIの絵柄とされているものを出している人達はここら辺を一切いじっていない。

NovelAIの場合意図的に抑制されているが、それでも大型商業作品を手掛ける絵師や、大型作品名をプロンプトにうまく指定して生成させると、

上述のhypernetworkを用いずとも既に絵柄を似せられる状況にある。

某自称有名大物AI絵師様は最近これにご執心のようで、見れば分かるレベルに目元やタッチを真似た謎の絵達を半無言投稿で垂れ流していらっしゃるところである。

誰に似せたか書かずともプロンプトに入れている時点で故意なのでもう少し考えて頂きたい。

それと、似たような状況が音声合成AIでも発生している。

某国にて声優の声を勝手に投入し、特定のキャラの声で好き勝手喋らせるように作っている奴が居る。何だったら既にデモページもある。

こぼれ話はここまで。反響があれば、ここら辺も続けて書くようにしたい。

最後に、擁護する必要があるかは謎だが一応NovelAIの名誉に関わる部分について言及しておくと、

NovelAIはhypernetworkを好き勝手ユーザーが作れるハイパーmimicを作ろうとしていた訳では無いはずで、

プリセットを内々でいくつか作り、お手軽に絵柄の傾向を変えられる(誰に似せた傾向かは言わない)機能としてリリースする予定だったはずだ。

そして、現在hypernetworkを悪用するにあたりNovelAIの正規サービスを理活用する必要は一切無く、NovelAIが機能の無効化等をできる状況にもない。

NovelAIとしてもこの状況は若干遺憾であろうことを書き添えておく。

Permalink | 記事への反応(1) | 01:34

ツイートシェア