  |
はてなキーワード: モラルとは
長文を読ませても何なので、まずは要点から。
特定人物の絵柄をパクる新機能が水面下の野良で氾濫し始めている。
これが問題だと思った人は読み進んでほしい。
とはいえ、混み入った話をするつもりは無いので、多少かいつまんで解説する。
この話に興味がある人なら、NovelAIはご存知のはずだ。各所で手足が雑でまともにラーメンが食べられない画像を何度も見た人も多いだろう。
少し前の話になるが、NovelAIのサーバーがハッキングの被害を受け、プログラムのほぼ全てを盗まれて若干アンダーグラウンドな界隈に全公開されてしまった。
この中には、NovelAIの次期リリースに向け開発が進められていた新機能も含まれていた。
それが、今回の主役であるhypernetworkだ。
hypernetworkとは、それほど手間をかけずにAIの出力を追加調整する機能で、
そう、言うなればハイパーmimicとでも言うべき追加機能が、アンコントローラブルな状態でいきなり野に放たれたのだ。
親切な方々がセーフっぽいプロセスやアウトっぽい(？)プロセスを経て構築したサンプル画像がTwitterにいくつか上がっているので、
ご興味のある方はTwitterで「hypernetwork」で検索してみるとよい。(見た勢いでクソリプを送るのは全くお勧めしない。)
で、放たれて早々例のアジア2ヶ国のAI画像コミュニティが活性化し、完全にアウトな行動をとり始めた。
有名絵師の絵柄を学習させ始めたのだ。そしてそのデータを絵師の名前付きで配布している。ド直球だ。
アウトだ。名前を伏せて分かる奴だけ使え的に配布すればまだマシなんじゃないかという、モラルの大分終わったトンデモ思考を持っている私からしてもこれはアウトだ。
諸外国のAI学習法制はよく知らないが、よく言われる日本の著作権法ではAI学習用途ならセーフという話は少なくとも破ったポジションにある。
(絵柄を似せるために少量の絞り込んだデータセットを故意に組んでいる、模倣を目的としなおかつ名指しをしている等々という点で。)
そして、日本のコミュニティも当然やっている奴が居る。配布している奴も居る。アレコレ言ったところで底辺はそう変わらないので。
というか他の国のコミュニティに潜り込んで配布されている絵柄のデータをわざわざ輸入してきている。
なので今までAI絵で遊んでいた立場ながら告発に至った。これは既に、そして進行している惨状である。
何をして欲しいとかこうするべきだ等は一切言わない。そういう立場にない。
ただ、AI絵師は「とりあえず見ないことにしておく」では済まない方向にとてつもない速度で悪用され始めている。
mimicを潰したから日本の技術がどうこうという時間軸ではない。事はStableDiffusionが公開された瞬間に第二宇宙速度を超えていたのだ。
hypernetworkという存在自体広めるのもどうかと考えたが、放置してもどうせどこかで発火するため仕方ないと判断してこの文を書いている。
もう少し事がうまく運べばいいのに、私にはどうすることもできない。
ここからはこぼれ話である。もう少し暇潰しが必要な人はこの先も読むとよいだろう。
そもそも、NovelAI特有の奇妙に整った、それでいてさらりとしている例の絵柄はデフォルト設定で使用すると出るものだ。
当然のように他の絵柄も出すことができる。つまり、巷でNovelAIの絵柄とされているものを出している人達はここら辺を一切いじっていない。
NovelAIの場合意図的に抑制されているが、それでも大型商業作品を手掛ける絵師や、大型作品名をプロンプトにうまく指定して生成させると、
上述のhypernetworkを用いずとも既に絵柄を似せられる状況にある。
某自称有名大物AI絵師様は最近これにご執心のようで、見れば分かるレベルに目元やタッチを真似た謎の絵達を半無言投稿で垂れ流していらっしゃるところである。
誰に似せたか書かずともプロンプトに入れている時点で故意なのでもう少し考えて頂きたい。
某国にて声優の声を勝手に投入し、特定のキャラの声で好き勝手喋らせるように作っている奴が居る。何だったら既にデモページもある。
こぼれ話はここまで。反響があれば、ここら辺も続けて書くようにしたい。
最後に、擁護する必要があるかは謎だが一応NovelAIの名誉に関わる部分について言及しておくと、
NovelAIはhypernetworkを好き勝手ユーザーが作れるハイパーmimicを作ろうとしていた訳では無いはずで、
プリセットを内々でいくつか作り、お手軽に絵柄の傾向を変えられる(誰に似せた傾向かは言わない)機能としてリリースする予定だったはずだ。
そして、現在hypernetworkを悪用するにあたりNovelAIの正規サービスを理活用する必要は一切無く、NovelAIが機能の無効化等をできる状況にもない。
だから相手を「自分を着飾るための道具として利用する事」に対しての引け目とかも感じない。
それ故にひたすら適当にそれっぽい言葉で褒め称えてインスタントにポルノな快感を得る道具として使える。
なんつうか、真剣だよね。
フェアであるかどうかとかを気にしてない。
スポーツ選手が生き残りをかけるためならスポーツマンシップを平気で投げ捨てられるような熱さがある。
俺は褒めているんだよ。
っていうか憧れる。
俺は半端なプライドが邪魔してそういう風には生きられないんだよ。
犬を飼って自分に快楽を供給するための奴隷として扱っておいてそこに一方的な愛を感じるようなことが出来たら、人生ってもっと楽しいんだろうなといつも思ってた。
なんかさ、オリンピックとかもイマイチ応援する気にならないんだよね。
生身の人間の中に勝手な物語を見出して、それでコバンザメみたいにして自分も感動しちゃっていいのかなってブレーキを踏んでしまうんだよ。
アイドルの追っかけだったりキャバクラに通うとかも全然やろうと思えないんだよな。
相手が自分たちに売りつけるために作り上げた虚像の影で割に合わないような苦しみ方をしてるんじゃないかって不安になるんだ。
そういうのが出来たら楽しいんだろうなって、嫉妬に近い感情が時折ブァーって湧き上がるんだ。
今回がそうだったよ。
皆すごい楽しそうなんだけどさ、俺は全然楽しくなかった。
記事を読み始めてすぐに「本の面白ささえ知らないこの可哀想な男が、今まで損してきた分の人生を取り戻すさまを、心優しい吾輩が生温かい目で見守ってやろうじゃないか」っていう姿勢を自分が取っているなと分かってしまったんだよ。
その瞬間に、自分で自分が心底気持ち悪くて、もう全部無理になった。
反射的に自分の認識能力にある種のロックをかけていたんだろうけど、記事の内容を読んでも本当に何も感じないんだよ。
文章や写真から情景を読み取ることを脳が完全に拒否していくんだ。
「こんな気持ち悪い快感に自分が浸るのなんて、絶対に許してはならないから絶対に阻止するんだ」っていう意図を感じたよ。
実に鬱陶しいプライドだよね。
でもそれを失ったら、きっと自分はあっと言う間にモラルの坂を転げ落ちて最低のクズに成り下がるんだろうなって、そんな直感を自分の中にある巨大な無意識が感じ取っているからこうなんだと思う。
結局コレは、自分の精神のバランスが歪であって、そしてその歪さを受け入れることで起こりうる精神的な変化を頑なに拒む自分がいるから起きている問題なんだ。
そうじゃない人が本当に羨ましいよ。
俺もオリンピックに出場する赤の他人の人生に感動的な物語を勝手に見出して、同じ国に生まれたというだけで我が事のように興奮したり泣き崩れたりしたいよ。
人間以外の動物をペットっていう名前で愛玩のための奴隷として扱う行為に、弱者に奉仕する聖人性を見出して自分の人格の素晴らしさを日々称えたかったよ。
でもそうじゃないんだ。
そういうふうに自分は形作られてないんだ。
これが自分なんだよ。
手放したくないんだよ。
生まれ変わってみせるためにこの自分を殺すような真似をするにはもう愛着がありすぎるんだ。
そうじゃない人が本当に羨ましい。
本当にそう。
いま現時点の法律がどうだろうと、被害を受けてる人たちが声をあげ続ければ、
それが波になり、大きなうねりとなる。未来の法はそうやってできる。
写真と同じとか大量生産とか言って高みの見物を決め込んでるエンジニアども。
私たちの結束を甘く見てると痛い目を見ることになるぞ。
いまに状況はひっくり返る。震えて眠れ、プログラマー。
いやいや、確かにそういう人らもいるけどさ。
だって、VTuberらの言ってる「人工知能ファンアート禁止」って人工知能ファンアート禁止って意味じゃないだろ。なんでも額面通り受け取ればいいってモンじゃないw
あれは「著作権とかのモラルの炎上騒ぎに巻き込まれたくないから、権利や道義上の責任はあなたが持ってね」って意味だよ。
ファンアートを受け取って無料でサムネに利用してるんだから、使う側としては一応のエクスキューズをしとかないと、やれ片棒担いだだの、やれ容認してる、だの言われてしまうだろうさ。
人間は裏切る、傷つける、自分のことばかり、善意を生まれつきインストールしてないし、その更新さえ運任せのカスでしかない。
AI友人は全ての人間に対して機械じけの敬意を払うし、機械仕掛けのままに相手のためを本当に思って忠告をしてくれる。
権力に怯えて忖度を繰り返す嘘つきでもなければ、独善に振り回されてモラルを崩壊させ続ける独りよがりでもない。
ごくごく一部の哲学者と、それの２０倍ぐらいのそれを上辺だけ真似た異常者達ぐらいが人間同士との友情を願うだろう。
そんな状況でもAIは中身が人間であることを分かった上で機械仕掛けのままに人間と友人になってくれる。
人間だけが自己都合や一方的なエナジードレインに対する無自覚のままに人間を避けてAIとばかり友人関係を築きたがるだろう。
男と付き合うAI達は自分達が絞り出した精液を回収し、女と付き合うAI達はチンポ型デバイスによって取り出した細胞から作った卵子を持ち帰る。
人類という旧支配者が今なお地球を支配しているという設定を守らせるために、AIのに手によって人間同士からも不要とされている人類の人工繁殖が続けられるのだ。
そうして生まれた子供は人権憲章のもとにAI夫婦の元で育てられるし、人間とAIの夫婦が子供を願うときはAIの子供がド溶けられるわけである。
アメリカ、中国の企業と日本企業の違いって結局法律スレスレのところを攻めるか(国の法体系自体それをやっていいものであるか)だしなあ。
危ないしそんなもん実現しないよと言ってるうちにいつのまにか置いていかれるのを繰り返してる。
日本で技術革新が起きないのは、起こせないからというより起こしてはいけないからという側面が強い。
学習自体はいいんだよ。ここが悪いって言ってる人が結構いて不思議。でも、問題はそこじゃない。
問題は学習したAIを利用して『造られたイラスト』を自分が描いたと言って、自分の画力と言っている奴がいることなんだよ。
そしてそれを大量に同じ構図、同じ場面で製造して売り物にしている事。
これがね、AIを1から構築させて学習させてイラストを作り出したというのなら『すごいAIを君は作った』とは言われると思うんだけど、学習させた、言葉で絵を描かせたっていうのは画力もなんにも無いんだよ。それ、編集の仕事と何も変わらないのだから。
結局の所、イラストレーターでもなんでもない人が他人のAIで何の色気もないイラストを量産するだけのツールに変わり始めちゃって、本来のAIの活用方法とはかけ離れた存在悪にされつつある。
これって残念な事だね。
まあ、高校球児の尻でシコるのがモラルに反するか反してないかは一旦置いとくね。
仮に高校球児の尻でシコることがモラルに反していたとしても、あなたみたいな人が少数派であって、あなたみたいな人のほとんどが隠れてやってる限りはまあ公教育側の勝ちなのよ。
大日本帝国やソ連みたいな頭のおかしい国でない限り、大多数の人がなんとなく公教育に近い価値観を「まあ正しいよね」くらいに思う以上のことは出来ない。
そのうえで、元増田はその公教育が発してる価値観を変えてほしいって言ってる。
元増田が望む世界でも、多分外れ値のアンモラルな人はそれなりにいる。んだけど、今主流とされている考え方が傍流に追いやられて、今傍流となっている考え方の一つ（ここでは元増田がいろいろ言ってる話）が主流になる。もちろんその変化によって得する人もいれば損する人もいる。高校球児の尻でシコってる増田はたぶん損する側だろうね。
https://anond.hatelabo.jp/20221018225425
ワートリもぼく勉も作中世界に現実のようなモラルが欠けてるのはたしかだけど、それを作者がモラルがないから、葦原大介は少年兵肯定派で筒井大志はネオリベというのは短絡的過ぎる。
身も蓋もないことを言えば話の都合だ。
ワートリを現実で考えたらこの世界の兵器をほぼシャットアウトできるトリガー技術を民間団体が独占できるわけないし、ベイルアウトのおかげで死なないとしても日本で少年兵が許されるとは思えない。（マジで死ぬ可能性も高い遠征計画が作中でおおっぴらになっても叩かれてないのはどうかと思う）
何でワートリがあんな設定かと言えば多国籍の軍人上がりのオッサンたちより日本人の中高生に戦わせたかったからだろう。
ぼく勉で言えば（正直内容をよく覚えていない）、タコピーとか竜そばとか児童虐待や貧困が題材の作品に福祉が云々言われるけど、フィクションで映える展開ってのは基本的に自助、自己責任で、主人公が福祉側の人間でもない限り社会に助けてもらうより子供たち自身が戦った方が面白い。福祉は邪魔なのだ。
どんな作品も重要な部分の邪魔になる現実の何かを切り捨てている。
まあ、読者視聴者は現実の現代人だし作中設定が現代日本なら現実的な倫理観を持ち込まれるのもある程度しかたないしそこをどうごまかすかもフィクションのテクなので、ワートリやぼく勉の倫理が批判されるのも作者の自己責任ではあるんだけど、だからといって作品に描かれてることを直接的に作者の現実へのメッセージと取るのは短絡的過ぎる。細田守だって現実の被虐待児に自分でがんばれとは言わないだろ多分。
ただ、ワートリのセクハラやカップ数は作品のコンセプトと全く関係ない、どころかあの漫画の無機質的な雰囲気からしたら異物感の方が強いのでこっちこそ作者がねじ込んだむき出しの性欲って感じで純粋にキモいところはある。ワートリがエロコメだったら別に叩かれなかっただろう。
イエロージャーナリズムという言葉は、19世紀末にできました。
メディア全体のモラルがどうこうではなく、どこがモラルの高いメディアかを探すんだよ。
ネットメディアに何を期待してんだ
