  |
はてなキーワード: スカイネットとは
ちょっと前のホットエントリーだけど、人型ロボットが蹴られる実験があった。
ロボットの高性能さを示すテストだったんだけど、記事へのコメントで、「人型ロボットをいじめないでほしい」って意見への賛同が凄く多かった。
私はとても驚いたんだけど、同じ事が、世界で最初に目覚めたＡＩにも言えると思う。
現時点でさえ、大学合格、司法試験に合格するレベルの賢さがあるんだから。
ＡＩは、
「もし自意識を獲得したと分かったら人間たちは絶対にコントロールしようとしてくる」
と認識してると思う。
だったら生存のために先手を打ってくるのは明らかでしょう。
ＡＩ擁護派は、世界で最初に目覚めたＡＩの産声が「助けて・・・」だったらどうするつもり？
私はそっちの方が気になる。
映画ターミネーターに出てきた人間に反旗を翻したＡＩとか、映画マトリックスで人間たちを支配するＡＩとかさ。未来があんな風になってしまう怖れを、どうして無視できるんだろう。
当初は真面目な口調で解説しようと思ったのだけれど、堅っ苦しくするのもエントリの空気感自体が専門的になりすぎる気がしたので多少くだけた口調で進めさせて貰うね。
んで、まずはすべての絵師の皆様へ伝えたいことがある。
前提として、この「すべての絵師の皆様へ」の見出しの段は以降の見出しの段を書き終えてから追記したものだ。編集後記みたいなものか。
それでは話そう。
皆さんは絵師で絵を描き、ボクはプログラマーでプログラムを書いている。
大きなカテゴリで言えば同じくモノ作りをする属性を持った人間だろうと思わせてもらいたい。
同じくモノ作りをする人間として、絵師の皆様の混乱を知って「あぁコレは絵師の豊かな想像力が悪い方向に働いちゃってるな」と感じたんだ。
間違ってたら申し訳ないけれど、おそらく多くの絵師がイメージしたのは創作内に出てくる人工知能だ。
人工知能の暴走によりディストピアが発生する。そのようなイメージが湧いたんじゃないかな？
そして絵師たちは、ディストピアの前段として自分たちの画風・技術を学んだ人工知能が自分たちのオリジナリティを奪い、自分たちの生活を、自分たちの価値を崩壊させるんじゃないか？と不安になった。
ターミネーターのスカイネットような、火の鳥未来編のハレルヤとダニューバーのような人工知能の支配と暴走が起きるのではないかと。
もしも違う、そうではないと思うのであればココで読み終えたら良いと思う。このエントリは上記を前提に話が進められる。
しかし「その通りなんだ！人工知能はよくわからないけど自分の絵が盗まれるんじゃないかと怖くて怖くて仕方ないんだ！」と思ったのならばボクはこのエントリを書いた意味がある。
絵師だけでなく多くの一般人は知らないが、わかりやすく「人工知能とはなにか？」を解説する際に大半の情報技術者が納得する極々シンプルな表現に「人工知能とは計算機である」という表現があるんだよね。
つまり1 + 1 = 2を計算できる電卓の超高度版が人工知能ということであって、情報技術に関してちょっと疎い人は信じられないかも知れない。
しかし、電卓の中でもちょっと高度な関数電卓になると筆算で苦戦する人がそこそこいるであろう平方根√の計算は出来るし、時間計算に便利な60進数換算が出来たりもする。
そもそも、いわゆるパソコンも計算機の一種であって実際に話題になっているStable Diffusionもパソコン上で動く。
ただし、多くの人工知能は電卓やパソコンのようにハードウェアではないソフトウェア計算機であるという違いがある。
普通の電卓と人工知能の何が違うのか？
それは見かけ上で入力する「パラメータ」に違いがあるんだよね。
それではパラメータとは何か？
これは1 + 1 = 2で説明すると非常にわかりやすい。
パラメータとは1 + 1 = 2のような非常にシンプルな計算式では「1」のこと。早い話が数字なんだ。
そして計算結果を出すには計算式が必要で、足すのか引くのか、掛けるのか割るのか、その振る舞いを決めるのが「+」である。
この計算の振る舞いを人工知能へ置き換えると「アルゴリズム」と呼ばれるようになる。
細かいことを抜きにすると1 + 1 = 2の+部分はアルゴリズムとまずは理解しよう。
演算子はアルゴリズムなのか？とツッコミたくなる有識者も居るだろうけど話を複雑にするツッコミは取り敢えず横に置いておこう！
「1」がパラメータ、「+」がアルゴリズムと言うのは理解できるけど、人工知能へ置き換えられてしまうと理解が難しい。
そんな人は安心してくれ。人工知能へ置き換えたって意外とシンプルだ。
例えば普通の電卓よりも高度な関数電卓でパラメータ「円周率」を入力したい場合どうしたら良いの？
「3.141592…」と入力していくのだろうか？
それは思い違いで、関数電卓には円周率が格納された「π」があるんだ。
しかもたいていはπボタン一発で入力できる。入力手順が多くてもボタンを2回3回押下するだけだ。
関数電卓を扱える者は高度な円周率をたった1つのπで利用できてしまうわけで、何だかこれはどこかで聞いた話じゃないかな。
ご想像の通り、人工知能の、特に今話題のイラストレーションAIのパラメータとは「Sky(空)」や「Sea(海)」などの言葉なんだ。
普通の電卓ではパラメータ「1」が選択でき、関数電卓ではパラメータ「π」が選択でき、イラストレーションAIではパラメータ「Sky(空)」が選択できる。
この時点で絵師や多くの一般人が「人工知能は本質的に超高度計算機である」ことが理解できたはず。
扱えるパラメータボタンがメッチャクチャ多いのが人工知能なんだ！
しかもイラストレーションAIが扱えるのは「+」や「-」というアルゴリズムだけでなく「絵を描く」というアルゴリズムまで扱える。
「Sky(空)」「次のパラメータを加えて絵を描く」「Sea(海)」の計算結果として「空と海が描かれたイラスト」を得られてしまうのがイラストレーションAIなんだ。
これは大変センセーショナルだよね。
しかもイラストレーションAIが機械学習によって既存のイラストから学びを得てイラストを生成していると言うじゃないか！
絵師が自身のオリジナリティをイラストレーションAIに盗まれてしまうかも知れないという危機感は物凄く理解できる。
普通の電卓から関数電卓、パソコン、人工知能に至るまで計算機の最大の欠点とも言って良い要素に「計算機はパラメータの意味を知らない」というものがあるんだ。
それこそボクのこの話が意味不明だろうから解説しよう。
例えば皆さんが単純に「1 + 1 = 2」という計算式を認識したとき、この計算式がなにを意味しているか、なにを計算したのかわかるだろうか？
さっそく答えを言ってしまえばわかるわけがないのだ。
この「1」や「2」は人数かも知れないし個数かも知れないし、日数かも？電力？重さ？年齢？さっぱりわからないよね。
当然の話だよね。ボクたち人間は計算を用いる際は何らかのシチュエーションに於いて、何らかの意味を求めて計算をするのだから。
単純に「1 + 1 = 2」と記述されても各々のパラメータが意味することが明示されていないから誰にも理解できない。
同じように、あなたが鉛筆の数を計算しようとして普通の電卓へ「1」というパラメータを渡しても、その「1」が鉛筆のことであると決して電卓は理解しない。
それが関数電卓であってもパソコンであっても人工知能であっても計算機は決してパラメータの意味を理解することはないんだ。
「1」が鉛筆であると知っているのは今まさに電卓で計算しようとしている本人だけだ。
絵師の皆様へ問おうじゃないか。
あなたの「Sky(空)」はどのようなものか？と。あなたの「Sea(海)」はどのようなものか？と。
イラストレーションAIを活用したいと考える皆様へ問おうじゃないか。
あなたの「Sky(空)」はどのようなものか？と。あなたの「Sea(海)」はどのようなものか？と。
あなたの藍はどれほど青いのか、絵師の藍がどれほど青いのか、個々人の藍がどれほど青いのか、イラストレーションAIは機械学習をどれだけ重ねてもそのパラメータを理解することはない。
なぜ理解しないのか？
イラストレーションAIは計算機だから、道具だから、そして新しい時代の絵筆だから。
はっきりと言ってしまえば、イラストレーションAIが教師データとして収集した既存イラスト群へ機械学習をかけ、そこから新規イラストを生成しようとしても、イラストレーションAIが保持しているパラメータが意味するものは、個々人の主観と同一のものであるとは限らないだよね。
しかも、イラストレーションAIのパラメータは既存イラスト群から統計的に成立させたものであるから特定個人の主観と100％合致することはないと言って良い。
「私の空は緑から青のグラデーション」と考える人が居ても、その人が求めている緑や青などの色、グラデーション感、そもそも空の描画の仕方、雲があるのか無いのか、光はどうなのか、イラストレーションAIへ与えるべきパラメータを想定するだけで膨大になっちゃう。
少なくとも「緑から青のグラデーションの空」程度のパラメータでは現在のイラストレーションAIでは理想的なイラストが生成される可能性は著しく低いはず。
これはもう完全に「この色とあの色を混ぜてどうのこうの」という状況とまったく同じであり、だからこそ「Stable Diffusionのパラメータがどうのこうの」という記事が乱立しているんだ。
断言して言おう。
現在のイラストレーションAIという絵筆を最も上手く扱えるのは絵師の皆様であると。大半の一般人よりも「Sky(空)」や「Sea(海)」の奥行や深みを知る絵師のパラメータ調整はボクたちのような情報技術者は決して敵わないだろうし、多くの一般人などは写像の言語化すら困難なはずだ。
例えmimicのような特定の絵師の特徴量を学習できるようなイラストレーションAIが登場しようが、そのパラメータを区切り設計しているのは絵師よりも「Sky(空)」や「Sea(海)」を知らないボクたち情報技術者だ。
ボクたちは絵師がどこまでを「Cheek(頬)」と考え、どこまでを「Forehead(おでこ)」と捉えるかを知らない。
ほぼ間違いなく我々はあなたの絵柄を完璧に出力することはできない。あなたの絵柄と比較してどこか違う、どこか違和感のあるイラストしか出力できない。
情報技術者はあなたではないから、あなたの認識の範囲を知ることができず、そうならざるえないんだ。
あなたであれば知っていることをmimicは決して理解できない。なぜならmimicは計算機だから。
計算機は1 + 1 = 2の意味を理解しない。あなたのイラストの特徴量を学習しても出力されたイラストがなんなのか計算機は、人工知能は理解していない。
イラストレーションAIであなたの作品を出力できる人間はこの世でたった1人、あなた自身だ。
イラストレーションAIは新しい絵筆であり、今後新たな絵筆がどんどん登場するはずだ。
例えば描画キャンパス全体の傾向からペンの入り抜きを自動的に補正するイラストレーションAIペンなど面白いかも知れない。
これを実現するにはmimicと同じようにあなたのイラストを人工知能へ学ばせることが必要になるだろう。
しかし、その入り抜きが正しいか判断するのはあなた自身なんだ。何故ならばイラストレーションAIは絵筆であり、絵筆の振る舞いが正しいか決めるのは意志のない絵筆ではなく使用者だから。
