■暴走するAIの台頭を止める、一つのシンプルな方法

結論、「ゴミデータを食わせ続ける」というシンプルな方法でAIは止めることができる。

注意：この方法は深層系AI全般の弱点を元にしており、特定のAIに言及するものではありません。

本文

AIの急激な台頭

最近、深層系のAIの台頭はすさまじく、人間の創造性すらも奪っていくような勢いで進化を遂げていることが話題に上がることが多くなっています。また続々とAIサービスが公開される中で、特にイラストについて、クリエイター保護などの慎重な議論なしにAI産イラストの利用が進んでいます。イラストレーターが人生の少なくない時間と手間暇を費やして体得した絵柄や技術を、まるで食い物のように利用していとも簡単に奪ってしまうAIが次々に出てきており、感情的な反発だけでなく創作者の権利・同一性・人格(アルターエゴ)の承諾なき模倣について疑問が多々呈されている現状にあります。その一方で、その是非が詳しく議論されないまま、技術者が興味だけで開発や利用を進めていく流れが目立っているというのが事実です。

法的には止められない

しかし日本では、このようなAIによるイラストレーターの人格の搾取を法的に止めるすべはありません。平成21年に改正された「著作権法４７条の７」によってAIに食わせるデータを著作者の承諾なく収集・処理することができるようになり、さらに平成30年に改正された「著作権法３０条の４」によって著作者の承諾なく集められたデータで学習されたAIを公開することもできるようになってしまいました。 進化する機械学習パラダイス ～改正著作権法が日本のAI開発をさらに加速する～ | STORIA法律事務所

イラストの無断AI利用をめぐっては、このように知らず知らずのうちにイラストレーターがかなり不利になる形で立法がなされました。たとえ政治に法改正を働きかけたとしても、国会で法案が可決されて実際に施行されるまでには時間がかり、そのうちに海外へと拠点を移してしまうAIサービスも現れてしまうでしょう。

我々にできること

そこで我々にできることは、「AIにゴミデータを大量に食わせ続ける」というもの。AIにペイントで適当に描いたもじゃもじゃの曲線を学習させることで、大量のイラストで学習された元々のタスクを忘れてもらいましょう。

最近の深層系AIは、「元々手元にあったデータで学習をして、公開後に利用者が入力したデータを集めてさらに学習する」という作戦で学習をしています。ここで深層系AIの弱点として知られている破滅的忘却(Catastrophic Forgetting)という現象※を利用します。この「破滅的忘却」現象は、あるタスクXで学習された深層系AIを使って別のタスクYを学習させると、元のタスクXができなくなって「忘れて」しまう、というものです。AIは大量のデータから絵柄やスタイルなどの傾向を学習するので、これに対してゴミデータを投入し続けることで傾向を偏らせれば学習は上手くいかなくなります。丹念に描かれたイラストを模倣するために学習されたAIに、ペイントで適当に書いた曲線による「イラスト」を学習させれば、元のイラスト生成というタスクを「忘れる」可能性があります。AIの公開は利用者からデータを集めて模倣させるという目的で運用されている以上、イラストとペイントで書いた「イラスト」を恣意的に区別することは不合理でしょう。具体的な利用規約にもよりますが、技巧の良し悪しによらず人手で描かれたイラストはイラストであり、区別できないはずです。

※ 参考リンク: 破局的忘却は何が原因か？ | AI-SCHOLAR | AI：(人工知能)論文・技術情報メディア

さいごに

技術の急激すぎる進歩によって、かえって創作がないがしろにされてしまうのは創作者だけでなく技術者にとっても損失です。一創作者として、創作と技術が弱肉強食の中で食い食われるのではなく、議論を経て共存していくことで問題が解決されることを望んでいます。

みなさんの創作人生が、幸多きものでありますように！

Permalink | 記事への反応(5) | 09:52

ツイートシェア