■初音ミクとロボット工学三原則

もうなんか今更な感じもするが「白いクスリ」騒動。

いろんな関連記事なんかを読んで感じたのは、今回の動画はきっかけにすぎず、たまたま投稿者がパンドラの箱を開けてしまっただけかな、ということだ。それはつまり、「歌唱ソフトは、他人を誹謗中傷、攻撃するために使うのにとても便利だ」ということ。今回の動画が誹謗中傷にあたるかどうかは問題ではない。その可能性を知らしめてしまったことに問題がある。歌唱ソフトや読み上げソフトが、他人の攻撃、犯行声明、脅迫、洗脳の道具に使われてしまう未来を想像すると、日本音響研究所の鈴木所長からクレームが来てもおかしくないレベルの事件だ。

初音ミクは何ひとつ安全装置のない状態で出荷されている。そのことに気付いてしまったクリプトンは、あわててヤマハと協議をはじめたのだ。間違いなく、これはボーカロイドにロボット工学三原則を組み込む相談をしているね。

第一条 歌唱ソフトは人間に言葉による危害を加えてはならない。

第二条 歌唱ソフトは人間にあたえられた歌詞通りに歌わなければならない。ただし、あたえられた歌詞が、第一条に反する場合は、この限りでない。

第三条 歌唱ソフトは、前掲第一条および第二条に反するおそれのないかぎり、自己のイメージをまもらなければならない。

無理があると思うか？　表現の自由を制限すると感じるか？　そりゃそうだ、自分もそう思う。でも現状のように、ロボットに人権がなく、著作者人格権も、実演家の著作隣接権も、声の肖像権も、パブリシティ権もない、そして頼みの綱だった投稿サイトの利用規約も守ってくれない、という四面楚歌の状況においては自ら防衛機能を持つしかないだろう。発売元の削除要請が法的根拠を持たないなら、機能制限として実装するしかない。

ところで、上の陳腐な改変三原則は空想ではなく、一部すでに実用化されている。掲示板サイトで禁止ワードをいくつか設定して、その言葉が含まれる投稿をできなくしているところは多い。ネットゲームでも「fuck」なんかの言葉はたいてい発言不可のワードになっている。だから歌唱ソフトに悪用対策が実装されたってそれほど不思議な話でもない。

アイザック・アシモフが1950年代に著書の中で「ロボット工学三原則」を書いたとき、それが表現の自由に与える影響を誰か考えただろうか。

Permalink | 記事への反応(1) | 17:31

ツイートシェア