「コンピューターおばあちゃん」を含む日記

バグを発見命名した本物の

コンピューターおばあちゃん！！

Permalink | 記事への反応(0) | 21:23

2020-04-21

■

一文字入れたらコンピューターおばあちゃんっぽい単語になる言葉を検索しようとしたけど忘れてしまってすごく気になる

ちなみに「あ」みたいなひらがなを１文字入れたらおばあちゃんみたいな言葉になる言葉だった

Permalink | 記事への反応(0) | 18:48

2019-11-11

■コンピューターおばあちゃん

　「すると私は『自分が人間だと思い込んでいるコンピュータープログラム』にされてしまったわけかい？　私の同意もなしに？」

　雲ひとつない秋の空。病室の窓は大きく開け放たれ、日射しが真っ白なカーテンと真っ白なシーツを眩いばかりにきらめかせていた。上体を起こしたおばあちゃんの皮肉げな笑みはシーツからの照り返しを受けて奇妙に平坦に見える。どこかから風が子供たちの喧噪を運んできて短い沈黙を埋めた。楽しそうな叫び声、ボールを蹴る音。窓は開いているが虫が入ってくる気遣いはない──この世界に虫は存在しないからだ。そして声の主の子供たちも。おばあちゃんと僕と病室だけがこのシミュレーションの全てだった。

　「おばあちゃんはプログラムなんかじゃない。ちゃんとした人間だよ。それに同意はあったんだ」

前半は僕の信念、後半は真っ赤な嘘。数十回に及ぶ失敗を経て、僕はこのステップで事実を述べることは得策ではないと学んでいた。

「今はまだ記憶が混乱しているだけだよ。そのうちに思い出せると思う。もちろん自分が人間であることも、ね」

　新鮮な死体の脳を輪切りにして採取したデータから人格模倣 AIを作り出す技術が確立してから5年。既に数万人の死者がAIとしてこの世に舞い戻って社会活動（そして経済活動）を再開していたが、未解決の問題が一つあった。AIが自分自身を人間だと疑いなく認識できなければ──要するに自分は元の自己と連続した存在だと心の底から信じることができなければ、そのAIはやがて必ず壊れるのだ。しかもこの自壊は伝染する。2年前の《大災害》は当時活動していた世界中のAIの半数を発狂や機能停止に追い込み、ついでにほぼ同数の生きている人間までをも死に追いやった。そのため現在では、目覚めたAIは「自分が人間であると確信している」と客観的に保証されない限り、隔離されたネットワークから外に出て行くことは許されなくなっている。病院の医療ミスで亡くなったおばあちゃんを現世に連れ戻すために（したがってこの高額な費用は病院持ちだ）、この病室での対話と説得は、法的にも倫理的にも現実的にも決して欠かすことのできないプロセスだった。

　「お前の言いたいことは分かったよ。でもね、結局のところ今の私はただのプログラムとデータなんだろう？　コピーも削除も編集もできるただのデータなんだろう？　そんなものが人間であるわけがあるものかね」

「おばあちゃんが動いている基盤はとても厳重に保護されていて、コピーや削除はできないんだよ。暗号化されているから僕らは読むことも編集することもできない」

「まるで本質的じゃないね。じゃあ私を私たらしめているものは何かね？　私の魂のありか、この私が私であって他の何かではないこと──そして他の誰かが私にはなり得ないことはいったい何が保証するんだい？」

「512ビットのハッシュ値……かなあ」

　これは失言だった。おばあちゃんは手を叩きながらおかしそうに笑い始めた。その笑い声がヒステリックに加速していく。そのおばあちゃんの頭の上には僕だけに見える不吉な赤黒いバーが浮かんでいる。これはおばあちゃんの精神的な安定度を示すもので、緑は正常、赤は不安定。黒になると正気に戻れる見込みはなくなるため、そのおばあちゃんは慈悲深く自動的に終了される。僕はこれまでその光景を53回見てきたが、今日が54回目になった。一瞬のフリーズののち、おばあちゃんがきらきらと輝く光の粒になって空中に散逸していくと（本当にくだらない演出だ。僕はいつか機会があったらこの演出を決めた奴を殺してやろうと決意していた）、僕は口汚く自分を罵りながらHMDを顔から乱暴にむしり取ってシャツの袖で汗と涙を拭った。おばあちゃんが目覚めた直後のスナップショットからこのセッションをもう一度やり直す時間はまだあったが、僕には休息が必要だった。

　僕はおばあちゃんを愛しているし、また家族と一緒に笑い合いたいと心から願っている。だからこそ毎日この「復活の間」──自分はデータに過ぎないと思い込んでいるAIに対話を通じて自分が人間だと納得してもらうための施設──に通い詰めているのだ。けれども最近は思う。果たして僕はおばあちゃんの人間性を本当に尊重しているのだろうか、それとも玩具のように蹂躙しているのだろうか？