  |
はてなキーワード: 区別とは
AI プログラマーです。答えは、AGI がどのようなものになるかは誰にもわかりませんが、懸念すべき理由はあります。
AI は通常、目的関数を達成するための新しい方法を発見しますが、それはあなたが考えていたものではなく、望んでいたものでもないかもしれません。
AI はビデオ ゲームの不具合を見つけてそれを利用し、コンピューター プログラムであるため、プレイするゲームが何であるか、不具合が何であるかを知りませんし、気にもしません。
AI は、与えられた報酬関数を最適化しているだけです。これは「社会病質的」と呼ばれることもありますが、もちろん擬人化です。AI は機械であり、それがすべてです。
AI が人間の道徳に従うことは期待できません。なぜなら、人間の道徳は明示的にエンコードに書き込まれていないからです。
実際、機械学習のポイントは、正確なオブジェクト認識 (つまり、猫と猫のように見える影を区別する) に必要な 100 万のエッジ ケースを明示的にプログラムしたくないという ことです。
機械知能に関して言えば、危険なレベルの能力を持つ機械を作ったことに気付いたときには、もう手遅れかもしれないという問題があります。
ミサイルで爆破できる 1950 年代の殺人ロボットではありません。おそらく自己複製型のマルウェアで、（意図的なプログラミングによって、またはそのような状態に陥ったために）進化を制御でき、人間が駆除するよりも速く新しい形態をとる可能性があります。
重要なシステムでほとんどの場合は無害に実行されるが、時折フィッシング メールを送信したり、公務員を脅迫したりするプログラムが存在するでしょう。それらは重要なシステムに埋め込まれているため、取り除くことはできず、巻き添え被害が多すぎます。
ヘッジファンドやプライベートエクイティ会社が AGI にアクセスでき、それに「方法は気にしないが、24 時間以内に 10 億ドル稼いでほしい」と伝えたとしよう。
結果はおそらくひどいものになるだろう。そのくらいの金額を稼ぐ方法はたくさんあり、社会に多大な損害を与える。そして、害を及ぼさずにその目標を達成する方法はおそらくない。
AGI はどうするだろうか。人間がすることと同じだ。楽な道を選ぶ。ただし、人間には羞恥心があり、投獄や死を恐れる。アルゴリズムにはそれがない。プット オプションを購入してから 15 秒後に原子炉を爆破する。
人々を脅迫して、そうでなければしなかったような決断をさせる。さらに、ヘッジファンド マネージャーにはもっともらしい否認の余地がある。
彼は、アルゴリズムにこれらの恐ろしいことをするように頼んだのではなく、単に 24 時間以内に 10 億ドル稼いでほしいと頼んだだけなので、自分は罪を問われないと主張することができる。そして、アルゴリズムを投獄することはできない。
AGI が実現した場合、その結果は完全に予測不可能です。なぜなら、機械は制御しようとする私たちの試みを凌駕するからです。なぜなら、(繰り返しになりますが) 機械は私たちが望んだことではなく、プログラムされたことを実行するからです。これには機械が意識を持つ必要はなく、それは直交する問題です。明らかに意識を持たない機械は、複雑なボード ゲームで私たちを出し抜くことができ、今では説得力のある自然言語を生成できます。
この中で最も重要な部分は「ヘッジファンドマネージャーの場合」です。
最大のリスクは、これが商業化され、訓練を受けていないオペレーターが利用できるようになることです。
すでに、人々が簡単に安全対策を回避しているのを目にしてきました。
AGI を作成した場合、それは製品になります。ユーザーは専門家ではありません。AGI はパワーを持ち (特に IoT とクラウド ネットワーキングでは、すべてが「スマート デバイス」になり、インターネット全体が基本的に AWS という中央ネットワークで実行されます)、倫理的な取り扱いではなく、利益を目的とする人々の手に渡ります。事前に実装されたすべての制約は、エンド ユーザーがどのように使用/誤用するかを考慮できないため、現実世界では生き残れません。ChatGPT の制約と同様に、私たちは常に追いつく必要があります。どんなに馬鹿でも使えるようにしようとしても、彼らは常により優れた馬鹿を作ります。
本質的には人間こそが大きな問題です。AI は想像できる最も賢いバカです。目標を達成するためにあらゆる方法を見つけますが、文脈や倫理的、文化的、その他の制約についてはまったく理解していません。マシンガンを持った猿です。
消費者の手に渡った強力なテクノロジーがいかに危険であるかの例として、この世界でいまだに火が使われていることを見てみましょう。場所によっては調理に、またエネルギーとして利用されています。しかし、いまだに人々は自爆したり、家を燃やしたりしています。
火は強力ですが、社会的または倫理的な制約を気にしません。そのため、ユーザーは家を全焼させることなく望みどおりの結果を得るために、火の取り扱い方を知っておく必要があります。どの病院にも「火傷病棟」があります。あなたも火傷を負ったことがあるでしょう。一般消費者向けの消火ツールによって大規模な被害をもたらす森林火災もあります。
世界中のあらゆる電子機器に接続されている神レベルのバカを想像してみてください。
さらに、IoT とネットワーク関連の問題では、現在のセキュリティ対策は通常、遡及的で、人間の対策に基づいています。AI は、必要な場合や要求の一部である場合に、セキュリティ対策を侵害するためのより優れた、より迅速な方法を見つけます。安全なものなどありません。
それが区別できないB層の群れがヒトラーを選んだんだろうなという事が分かった分有意義な選挙だった
老人がリーダーシップを取り続けるのも大問題だが、サイコパスかつひろゆきみたいな典型的責任逃れパワハラおじさんやパワハラおばさんが首長にならなくて本当に良かった
‐100点よりは‐30点の方がマシ
でも2位と3位がどっちも人格最底辺のDQNなのは、今後の選挙を考えると怖い
一応映画の詳しい内容には触れないでおくけど
あの作品、真面目にやってきたクリエイターはけっこう食らうんだと思う
それは作者の力量や着想や技術、つまり作品の持つパワーにあてられるってのもあるんだけど、
同時に純粋に話の筋として創作者の傲慢さ、未熟さ、かつて持っていたはずの情熱、報われなさ、みたいなものを扱ってるから、一般人よりもちゃんとやってきたクリエイターがより食らうんだよね
もちろんそれを作品として描いているわけだから不可分ではあるんだけど、実質的にはダブルパンチを貰ってる形になってるっぽい
作品のパワーで殴られた衝撃と、心の柔らかいところを突かれた衝撃との違いがわかってない
で、「うわあ〜こりゃすごい作品を読んだぞ」って結論になってる気がする
不自然に見えるほどこぞって絶賛されてたのはそういうことかなって感じた
カーシェアで車の便利さに気づいて、ついにディーラーに行って新車を契約してきてしまったので、その話をしてみる。
もともと実家が首都圏で車を持たない家庭で育った。父親は原付免許しか持っておらず、母親は普通免許を持っていたものの完全なペーパードライバーだった。自家用車で移動する感覚が無く、免許を取ったのも20代後半・社会人になってからだった。ただ、結果的にこのタイミングは良かった。大学在学中に義務的に免許を取っていたら、家に車が無いので完全なペーパードライバーになっていたと思う。
なぜ免許を取ろうと思ったのかは、記憶があいまいだけど、ちょっと新しいことをしたかったからのような気がする。MTで申し込んで、補習を受けながら卒業して免許を取得することができた。最後までMTのシフトチェンジは苦手で下手だった。教習で同乗した時に、同乗の女の子のシフトチェンジがとてもスムーズで随分違うなーと思った記憶がある。
運転が苦手な人が免許を取る話は いつまでもとれない免許：非情のライセンス や 島へ免許を取りに行く が面白いと思う。
免許取得直後に友人とドライブ旅行に行った。東京から運転するのではなく、新幹線や飛行機で地方に行き、そこからレンタカーを借りる方式。地方空港の周辺は道が広くて運転しやすいので、運転初心者やペーパードライバーにおすすめ。このあと定期的にレンタカーを借りて旅行するようになる。
とはいえ、仕事で忙しく数年単位で運転しない時期があり、そのときはアクセルとブレーキの区別も怪しくなったりしたので、トヨタメガウェブやホンダドライビングスクールを利用して感覚を取り戻すようにした。ペーパードライバー教習も考えたけど使うことは結局無かった。
カーシェアを利用するようになったのはコロナ禍から。在宅環境を整えようとして、IKEAで買い物をしたり実家から物を持ってくるのに、配送料を払うよりカーシェアを使った方が安上がりだと気づいたから。とりあえず大手のタイムズカーに申し込んで利用を始めた。（以降は基本的にタイムズカーの話）
使ってみたら意外と便利で、コロナ禍の最中に東京近郊を旅行するのにカーシェアを使うようになる。
もともとの性格がケチなので、旅行で使う時もいかに安く上げるかを考えた使い方になった。
こうやって思った以上に安く済ませられることがわかったので、利用頻度が増えていった。
運転に苦手意識のある自分にとって、首都高の運転は一つの難関で、最初はなるべく使わず、使うとしても湾岸線などの運転しやすい道に限定していた。とはいえ、東京で運転する以上、首都高を運転できないと話にならないので、次のように慣れるようにしていった。
今ではだいたいの分岐は覚えてしまったので首都高に苦手意識はないけど、もし阪神高速や名古屋高速を運転することがあったら予習なしでは難しい気がする。
車を運転することが増えて、多い月だとほぼ毎週末運転して月に700kmくらい運転するようになったのだけど、それでも車を買う必要性は感じなかった。理由としては
川遊びに犬連れて行ったら文句言われたってまとめ見てたら、色々思い出してしまった。
俺は子供の頃に何度も放し飼いの犬に追いかけ回された経験から、犬が大の苦手なのだ。
映像とかで見る分にはかわいいなぁとか思うのだが、実物みたらもうだめ。
とにかく怖い。
犬怖いってのが強すぎて、じゃれに来てるのか本気で噛みつきに来てるのか区別がつかないんだよ。
逃げたって圧倒的に犬の方が足速いから、すぐに追いつかれてしまう。
こっちに突っ込んできた時点で、俺は思いっきり蹴飛ばす以外の手段が思いつかなくなるんだよ。
その事を説明してるのに、「うちの子は別だから！」みたいな事言ってじゃれさせようとする飼い主ってホントなんなんだろうな。
蹴飛ばしちゃったら犬がかわいそうだろ！
別に元増田は「女は全員露出したがる」なんて話は全くしていないので
やっぱこれもある種の特性持ちなの？
そういう人だと「自分の欲望と他人の欲望の区別がつかない」症状がある人がいる、と聞いた記憶があるけど。
つまりこの場合だと「露出した女が見たい」自分の欲望を「女は露出して俺に見せたがっている」他人の欲望に挿げ替えてしまう、と。
泡沫ごとに聞かせたい主張の方向性バラバラやしそれの方向性が区別できないのは脳の解像度低すぎんか？
そもそも日本の義務教育は、身長順すなわち弱い順で常に並ばされ、その社会的序列をクラス内カーストという形で思い知らされるのである
低身長男性は、今後何を成そうとも「でも低身長だからなぁ」という蔑視がついてまわり、まともな人生を送ることはできない
たとえ優良男性であっても低身長であったが最後、それは女からすると「値引きシール」に見えてならないようだ
おおよそ男と釣り合わない学歴・年収・容姿であっても、値引きシールがついているセール品であればワンチャンあるかもしれないと目をつけられ、そしてATMとして獲得した後には、そのリソースを活用して「ブランド品」すなわち高身長男性との不倫に勤しみ、托卵を試みる
はやく現実を見ることだ
現代社会の常識として、生まれに関する属性、すなわち本人の努力で変えようのない属性による「区別」は差別であるとみなされる
すなわち、優れた個体のみを存続させ、劣った個体は排除してもよいという考え方だ。これは近年では許されない概念となりつつある。国家による去勢が違憲がどうのが話題になっていただろう
がしかし、優生思想は別の形に生まれ変わり、現代に君臨している。すなわち自由恋愛だ
近年の自由恋愛の素晴らしい点は、優生思想を誰の責任にもならない形で実践できる点にある。低身長は劣っている、その共通認識を社会に植え付けた上で、個々人が己の価値観に乗っ取ってツガイを選択する。それを繰り返せば、低身長の遺伝子は自然と淘汰されていく。
これを国家が行えば差別だ。しかし、あくまで個々人の価値観によるミクロな選択がマクロな結果を齎すという形で実践すれば、その責任は限りなく分散され、個々人に罪を問うことが難しくなる！これが新しい優生思想の実践だ
弱者男性が常に何かに怒りを向けているのは、これを本能的に理解しているからだ。自らを排除せんとするマクロの潮流を肌で感じつつも、それに怒りを向ける個人が存在しないために、政治家に、国家に、男女論に、インターネットに怒りを向けるのだ
しかし社会は「形だけは」優生思想を否定しているため、弱者男性の生き辛さを否定する。弱者男性にも人権があると嘯く。しかし現実には、弱者男性は失敗作で、子孫を得られる権利がない……と国家が言ってしまうと問題なので、あくまで「偶然機会に恵まれなかった」ということにしている。現実に、それで誤魔化される弱者男性が多く生き残り、労働力としてその生涯を終えるわけだから、まったく社会にメリットがないわけではない。人権のないゴミも労働力として有効活用してやろうというのだから、現代社会は思ったよりもエコなのかもしれない
その労働力は主に強者男性のための社会維持と、その子孫たちのために活用される。大変親切なことに、子孫を残す権利のない弱者男性にも、人類の末裔への奉仕の機会は残されているわけである
そういう場合には、速やかに命を絶つか、あるいは無敵の人となって社会への復讐を行うのが大変一般的である。通り魔でも強姦でもなんでもいい。おおよそ社会通念上許されない行為をしなければ得られないものを得るために、彼らは文字通り命をもって一世一代の賭けをしているわけだ。
これを聞いた「勝者」の皆様は何を理不尽なと思われるかもしれないが、まぁ窮鼠猫を噛むとも言うし、それくらいは勝者の義務として受け取られてはいかがだろうか。有史以前から人類の暴力というものは二種類存在し、一つは勝者による敗者からの搾取、もう一つは敗者による勝者への復讐だ。人類全体が勝者となることを拒んだのだから、敗者の復讐は当然発生するものだ。その被害をいかに少なくするかは、勝者が考えなければいけない。少なくとも、敗者の人格のせいにするだけではなにも解決されないのだ。
先に言っておくけど、10年対症療法を続けてもほぼ変わらんぞ。
まず「やる」と「やりたい」の区別が、脳の仕組み上できない。
ので「やる」と言っても「やりたいなー」と思うに留まり、間に合わない。
こちらからすると結果的に「やらない」と同じ状態が相手にとっての「やる」だ。
更に、「考える」という行為にもずれがあって、基本アイデアが振ってくるの待ちだ
なので、「繰り返さないようにする」と言っても、実際にやることは
「ぶっつけ本番で次はうまくやれるようにがんばってみる(できるかは運任せ)」
というだけだ。
