「局所性」を含む日記 RSS

はてなキーワード: 局所性とは

2024-02-24

AI向けでコンピュータアーキテクチャは変わるのか?

今までだと命令データキャッシュに乗るのが前提だったが、AIだと、AIモデルGB単位なのでキャッシュそもそも乗らない。

いかキャッシュヒットさせるか、DRAMとのレイテンシ隠蔽するかだったが、キャッシュに乗らないので、メモリ帯域勝負になる。

GPU汎用性があるので使われているが、ゲームだとテクスチャをVRAMに乗せておいて、演算した結果はモニター側へ出力すればよく、

なんだかんだ帯域は足りていたが、AIだとチップチップ間の帯域が足りない。

ニューラルネットワーク接続自体FPGA的に切り替えるのも手だと思うがモデルが大きすぎる。

AI入力も、文書の要約みたいなもので、データの広い範囲で「文脈」を理解しなければならず、広いメモリ空間を参照となる。

メモリ局所性からかけ離れている。

2023-06-21

AI向けチップ自分理解

  1. GPUキャッシュ前提で作られている。例えばゲームだとキャラクターCGは使いまわし、シーン切り替えするまでキャッシュが効く。メモリ局所性あり
  2. AIは、画像だと空間文章だと文脈とどれだけ広いデータを参照するかがまずある。他のニューラルネットパラメータ全部更新キャッシュより、メモリ帯域が効く。
  3. ニューラルネットデータには流れがある。ニューラルネット構造をそのままハード化出来ると良いが、1チップで収まらない。複数チップ接続することになるが、広帯域のチップ通信は規格なく、独自

2023-04-28

anond:20230428115253

なぜなら現象が非局所性を持つかもしれず、自由意志存在すると思っていて、特定方法を使えば分岐世界を選べると思うから

2023-01-06

AMD Instinct MI300を個人にも販売してくれたら、色々変わりそうなのにな

個人的にInstinct MI300に注目しているのは、今後のコンピュータ構成はこうなるだろうな、というのを実現していることだ。

Ryzen Threadripperだとコア数が多いものハード的なボトルネックがそこかしこにあるので使いにくいわけだが、

Instinct MI300は良さそうに見える。


現状のPCIeだと帯域が遅く、CPU側のDRAMからGPUのVRAMにコピーするのはそれなりに時間がかかる。

ゲームだと局所性のあるデータを繰り返し使うのでキャッシュで逃れられるし、シーンの切り替えなどでデータ転送するといったことが出来る。

だがAI向けになるとVRAM容量以上(80GBとか)のデータに全てアクセスするので、メモリ転送レイテンシ隠蔽するだけのバッファとしての効果しか意味がなく、メモリ帯域が効いてくる。

Instinct MI300にHBM3が使われていて帯域は広い。レイテンシは大きいと思われるので、そこは気になるが。

2022-01-06

君はそれ以前の問題文字コミュニケーションが取れないし、そもそも一定量以上の文章が読めないじゃん

哲学とかそういう話ではなくて、自由意志存在しない、身体環境文脈から完全に独立した脳機能は皆無なのは"単なる科学常識" なので、賢い振りをしたいのならお気持ち宗教を前面に出さずに、真摯現実に向き合ってどうぞ

 

→ ただし、量子力学世界観においては、それまで物理学基本的な前提と考えられてきた、実在性・局所性因果性という概念破綻する可能性があるので、コンウェイ自由意志証明方面から自由意志を語りたいならご自由にどうぞ

 

→ ついでに言語を持たずともなんなら脳すら持たずとも粘菌類もそのほかの生き物も高度な処理演算ができる。さらに言えば生命と非生命(無機物等)に違いはなく本質的には同じものだし、死すら現代科学定義出来ていない(臨床上の死は設けられているがそれすら近年覆されている)。分子レベルから生物という現象を見つめるのは楽しいかもしれない。ちなみに過去増田現在増田物理的に連続していない別人だがお気持ちで同一人物と称している

 

↑ 上記文章理解するのにどこか専門的な知識必要となる箇所はありましたか

古典物理学視点というか現在科学レベルでは 『自由意志は気のせい』が誠実な答えなのは疑念をはさむ余地がないと思うのですが、

たったこれだけの日本語理解できないのだから文章力どうたら地頭がどうたら以前の問題だと思います

 

発達障害

anond:20211207104426 anond:20211014160107 anond:20211016172711

2021-10-17

子が自閉症スペクトラムと診断された。

いわゆるアスペルガー症候群というやつだ。

2013年に診断の世界基準とされるDSM改定された(DSM-5)ことで、アスペルガー自閉症の一形態ということになっている。

診断と言っても、傾向があり可能性が相当に高いという話ではあるけど。

自閉症スペクトラムがその名の通り連続体(スペクトラム)なので個人差が大きく、

その上血液検査みたいなもので数値判定することもできず、症状が広範で明確に区別できないので診断も難しいと思われる。

今のところ知的障害はないように見える。

少しの発達遅れは見られたが、これは自閉症あるあるだそうで。

自閉症他人と関わりを構築するのが苦手・或いはできないだけであって、知的障害を伴わないものがある。

アスペルガー症候群はその一つで、高機能自閉症とされる。

幸いというか、数ヶ月前にあるきっかけで自分自身アスペルガーではないかという疑いを持ち、

田舎であり心療内科の数がほとんどなく予約が取れないこと、主訴(実際に生活で困っていること)がないことから

心療内科にかかることもできなかったけど、思い当たることが多すぎて100%間違いないと確信している。

そしてその才能(アスペ)をいかんなんく発揮し自閉症スペクトラムについて無駄に広範な知識を手に入れ

診断がくだる前から知識武装がされていたこと・パートナーにその事実を伝えておいたことで

お互い無駄絶望感を味わうこともなかった。

障害というのは、実生活に困難をきたすから障害なのであって、

それで困難と感じていないのであれば障害ではなく個性認識される。

その意味高機能自閉症は「自閉症スペクトラム」であって、「自閉症スペクトラム障害」ではない。

いかに「障害」にしないか、がこれからもっと重要なところだと思っている。

保育園も含めてどうこれから「介入」していくのかということを考えているときにふと気付いた。

実は僕ら夫婦も介入される側なのだと。

本人を社会に順応させるのが目標ならば、家族は本人を取り巻く環境の一部であって、本人に合わせて介入される側だ。

ある程度知識を得たとしても、それは生半可なもので、臨床経験豊富な人の意見に従う必要はあるだろう。

子供教育に介入するのは、プライベートに土足で踏み込んで来るようなもの

それなら我々が用意しておくのは雑巾掃除道具)なんだろうなと。知識よりも心の準備の方が大切だなぁと思った。

しかし、いい時代になったものだ。

未満児の段階で自閉症スペクトラムを診断される。

自分が同じように診断してもらえていたら、おそらく全然違う人生を歩んでいたんだろうなと思う。

障害個性だと主張しても、やはり障害障害なのだ、目が見えない人はどう頑張っても本を読めないように、

僕はどう頑張っても普通の人のように円滑な人間関係を築くことはできない。

努力解決すべきか、諦めて他の道を探すかの選択をするときに、

「これは障害であり、自分には不利である」と分かっていたら、どれだけいい選択ができたことか。

姿勢が悪いのを物差し背中に当てられて強制されるようなこともないだろうし、

姿勢が悪いのもアスペあるあるらしい、おそらく同じ姿勢をとることがあまりなく自然体幹が発達しないのだろうと推測)

時間の多くを長所を伸ばすことに当てられたらどれだけ良かっただろうか。

アスペルガーのもう一つの特徴は興味の局所性と集中であり、興味がないことはとことんできないということだ。

人との関係を構築する能力を失う代わりに得ているものがあるそうで、多くは数学能力論理的思考)か、言語能力だそうだ。

自閉症スペクトラムの子供に調査を行ったアメリカ研究では、一人も自分障害をなくしたいと思っている子はいなかったそうだ。

僕も同感だ。

障害自分能力の一部であり、危ういバランスの上にいることを自覚しているのだろう。

自閉症スペクトラム遺伝性のものであるという強いエビデンスがあって、

自閉症の親から自閉症の子が生まれ確率は通常の50-100倍だそうだ。

そう、100%僕が悪い、と同時に、100%僕の親が悪い、と同時に・・・遺伝とはそういうものだ。

妻には申し訳ないと思う。しかし生まれつき他人と違うというのは、メリットになりうる。

子にもそう思ってもらえるよう、色々模索して行きたい。

幸いと言っていいのか、僕も通ってきた道だ。

登山で延々藪漕ぎをするのはしんどいが、アスファルト舗装されていても醍醐味がない。

ちょうどいい登山道を用意し、同時に登山道の作り方を教えて行けたらいいなと思う。

しかし楽観もできない。

知的障害がないとは言えないし、

これから発達が進むにつれて見えなかったものが見えてくるだろうし、

複数精神疾患があったり、学習障害LD)もありうる。

前途は多難だ。

ちなみに今のところ生活に何も困っていないが、特別児童扶養手当申請はしておく。

困ってからではなく診断が出た段階で申請するのがベストだと思うし、

行政の用意してくれているセーフティネットには引っかかりやすくしておいた方がいい。

運よく検診で拾って貰えたのは本当によかった。

2021-08-20

いわゆる局所性鋭敏型ハッシュから衝突が容易に導けるのは想像ついたけど

2021-06-29

30代男性モデルワクチン1回目、副反応当てた

1回目は副反応ほとんどないらしいし余裕でしょと思ってたら意外とキツかったので。

 

 

年齢性別:30代男性

既往症:なし、検診で引っかかったことも注意を受けたこともない、アレルギーもなし、普段薬を飲むこともない

仕事コロナ流行初期からフルリモート。妻もフルリモート

生活コロナ後はほとんど散歩公園ぐらいしか外に出ない。買い物もほぼ全てネット通販

  

接種日

注射自体は全く痛くない。インフルエンザワクチンのほうが痛いレベル

腕が痛くなることもあるけどどうにもならないので痛み止めを飲むようにと言われる。どんな痛み止めを飲むべきなんだろうと思ったが、どうせ副反応などないと思っていたのでスルー

会場内で15分待つ。接種部位を中心に、じんわり左腕が痛いというか重い感じ。

自宅に帰り普通に仕事。左腕に違和感があるが問題ないレベル。接種部位近くは硬い感じで触ると痛い。

23時 就寝

 

接種翌日

6時 寝返りをしたら腕が痛くて起きてしまう。普段は8時頃起きるが、ちょうど調べ物をしなくてはいけない用事があったので済ませる。

10時 仕事開始。ちょっと気持ち悪いが、早起きしたせいだと思い、そのまま仕事をする。

12時 昼食。天丼を食べる。昼食後ぼーっとして眠くなってくるが、早起き天丼を食べすぎたせいかなと思い、仕事をする。

13時 聞いてるだけのセミナースタート。半分以上寝てしまう。

15時 セミナー終了。吐き気も治まら頭痛悪寒あり、なにかおかしいので熱を測る。38.0度。副反応かもと思うが、1回目で38.0度以上は0.8%なので違うのかもとも考える。

https://www.mhlw.go.jp/stf/seisakunitsuite/bunya/vaccine_moderna.html

16時 37.8度。やはりワクチン副反応だろうと考えてイブを服用。仕事も立て込み、きつい。休みをとればよかったと後悔。

20時 37.5度。仕事終了。薬の効果があったのかはよくわからない。

21時 37.6度。頭痛は少しあるが就寝。

 

接種翌々日

8時 36.6度。起床。熱もないし、頭痛吐き気もない。腕は触ると痛いが普通にしていれば痛くない。

 

感想

副反応としておそらく局所性としては疼痛、硬結、全身性で頭痛疲労、悪心、嘔吐悪寒発熱あたりの症状が該当だった。

・私の場合家族含め世間の人より外出が極端に少ないと思うので、ワクチン副反応コロナ感染のどちらなのか原因の切り分けができたが、普通に友人と会って外食しているような人だと切り分けできなくて困るのではないかと思った。

副反応だと分かれば終わりが近いことが分かるので終わりの見えない風邪よりかなり精神的にはかなり余裕。

・妻が頭痛持ちなので家に薬はたくさんあったが、どれを飲むか悩んだ。いろいろ調べたがどれでも良さそうなのでイブを服用した。何を飲むのが良いのかかなり悩んだのであらかじめ決めておいたほうが良いと思う。

・信頼できそうなソースを読むかと思って、このあたりを読んで

https://www.cov19-vaccine.mhlw.go.jp/qa/0007.html

アスピリンロキプロフェン、イブプロフェンを飲めとかいわれても市販薬で言うとどれなのかわからなくてやや困った。私が病気に無縁すぎて無知なだけかもしれない。

・薬を飲んでも楽になった感じはあまりしなかったが、市販薬の一回の用量では足りないという説もあるらしい

https://news.yahoo.co.jp/byline/kuraharayu/20210517-00237645/

・1回目でこれなので、2回目が不安でもある。コロナのほうが怖いので打つけど

・どう考えても接種優先順位低い私が打ってしまって申し訳ない気持ちもある

2018-05-17

anond:20180517095538

証明できないは言い過ぎだけど

かに、「存在しない」ことを示す証明ものすごく難しい印象があるね

フェルマーの最終定理

3以上の自然数 n について x^n+y^n=z^n となる自然数の組 (x,y,z) は存在しない

ニールセン二宮定理

以上全てを満たす格子上のフェルミオン作用存在しない


[anond:20180517101516]

うーん、それは文句を言う人の問題じゃないかなぁ。

例えば上記ニールセン二宮定理回避するフェルミオン作用はすでに作られている(カイラル対称性修正した)

けれどもそれを「詭弁だ」という研究者はいないなぁ。議論に参加する人が定義命題理解する必要があるね。 

トラバ人間100m問題は「定義より自明」だとおもうよ

[anond:20180517101336]

難しい問題が印象に残りやすいだけかもしれない

ありがとう

2014-05-14

小指一つでこんなにダメになるとは思わなんだ。

一月ほど前、突然思うように動かなくなった左手の小指。

色々な病院で診てもらったが、原因は今ひとつ判らない。

一つ判っていることは 「局所性ジストニア」 という病気の可能性があるらしい。

痛くもないし、痒くもない。痺れてもいない。

全く動かない訳でもなく、曲げ伸ばしも出来る。

日常生活に重大な支障があるかと言えば、そうでもない。

しかし、思うように動かないし、力が余り入らない。

正しい動かし方を忘れてしまったような感じだ。

ただ困るのは、自分仕事ギタリストだという事。

ギタリストと言っても、長年バンド活動を行ったものメジャーになれずに沈み、

ギターしか取り柄が無いからスタジオミュージシャンやったり、

色んなバンドサポートして生計を立てているオッサンだ。

左手小指が動かなくなってからギターは全く弾けていない。仕事も出来ない。

ギターを弾いてみると、押さえたと思ったフレットを空振りしたり、押さえきれていない。

当然、まともな音楽になんてなる筈ない。そもそも医者にもギター演奏を止められていたりする。

弾けないギタリストなんて、そら仕事の依頼なんて来ません。

今はまだ貯金もあるし、このまま数年は生活できるだろう。

でも、このままの状態が続くと、緩やかに絶望に近づいて行く事は明白だ。

これから、別の仕事を探さなくてはと思ってはいものの、

別の仕事なんて出来る自信もない。また、雇ってもくれないだろう。

中学生の時にギターを手にして以来、人生殆ど全てをギターに費やしてしまったツケが来たんだろう。

家族はじっくり治療すれば大丈夫、と言ってくれているが、

原因がわかってないので、個人的には楽観視出来ない。

皆の前では努めて明るく振舞っているが、内心相当落ち込んでいる。

その弱い部分を増田で吐き出したかたから書いてみている。

家族は、生活は、仕事は・・・これからどうなるんだろうか。

人生も半分過ぎて、一番好きな物を無くしてしまうのではないだろうか。

これまで音楽ギターに助けられて生きてきたけど、

今回ばかりは音楽ギターに助けられる事は難しいんだろうな。

俺は右利きなんだけど、左利き用のギターを購入して左利きフォームギターの練習を始めた。

今までは体の一部のようにハマってたギターも逆に持っただけで恐ろしい程の違和感だ。

やってみればそれこそ初心者以下で、音もロクに出ず、弾くというレベルにも達していない。

レフティでの練習は続けるつもりだが、音は出ねえのに涙がボロボロ出てきて辛い。

神様がもし居るのなら、左足くらい差し上げますから

左手の小指、返しちゃくれませんかね。

 
ログイン ユーザー登録
ようこそ ゲスト さん