AIが盛り上がって数年経つが、個人が買えるような価格帯で、良いAI向けのハードが出てこない。
RTX 3090のVRAM24GBを大事に使っているが、そもそもVRAMに入らないモデルの方が多い。
複数のAIを立ち上げるなんてのは、VRAM容量が溢れるので、そもそも動かせない。
動けばNVIDIAの Nsight Systemsなどで遅い所などを探せるが、そこまでいかない。
複数のSSDを仮想メモリにするというのも、RTX 3090のNVLink BridgeでVRAMだけ拡張するなんてのも世の中に出てこない。
Appleもそろそろ出してくるかと思っていたが、M4は普通の順当進化だった。
M2 Ultraはチップtoチップを接続し2.5TB/sを謳ったが、同じチップを繋げたのでいらない機能が倍になっただけだった。
M4 Ultraで、片側のチップをGPU or NPU+帯域の広いGDDR or HBMになればいいが、あまり期待が出来ない。
GPU or NPUのコアが増えたとしても、L2/L3キャッシュの容量が少なすぎる、増やしても距離が遠ければ性能も出ないので、
AppleもAMDのように3D V-CacheでSRAMを積み、Hybrid Bondingで上下の帯域を確保してくれないだろうか
IBMはTelum IIとSpyreを出してきたがエンタープライズ向けなのでパス
Groq社がLLM用LPU、HyperAccel社がLLM用ASICを出して来たが、
Groqは1枚のPCIeカードでは全くメモリ容量が足りず役に立たなそうで、HyperAccelはサーバー前提でこちらも個人から手が出しにくい。
FPGA+HBMが載ったPCIeカードは個人向けには販売できるような価格でもなければ、そもそも販売すらされない。
ジム・ケラー率いるTenstorrentも1枚のPCIeだとメモリが足りないし、Ethernetでなんとかやりくりしようとしているが帯域に引っ張られそうに見える。
NextSilicon社がMaverick-2というIntelligent Compute Accelerator (ICA)というのも出してきたが、HPC向けで個人利用からは遠い。
中国も良いのが出てきていない。
Biren、Fuzhou Rockchip、VeriSilicon、Moore Threads、LinJoWing、Loongson、JingJia Micro、Cambricon、Vastai Technologies、Xiangdixian Computing、Enflame Technology、MetaX、Zhaoxin、Lingjiu Microelectronics、
DengLin Technology、Iluvatar CoreX、Innosilicon、Horizon Robotics、Black Sesame Technologies
この理屈ってそっくりそのまま女にも当てはまるんだけど理解できてないのは馬鹿なのかな?
出産したくないなら、男に同意権を握られるリスクある行動は避けよう。
男が近くにいるときは股を開かないを徹底すれば、望まぬ妊娠をすることは防げるよ。
のぎゅ
@nana11100011100
子どもの養育費払いたくないなら、女に精子とられるリスクある行動は避けよう。
どんだけ下品な尻なのかと思ったら、ナニコレ?って感じだった。
スーパーセンシティブなのか何なのか知らないし、はてなは全体的に対応が雑だとも思うけど、こんなので「どうにかしてくれ!」と言われると思うと同情してしまう。
おいらもだーい好きでゲソ
ワイはあおぎりのエトラはんが好きや
俺が就活してたときブルーカラーで働こうとしたら不採用になったぞ😡
小生はいわゆる「キリ番踏み逃げ絶対厳禁!!必ず管理人に報告すること!!(爆)」な時代から
今日に至るまでウェブ広告というものを踏んだことがありません。
米国のIT企業はひとえにウェブ広告の収益で巨大企業に成り上がったそうですが、
こと諸兄におかれてはそんな方はいるはずもないと思っているのですが。