「浮動小数」を含む日記 RSS

はてなキーワード: 浮動小数とは

2024-09-19

anond:20240919165408

有限

ハイ論破

物理パラメータ実数から無限にあるんだよ。

「それがどの程度無限か」はパラメータの変化が結果を変化させる度合い、つまり感度によって既定される。

感度が浮動小数点の精度を超えていたらコンピュータにとっても無限なんだよ。

2024-09-11

anond:20240828211356

PS5 proのスペックと同じスペックPCを用意しようとした場合モニターOSこみで14万円かかる。

本体のみだと11万円となりPS5 Proと値段がほぼ変わらないことになる。

PS5 ProはASK税込みの1ドル180円で計算した場合108,000から126,000円ぐらいと思われる)

G.SKILL F4-3200C16D-16GIS (DDR4 PC4-25600 8GB 2枚組)

 4,820

XPG PYLON 550W PYLON550B-BKCJP

 6,667円

中古 Intel Core i7-12700 (2.5GHz/TB:4.8GHz) Bulk LGA1200/8C/16T/L3

 42,980円

中古 _MSI PRO B660M-E DDR4 (B660 1700 mATX DDR4)

 8,590円

Ultimate SU630 ASU630SS-480GQ-R

 4,980円

Define C FD-CA-DEF-C-BK

 13,262円

SPARKLE Intel Arc A750 ORC OC Edition SA750C-8GOC

 31,700円

フィリップス 221V8/11

 11,000円

Windows 11 Home 日本語版

 16,090円

合計 140,089円

Intel arc a770(16GB)はfp16だと39tflops程度で、中古だと3.2万円から4万円台で売られており、新品だと4万円から5万円台程度なので、運が良ければps5 proとメモリー以外全く同じやつが手に入ってしまうことになる。

以下、そうなる根拠

公式発表では、PS5におけるGPUの処理能力は「10.3TFLOPS」。この数字は、RTX2080に相当します。しかし「TFLOPS数字」と「実際のグラボの性能」は、百パーセント一致するものではなく、性能ほど実パフォーマンスは高くならないのが一般的です。

https://digitaldiy.jp/article/esportsgame/16914/

CPUCPU周波数最大4.4GHz、Zen4ベースアーキテクチャ、5nmプロセス製造台湾TSMC製造担当CPUクロック周波数10%増加させ、3.85GHzで動作させるモードが搭載される。

Apple M2と同じく、TSMC製4nmプロセスSoC搭載の可能性もあるとのこと)

CPUキャッシュ:コア毎に64kBのL1キャッシュ、512kBのL2キャッシュ、8MBのL3共有キャッシュ

性能:PS5標準モデルと比べ、通常時で2倍、レイトレーシングでは2.5倍の性能アップ

プロセッサ:30基のWGP(Work Group Processors)、60基のCU演算コア

ROP(Rasterize OPeration unit):96~128基

※現行PS5はROPが64基、CUが36基。

メモリ:18gbps GDDR6 256bitメモリメモリ容量16GB、バス幅576GB/s、18000MT/s(現行PS5のメモリは14000MT/s)

CPUアーキテクチャ:RDNA3(Radeon DNA3)

GPU:GFX1115。GPUコアが現行の18個から30個に増加。これは約1.66倍の増加

テラフロップス(浮動小数演算):33.5テラフロップス

GPU周波数:2.18GHz、ブーストで最大2.35GHz

GPUキャッシュ:L1キャッシュ128KBから256KBに倍増、L0キャッシュが16KBから32KBに倍増

グラフィック性能:PS5比で45%向上。可変レートシェーディングやハイブリッドMSAAのサポートなど、DirectX 12 Ultimateの新機能を搭載。GPUアーキテクチャがRDNA 2からRDNA 3に変更される可能性があり、これにより各GPUコアの演算機が2倍になる。

超解像技術ソニー独自超解像技術を搭載。高精細と高フレームレートを両立。AMD FSR2等の採用は無し。アップスケーリングアンチエイリアスソリューション

AMDFSR(FiedelityFX Super Resolution)を搭載との話も)

https://socius101.com/matome-of-ps5-pro/

Intel ARC A750のスペック

Theoretical Performance

Pixel Rate

268.8 GPixel/s

Texture Rate

537.6 GTexel/s

FP16 (half)

34.41 TFLOPS (2:1)

FP32 (float)

17.20 TFLOPS

https://www.techpowerup.com/gpu-specs/arc-a750.c3929

PS5 ProのGPUと同じ性能である

PSCPUはRayzen 7 7700X相当で、Intel Core i7-11700だと7割の性能で、Intel Core i7 12700で同じぐらいの性能となる。

2024-06-27

anond:20240626004823

浮動小数演算ユニットなんてのは386の時代からあって(ユニット自体もっとからあったが)、nvidiaが爆成長したのは仮想通貨ブームでのマイニング需要が発生したからだよ

なんせ金が儲かるならいくらでも投資する人は現れるし、企業としてやるんだから一部のゲーマーが湯水のように金を使うなんてのとは需要のケタが違う

で、それが落ち込むタイミングAIが出てきたというだけの事

3Dとかは全く関係無いとは言わないが、処理自体は高度な事をしているのでは無く莫大な数のコアを使った並列処理で延々と単純な計算をしているだけ

トータルのユニットとしては非常に高度な技術なのは言うまでも無い)

それがマイニングAIの処理にも使えたというもの。このタイミングマイニングAIが出てきたのは偶然に近いと言っていい

後、スパコンに関しては全く関係が無い。nvidiaスパコンで莫大な利益を挙げているわけでも無いし、そもそもスパコンと言ってもいろいろな評価軸があるが最も重要なのは逐次処理性能

アウトプットタイミングを問われない並列処理ならコアを増やせば理論いくらでも性能はあがるが、アウトプットを待って次の処理に入る様な複雑な計算こそがスパコンに求められているもの

これは今我が世の春を謳歌している3DプロセッサArm等に代表されるRiscCPUが最も苦手とする物。つまり全くジャンルが違う

2024-06-10

anond:20240610140727

浮動小数点って言葉がむかつく

なんで浮いて動くなの!?

ねえねえどうしてよ!

(えりくびをつかんでがくがくゆらしながら)

2024-03-10

anond:20240310165707

アンダーフローってのは浮動小数点の表現において指数部が云々かんぬん

2023-01-02

三流エンジニアがやりがちなミス

タイムゾーン考えずに時間を使う

暗黙的にJSTとして時間を使ったせいでUTCで作った場所で盛大にバグる

応急処置バグったところを+9とかやってしまうと、それ以降に逆に誰も気付かずに更に影響範囲が拡がったりする

海外展開しようとしたときバグに気付くがどうしようもなくなって途方にくれて海外だけは別アプリになったりする

UNIXTIMEを使えば楽なんだけれど、そうすると生データぱっと見で時間判別できないので困ることも多い

素直にUTCでISO8601が良い

文字コードUTF-8だと大丈夫だと思ってしま

とりあえずUTF-8にしとけば大丈夫、ってことで実装を進めた結果、Mac/Winでハマる

他にもBOMでハマったりして、むしろSJISの方が良かったんじゃ無いか、とか言い出す

DB統一的になっている場合はまだ後からどうにかできるが、変なところでキャッシュされてたりすると凄い困ることになる

MySQLなりPostgreSQLなりでUTF-8を正しく扱う方法はいろんな記事があるのでちゃんと読んでおけば問題無い

価格浮動小数にしてしま

「将来的にはグローバル展開が必要

とかよく分からないことを言い出して価格浮動小数にしてしま

かに米国なら$2.43みたいな感じで価格を使ったりするし、むしろ小数点以下が無い通貨の方が珍しいのだけれど

丸め誤差を考えないで作ってしまってバグが見つかりめちゃくちゃ揉める

応急処置として丸め機能とかが追加されて事なきを得るけれど

そもそも最小単位で扱って表示の時に小数化すれば良いだけ

他にある?

2022-07-28

小数点以下を含む数値の計算結果が狂ったのを見て、特定言語問題だと思ってしまうのか、コンピュータ浮動小数形式表現問題だと思うのかというあたりに計算機科学を履修してない人と履修してる人の差が感じられる。

2022-02-14

0.01fをかける計算

9までは浮動小数の誤差吸収出来てるんだけど10にしたとたん0.09999999になってしま

このせいで0.1秒って表示するのに四捨五入とか入れないといけないんだけどスマート計算する方法ある?

わざわざ1とか10にかけてコンマ秒だすんじゃなくて最初からそっちで保持しろという意見もわかる

だけどIntで持ってた方がいろいろ楽だから

追記

サンキュー

解決した!

2021-10-05

anond:20211005192235

俺別増田なんだけどApple信者増田はどこを観て浮動小数演算だと思ったの?

俺の記憶上もウン兆回の部分は浮動小数演算の回数じゃなかった気がするんだが

発表会の動画でもFLOPSっていう文字出てなかったはず

anond:20211005182304

Apple機械学習を15.8兆回走らせることが可能だって言ってるんだよ

浮動小数演算じゃなくて機械学習

ガジェットマニア評価する今のiPhone

どうも、以前こんなの書かせていただきました。

突然、紹介されるAndroidアプリ集を書いた増田ガジェット

anond:20210516172137

ガジェットマニアとしての自己紹介みたいなものなので趣味の傾向を知りたい場合は以前のエントリを読んで貰えれば何となくわかるでしょう。

長々と出囃子をやっても仕方ないので早速本題に入りましょうか。

題して【今のiPhoneは優れているのか?】

今のiPhoneは優れているのか?

iPhoneは優れている」と主張されれば100人中99人はこの主張を肯定すると思います。実際に筆者自身がこの主張を耳にしたら筆者も肯定しますし、流行に敏感な高校生の姪っ子もおそらくは肯定してくれることでしょう。
しかし「iPhoneは優れているってことで結論ね」で終えてしまうのは芸がない。そもそもエントリを描く意味すら無い。
わざわざ書き始めたということは目的があって書いているわけです。

優れているの意味は1つじゃない

ここまでの書き出しでこれに気付いた人は非常に賢いか、筆者のように物事を斜に構えてみているかのどちらかだ。
一言で「iPhoneは優れている」と表現しても評価できるパラメータは膨大にあり「iPhoneは優れている」との主張へ多くの人が肯定を示していても「iPhoneは○○が優れている」の○○は人によって違う可能性が高いのだ。

そしてその個々人の価値観話題となった下記のエントリへ寄せられる声で知ることが出来る。

もうiPhoneを買う理由はほぼないと思う

https://anond.hatelabo.jp/20211004123017

個々人が各々にiPhoneへ優れている点を見出しており、ある意味iPhone評価は一様ではないとわかる。
しかし、筆者と趣味を同じくするガジェットマニアの皆さんはこの程度のことで感心してはくれないので、もう少し踏み込んだ話をしよう。

実はよくわからない「iPhoneは“性能”が優れている」

iPhoneは○○が優れている」の中でもかなりポピュラーな主張であるiPhoneは“性能”が優れている」だが、実はこれApple結構雰囲気でこのイメージを押し通そうとしているフシが最近ある。

まずiPhone 13無印iPhone 13 miniを発表した際「率直に言って去年どころか2年前の私達のチップに追いつこうとしているところです」と主張した後に搭載するSoCであるA15 Bionicを指して「(A15 Bionicを使ってもっと)差を広げる」と主張した。
更に「主要な他社製品より最大で50%も高速です」「グラフィックスは主要な他社製品より最大で30%も高速です」と付け加えた。
もうおわかりだろう。主要な他社製品とは?最大で50%や最大で30%とはどういう演算能力のどういうシチュエーションで高速なのだろうか?実際のところAppleの発表を見てもよくわからないのだ。

ガジェットマニア、そしてコンピュータの性能を測ることを生業としているベンチマーカーはコンピュータの性能を比較するためのポピュラー演算方式単位系を持っている。浮動小数演算とその単位であるFLOPSだ。
浮動小数演算と言っても単精度や倍精度とかまぁ細かく言えば色々あるけれど、わざわざn%とかいう相対値など使わずnFLOPSのような絶対値を使ったほうがわかりやすいに決まっている。
しかし何故か最近Appleは相対値が非常に大好きで、何なら比較先のチップすら「主要な他社製品」とボカしてしまう有様だ。
しかしたらAppleフリークは「一般人へのわかりやすさを重視したんだ」と言うかも知れないけれど「アナタペーパーテストは他の人より50%上です」と言われてわかりやすいだろうか?普通は「50%はわかったか自分は一体何点だったんだ?」と思わないか

いやそれでもAppleフリークは「絶対値あるじゃん!16-core Neural Engineは15.8兆回も演算可能ですって言ってるぞ!」とAppleの出す数字を信じるのかも知れない。
いや、その機械学習モデルは何なの?どういう機械学習モデルが15.8兆回演算できるの?知ってるなら逆に教えて欲しいとガジェットマニアやベンチマーカーたちは思うのだ。

イマドキのスマホゲームするなら実はAndroid

オマケとしてもう1つ付け加えよう。

記事増田はどうやら「iPhoneは“ゲーム性能”が優れている」と評価しているようだが、ゲーム性能が良いからと言ってイマドキのスマホゲームで有利になるとは限らないのがイマドキのスマホゲームなのだ
言ってしまえばイマドキのスマホゲームはPay to Win、つまり課金すりゃ勝てるゲームシステムを採用していることが多くあり、実は課金を考えた場合iPhoneよりAndroidのほうが投資額が少なくて済むのだ!

まず前提としてGoogle Play Storeは事実上キャッシュバックがある。更にキャッシュバックキャンペーンもあり、特定ゲームタイトル課金した場合に通常よりも多くキャッシュバックが得られることがあるのだ。

そしてAndroidにはGoogle公式お小遣い稼ぎアプリたる「Googleアンケートモニター」の存在が強すぎる。

Googleアンケートモニター

https://play.google.com/store/apps/details?id=com.google.android.apps.paidtasks

Googleアンケートモニターアンケートに答えるだけで少額ではあるがGoogle Playポイントを貰うことが可能。まぁつまり個人情報を売ってポイントを得られるだけなんだが、貰えることに意味があるユーザは少なくないだろう。お小遣いに限りある学生とか。

まりiPhoneユーザ10,000円課金Androidユーザ10,000円課金意味が違う。Google Play Storeの実質キャッシュバック100円につき1円キャッシュバックキャンペーン時は3円キャッシュバックなのでAndroidユーザ10,000円課金すると実質10,100円を課金することが可能なのだ
そしてそこへGoogleアンケートモニターを加えると、真面目にアンケートに答え続ければ1ヶ月で500ポイント前後は貯まるのでAndroidユーザの1ヶ月10,000円課金実質的10,500円課金になっていると考えたら良い。Pay to Winでこの差はデカイ!


というような感じで、一般的目線からわざとズレて変な角度からiPhone評価してみたけれどもどうでしたか
iPhoneには優れた面が沢山あるけれども、わざと面白おかし評価することも可能であることを見せてみたかった。
ちなみに筆者がiPhoneを使っていない最大の理由が「ハードウェアQWERTYキーボードが搭載されていないから」なので、いつか搭載してくれることを心待ちにしてエントリを終えようと思います

2021-03-30

半導体チップ設計ってどうやって勉強するんだ?

デジタル回路だと、FPGAについての本がある。

Verilog、System-Verilogあたりは書籍もある。

LINTはチェックするツールフリーではないが、書籍がある。

検証となると、VerilogやSystem-Verilogあたりでの検証書籍でなんとなくは出来る。

アサーションあたりになると書籍微妙になる。System-Verilogアサーション、PSLでなんとなく書くのは出来るかもしれないが。

e言語になると書籍もない、ネットでも情報がない。


加算器と減算器はまだいい。

乗算器、除算器、Sin、√となると、書籍がない。


CPU簡単なのは作っている人はいるが、浮動小数点回路となると減ってくる。

GPUなんてなると、殆どない。

USBHDMIなど、身近に溢れているものでも、作っている人がいない。

タイミング制約や非同期あたりも情報が少ない。


アナログだとSpiceにはたどり着くが、ディスクリート品の対象が多い。

2021-03-09

anond:20210309011156

いえいえ、なんかの助けになれば幸いですけど😃

あと、ソースコード読んでるなら命名はやっぱり大事だなあと思う

最近命名についてちょっと考えさせられてしまうことがあったのだけど

命名からググってというのも自分場合はかなりヒントになる、助かる

知らない分野でもとりあえず関数変数名前でググってみるとか(というか、Googleない時代を考えると地獄だよなあ

コメントも適度にあるといいとは思うけど、過剰にコメントする意味はないし、

といっても、コメントを書く必要あるかないかって当然だけど読む側のレベルを試されているんですよね

FreeBSDカーネルだったかな、

大学院の授業でコードリーディングするのがあって、

やっぱりハッカーが好きそうなトリッキー?な書き方があったりして、

でも、こういうときはこう書くものだ、みたいなのがあったりもするので、

それもググるなり書籍なりで調べれば理解はできると思う

昔のゲームとか、あとメガデモみたいなのもそうだけど、浮動小数演算とか富豪すぎるので、

整数演算いか適当に誤魔化すかみたいな、精密さより高速にそれらしく動作するのが求められるのもあるし、

自分場合レベルが低いのか、知らなくてもググって調べてけば大体なんとかなってる

でも、発売前のゲーム機と書いたけど、公開されてないのでググっても出ない情報社外秘ソースコードとか技術で、

特にレベルが高いのとか、逆に酷く汚いコードだけどなんか動いてる()みたいな場合は、

降参する場合はもう周囲の先輩や同僚に頼るしかないんですよね

考えるだけ時間無駄だし、やった仕事どうなった?まだできてない?え、ずっと考えてたの?みたいになったら大問題ですし

つくづくマゾでないとできない仕事ひとつに思えてしま今日この頃

2020-12-01

これでやりたいことは分かる。分かるけれどこれでどうやって動画音楽エンコードをしたり

画像処理をしたりするソフトウェアになるのかというのがよく分からない。

それは「数学」の知識が足りないからだと思う。

画像や音声を扱うのに純粋数学という学問知識必要ない。

でも、工業数学レベル知識必須である

例えば、サンプリング定理(標本化定理)を知らなければ音声の録音も圧縮理解できないのは当たり前。

から大学情報科、もしくは電子工学機械工学を履修するのは無駄ではない。

日本専門学校だと給与が安い仕事即戦力になるようなカリキュラムになりがちだから

専門学校が扱う職業ラインナップを見ればそれは明らかだと思う

乱暴一言表現するなら、この世のすべてはビット、つまり0と1で表現できてしまう。

少し正確に言うと、2進数ですべて表現できるは嘘で、

例えば小数点以下無限数字が続くような数字は、言い換えれば無限情報必要ということになる。

メモリは有限だし、たった1つのそんな感じの数字記憶するためにどんな巨大なメモリも埋まってしまうのでは意味がない。

からコンピュータ浮動小数点を表現する場合、どこかで足を切らなければならない。

それによって、紙で計算すれば問題ないことが、コンピュータではおかしな結果になることがある。

しかし、これを知っていなければ科学計算はもちろん、銀行のようなお金計算おかしな結果になってしまう。

大学数値計算の授業を取得するのは退屈だが、これを理解してなければ社会に出ても間違ったコードを書いてしまう。

というか、私も大学在籍中に間違ったコードを書いたことが何回かあるw

プログラミング入門書を読んでも、一般的に知られているソフトウェアの作り方みたいな事が

書いてないので、ゴールが見えてこない。だからうんざりしてくる。

その原因は根源的で哲学みたいな話で、

世の中のほとんどの物事には正解がないとか、そういう話にしかならない。

良いテキストはあるわけだけど、それを読むべきタイミングもあるし、万人向けが自分に向いてるとも限らない。

本なら何冊かはドブに捨てるつもりで買うしかない

みんなが良いから読めという本も、なんとなく自分にはこれがいいんじゃないか、も買うしかない

買って家でじっくり読んで、途中でナニコレ?みたいな本だったら後悔するかもしれないけど、世の中そういうもんだから

料理を作ろうと思ったら材料と道具を揃えたけれど、レシピが無いので作れないというものに近い。

自分レシピ通りに作らないでヒントにしかしないタイプなのだけど、

料理プログラミングには似ているけど、化学実験ではない。

焼く、炒める、煮る、蒸す、みたいな方法だけ理解していれば味付けなんて適当でいいのだ。

なんらかの魚があったとして、それは食べられる魚だと分かっているが調理方法はまったく知らなかったとする。

本とかネットとか調べる環境がなかったとする。

どうするか?

とりあえず、まず口に入れられるサイズに切るべきだろう。

口に入れられないと食事にならんのだから、魚を切って骨を取る。

さばき方もググれない状況なのだから、もう適当に切断していくしかない。

鱗も大味で取るしかない。

ググらないと、とんでもないほど非効率的なさばき方をしている可能性があるが、とにかく食えればいいのだ。

腐らせては意味がない。

日本刺身みたいな生で食べる文化イヌイットではないが、漁師が船の上で食べることとも関係しているように思う。

何が言いたいかというと、生食現代文明ロジスティクスは保存技術の成せるわざであって、料理の基本は何でも熱を通すべきなのだ

毒になる菌で食中毒では意味がない。

切った魚を、焼く、炒める、煮る、蒸す、みたいな方法で熱を通せば料理は終わりだ。

レシピなんかなくてもこれで十分なのだ

あとはその魚に味を付けるため、味ぽんなり味噌なりトマトなり使えばいいだけなのだ

2020-09-02

富岳って1.421エクサエクサは100京)フロップスという性能らしいけど

人間最高峰そろばん名人?、サヴァン症候群?)って、1秒に何回 浮動小数演算できるんだろうね?

2020-06-30

anond:20200630173804

子供議論するときに32Bitはなくていい8Bitで十分 って答えているのですが 浮動小数演算がろんぱっぱしずらい。なんか弾薬ください

anond:20200630171122

Intel先生・・・あの32Bit人権か?というはなしはありますが、浮動小数点のfloatは人権じゃないでしょうか?難しいな 8Bit浮動小数ってありましたっけ?って聞かれて

2020-06-05



金額計算の誤差なら、浮動小数演算を知らんのかとか、あるいはDecimal機能使えとかでいいけど

いからお客さんが求めてるモノを作れと。

これを言うマネージャーは嫌だわ

ブラウザ画面と同じフォント、改行、改ページで印刷できるようにしろPDFはだめだ」みたいなのが来るから

2020-04-29

anond:20200429111443

バイブの振動って強弱つってるけど実は情報量なんだよ。波の重ね合わせが効くから適切な関数を選んで合成できないと話にならない。勉強になるぞ。

更にArduinoなら安易浮動小数演算乱数を使うこともできない。関数の近似という概念も出てくる。モーターを直接駆動するパワーもないから回路も必要だ。総合力が身につくんだよ。

2020-04-17

anond:20200417204213

100万単位だと8%でも10%でも端数らしい端数は出ないと思うにゃん

浮動小数点で演算してるとかだったらごめんなさいにゃん

2020-04-05

データの前処理をパイソンでやろうとしたら浮動小数演算の誤差がわけわかめ

ログイン ユーザー登録
ようこそ ゲスト さん