「浮動小数」を含む日記 RSS

はてなキーワード: 浮動小数とは

2020-09-02

富岳って1.421エクサエクサは100京)フロップスという性能らしいけど

人間最高峰そろばん名人?、サヴァン症候群?)って、1秒に何回 浮動小数演算できるんだろうね?

2020-06-30

anond:20200630173804

子供議論するときに32Bitはなくていい8Bitで十分 って答えているのですが 浮動小数演算がろんぱっぱしずらい。なんか弾薬ください

anond:20200630171122

Intel先生・・・あの32Bit人権か?というはなしはありますが、浮動小数点のfloatは人権じゃないでしょうか?難しいな 8Bit浮動小数ってありましたっけ?って聞かれて

2020-06-05



金額計算の誤差なら、浮動小数演算を知らんのかとか、あるいはDecimal機能使えとかでいいけど

いからお客さんが求めてるモノを作れと。

これを言うマネージャーは嫌だわ

ブラウザ画面と同じフォント、改行、改ページで印刷できるようにしろPDFはだめだ」みたいなのが来るから

2020-04-29

anond:20200429111443

バイブの振動って強弱つってるけど実は情報量なんだよ。波の重ね合わせが効くから適切な関数を選んで合成できないと話にならない。勉強になるぞ。

更にArduinoなら安易浮動小数演算乱数を使うこともできない。関数の近似という概念も出てくる。モーターを直接駆動するパワーもないから回路も必要だ。総合力が身につくんだよ。

2020-04-17

anond:20200417204213

100万単位だと8%でも10%でも端数らしい端数は出ないと思うにゃん

浮動小数点で演算してるとかだったらごめんなさいにゃん

2020-04-05

データの前処理をパイソンでやろうとしたら浮動小数演算の誤差がわけわかめ

2020-02-21

8bit浮動小数

1bitが符号

1bitが指数部とすると

仮数部が6bitとなり、

  • 63.0~+63.0までの値が表現できるんだよな。

固定小数点を8bitで表そうとすると

8bitと侮ることなかれ、結構色々できそうだな。

2019-03-01

anond:20190301010229

繰り返すが基情程度であれば小学生でも勉強すれば取れる簡単資格

あなたがそう言いたいのならそれで良い。

私が言いたいのは、基本情報中学以上の数学試験範囲に含まれる(組み合わせ計算浮動小数点の正規化対数、基数変換・・・これらは小学校じゃやらないだろ。)であって、

小学生勉強したら取れるとか取れないとかはっきりいってどちらでも良い話。私はそんな話をしていないのだから

anond:20190301010511

組み合わせ計算浮動小数点の正規化対数、基数変換・・・これらは小学校じゃやらないだろ。

小学校やるやらないを持ち出したのは誰なんでしょうね

anond:20190301010111

基本情報には数学問題が出る

出なかったよ

基本情報には、組み合わせ計算浮動小数点の正規化対数、基数変換等等の数学が含まれている。

という流れなんだけど。

小学生が解けようが解けなかろうが、出なかったと主張する増田受験した時にたまたま出題が一問もなくても、

試験範囲に含まれている事には変わりない。

そして繰り返すけど、小学生に教えたら解けるとか解けないとかはここでは全く関係が無い。

anond:20190301005749

何度も言っているんだが、小学生でも出来るとかできないとか全然関係いから。

基本情報範囲に含まれる組み合わせ計算浮動小数点の正規化対数、基数変換・・・小学校じゃやらないだろとは言ったが、

小学生には教えても一切出来ないとは言っていない。

関係のない話が何で続くのか分からない。

anond:20190301003050

組み合わせ計算浮動小数点の正規化対数、基数変換・・・これらは小学校じゃやらないだろ。

2018-12-26

anond:20181226151942

そうなん?

結局あらゆる計算は分割できるし実際に上位にいるTesla勢のアーキテクチャも半精度浮動小数プロセッサをしこたま用意してるだけじゃん。

勿論その計算結果をどこに書き込みに行くんやみたいなところでインターコネクトだかしらんけど銅線をちゃんと引いたりするとスコアアップするだけで、

実態としてはスパコンほどに密度を上げないと処理速度が伸びない分野の処理ってそんな無いはずなんやが。

実際にイマジナリーコインとかを掘る際は消費電力諸々はともかくPC並べても一つにたくさんGPU繋いでも効率はほぼ一緒じゃんか。

2018-10-01

anond:20181001121515

あ、うん単にそういう規格もあるってだけの話やね。別に16bit浮動小数でなくても良い。

ちょっとぐぐっただけだと理想的説明ページは出て来ないな。

anond:20181001120738

浮動小数関係なくね?

HSV空間のSのレンジを広くするってだけで分解能自体も変わってはずだが。

コーン上の色空間がより長くなるだけ)

anond:20180930022000

HDR関係ないだろというブコメを見て「ん?」と思ったのだが、多分そいつらの言ってるのはスマホHDR撮影機能のことかね。あれは複数写真を合成してるだけの別物で本来HDRRGBそれぞれ16bit浮動小数表現したりする技術のこと。実際はもっと説明が複雑だけど。

2018-09-18

anond:20180918103227

 Int8(整数8-bit)のドット積は、ディープラーニングのインファレンス(推論)向けだ。ニューラルネットワークでは、トレーニング(Training:学習)にはFP16(16-bit浮動小数点)など相対的に高いビット精度が必要だ。しかし、端末側での認識のための推論ではデータ精度を落としても認識精度はそれほど落ちないため、8-bit整数程度の精度が使われることも多い。現在GPUでは、推論向けでは8-bit整数(Int8)のサポートがカギとなっている。

https://pc.watch.impress.co.jp/docs/column/kaigai/1111755.html

anond:20180918094256

 じゃなぜAI性能が3倍になったのか。ヒントはQualcomm資料の中にある「AI処理の場合CPUGPU/HVXを組み合わせて使う」とある点だ。これらの分担は、というとCPUはFP32(32bit浮動小数演算)とINT8(8bit整数演算)、GPUはFP32(32bit浮動小数演算)とFP16(16bit浮動小数演算)、HVXはINT8(8bit整数演算とある

http://www.atmarkit.co.jp/ait/articles/1804/24/news020.html

8bit整数演算特化型の多コア演算装置なのかな?

知らんけど

2018-09-13

実数のことを浮動小数というのおかしいよな

プログラミングで、整数対応する文脈で「浮動小数」とか言われてるけど、言うなら「実数」だよな。

実数がどう実装されてるかとう話題で「固定小数」「浮動小数点」という言葉がでてくるならわかるけど。

2018-09-07

浮動小数問題とは

irb(main):034:0> puts 1.upto(14).map {|i| "#{i} * 1.1 => " + (i * 1.1).to_s  }
1 * 1.1 = 1.1
2 * 1.1 = 2.2
3 * 1.1 = 3.3000000000000003
4 * 1.1 = 4.4
5 * 1.1 = 5.5
6 * 1.1 = 6.6000000000000005
7 * 1.1 = 7.700000000000001
8 * 1.1 = 8.8
9 * 1.1 = 9.9
10 * 1.1 = 11.0
11 * 1.1 = 12.100000000000001
12 * 1.1 = 13.200000000000001
13 * 1.1 = 14.3
14 * 1.1 = 15.400000000000002

どうしてキリのいい結果がたまに紛れるんですか? 🎳

ログイン ユーザー登録
ようこそ ゲスト さん