返信先:@Skn_xkint型とdouble型使って何とかならんの？

返信先:@novathe2nd他2人うすぼんやりと覚えてるのは浮動小数点ならfloat型とdouble型の話くらい。使わねぇよ浮動小数点。何かの科学計算？でバカでかい値使うときくらい。昔船を作るときの金額扱うシステムやったことあるけどそん時もfloat使ってなかったなぁ。確か。指数はもちろん仮数と基数もなんとか記憶にある,

1e18がdouble型で15桁くらいしか精度ないから1e18+1だと(10^18)+1にはなってくれないのね

完全にdouble型だと思ってた 変数の型指定されてるの忘れてた

double型1.1-1とかいう単純な引き算もまともにできなくて草 0.9999ってなる 誤差でるものとして使うしかないのか…

これ系の話で、不思議な動きをするのがVBA（Excelマクロ）で、 Double型（倍精度浮動小数）を明確に指定しても、なぜかうまく計算できるｗ （1#は1.0をVBA表記したもの） ◆ decimal型（十進小数）に夢を見ている輩が多すぎる qiita.com/mod_poppo/item… #Qiita @mod_poppoより pic.twitter.com/9kZRskAAlM

Math.powの戻り値はdouble型 #java #駆け出しエンジニアと繋がりたい

あとdouble型で 0.7+0.2+0.1と 0.1+0.2+0.7は同じ値にならないよって話をすると 皆ほえーってなる

弊現場の仕事ってほぼほぼ金銭の計算なんで普通にやってて浮動小数点型の出番なんてあるわきゃないはずなんだが時々わいてくるdouble型。まあたぶんoverflowが嫌なんだろうなと推測してはいるが作ったやつに質問するのめんどくさい。

内部表現を全てdouble型に変更しても全く変化無し。ということは精度の問題ではない。どっか間違えたかなぁ…。何故そういう計算をしているのかを理解していないから、ここら辺が怪しい？という推測ができない。

円周率をDouble型のimplicitで注入するの怖すぎでは、と思ったらちゃんと危ない使い方の例として回収されててにっこり #ScalaMatsuri

double型 = int型 / int型 ; って整数で計算されて余りは無視されるんだね めんど～ 実数で計算してくれ～

返信先:@mokonucoもしかしたらdecimal型じゃなくてdouble 型使ってるかも知れないし、境界値で分岐間違えてるかも知れない

ちなみに、先日調べて解ったのだけど、decimal は10進数に特化しているわけではなく、double に比べてべらぼうに有効桁数が多いだけで、10進数で計算している訳ではない。 また、先日の大量な数値を加算したときに double 型で誤差が出る（ double の有効桁数は8桁程度なので）のも同じ分野の話

まずは最高値を算出する関数から作っていきます。 関数名はHighestHigh関数としました。最高値を取得して、戻り値として返す想定なので、戻り値のデータ型はdouble型です。 pic.twitter.com/rfqMT49OQk

昔業務システムをWeb化する話が出たときにFlashでActionScript使ったら楽になるんじゃないかと思って検討したことあったけどActionScriptではdouble型が一番大きな数字を扱える型だったのでそっ閉じした。

C#だと 「decimal」型が あります。 そもそも スプレッドシートで 型指定 できてないことが 問題なのです。 double型か decimal型か 明示すべき。

返信先:@WjgotINrU14Z1fBえー。マジすか。 Javaのdouble型とかの2進化浮動小数点数で金額使っちゃいけないは基本情報レベルの業界常識だと思うんだけどなあ。 JavaならBigDecimal使うでしょって。 COBOLはデフォの数値型がBigDecimalっぽいやつなんですよ

返信先:@WjgotINrU14Z1fB金額扱うときにdouble型とか使うんじゃないよ程度の話。 デフォがパック10進法だかゾーン10進法だかじゃないんだから。

float型の変数に10.0だけ入れると、最初double型として認識してその後、float型に認識し直すのね φ(._. )ﾒﾓﾒﾓ だからfloat型には10.0fって入れるのね (っ'ヮ'c)

返信先:@wik377boneなるほど！！powの返り値double型はしらなかったです！powのところを全部論理シフトで書いたら直接足してる方でもAC出来ました！ありがとうございます！ 次から2以外の累乗ならメモ化しようと思います、、

返信先:@CWz0pmVwJxYzFa9あと，pow()は計算結果がdouble型で出るので，long long型と混ざった式で使うのは，予期しないバグが起こりそうで避けてます 一応僕のコードを共有します 全然きれいじゃないけど参考になれば幸いです atcoder.jp/contests/abc35…

今のPC処理はdouble型なのにね...

double型にしてるのにdouble型にしろとか言われましても

double型、出力する時は四捨五入されるのにキャストする時は切り捨てになるのキモすぎ😿💧

自作アプリ。 誤差の問題は修正してリリースした。 結局 浮動小数点の演算誤差で、演算する場面が多いわけじゃないので、double型からdecimal型に置き換えてしまった。 データベースもマイグレーションしたので、誤差は起きづらくなったはず？

C言語ってdouble型になんか変な罠みたいなのあるんかな

double型にしたい女 ＶＳ 絶対になってくれない変数

あと整数値を32bitに抑えとくと ・double型へのキャストが正しく行われる ・整数乗算の積が64bit決め打ちで処理できる といったポイントもあり

C#では小数点を含むリテラルはデフォルトでdouble型と見なされる。floatは32bit、doubleは64bit。覚えた。

「削除された機能が結構あるけどマイナーなものが多い」「AUTO_INCREMENTがDouble型やFloat型にもつけられたなんて私も知らなかった」 #mysql_jp

ストレンジアトラクタをビットマップにプロットしていたら「全部座標で持っておいたほうが良い」って言われたんだけど100億点ほどプロットしてるからそれを全部メモリに乗せるのも解析するのも現実的じゃないんだよな・・・。double型のペアで持つと160GBか・・・

【モバイル太陽】 小4の #プログラミング 開発風景☀️語彙力のないパパは「すげぇ」と「かっこいい」しか言えない🫢 #核融合 の温度をdouble型で変数計算してた👨🏻‍🎓すげぇ😳 応募の関係で #unityroom に公開中 #csharp #unity #unity幼稚園 pic.twitter.com/BbWyKhTIyK

Androidは今の所32Bitだけどやっぱりdouble型よりfloat型のほうが速いのだろうか？ 64Bitだとdouble型のほうが速いのか？ float型はdouble型に変換されて云々と聞いたことがあるがどうなんだろ？ 教えてエロい人