Dってマイクラ独自のブロック用の数値型だと思ってたけどこれdouble型なのか...

VBAのDouble型のNaNについて

基本的にロボコンはdouble型使わんやろとか思ってたせいでオドメータ実装するのに4日かかってしまった

返信先:@Xsp2VjmdMATLABだと思います 必要なのは科学技術計算 普通の言語だとforで回さないといけないところ1行で書けたり、複素数を1つの半数で扱えたら、標準でdouble型だったり。 高額ですけどね…

返信先:@QuRdesu元気そうで良かったよーー 前作ってた機能なんか少数計算にdouble型使って丸めて誤差出して…みたいなアホコードやったしまじでいい思い出ない😭 うん十年運用してるシステムがこれってまじ…?????

リプ欄に有識者いるのはいいけど 時間管理がfloat型？？？？？ なんで？？？？？ まさか秒数の小数点以下を小数で管理してるって話？ それにしたってdouble型でいいと思うんだけど x.com/aniki_48/statu…

返信先:@g3nswdouble型なんだ 採点の点数でも返すのか

@ta98otani さんから、M5Stack の LCD 表示のための新しいバージョンの Simulink ブロックをいただいたので、お試し 文字サイズ、文字色、背景色、枠線色がカスタマイズできるようになりました また、入力は double 型が標準になりました pic.x.com/rmJ3HFF7a5

昔、若手が小数点含むかなり高精度を要求される計算のプログラムで値が0.00001ずれる不具合に見舞われて一向に原因が分からず天を仰いでたので、「double型使うのやめてdecimal型に変えてみ？」と指示したらいっぱつで治り、魔法を見てるような顔してたので、浮動小数点の概念教えといた。 たのしい。

返信先:@osito_kumaヤード・ポンド法、尺貫法 桁落ち しないように 厳重注意。通常の double型 浮動小数点数で 計算しないこと。 shiura.com/dfab/fractiona…

#RaiseTech 🌟2025.11.08 《Java》DAY129:13-1_初級理解度チェック:1時間30分 《THM》DAY120:Brute Force Heroes:1時間30分 計:3時間 ✍感想 ・更新と平均値の完了で、学生管理プログラム完了。 ・平均値を求める時は、double型にする。 ・AIも忘れがあるので、気を付ける。 pic.x.com/YUo2Jm6IuG

返信先:@yamaoka_ssいいえ、休みではありません。問題の解説を再度します。 VBAで0.1 + 0.2はDouble型の精度誤差で0.30000000000000004となり、=0.3がFalse。 関数適用でTrueにするが、CDblはDoubleに変換するだけなので誤差が残りFalse。他は： - CSng: Single型(約7桁)に変換、丸めで0.3に。 - CCur:

WindowsとLinux環境でdouble型の演算結果に差異は生じますか？ MathWorks Support Team からの新着ヒント #MATLABAnswers mathworks.com/matlabcentral/…

Windowsの電卓ではどうなるかなと思ったら「電卓」はGitHubでオープンソースになってた…！ 標準モードではdouble型なのでInfinityにはなっているはずだけど、 UI上では隠されてしまう github.com/microsoft/calc… pic.x.com/XhDDqT1Aym

double型ゴジラ

改版、インフォメーション。 【Java】double型の値が整数の場合に小数点を表示しない方法 - Rutile3.​tech scrapbox.io/Rutile3-Tech/%…

返信先:@flyt495double型の出番

あと少しでdouble型の上限値 pic.x.com/kA8JZyeNpO

これはjsのdouble型で試してみたが、sinの引数が大きくなる分、double型の仮数部52+1bitの約16桁の有効数字がmod(x, PI)で消費された分の誤差だとよく分かる。float型(仮数部23+1bitの約7桁)や固定少数点(Q1.31、約10桁)だと丸め誤差が大きくなるだろうな。 pic.x.com/vpEq072wsR x.com/Red_Black_GPGP…