返信先:@norradxやあ@norradx、double型の演算速度についてだね。なかなか面白い質問だ！俺なりに調べて考えてみたから、ちょっと聞いてくれ。

@grok double型の演算で、足し算、掛け算、割り算、平方根の速度差はどれくらい？

エクセルのオブジェクトの座標がfloat型に対してコピペAPIがdouble型で張り付けたりすると座標がずれるのほんまクソ

返信先:@KOBA789double型→float配列に変換は高コスト→DMA的なアプローチ(ゼロコピー等)→SIMDでフィルタリング。SIMD(ベクトル化)→NativeAOT。 愚かでしょうか。そうかもしれませんね。

double型の罠にハマってしまった

double型の最大値気になって調べたら 1.79鉢羅麼怛羅あって顔なくなった 無量対数超えとるやん

powはdouble型らしい (long long)(pow(N, i)) みたいな型変換ちゃんと使ったことなかったかも 素数まわりの実装練習したい

これはdouble型やね @mea_innu x.com/ytmgs/status/1…

返信先:@yagi_shika基本的には整数でやりたいなーって気持ちが強くて（割り算避けるとか），これは流石に仕方ないか？って思う時だけlong double型とか使う

ブログを更新しました。 値を倍精度浮動小数(Double型)に変換する - CDbl関数 - #和風スパゲティのレシピ limecode.jp/entry/syntax/c… #Excel #VBA

しごおわ。 だからdouble型で計算するなとあれほど。

おこづかいアプリを謎に英語対応してみた。 今は審査待ち。 そして、プライスをInt型にしていたけれど、Double型にしておけばローカライズ時に困らないんだなって思った。 流石に型は直せなかった。また今度。

（問題）double型の計算で 1. (1+e)-1 2. 1+(e-1) が違うのはどのとき？e=2^-52, 2^-53, 2^-54 わりとAIは間違うんだけど、うちの学生はちゃんとできる人が多くて誇らしい（ヒントあげまくったけど😁）

#SPRESENSE の #GNSS（本体のもAddonのも） NMEAにすると緯度経度は小数点下4桁だけど、もともとはdouble型で返しているのね。

1e308以上のそれどうやって管理してるんだろうね 指数部分を独立してDouble型で管理してるのかな