返信先:@SOTAsFX01bご丁寧に回答いただきありがとうございます。 変数名にPointを含まないように、"xpoint" ⇒ "xpon"に変更しましたがエラーは解消されませんでした🥲 ATRの算出値をpointで除しても整数にならないことがあるため、double型に書き直しました。 pic.twitter.com/zoW60k0dTc

#競プロ典型90問 020 - Log Inequality log2(a) < blog2(c) ⇔ a < c^b とするまでは良かったんだけど、C#のMath.Powがdouble型なのを忘れてて結局誤差で沼った... 累乗部分を普通にforでやったらACでした

int型は，○○にならない((･･*) でもint型の式に，○○が着いてたら，○○で答える！( ˙꒳​˙ ) double型は，○○で答える！全部なる！どっちの型にもかっこ付いてるものと無いものあるけど同じ！(◦`꒳´◦)

整数 (integer) 型のために用意した「箱」に、double型の答えを入れられたときの気持ちはこんな感じ...？と、たまに変な想像をします。

返信先:@yunkya2スパコン向けには、double-doubleといってdouble型を2つ使って精度を上げるライブラリがあったりはするようですね

C言語の授業 初めて30分でdouble型のscanf入って皆さん分からないようす。 そりゃそうだまずinclude文の説明して欲しい所望 （なお。Cは分かるためずーみんはついてけてる）

そらanimCurveノードでもドリブンキーに充てられたUL~UUはinputが他と違ってdouble型なんだから-timechangeで取れる分けないやろプププ〜

>rt なお人数はdouble型

D.連結成分内全て完全グラフに出来る 連結成分の頂点数と辺数を把握するだけ 頂点数vの完全グラフの辺数eはv*(v-1)/2 E.メモ化再帰　÷2なのですぐ0になる X円の時とY円の時の期待値が小さい方を選択 1の分自己ループで6/5倍する必要があるためYはdouble型で受け取りましょう(2WA) ↓

聖物の共鳴、厳選なしで10回やったときにLv100になる確率を計算(既にやってる人はいるだろうが) 力尽くな計算方法な上、Double型の有効桁数の問題で精度は微妙だが、とりあえず0.24%程度との結果が出た ※まぁまぁ時間かかったので、CPU弱いPCで同じことすると何十分も固まるかもなので注意 #ニノクロ pic.twitter.com/WFnKAHD5Y4

int型同士の割り算をdouble型に突っ込んでる時点頭働いてない事に気づくべきだった。眠い。

1億人が同じこと言ってそうだけど int型が%dでdouble型が%fってなんだよ

IEEE754 64bit double型 ちがい 検索

返信先:@nu774_はい、MPEG4とH264はinteger DCTなので機種による誤差の差を排して正確に復号結果が決まるという理解です。JPEGとMPEG2は実数精度で、cosの計算結果に無理数を含むのでdouble型ですら直接計算できないのでどう近似するかは実装依存(普通は固定小数で近似)という理解です。

なかなか答えにたどり着けなかったのでメモ。 【Java】double型の値が整数の場合、小数点を表示しないようにする - Rutile3.​tech scrapbox.io/Rutile3-Tech/%…

東京パソコンクラブ 存在しない回 四捨五入が大好きな弓木さんがint型は小数点以下切り捨てであることを知り、「五入出来ないから」という理由で整数値でもdouble型やfloat型を使おうとする

Excel関数にてdouble型16進数の浮動小数点を10進数へ変換する sakura87.net/archives/2833 なんでかこの記事新年度になるとグッとアクセス数上がるんよ。

43: atcoder.jp/contests/abc34… 1時間以上格闘してたが、誤差で死んでた 誤差でWA出すとは思わなかった double 型を比較するのは辞めましょう

double型の話になる度ビビってる

昨日は午前中の読書会は寝過ごしてしまったけど、次回ね。午後は一月に一度のEffective Javaの読書会だった。激弱ペーペーとしてはちょっと荷が勝ちすぎる内容なのだけど、勉強になる。浮動小数点(float型,double型)に入る値について丁寧に教えていただいた。復習なう。 maruzen-publishing.co.jp/item/?book_no=…

情報科3年ながら、float型とdouble型の違いがわかってない どっちも実数なんだよね？

# include <math.h> (int)ceil(nextafter(N, 1e20)) (int)fma(N, 1, 1) C99 double型がIEEE754 64bitなら大丈夫かな？ twitter.com/evima0/status/… .

まず初めに始値情報を格納する配列を用意します。価格情報になるので、データ型はdouble型となります。サンプルコードの配列名は「open」としておきます。 pic.twitter.com/KLFEFP5Lv7

他のサンプルコードで、double型を0.5足してint型に型変換してるのは分かるので、ひょっとして、単純にミスなのでは。

float/double型の計算実装しろ～～～～～

なるべく処理の改善は、AIと相談しながら進めているのですが、普通にdouble型を使ったり、掛け算、割り算を多様するどころか、便利な平方根の関数を使った処理を提案してくるので、真に受けて実装するとエラい目に会う(笑) 落とし所が難しい…

実用上は (double型→double型)の有限個の関数だけ扱えれば良い、としたとき、 NNの近似能力はむしろ牛刀割鶏で、 (double型→double型)の関数だけに限ったより効率的な手法が存在するということもありうるのだろうか(マジで適当)

Step1) %.16eを%.16g に置き換えるだけなら簡単かんたん！！ Step2) テスト通らない……ん？ %gは%e or %fに置き換える・・・double型だと精度足りない？となると、切り替える機能を自作して%lfにするか… Step3) ちゃうねん・・・doubleも%fでいいねん。となると、、、あれ？精度変えれば行ける…

github.com/opencv/opencv/… ふえええ・・・　理論的には、%.16g を使えば、double型変数を完全に表現できるかなーと思ってたら、なんかバグった。結局、%.17gに置き換える事となった。それにかなり時間食ったな・・・

double型使え pic.twitter.com/C5zE17L4V3

返信先:@qfQUzQ3cBbyTUi3scanf使う時には、float型で欲しければ %f で double 型で欲しければ %lf になりますねー

int型で処理しても良い整数の計算(eg. 10+5)があったとして、int型とdouble型で処理するならdouble型のほうが時間がかかるのはよく知られている事実だと思うけど、実際のところ今もそうなんかなって…やっぱり一桁レベルで変わってくるのかな

GetServerTimeInSeconds()に対する理解度が低いんだけど、参照してる数値の値域は 0 から 4294967.295、だけど精度自体はdouble型ってことなのかな？ VRCのリファレンスにはdouble型で書いてあったものだから、どういうこと？って顔になってた

IEEE754な世界だと、0.01を100回足した値は（64ビット長のdouble型でも）1.00にはならないですけど、ポケコンみたいなBCD演算だとキッチリ1.00になりますね。

double型で0除算してもエラー発生しないの初めて知った