ポスト

TwoProductFMAで(0x1.fffffffffffffp+1023, 0x1.p+970)みたいなdouble-doubleとしてダメな値ができたりしないのかなと思ったけれど、最近接丸めのタイブレークが偶数側or絶対値の大きい側の二種類しかなくて、どっちもinfに丸められるから大丈夫っぽい?

メニューを開く

るふぁ@lpha_z

人気ポスト

もっと見る
Yahoo!リアルタイム検索アプリ