約67件1ページ目

条件を指定して検索しています。すべての条件を解除する

  • 最終更新日:6か月以内
  • 2024/5/4 -IEEE 754について ... 浮動小数点数とは、実数(無限個)をコンピュータ上のビット表現(有限個)で近似的に表現するための方式の一つです。 その他の方式としては、有理数や固定 ...

    2024/5/25 -IEEE754の単精度において、指数の部分に与えれる最大値は254(255は特別用 ... 整数除算よりも浮動小数点除算の方がレイテンシが小さい. • これも仮数部のbit数を ...

    2024/6/7 -浮動小数点数のフォーマット · IEEE方式(IEEE 754。最も広く採用されている標準規格) · IBM方式(IBMのメインフレームおよびそれを模倣した各社の互換マシンで使われていた。

    2024/6/21 -そこで、浮動小数点演算の IEEE 754 という規格では、 1.0 / 0.0 に相当する「無限大」という数や、 0.0 / 0.0 に相当する「非数」という数を導入して、割り算がエラー ...

    2024/6/11 -Microsoft Excel は、浮動小数点数の格納方法と計算方法を決定するために IEEE 754 仕様に基づいて設計されました。 ... ROUND 関数と [表示桁数で計算] または [表示桁数で ...

    2024/4/30 -% 演算子は、除算演算の余りを返します。Modulo は整数のみを演算できます ... これは、電気電子学会 (IEEE) 754 浮動小数点標準で、数値をバイナリ形式で保存 ...

    A.10進数に変換してから四則計算し、 結果をIEEE754形式に変換するのが良いです。 10進に変換 ① 符号、指数部、仮数部、に分離します。 0 11000 1010101100 9 1708...

    2024/7/16 -IEEE754(1985年版)では、四則演算(加減乗除)、融合乗加算、平方根、剰余(浮動小数点剰余)については、「無限の精度で演算してそれを正しく丸めた結果」と一致 ...

    2024/4/6 -IEEE 754-2008 規格では, 128 bit で. 一つの浮動小数点数を表す四倍精度浮動小数点数 quadruple-precision floating-point number が定められました。四倍精度浮動小数点 ...

    2024/4/7 -... 計算します。整数の除算には // を使います。除算の余りは % です。例えば 7 // 3 は 2 になり、 7 % 3 は 1 になります。 Python の浮動小数点数は一般的な IEEE 754 ...

    2024/7/31 -IEEE 754 の特別な値 #nan (NaN (非数)) は、算術的に無効なケース (0 で 0 を除算など) をカバーするために使用されます。 10 進精度から倍精度への変換は、対応する最も ...