約129件1ページ目

条件を指定して検索しています。すべての条件を解除する

  • 最終更新日:1年以内
  • 対象とする言語:日本語
  • 2023/11/25 -ゼロ除算(ゼロじょさん、ゼロじょざん、0除算、英語: division by zero)とは、0で除す割り算のことである。このような除算は除される数をaとするならば、形式上は ...

    2024/5/4 -IEEE 754の中でも、精度や何進数かなどによっていくつかのフォーマットが定義されています。 今回はbinary32という、一般に単精度と呼ばれ、C言語ではfloat型として定義 ...

    2023/7/13 -IEEE-754 に準拠する規則. これらの規則のいくつかは、IEEE-754 が複数の選択肢を提供している中の 1 つの選択肢の場合があります。 0 での除算は +/- INF になります。

    2023/10/6 -たとえば、33 を 10 で除算すると、解は「3.29999999999」となります。 小数点 ... IEEE 754 を使用するどのシステムでも計算結果は同じです。詳細フィールドには ...

    2023/12/22 -IEEE 754の定義によれば、a/0 で a が正の数であれば、除算の結果は正の無限大となり、a が負の数であれば負の無限大となる。そして、a も 0 であった場合、除算結果は NaN ...

    2023/10/12 -IEEE-754 標準では、ハードウェアで実数を表す方法である浮動小数点形式が ... これらは、無限大で除算した結果や、無限大をゼロで乗算した結果など、不確定な値 ...

    A.10進数に変換してから四則計算し、 結果をIEEE754形式に変換するのが良いです。 10進に変換 ① 符号、指数部、仮数部、に分離します。 0 11000 1010101100 9 1708

    2024/6/21 -そこで、浮動小数点演算の IEEE 754 という規格では、 1.0 / 0.0 に相当する「無限大」という数や、 0.0 / 0.0 に相当する「非数」という数を導入して、割り算がエラー ...

    2024/2/25 -浮動小数点の算術は、 IEEE アイトリプルイー 754 (ISO/IEC 60559) という規格で定められています。最新のバージョンは IEEE 754-2019 (ISO/IEC 60559:2020) です。 よく ...

    2024/1/6 -ゼロ除算(divide by zero)とは、ある数を0で割ること。数学では定義できない計算と解釈され、コンピュータ上では実行不能としてエラーを生じたり、無限大を表す特殊 ...

    2024/1/3 -変換過程で Infinity や -Infinity は、IEEE754形式の浮動小数点数で特定のビットパターンを持ちます。しかし、これらの値を32ビット整数に変換する際にビット情報が失 ...