約45件1ページ目

条件を指定して検索しています。すべての条件を解除する

  • 最終更新日：3か月以内

    • ざっくりと、しかしある程度理解しておく、浮動小数点数のビット表現

    1. https://zenn.dev
    2. floating-point-number-introduction

    2024/5/4 -IEEE 754について. 浮動小数点数とは、実数(無限個)をコンピュータ上のビット表現 ... NaN は例えば0除算の結果などの不正な値です。 0以外の表現は沢山あるので ...


    演習問題その⑧: 解説

    PDF
    1. https://www.ngc.is.ritsumei.ac.jp
    2. static
    3. Sol8-2

    2024/5/25 -IEEE754の単精度において、指数の部分に与えれる最大値は254（255は特別用 ... 整数除算よりも浮動小数点除算の方がレイテンシが小さい. • これも仮数部のbit数を ...


    ゼロ除算 - Python

    1. https://okumuralab.org
    2. ~okumura
    3. python
    4. zerodiv

    2024/6/21 -そこで、浮動小数点演算の IEEE 754 という規格では、 1.0 / 0.0 に相当する「無限大」という数や、 0.0 / 0.0 に相当する「非数」という数を導入して、割り算がエラー ...


    浮動小数点演算が Excel で不正確な結果をもたらす可能性がある

    1. https://learn.microsoft.com
    2. ...
    3. トラブルシューティング

    2024/6/11 -そのため、この数値は格納時に約 -2.8E-17 で切り捨てられます。 ただし、IEEE 754 仕様には、次の 3 つの一般的なカテゴリに分類されるいくつかの制限があります。


    端数処理 - Wikipedia

    1. https://ja.wikipedia.org
    2. wiki
    3. 端数処理

    2024/7/16 -IEEE754（1985年版）では、四則演算（加減乗除）、融合乗加算、平方根、剰余（浮動小数点剰余）については、「無限の精度で演算してそれを正しく丸めた結果」と一致 ...


    Tableau での計算の書式設定

    1. https://help.tableau.com
    2. pro
    3. ja-jp
    4. functions_operators

    2024/4/30 -% 演算子は、除算演算の余りを返します。Modulo は整数のみを演算できます ... これは、電気電子学会 (IEEE) 754 浮動小数点標準で、数値をバイナリ形式で保存 ...


    IEEE754 除算に関するQ&A（2件）

    Yahoo!知恵袋

    Q.IEEE754の半精度浮動小数点数の問題について教えていただきたいのですが、 画像の問題のように、2つを四則演算で計算する場合はどのような手順で行うのか教えていただきたいのです。 よろしくお願い...

    A.10進数に変換してから四則計算し、 結果をIEEE754形式に変換するのが良いです。 10進に変換 ① 符号、指数部、仮数部、に分離します。 0 11000 1010101100 9 1708

    解決済み-回答：1件-

    Q.IEEE754 浮動小数点の計算方法について質問です。 手元のテキストには、 表現される数 = (-1)^S x 2^(E-127) x (1+M) という公式があります。 また、 10...

    A.-2乗：125 -1乗：126 0乗：127 1乗：128 2乗：129 という感じだから。

    解決済み-回答：2件-


    アベ先生 (CV: 阿部和広) on X: "JavaScriptなどIEEE 754準拠の ...

    1. https://twitter.com
    2. abee2
    3. status

    2024/6/20 -JavaScriptなどIEEE 754準拠の処理系が広まり、一般人でもゼロ除算の答えはInfinityと考える人が増えてきたように思います。


    2. Pythonを用いた数値計算の基礎（浮動小数点数の演算） - 東京大学

    1. https://www.ms.u-tokyo.ac.jp
    2. ~norikazu
    3. lec02

    2024/7/8 -現在（2024年），ほとんどのコンピュータでは，IEEE (Institute of Electrical and Electronics Engineers)の定めたIEEE754-2008という浮動小数点数の規格が採用されている ...


    浮動小数点コプロセッサー（FPU）とは？役割と仕組みを解説

    1. https://it-note.stylemap.co.jp
    2. hardware
    3. understanding-...

    2024/5/30 -FPUでは、IEEE 754などの浮動小数点標準に基づいた浮動小数点演算を高速に実行し ... 除算では、仮数が割り算され、指数が減算されます。 これらの演算は、パイプ ...


    cfenv - cpprefjp C++日本語リファレンス

    1. https://cpprefjp.github.io
    2. reference
    3. cfenv

    2024/6/11 -このヘッダは、IEC 60559 (IEEE 754)で定義される浮動小数点例外の状態 ... ゼロ除算 (macro), C++11. FE_INEXACT, 不正確な結果 (macro), C++11. FE_INVALID, 不正 ...