約56件1ページ目

条件を指定して検索しています。すべての条件を解除する

  • 最終更新日：3か月以内

    • ざっくりと、しかしある程度理解しておく、浮動小数点数のビット表現

    1. https://zenn.dev
    2. floating-point-number-introduction

    2024/5/4 -IEEE 754の中でも、精度や何進数かなどによっていくつかのフォーマットが定義されています。 今回はbinary32という、一般に単精度と呼ばれ、C言語ではfloat型として定義 ...


    浮動小数点演算が Excel で不正確な結果をもたらす可能性がある

    1. https://learn.microsoft.com
    2. ...
    3. トラブルシューティング

    2024/6/11 -Microsoft Excel は、浮動小数点数の格納方法と計算方法を決定するために IEEE 754 仕様に基づいて設計されました。 IEEE (Institute of Electrical and Electronics ...


    ゼロ除算 - Python

    1. https://okumuralab.org
    2. ~okumura
    3. python
    4. zerodiv

    2024/6/21 -そこで、浮動小数点演算の IEEE 754 という規格では、 1.0 / 0.0 に相当する「無限大」という数や、 0.0 / 0.0 に相当する「非数」という数を導入して、割り算がエラー ...


    剰余演算 - Wikipedia

    1. https://ja.wikipedia.org
    2. wiki
    3. 剰余演算

    2024/6/18 -剰余演算（じょうよえんざん）は、ある数値（被除数、英: dividend）を別の数値（除数、英: divisor）で除算し、余り（剰余、英: remainder）を取得する演算である。


    Pythonの初歩

    1. https://okumuralab.org
    2. ~okumura
    3. python
    4. first

    2024/4/7 -... 計算します。整数の除算には // を使います。除算の余りは % です。例えば 7 // 3 は 2 になり、 7 % 3 は 1 になります。 Python の浮動小数点数は一般的な IEEE 754 ...


    cfenv - cpprefjp C++日本語リファレンス

    1. https://cpprefjp.github.io
    2. reference
    3. cfenv

    2024/6/11 -このヘッダは、IEC 60559 (IEEE 754)で定義される浮動小数点例外の状態 ... ゼロ除算 (macro), C++11. FE_INEXACT, 不正確な結果 (macro), C++11. FE_INVALID, 不正 ...


    IEEE754 除算に関するQ&A（2件）

    Yahoo!知恵袋

    Q.IEEE754の半精度浮動小数点数の問題について教えていただきたいのですが、 画像の問題のように、2つを四則演算で計算する場合はどのような手順で行うのか教えていただきたいのです。 よろしくお願い...

    A.10進数に変換してから四則計算し、 結果をIEEE754形式に変換するのが良いです。 10進に変換 ① 符号、指数部、仮数部、に分離します。 0 11000 1010101100 9 1708

    解決済み-回答：1件-

    Q.IEEE754 浮動小数点の計算方法について質問です。 手元のテキストには、 表現される数 = (-1)^S x 2^(E-127) x (1+M) という公式があります。 また、 10...

    A.-2乗：125 -1乗：126 0乗：127 1乗：128 2乗：129 という感じだから。

    解決済み-回答：2件-


    AURIX™ MCU: Generating traps on divide-by-zero exception in the FPU

    1. https://community.infineon.com
    2. ta-p

    2024/6/13 -Solution: The FPU implements all five IEEE-754 exceptions (invalid operation, overflow, divide by zero, underflow, and inexact). When one of these ...


    浮動小数点数とは何？ わかりやすく解説 Weblio辞書

    1. https://www.weblio.jp
    2. content
    3. 浮動小数点数

    2024/6/7 -IEEE 754の検討段階では議論されたが、最終的な標準ではオミットされ ... 除算 FP add double add.d $x,$y,$z $x = $y + $z 倍精度加算 FP subtract double ...


    [Library Checker] Enumerate Quotients - maspyのHP

    1. https://maspypy.com
    2. Library Checker

    2024/4/5 -... 除算ならばdouble型で計算しても誤差が発生しないことが規格で保証されている ... 現在，多くのプログラミング言語の浮動小数点数は，IEEE 754 の規格を満たすように実装され ...


    符号部とは - IT用語辞典 e-Words

    1. https://e-words.jp
    2. プログラミング

    2024/5/21 -IEEE 754. 浮動小数点数. 単精度浮動小数点数. 【single precision floating point ... この分野の閲覧数ランキング. 1位. ゼロ除算 【0除算】. 2位. コンポーネント ...