Yahoo! JAPAN

検索設定 - この検索結果ページについて

浮動小数点 桁上がり で検索した結果 1~10件目 / 約99,000件 - 0.34秒

ウェブ

  1. 数値の表現
    このような小数点の入った数値をコンピュータで扱う場合,小数点の位置を固定して しまうと,桁数を相当大きくしても扱える数値の範囲が限られてしまう。 例えば整数部分 30桁, ... 例えば最も一般的な IEEE 754 では,32ビット(単精度)の浮動小数点数は, 次のように表現すると定められている。 ... このことで1ビット得をする,つまり精度が 上がる
    ss.sguc.ac.jp/~rider/basic/float.html
  2. コンピュータの数値表現
    具体的には、N進数の構造,N進→10進変換,10進→N進変換(整数部),10進→N進 変換(小数部),10進→N進変換(循環小数になる場合),2進と16 ... 進数の加減乗除, 論理シフト演算,負の補数表現,算術シフト演算,固定小数点表示,浮動小数点表示,二 進化十進表現について解説しています。 ... なく、9より一つ増えたら桁上がり(桁数が一 つ増える)して10となる。2進数では0と1しかないので、1より一つ増えたら桁上がりして、 10となる。
    www.sist.ac.jp/~kanakubo/.../numerical_representation.html
  3. コンピュータアーキテクチャの話(96) 浮動小数点加算器 - 桁合わせと加算 ...
    整数の場合は、最下位のビットの重みは常に"1"であり、その上位は2、4、8というように なっていたが、浮動小数点の数値の ... 図8:和に桁上りが生じた場合は、結果のEXPは 大きいほうのオペランドのEXPに+1し、数値は1ビット右シフトして、 ...
    news.mynavi.jp > ... > ビジネストップ > テクノロジー > スパコン/HPC
  4. ビットで表す数字の世界~浮動小数点編~ - 半導体事業 - マクニカ
    浮動小数点は多くの表し方がありますが、ここでは IEEE754 という方式に準拠した 32 ビット単精度浮動小数点数 ... 2 進数の場合、整数では桁が上がるにつれ 2 の乗数を 表していましたが、 小数では桁が下がるにつれ 0.5 の乗数 ( 2 の ...
    www.macnica.co.jp > ... > マクニカの事業 > 半導体事業 > 技術情報
  5. 浮動小数点数型と誤差
    例えば次の計算では, 6 桁の有効桁数を持った2数の引き算の結果の有効桁数が 2 桁となっている. ... 桁落ちが生じる例として,2次方程式 a x2 + b x + c == 0 で |ac| << | b|2 あるもの( << は比較してかなり差があるという意味)の解を, 解の ...
    www.cc.kyoto-su.ac.jp/~yamada/.../float.html
  6. 算術オーバーフロー - Wikipedia
    算術オーバーフロー(さんじゅつオーバーフロー、英: arithmetic overflow)あるいは単に オーバーフローは、デジタルコンピュータにおいて、演算結果がレジスタの表せる範囲や 記憶装置上の格納域に記録できる範囲を超えてしまう現象、またはその結果レジスタ等 に格納される値を意味する。オーバーフローは、本来演算結果を格納する場所とは違う 場所に格納される場合がある。溢れとも言う。 符号無し表現の加減算では、最上位桁 より上の桁(存在しない桁)への繰り上がり(キャリー)や、おなじく存在しない桁からの ... 浮動小数点数では、演算の結果、指数部が最大より大きくなった場合がオーバーフロー で、結果が+∞あるいは-∞になる。
    ja.wikipedia.org/wiki/算術オーバーフロー
  7. コンピュータの数値表現 - Wikipedia
    コンピュータの数値表現(コンピュータのすうちひょうげん)では、コンピュータシステム における数の表現方法について解説する。数学では「数」の概念は複素数などに大きく 広がっているが、この記事では冒頭部を除くと、もっぱら固定長の整数の、しかも コンピュータの内部の話に偏っていて、数学的な議論は多くない。実数の近似表現など については浮動小数点数の記事や任意精度演算の記事を、代数的数のコンピュータで の扱いなどといった ... また、電卓などでは、内部計算において9がいくつか連続する 場合は繰り上がりをするといった処理により、表示画面においては ...
    ja.wikipedia.org/wiki/コンピュータの数値表現
  8. 固定小数点数と浮動小数点数の違いを調べよう! 2018.12.17 - ITの学び
    2進数の計算で「小数点」が出てくるとちょっとハードルが上がる感じがしますが、今回は コンピュータにおける小数点の表現方法の「固定小数点数」と「浮動小数点数」について 調べてみました!【固定小数点数表示】0.00000015【浮動小数点数 ...
    itmanabi.com > ホーム > 情報処理技術者 > 基礎理論
  9. プログラマが知るべき97のこと/浮動小数点数は実数ではない - Wikisource
    たとえば、「2147483647」という数(符号付き32ビット整数の最大値)を、32ビットの浮動 小数点型変数(仮にxとします)に ... 最上位の桁は、互いに相殺し合い、最下位の桁に あった数(丸めによる誤差を含んだ数)が最上位の桁にまで繰り上がる、 ...
    ja.wikisource.org/wiki/.../浮動小数点数は実数ではない
  10. 講義資料 前回の講義のまとめ
    実際に行われる浮動小数点演算の概要は以下の通り. – 乗算(および除算)の場合(x ⊗ y の計算). 1. x ∈ F の仮数部と y ∈ F の仮数部の積(除算)を計算する. 2. 仮数部の積 に桁上がりが無い場合, 仮数部の積を p 桁に丸める. 仮数部の積 ...
    www.math.nagoya-u.ac.jp/~naito/lecture/.../ex04.pdf
  1  2  3  4  5  6  7  8  9  10  次へ »
検索設定 - この検索結果ページについて

Copyright (C) 2020 Yahoo Japan Corporation. All Rights Reserved.