Yahoo! JAPAN

検索設定 - この検索結果ページについて

浮動小数 間隔 で検索した結果 11~20件目 / 約78,000件 - 0.32秒

ウェブ

  1. うさぎでもわかる計算機システム Part03 固定小数点・浮動小数点 - 工業 ...
    2019年6月19日 ... 計算機上で小数を含んだ2進数を表現するための記法として、固定小数点表記と浮動 小数点表記の2つをまとめました。固定小数点表記、 ... 浮動小数点方式の場合、固定 小数点方式の場合と異なり、表せる数の間隔は均一とはなりません。
    www.momoyama-usagi.com > トップ > 情報
  2. 浮動小数点数と丸め誤差 - NA-INET.jp
    有限桁の浮動小数点数は離散的に存在するため,表現可能な数の間には隙間ができる 。この隙間. は指数部が大きくなるにつれて,絶対的な距離は大きくなるが相対的には ほぼ同じという特徴があ. る。この間隔をマシンイプシロン (machine epsilon) と呼ぶ。
    na-inet.jp/nasoft/chap03.pdf
  3. SAS Help Center: SASにおける数値の正確さ
    2019年3月21日 ... 浮動小数点演算のIEEE規格は、IEEE (Institute of Electrical and Electronic Engineers)によって作成された浮動 ... 浮動小数点表示で表現された非常に大きな数値 や非常に小さな数値を含むデータを転送すると、精度や大きさの問題が発生 ...
    documentation.sas.com/?docsetId=lrcon...htm...
  4. 32-bit float IEEE 754 浮動小数点数について - あちゃぴーの自転車通勤
    つまりこれ以外は少数は直接扱えない整数型。floatは浮動小数点型といわれる型。 doubleはビット数を上げて精度をより ... 各点の間には等間隔に仮数部の8388608点 が存在している。0付近は無数に点があるのに、途中から急激に1.0に ...
    achapi2718.blogspot.com/.../32-bit-float-ieee-754.html
  5. 実数の表現 - 九州大学
    九州大学工学部電気情報工学科(2006年度). IEEE754(1). ○ IEEE754 は浮動 小数点表現の標準規格である. ○ 単精度表現と倍精度表現の2種類の表現が定義 されている. 指数部. 仮数部. 8ビット. 1ビット. 指数部. 仮数部. 単精度. 倍精度. 23ビット.
    ocw.kyushu-u.ac.jp/menu/faculty/09/4/4.pdf
  6. C - 循環小数の扱い方がわからず困っています|teratail
    C言語に限らず、コンピューター上の浮動小数点型演算 (C言語では、float や double 同士の演算) では、丸め誤差が発生します。 ... 浮動小数点間隔は等間隔でなく、値 の大きさによって異なるため、相対誤差で比較するのが望ましいです。
    teratail.com/questions/146489
  7. 数値計算 - Microsoft Cloud Numerics の数学関数をテストする ...
    さらに、整数とは違い、IEEE の浮動小数点数の間隔は局所的には均一ですが、数値 自体が大きくなると対数的に増加します。この対数的側面を図 1 に示します。この図 では、実数を表す直線上で IEEE の浮動小数点数の均一な固まりの場所 ...
    docs.microsoft.com > ... > 2012 > October
  8. 【CSS】横並び(float)したブロック要素のマージン(margin)を指定する方法 ...
    2019年12月31日 ... 上の画像のように、divなどのブロック要素の中に子要素を横並び(float)で表示させたい ときに便利な方法。目次【CSS】横並び(float)したブロック要素のマージン(margin)を 指定する方法サンプルコードHTMLCSSclearfixもセットで指定すると ...
    dainashiyesterday.com/post-2514/
  9. もう悩まない!CSSのfloatで起きる問題を解決する5つの方法 | 侍 ...
    こんにちは!ライターのナナミです。 CSSでのレイアウトに欠かせないプロパティって 色々ありますよね。そんなプロパティのうちの一つ、floatを使ってて、レイアウトが崩れ たりしたことはありませんか? なんかイマイチ仕組みがわからない…
    www.sejuku.net > ブログトップ > 未分類
  10. 短尺浮動小数点形式の検討 - 情報処理学会電子図書館
    精度型から仮数部ビットを 8 ビット刻みで削った短尺浮動小数点形式の実装を検討し, x86 CPU および ... は FP64 と比べて FP32 の浮動小数点演算性能が高速であ. る ため, ... 返し実行中に 1 秒間隔で測定したが,得られた値はほぼ一.
    ipsj.ixsq.nii.ac.jp/.../index.php?...
  « 前へ1  2  3  4  5  6  7  8  9  10  次へ »
検索設定 - この検索結果ページについて

Copyright (C) 2020 Yahoo Japan Corporation. All Rights Reserved.