自動更新

並べ替え:新着順

ベストポスト
メニューを開く

#論理回路学_ビット演算の基礎 43 Q 数値の2進表現時の #誤差 の種類を整理 ①#丸め誤差#桁落ち#情報落ち#オーバーフロー#アンダーフロー   A ①長い小数の右側を切り捨て ②近い数値同士の引き算 ③大小差のある2数の加減算 ④絶対値大きすぎ ⑤絶対値小さすぎ

ITエンジニア見習いたん (プログラミング・コーディング、情報システム開発などの学術たん)@i_t_tan

メニューを開く

#論理回路学_ビット演算の基礎 38 Q #桁落ち の具体例は?   A #仮数部#有効桁数 が4桁で #正規化 された #浮動小数点数 表現として x = 0.1235 * 10^11 y = 0.1234 * 10^11 がある時… x-y = 0.0001 * 10^11 = 0.1 * 10^8 #仮数部 の情報の精度(=有効桁数)が減ります

ITエンジニア見習いたん (プログラミング・コーディング、情報システム開発などの学術たん)@i_t_tan

メニューを開く

#論理回路学_ビット演算の基礎 37 Q #桁落ち ってなに?   A ほぼ等しい数を引き算したとき, #有効桁数 が減ること。 #浮動小数点数#符号部#指数部 が同じで, #仮数部 がほぼ一緒だったら… 仮数部に収められている情報が ゼロばっかになってしまう。

ITエンジニア見習いたん (プログラミング・コーディング、情報システム開発などの学術たん)@i_t_tan

トレンド11:35更新

  1. 1

    エンタメ

    スター・ウォーズの日

    • 霊験お初
    • 工藤新一
    • 18周年
    • スター・ウォーズ
  2. 2

    仲良くなれる

    • 35歳
    • 35%
  3. 3

    ITビジネス

    野々村竜太郎

    • 人生相談
    • 5万円
    • チャット
  4. 4

    エンタメ

    君声ラジオ

    • NHK
    • NHK FM
  5. 5

    矢澤宏太

    • 廣岡大志
    • 廣岡
    • 矢澤
    • 鈴木健矢
  6. 6

    退学処分

    • ウェークアップ
  7. 7

    グルメ

    ステーキ店

    • 帝国データバンク
    • 1.4倍
    • ステーキ
  8. 8

    スポーツ

    アラエス

    • ボガーツ
    • アラエズ
    • パドレス
    • 電撃トレード
    • 首位打者
    • トレード移籍
    • 大型トレード
    • MLB
  9. 9

    エンタメ

    本人映像

    • JOYSOUND
    • Number_i
    • カラオケ
  10. 10

    エンタメ

    正義のミカタ

    • ほんこん
    • 土曜の午後
20位まで見る
よく使う路線を登録すると遅延情報をお知らせ Yahoo!リアルタイム検索アプリ
Yahoo!リアルタイム検索アプリ