自動更新

並べ替え:新着順

ベストポスト
メニューを開く

#論理回路学_ビット演算の基礎 41 Q #仮数部 4桁の #2進数#情報落ち の具体例 A 0.1000 * 10^4 + 0.0001 * 10^(-4) = 1000 + 0.00000001 = 1000.00000001 = 0.100000000001 * 10^4 仮数部が4桁だとこれは = 0.1000 * 10^4 として保存され 小さな桁の加算結果が無視されてしまう。

ITエンジニア見習いたん (プログラミング・コーディング、情報システム開発などの学術たん)@i_t_tan

メニューを開く

#論理回路学_ビット演算の基礎 40 Q #情報落ち は 桁数にどんな制約があると起きる? A 10^m+10^(-n) は #十進数 だと 小数点より左にm+1桁 小数点より右にn桁 合計でm+n+1桁の"横幅"が必要。 データ格納時の #仮数部 の桁数がf桁だと 仮数部をはみ出た (m+n+1)-f桁分の情報が消える

ITエンジニア見習いたん (プログラミング・コーディング、情報システム開発などの学術たん)@i_t_tan

メニューを開く

#論理回路学_ビット演算の基礎 39 Q #情報落ち とは?   A 「大小に大きな差がある2数」を加減算した時 小さいほうの数が無視されてしまう現象。 #浮動小数点数#仮数部#有効桁数 の範囲で表せないために起こる。

ITエンジニア見習いたん (プログラミング・コーディング、情報システム開発などの学術たん)@i_t_tan

トレンド0:42更新

  1. 1

    アニメ・ゲーム

    江戸川コナンくん

    • 江戸川コナン
    • 工藤新一
    • コナンくん
    • コナン
  2. 2

    ITビジネス

    一発撮り

    • YouTubeチャンネル
    • SixTONES
    • YouTube
  3. 3

    猫の事務所

    • ルイーゼ
    • 耳をすませば
    • ガーゴイル
  4. 4

    アニメ・ゲーム

    冒頭10分

    • 金ロー
    • あのキス
    • 運転手の
    • 100万ドルの五稜星
    • 五稜星
    • オープニング
    • 100万ドルの
    • 平次
    • 100万ドル
  5. 5

    いとこ同士

    • 正源司
    • 五百城
  6. 6

    エンタメ

    世界一可愛い私

    • 飯田ヒカル
    • 藤田ことね
    • 世界一可愛い
    • Video
    • 可愛い
  7. 7

    ニュース

    G7最下位

    • 国境なき記者団
    • 70位
    • 報道の自由度ランキング
    • 報道の自由度
    • 朝日新聞
  8. 8

    乃木坂配信中

    • 正源司
    • 日向坂ちゃんねる
    • 正源司陽子
    • 五百城
  9. 9

    SP猫

    • 猫の恩返し
    • 生きるんだ
  10. 10

    エンタメ

    ミンホ

    • スポ男
    • ハードジャンパー
    • 機械の不具合
    • SHINee
    • おにいさん
    • 小島よしお
    • 通訳さん
    • よしお
    • まこと
20位まで見る

人気ポスト

よく使う路線を登録すると遅延情報をお知らせ Yahoo!リアルタイム検索アプリ
Yahoo!リアルタイム検索アプリ