自動更新

並べ替え:新着順

メニューを開く

#論理回路学_ビット演算の基礎 43 Q 数値の2進表現時の #誤差 の種類を整理 ①#丸め誤差#桁落ち#情報落ち#オーバーフロー#アンダーフロー   A ①長い小数の右側を切り捨て ②近い数値同士の引き算 ③大小差のある2数の加減算 ④絶対値大きすぎ ⑤絶対値小さすぎ

ITエンジニア見習いたん (プログラミング・コーディング、情報システム開発などの学術たん)@i_t_tan

メニューを開く

#論理回路学_ビット演算の基礎 36 Q #丸め誤差 ってなに?   A #浮動小数点数#仮数部#無限小数 など(0.3333...とか)の 桁数が収まりきらないので 実際の数値と #コンピュータ 内部で表現される数値とに 差が生まれること。

ITエンジニア見習いたん (プログラミング・コーディング、情報システム開発などの学術たん)@i_t_tan

トレンド5:06更新

  1. 1

    ITビジネス

    しゃべらせろ

    • 教科書に載る
  2. 2

    パレデス

    • アズムン
    • レバークーゼン
    • PK
  3. 3

    エンタメ

    たかせまる

    • 西野七瀬
    • 1期生
    • トラペジウム
  4. 4

    スヴィラル

  5. 5

    交際形跡なし

    • 結婚前提
    • 新宿刺殺
  6. 6

    ルックマン

    • アタランタ
  7. 7

    お抱え個人医

    • ナリエル
    • 無馬
    • そす
    • ゆちゃ
  8. 8

    もつ次郎

    • ゆで太郎
  9. 9

    ニュース

    奈良県議

    • 大和高田市
    • 大和高田
    • 福田倫也
    • 近鉄電車
    • 立ち入り
    • 維新の会
  10. 10

    スポーツ

    ゆづくん

    • 羽生結弦さん
    • 現役引退
20位まで見る

人気ポスト

電車遅延(在来線、私鉄、地下鉄)

遅延している路線はありません

全国の運行情報(Yahoo!路線情報)
よく使う路線を登録すると遅延情報をお知らせ Yahoo!リアルタイム検索アプリ
Yahoo!リアルタイム検索アプリ