ポスト

#論理回路学_ビット演算の基礎 43 Q 数値の2進表現時の #誤差 の種類を整理 ①#丸め誤差#桁落ち#情報落ち#オーバーフロー#アンダーフロー   A ①長い小数の右側を切り捨て ②近い数値同士の引き算 ③大小差のある2数の加減算 ④絶対値大きすぎ ⑤絶対値小さすぎ

メニューを開く

ITエンジニア見習いたん (プログラミング・コーディング、情報システム開発などの学術たん)@i_t_tan

人気ポスト

もっと見る
Yahoo!リアルタイム検索アプリ