ポスト

CADが0.0001みたいな微小な誤差が出るのはコンピューター側の問題(丸め誤差や情報落ち等々)だけど、割と知られてない🥲

メニューを開く

みんなのコメント

メニューを開く

上の例は有効数字の話だけど、他にも例えば0.1みたいな10進数ではキリのいい数字もコンピューターが2進数で扱うと0.00011001100…と循環小数になるのでそこでもまた誤差が出る。

人気ポスト

もっと見る
Yahoo!リアルタイム検索アプリ