区間演算で見る有効数字 のバックアップ(No.3) |
概要世の中には実数を全て厳密に表すことができず、実験や工学では近似値として扱う必要がある。 しかし、世の中には便利な区間表記が無いせいか、 そこで、最近見かけた問題を区間として有効数字を解析してみる。 問題https://twitter.com/y_bonten/status/649834242617118720 より 例題に丁度良いので、以下引用:
結論から言うと、有効数字の観点から、どちらも対数を有効数字4桁の近似値に直しているため、 区間演算で見る有効数字以下では、同じ問題を区間演算で考え得るずれを可視化してみる。
まずは、本当に誤答に至った 〔教師による不正解〕 つぎに、正答とされている 〔生徒による正解〕 まとめ・つなぎ対数の有効数字を扱った例: http://photo-m.tp.chiba-u.jp/~yjo/tips/sign_figures.html |