有効数字をまだあまり理解してない奴www
■ このスレッドは過去ログ倉庫に格納されています
同じ有効数字全体の集合に自然な演算が定義できない時点でゴミ
もっといい代数的構造を持った誤差評価のできる道具はないの? >>7
詰まないぞ
逆に有効数字なんてものを使ったときの方が、答えの数値がずれる 有効数字2桁で答えが0.7のとき参考書では7.0とかなのに実際は7.0*10^(-1)表記なのほんとひで 有効数字二桁のとき0.7は明らかに不正解
0.70も7.0×10^-1も正解
小数点以下のときは基本的にどっちでも正解
700は7.0×10^2って書かないと×だけどね 有効数字わからないアホなんておるん?wwwwwww お前ら計算するとき数字全部残して答えだしてから四捨五入する?
それとも数字切捨てながらやってる?
ワイはなんか怖いから前者でしてしまう >>19
あきらかに消して差し障りない時(6.0001の1など)は消すけどそれ以外は基本的に計算する
まあ大概約分すれば消えてくから大丈夫だろ 数字のことくらい信用してやれよ…
小学校からの付き合いだろうに >>10
詰むんだよなぁ
日本の入試スタンダードでは
途中計算は指定された有効数字+1までやって切り捨て
答え出すときは四捨五入
誤差が認められるのはこの計算方法でも解法によって差が出るときだけ >>16
すまんな0足し忘れてて
これでも学コン掲載されたし君よりは↑だと思うで 化学で状態方程式使う問題だと計算途中で切り捨てないと計算量がやばいことになるときあるよな >>25
それでヘンリーもからんできたら地獄絵図やでほんま 現実の世界だと有効数字をきっちり守って算出したデータでも
最後の最後で偉い人が勝手に数字を変えてしまう。
桁まで変えてしまうこともある。 教科書の最後のほうとかにまとめて書いてあったりする
5分で読めるからすぐに読んでおくといい 正確なデータが6.4445でも
AとBで有効数字を取り違えて
更にその下が有効数字を減らして計算したら
A 6.4445→6.44→6.4→6
B 6.4445→6.445→6.45→6.5→7 ■ このスレッドは過去ログ倉庫に格納されています