このような計算書を、いただきました ↓（クリック）
水色のセル H16=24.60 が求めたい値です。
計算過程
(1) 20.85/52.99=0.39
(2) 0.39*(1.30+1.06)/2=0.46
で、52.99*0.46=24.60 となっています。
しかし・・電卓で点検計算をすると
52.99*0.46=24.375となり答えが合いません。
実は、上図の黄色のセルの表示桁は少数2位となってるんですけど、丸め処理が行われていないので、見かけ上の数値でした。
実際の計算過程は
(1) 20.85/52.99=0.393470466
(2) 0.393470466*(1.30+1.06)/2=0.46429515
で、52.99*0.46429515=24.603 となり水色のセルの値24.60と一致します。
答えの精度としてはフル桁計算をさせている 上図このシートが高いのですが、第3者が点検すると上記のように答えが合わず”矢のようなクレームの電話”が舞い込んでくるものと察せられます。
今回の場合、最終的に 少数以下2位の値がほしいのであれば、計算過程(1),(2)において、少数以下3位の丸め処理をした値をつくり最終式で参照すれば良いと思います。
(1) 20.85/52.99=0.393
(2) 0.393*(1.30+1.06)/2=0.464
で、52.99*0.464=24.587 となり24.60とほぼ一致します。
当然ですが(1)(2)で少数以下4位の丸め処理ですと、24.603 となり益々24.60に近づきます。
要するに、表記された数式の通りに点検計算をされても答えが合い、且つ 答えの精度を確保するには、最終的な答えの精度を考慮し計算過程で参照する値の丸め値を決定すれば良いと思います。
-----------------------------------------------
たーーだ、今回の問題点は そこにあらず 、この計算書・・やたら枚数が多いんですよネー。
これって、納品直前に 戴いたんです。
この計算書を 私の作成中の計算書に組み込まなくてはいけないんですヨ！
「逐一 ROUND を付けていくんですかあー！？」
「間に合いませんヨー」
って、元請けのコンサルさんに相談したところ 良い方法を教えて戴けました。
ツール → オプション → 計算方法
表示桁で計算する をチェック
ただ こんな ↓ メッセージがでます。
データの正確性 は、前段で述べています求めたい精度の問題です。
今回は、元請けコンサルさん了承のもとでＳんで この方法を使わせて戴きました。
H部長様 ありがとうございました。
PS
ちなみに、表題の「だらだら計算」は H部長のネーミングです。
Author:kiri
京都府在住♂
このサイトはリンクフリーです
それから、１行おきの参照は、範囲選択してジャンプ命令で行間をつめることができるのですね(^・^)
私は、コントロールキーを押しながら、選択していました。
便利な方法はいろいろあって、頭の中で考えている方法と、仕事で実際につかっている方法はちがいますよね
実践でつかっているからこそ、いっけん、ムダで不便だけど確実で速いことってありますよね。道場の中でやる武道と、戦場の戦いの違いみたいなものがありそうです。
自分で式をつくって、自分で使う場合はいいけれど
誰かの作った式を使うのはたいへん
なるべく、単純なものじゃないと実践ではつかえませんね
そして、SOX法の時代、計算式にどんな数値をいれても、正しく答えがでるかどうかの検証はたいへん
そういえば、ちいさな、かな文字【あぁ、いぃ】は、Xで入力されているのですね。
Xがいいのか、Lがいいのか迷いますが・・・
ホームポジションにあるLは便利そうだけど
むかしのMacintoshのことえりでは【LA】だと【ら】になるようでした(^・^) それぞれ、ATOKやアスキーなどでつかえたりつかえなかったり、ややこしいですね
【XA】しか使えない場合もあるようです。
そんなこんなで、はじめて覚える人には【X】を
慣れている人には【L】をなんて考えていますが
パソコン教室では【L】のところが多いようです？