2016年5月18日水曜日

【Googleスプレッドシートで切り捨ての落とし穴】

切り捨て」の計算には、038.【消費税計算の落とし穴】でも紹介したように、通常、ROUNDDOWN関数 を使います。例えば、A2セルの値「1.5」を小数点第1位で切り捨てると、結果は「1」になります。

B2セル:=ROUNDDWON(A2,0)  ⇒ 1


B2セルをB3セルにコピーして、A3セルの値「-1.5」を小数点第1位で切り捨てると、結果は「-1」になります。

B3セル:=ROUNDDWON(A3,0)  ⇒ -1


一方、FLOOR関数 を使って計算することも可能です。A2セルの値「1.5」を小数点第1位で切り下げると、結果は ROUNDDOWN関数 と同じ「1」になります。(ROWNDDOWN関数の「切り捨て」と区別するために、便宜上「切り下げ」と呼んでいます)

C2セル:=FLOOR(A2)  ⇒ 1


しかし、C2セルをC3セルにコピーして、A3セルの値「-1.5」を小数点第1位で切り下げると、結果は「-2」になって ROUNDDOWN関数 の結果である「-1」とは異なります。

C3セル:=FLOOR(A3)  ⇒ -2


つまり、今回の使用例で言えば、ROUNDDOWN関数 は、元の値の整数部を返す(小数点以下を取り去る)計算であり、FLOOR関数 は、元の値を越えない最大の整数値を返す計算なのです。よって、切り捨ての計算をする時は、負の数をどう扱うかによって使用する関数が異なりますので気をつけましょう。

ではでは。



0 件のコメント:

コメントを投稿