変に賢いぞ、Excel

Excelのセルに数式

=-3^2

と打ち込んだ場合の答えは-9ではなく9。-(32)じゃなく(-3)2と解釈される。符号を反転させる単項演算子として-を使用したときはべき乗よりも優先度が高く(上から2番目。参照演算子を除けば最強)なる仕様らしい。よって

=1+(-3^2) → 1+((-3)^2) → 10
=A1+(-A2^2) → A1+((-A2)^2) → A1+A2*A2

二項演算子として-を使用した場合はべき乗や乗除よりも優先度が低くなるので、

=1-3^2 → -8
=A1-A2^2 → A1-A2*A2

以下の二式が異なる結果となるのに気づかず10分悩みました…

=A1^2-A2^2 → A1*A1-A2*A2
=-A2^2+A1^2 → A1*A1+A2*A2

これに限らず、Microsoft Officeはおせっかいな機能に時々悩まされる orz

[ 参考 ]

— posted by mu at 04:19 pm   commentComment [0]  pingTrackBack [0]

T: Y: ALL: Online:
ThemeSwitch
  • Basic
Created in 0.0084 sec.
prev
2010.12
next
      1 2 3 4
5 6 7 8 9 10 11
12 13 14 15 16 17 18
19 20 21 22 23 24 25
26 27 28 29 30 31