変に賢いぞ、Excel

Excelのセルに数式

=-3^2

と打ち込んだ場合の答えは-9ではなく9。-(32)じゃなく(-3)2と解釈される。符号を反転させる単項演算子として-を使用したときはべき乗よりも優先度が高く(上から2番目。参照演算子を除けば最強)なる仕様らしい。よって

=1+(-3^2) → 1+((-3)^2) → 10
=A1+(-A2^2) → A1+((-A2)^2) → A1+A2*A2

二項演算子として-を使用した場合はべき乗や乗除よりも優先度が低くなるので、

=1-3^2 → -8
=A1-A2^2 → A1-A2*A2

以下の二式が異なる結果となるのに気づかず10分悩みました…

=A1^2-A2^2 → A1*A1-A2*A2
=-A2^2+A1^2 → A1*A1+A2*A2

これに限らず、Microsoft Officeはおせっかいな機能に時々悩まされる orz

[ 参考 ]

— posted by mu at 04:19 pm   commentComment [0]  pingTrackBack [0]

この記事に対する TrackBack URL:

設定によりTB元のページに、こちらの記事への言及(この記事へのリンク)がなければ、TB受付不可となりますのであらかじめご了承下さい。

コメントをどうぞ。 名前(ペンネーム)と画像認証のひらがな4文字は必須で、ウェブサイトURLはオプションです。

ウェブサイト (U):

タグは使えません。http://・・・ は自動的にリンク表示となります

:) :D 8-) ;-) :P :E :o :( (TT) ):T (--) (++!) ?;w) (-o-) (**!) ;v) f(--; :B l_P~ (QQ)

     

[X] [Top ↑]

T: Y: ALL: Online:
ThemeSwitch
  • Basic
Created in 0.0223 sec.
prev
2010.12
next
      1 2 3 4
5 6 7 8 9 10 11
12 13 14 15 16 17 18
19 20 21 22 23 24 25
26 27 28 29 30 31