変に賢いぞ、Excel

2010/12/6

Excelのセルに数式

=-3^2

と打ち込んだ場合の答えは-9ではなく9。-(3²)じゃなく(-3)²と解釈される。符号を反転させる単項演算子として-を使用したときはべき乗よりも優先度が高く(上から2番目。参照演算子を除けば最強)なる仕様らしい。よって

=1+(-3^2) → 1+((-3)^2) → 10
=A1+(-A2^2) → A1+((-A2)^2) → A1+A2*A2

二項演算子として-を使用した場合はべき乗や乗除よりも優先度が低くなるので、

=1-3^2 → -8
=A1-A2^2 → A1-A2*A2

以下の二式が異なる結果となるのに気づかず10分悩みました…

=A1^2-A2^2 → A1*A1-A2*A2
=-A2^2+A1^2 → A1*A1+A2*A2

これに限らず、Microsoft Officeはおせっかいな機能に時々悩まされる orz

[ 参考 ]

— posted by mu at 04:19 pm Comment [0] TrackBack [0]

この記事に対する TrackBack URL:

設定によりTB元のページに、こちらの記事への言及（この記事へのリンク）がなければ、TB受付不可となりますのであらかじめご了承下さい。

コメントをどうぞ。名前(ペンネーム)と画像認証のひらがな4文字は必須で、ウェブサイトURLはオプションです。

名前 (N):

画像認証 (I):

文字色 (C):

ウェブサイト (U):

タグは使えません。http://･･･は自動的にリンク表示となります

メールアドレスを入力しておくと mu がレスをした際に通知します (M):

チェックしておくと、コメントは記事の投稿者・管理者のみに表示されます (H)

Cookie(K):

ALL:

Online:

ThemeSwitch

Created in 0.1655 sec.