Questão Erro numérico no Excel com parênteses?


Eu tenho sido capaz de produzir um erro de cálculo numérico muito simples e desafiador no Excel, estou curioso sobre o motivo e talvez uma solução para isso:

    |  A      | B                |
----------------------------------
 1  |  X      | 693.702          |
----------------------------------
 2  |  Y      | 693.702          |
----------------------------------
 3  |  Y - X  | 0.0000000000E0   |
----------------------------------
 4  | (Y - X) | 1.1368683772E-13 |
----------------------------------

Essencialmente, no acima, B1 e B2 contêm o mesmo valor, B3 contém a diferença =B2-B1 e B4 contém o mesmo entre parênteses (B2-B1). O valor retornado é significativamente diferente.


1


origem


Qual versão do Excel? Não é possível replicar isso em 2010. - Andi Mohr
Não é possível replicar com o Excel 2007 também. - Joseph R.
É algo tão simples quanto o formato da célula ser diferente? - datatoo
Curiosamente resolvi o problema, e é uma desconexão infeliz entre a exibição de um valor e os bits usados ​​para armazená-lo internamente. Na verdade, copiei esses valores, como valores, de uma planilha calculada e ao expandir os valores para números significativos suficientes para confirmá-los, eles pareciam exatos (até 40sf). Retiá-los manualmente resolveu o problema e todos os resultados foram exatamente zero. Ele destaca uma diferença na estratégia de cálculo quando os colchetes são usados ​​e que não é possível saber exatamente qual valor uma célula contém. - J Collins


Respostas:


Eu não posso replicar isso, mas parece que você está apenas atingindo a precisão de ponto flutuante da sua versão do Excel. Uma razão para eu não conseguir replicar é se os valores X e Y são os resultados de algum outro cálculo.

Isso não é nada para se preocupar, mas pode ser irritante. (Eu não digo nada para me preocupar, pois a diferença do resultado correto é infinitesimal, 0.00000000000011368 ...)

Exemplo semelhante

Artigo da Microsoft KB


1



Na matemática de engenharia, esses erros podem ser muito ruins, o que acontece de ser o que eu estou fazendo ...! No entanto, o erro veio da cópia de dois valores calculados cujo erro era menor do que o Excel era capaz de exibir com toda a sua precisão, mas ainda diferente de zero. - J Collins