нелинейная арифметика

нелинейная арифметика

: barouh; February 17th, 2010

построил в экселе столбце цифр - каждое следующее число считается как предыдущее число плюс 1% (примитивная формула типа =J5+1%)

До 81% ряд строится нормально. А вот J83+1%, где J83=81%, дает сбой:
эксель уверен, что 81,0000000000000% плюс 1,0000000000000% равно... 82,0000000000001%

И откуда эксель берет эти дополнительные 10 в минус тринадцатой степени процентов? бред

6 comments — :

( 6 comments — Leave a comment )

lusever

2010-02-17 06:13 pm (UTC)

Наверняка какая-нибудь ошибка округления. http://support.microsoft.com/kb/78113 это описано (Способ 2. Задать точность как на экране)?

barouh

2010-02-18 05:08 pm (UTC)

Там приводится похожий пример с последовательным добавлением 0,01% - притом с формулировкой "даже распространенные десятичные дроби, например, 0,0001". Между строк читается, что с более распространенными дробями, например 0,01 (1%), таких сбоев не бывает - но у меня сдвинулся результат при добавлении по 1%

kot_warkot

2010-02-17 10:01 pm (UTC)

Боря,
в n-мерном пространстве ты сколько n можешь представить?

barouh

2010-02-18 05:04 pm (UTC)

я не умею представлять n-мерное пространство, а потому и ответить на твой вопрос не могу

но эксель - это всего лишь двухмерное пространство, так что твой вопрос - наглый оффтопик

kot_warkot

2010-02-18 05:17 pm (UTC)

и зефир весь съели :-)