?

Log in

No account? Create an account

Вялые Записки Скучного Человека

журнал Бориса Овчинникова

Previous Entry Share Next Entry
нелинейная арифметика
barouh
построил в экселе столбце цифр - каждое следующее число считается как предыдущее число плюс 1% (примитивная формула типа =J5+1%)

До 81% ряд строится нормально. А вот J83+1%, где J83=81%, дает сбой:
эксель уверен, что 81,0000000000000% плюс 1,0000000000000% равно... 82,0000000000001%

И откуда эксель берет эти дополнительные 10 в минус тринадцатой степени процентов? бред

  • 1
Наверняка какая-нибудь ошибка округления. http://support.microsoft.com/kb/78113 это описано (Способ 2. Задать точность как на экране)?

Там приводится похожий пример с последовательным добавлением 0,01% - притом с формулировкой "даже распространенные десятичные дроби, например, 0,0001". Между строк читается, что с более распространенными дробями, например 0,01 (1%), таких сбоев не бывает - но у меня сдвинулся результат при добавлении по 1%

Боря,
в n-мерном пространстве ты сколько n можешь представить?

я не умею представлять n-мерное пространство, а потому и ответить на твой вопрос не могу

но эксель - это всего лишь двухмерное пространство, так что твой вопрос - наглый оффтопик

и зефир весь съели :-)

  • 1