Не производительности со- процессора, a корректности вычислений, погрешность вычислений....
Существует ли такой?
Спасибо.
Подск пож, нужен тест правильности вычислений с плавающей точкой для м
man bc
не пойдёт?
[console]$ bc -l
bc 1.06.95
Copyright 1991-1994, 1997, 1998, 2000, 2004, 2006 Free Software Foundation, Inc.
This is free software with ABSOLUTELY NO WARRANTY.
For details type `warranty'.
e(1)
2.71828182845904523536
scale=77
e(1)
2.718281828459045235360287471352662497757247093699959574966967627724\
07663035354
[/console]
считает с любой точностью. Вроде правильно...
считает с любой точностью. Вроде правильно...
надо посмотреть исходники, но, думаю, это основано на целочисленной арифметике...
Не производительности со- процессора, a корректности вычислений, погрешность вычислений....
Существует ли такой?
чисто ради интереса - oO зачем? у вас самый примитивный первый пенёк?
а вообще - рассчитываете на рабочем железе , сохраняете и проверяете, чтобы на цели получалось тоже самое...
надо посмотреть исходники, но, думаю, это основано на целочисленной арифметике...
правильно думаете. Мантисса == число с фиксированной точкой, фактически целое, только делённое (в уме) на M, где M это двойка в степени равной числу бит. Потому нормализованная мантисса всегда 0<=m<1. Порядок тоже естественно целое число.
зачем? у вас самый примитивный первый пенёк?
ну может человек программу пишет, и там у него сомнения закрались в правильности расчётов. Проверить надо. Не маздайным-же калькулятором проверять? :o
правильно думаете. Мантисса == число с фиксированной точкой, фактически целое, только делённое (в уме) на M, где M это двойка в степени равной числу бит. Потому нормализованная мантисса всегда 0<=m<1. Порядок тоже естественно целое число.
чего-то букварь не в тему... я про то, что bc fpu-инструкций не использует при работе с длинными числами.
ну может человек программу пишет, и там у него сомнения закрались в правильности расчётов. Проверить надо. Не маздайным-же калькулятором проверять?
и он сделал вывод, что борохлит fpu? сильно...
чего-то букварь не в тему... я про то, что bc fpu-инструкций не использует при работе с длинными числами.
Ещё-бы! Длинные числа не масштабируются. единственный вариант - использовать SSE.
и он сделал вывод, что борохлит fpu? сильно...
не знаю...