Точность числового значения описывает количество цифр, которые используются для отображения этого значения. В научной среде это будет общее количество цифр (иногда называемых знаковыми цифрами или знаковыми цифрами) или, реже, количество дробных цифр или десятичных разрядов (количество цифр, следующих за десятичной точкой). Это второе определение полезно в финансовых и инженерных приложениях, где количество цифр в дробной части имеет особое значение.
В обоих случаях термин "точность" может быть использован для описания позиции, при которой неточный результат будет округлен. Например, при арифметике с плавающей точкой результат округляется до заданной или фиксированной точности, которая является длиной результирующего знака. В финансовых вычислениях число часто округляется до заданного числа мест (например, до двух мест после десятичного разделителя для многих мировых валют).
Например, десятичная цифра 12.345 может быть выражена различным количеством значащих цифр или десятичными разрядами. При недостаточной точности число округляется до некоторой степени, чтобы соответствовать имеющейся точности. В следующей таблице представлены результаты для различных суммарных прецизионных и десятичных разрядов, округленных до ближайшего значения методом округления до безубыточности.
Обратите внимание, что часто нецелесообразно отображать цифру с большим количеством цифр, чем та, которую можно измерить. Например, если прибор измеряет с точностью до грамма и дает показания 12,345 кг, то это создаст ложную точность, если измерение будет выражено "12,34500 кг" с двумя лишними нулями ("00") на конце.
Представление положительного числа x с точностью до p значащих цифр имеет численное значение, которое задается формулой
round(10-n-x)-10n, где n = floor(log10 x) + 1 - p.
Для отрицательного числа числовое значение минус абсолютное. Число 0, с любой точностью, может быть принято за 0.