Точность (информатика)
Точность числового значения описывает количество цифр, которые используются для отображения этого значения. В научной среде это будет общее количество цифр (иногда называемых знаковыми цифрами или знаковыми цифрами) или, реже, количество дробных цифр или десятичных разрядов (количество цифр, следующих за десятичной точкой). Это второе определение полезно в финансовых и инженерных приложениях, где количество цифр в дробной части имеет особое значение.
В обоих случаях термин "точность" может быть использован для описания позиции, при которой неточный результат будет округлен. Например, при арифметике с плавающей точкой результат округляется до заданной или фиксированной точности, которая является длиной результирующего знака. В финансовых вычислениях число часто округляется до заданного числа мест (например, до двух мест после десятичного разделителя для многих мировых валют).
Например, десятичная цифра 12.345 может быть выражена различным количеством значащих цифр или десятичными разрядами. При недостаточной точности число округляется до некоторой степени, чтобы соответствовать имеющейся точности. В следующей таблице представлены результаты для различных суммарных прецизионных и десятичных разрядов, округленных до ближайшего значения методом округления до безубыточности.
Обратите внимание, что часто нецелесообразно отображать цифру с большим количеством цифр, чем та, которую можно измерить. Например, если прибор измеряет с точностью до грамма и дает показания 12,345 кг, то это создаст ложную точность, если измерение будет выражено "12,34500 кг" с двумя лишними нулями ("00") на конце.
Представление положительного числа x с точностью до p значащих цифр имеет численное значение, которое задается формулой
round(10-n-x)-10n, где n = floor(log10 x) + 1 - p.
Для отрицательного числа числовое значение минус абсолютное. Число 0, с любой точностью, может быть принято за 0.
Связанные страницы
Вопросы и ответы
В: Что такое точность в числовом значении?
О: Точность в числовом значении описывает количество цифр, которые используются для отображения этого значения.
В: Как можно использовать точность для описания положения, в котором будет округлен неточный результат?
О: Точность можно использовать для описания положения, в котором будет округлен неточный результат, установив заданную или фиксированную точность, которая является длиной результирующего знака. В финансовых расчетах число часто округляется до заданного количества мест (например, два места после десятичного разделителя для многих мировых валют).
В: Как можно выразить 12,345 с различным количеством значащих цифр или десятичных знаков?
О: 12.345 может быть выражено с различным количеством значащих цифр или десятичных знаков путем округления в соответствии с имеющейся точностью с помощью метода "от круглого к четному".
В: Что происходит при недостаточной точности?
О: Если точность недостаточна, то число округляется определенным образом, чтобы соответствовать имеющейся точности.
В: Уместно ли отображать число с большим количеством цифр, чем то, которое можно измерить?
О: Нет, не следует отображать число с большим количеством цифр, чем то, которое можно измерить, так как это создает ложную точность. Например, если прибор измеряет с точностью до грамма и дает показания 12,345 кг, то это создаст ложную точность, если измерение будет выражено "12,34500 кг" с двумя дополнительными нулями ("00") в конце.
В: Какая формула представляет положительные числа x с точностью p значащих цифр?
О: Формула, представляющая положительные числа x с точностью до p значащих цифр, имеет числовое значение round(10-n-x)-10n, где n = floor(log10 x) + 1 - p . Для отрицательных чисел числовое значение равно минус его абсолютной величине, а 0 имеет любую точность, принимаемую за 0
