вторая значащая цифра что это
Значащие цифры
Смотреть что такое «Значащие цифры» в других словарях:
ЗНАЧАЩИЕ ЦИФРЫ — (значащие разряды), цифры числа, которые выражают его с требуемой точностью; последние цифры могут быть округлены. Так, число 2,871828, округленное до шести цифр, будет представлено как 2,87183; округленное до трех цифр как 2,87 … Научно-технический энциклопедический словарь
ЗНАЧАЩИЕ ЦИФРЫ — в приближенных вычислениях все цифры числа, начиная с первой слева, отличной от нуля, до последней, за правильность которой можно ручаться. Напр., в записи результата взвешивания 0,03020 кг значащими цифрами будут 3, 0, 2 и 0 … Большой Энциклопедический словарь
значащие цифры — в приближённых вычислениях, все цифры числа, начиная с первой слева, отличной от нуля, до последней, за правильность которой можно ручаться. Например, в записи результата взвешивания 0,03020 кг значащими цифрами будут 3, 0, 2 и 0. * * * ЗНАЧАЩИЕ… … Энциклопедический словарь
ЗНАЧАЩИЕ ЦИФРЫ — в приближённых вычислениях все цифры числа, начиная с первой слева, отличной от нуля, до последней, за правильность к рой можно ручаться. Напр., в записи результатов взвешивания 0,320 кг 3. ц. будут 3, 2 и 0 … Большой энциклопедический политехнический словарь
ЗНАЧАЩИЕ ЦИФРЫ — в приближённых вычислениях, все цифры числа, начиная с первой слева, отличной от нуля, до последней, за правильность к рой можно ручаться. Напр., в записи результата взвешивания 0,03020 кг значащими цифрами будут 3, 0, 2 и 0 … Естествознание. Энциклопедический словарь
Закон Бенфорда — Закон Бенфорда, или закон первой цифры, описывает вероятность появления определённой первой значащей цифры в распределениях величин, взятых из реальной жизни. Закон верен для многих таких распределений, но не для всех. Ра … Википедия
АРИФМЕТИКА — искусство вычислений, производимых с положительными действительными числами. Краткая история арифметики. С глубокой древности работа с числами подразделялась на две различные области: одна касалась непосредственно свойств чисел, другая была… … Энциклопедия Кольера
Логарифм — График двоичного логарифма Логарифм числа … Википедия
Метод одной касательной — Метод Ньютона (также известный как метод касательных) это итерационный численный метод нахождения корня (нуля) заданной функции. Метод был впервые предложен английским физиком, математиком и астрономом Исааком Ньютоном (1643 1727), под именем… … Википедия
Метод Ньютона — Метод Ньютона, алгоритм Ньютона (также известный как метод касательных) это итерационный численный метод нахождения корня (нуля) заданной функции. Метод был впервые предложен английским физиком, математиком и астрономом Исааком Ньютоном… … Википедия
1. ПРАВИЛА ЗАПИСИ ЧИСЕЛ
имеет три значащие цифры;
имеет две значащие цифры;
имеет три значащие цифры;
имеет три значащие цифры;
имеет две значащие цифры.
1.2. Когда необходимо указать, что число является точным, после числа должно быть указано слово «точно» или же последняя значащая цифра печатается жирным шрифтом
Пример. В печатном тексте:
1 кВт·ч = 3 600 000 Дж (точно), или = 3600000 Дж
1.3. Следует различать записи приближенных чисел по количеству значащих цифр.
1. Следует различать числа 2,4 и 2,40. Запись 2,4 означает, что верны только цифры целых и десятых; истинное значение числа может быть например 2,43 и 2,38. Запись 2,40 означает, что верны и сотые доли числа; истинное число может быть 2,403 и 2,398, но не 2,421 и не 2,382.
Утвержден Постоянной Комиссией по стандартизации
Улан-Батор, июнь 1977 г.
1.4. Число, для которого указывается допускаемое отклонение, должно иметь последнюю значащую цифру того же разряда как и последняя значащая цифра отклонения.
1.5. Числовые значения величины и ее погрешности (отклонения) целесообразно записывать с указанием одной и той же единицы физических величин.
Пример. 80,555±0,002 кг
1.6. Интервалы между числовыми значениями величин следует записывать:
От 60 до 100 или от 60 до 100
Свыше 100 до 120 или свыше 100 до 120
Свыше 120 до 150 или свыше 120 до 150.
1.7. Числовые значения величин должны указываться в стандартах с одинаковым числом разрядов, которое необходимо для обеспечения требуемых эксплуатационных свойств и качества продукции. Запись числовых значений величин до первого, второго, третьего и т. д. десятичного знака для различных типоразмеров, видов марок продукции одного названия, как правило, должна быть одинаковой. Например, если градация толщины стальной горячекатаной ленты 0,25 мм, то весь ряд толщин ленты должен быть указан с точностью до второго десятичного знака.
В зависимости от технической характеристики и назначения продукции количество десятичных знаков числовых значений величин одного и того же параметра, размера, показателя или нормы может иметь несколько ступеней (групп) и должно быть одинаковым только внутри этой ступени (группы).
2. ПРАВИЛА ОКРУГЛЕНИЯ
2.1. Округление числа представляет собой отбрасывание значащих цифр справа до определенного разряда с возможным изменением цифры этого разряда.
Пример. Округление числа 132,48 до четырех значащих цифр будет 132,5.
2.2. В случае, если первая из отбрасываемых цифр (считая слева направо) меньше 5, то последняя сохраняемая цифра не меняется.
Пример. Округление числа 12,23 до трех значащих цифр дает 12,2.
2.3. В случае, если первая из отбрасываемых цифр (считая слева направо) равна 5, то последняя сохраняемая цифра увеличивается на единицу.
Пример. Округление числа 0,145 до двух значащих цифр дает 0,15.
Примечание. В тех случаях, когда следует учитывать результаты предыдущих округлений, следует поступать следующим образом:
1) если отбрасываемая цифра получилась в результате предыдущего округления в большую сторону, то последняя сохраняемая цифра сохраняется;
Пример. Округление до одной значащей цифры числа 0,15 (полученного после округления числа 0,149) дает 0,1.
2) если отбрасываемая цифра получилась в результате предыдущего округления в меньшую сторону, то последняя оставшаяся цифра увеличивается на единицу (с переходом при необходимости в следующие разряды).
Пример. Округление числа 0,25 (полученного в результате предыдущего округления числа 0,252) дает 0,3.
2.4. В случае, если первая из отбрасываемых цифр (считая слева направо) больше 5, то последняя сохраняемая цифра увеличивается на единицу.
Пример. Округление числа 0,156 до двух значащих цифр дает 0,16.
2.5. Округление следует выполнять сразу до желаемого количества значащих цифр, а не по этапам.
Пример. Округление числа 565,46 до трех значащих цифр производится непосредственно на 565. Округление по этапам привело бы к:
2.6. Целые числа округляют по тем же правилам, как и дробные.
3. Стандарт СЭВ утвержден на 41-м заседании ПКС.
4. Сроки начала применения стандарта СЭВ:
Срок начала применения стандарта СЭВ в договорно-правовых отношениях по экономическому и научно-техническому сотрудничеству
Срок начала применения стандарта СЭВ в народном хозяйстве
Значащие цифры и правила округления
Принято экспериментальные данные и результаты расчетов выражать только значащими цифрами. Значащими называют все достоверно известные цифры плюс первая из недостоверных, т.е. все результаты следует округлять до первой недостоверной цифры.
Для оценки достоверности результатов определений следует учитывать реальные возможности используемого метода или методики. В качестве статистических критериев при этом может служить, например, стандартное отклонение или доверительный интервал. Если такие сведения отсутствуют, недостоверность принимают равной ±1 в последней значащей цифре.
Если за первой недостоверной цифрой следует цифра 5, округление проводят в сторону ближайшего четного числа (по некоторым рекомендациям в сторону ближайшего большего числа). Например, число 17,465 следует округлить до 17,46, если цифра 6 недостоверна. Рекомендуется округлять конечный результат после выполнения всех арифметических действий.
Сложение и вычитание. Значимость суммы или разности определяется значимостью числа с наименьшим числом десятичных знаков. Например, при сложении чисел 50,1, 2 и 0,55 значимость определяется недостоверностью числа 2 и, следовательно, сумму чисел 52,65 следует округлить до 53.
Умножение и деление. Для оценки значимости произведения (или частного) часто пользуются следующим правилом: значимость произведения (или частного) определяется значимостью сомножителя с наименьшим числом значащих цифр. Например, перемножение чисел 1,5 и 2,35 дает произведение, содержащее две значащие цифры, т.е. 3,5.
Возведение в степень. При возведении числа в степень относительная недостоверность результата увеличивается в число раз, равное степени. Например, при возведении в квадрат она удваивается.
Литература
1. Закон РФ «Об обеспечении единства измерений» от 27.04.93 № 4871-1.
2. МИ 2091-90. Государственнная система обеспечения единств измерений. Измерения физических величин. Общие требования.- М.: ВНИИМС Госстандарта России, 1990.
4. В.Д.Крылова Основы стандартизации, сертификации, метрологии.- М.: ЮНИТИ., 2001.
Правила округления. Обработка и представление результатов измерений. Процедура
Обработка и представление результатов измерений. Процедура
1. Назначение и область применения
1.1. Процедура устанавливает единые требования к обработке и представлению результатов измерений, полученных в лаборатории (центре).
1.2. Представление результатов измерений в лабораторных журналах и в документах, выдаваемых лабораторией, осуществляется согласно методикам измерений и данной процедуре.
1.3. Требования настоящей процедуры распространяются на всех специалистов лаборатории (центра).
2. Нормативные ссылки
2.1. СТ СЭВ 543-77 «Числа. Правила записи и округления» (настоящий стандарт является обязательным в рамках Конвенции о применении стандартов СЭВ);
2.2. ГОСТ 8.736-2011 «Государственная система обеспечения единства измерений (ГСИ). Измерения прямые многократные. Методы обработки результатов измерений. Основные положения»;
2.3. МР 18.1.04-2005 «Система контроля качества результатов анализа проб объектов окружающей среды»;
2.4. ПМГ 96-2009 «Государственная система обеспечения единства измерений (ГСИ). Результаты и характеристики качества измерений. Формы представления» (правила по межгосударственной стандартизации введены в действие для добровольного применения в РФ в качестве рекомендаций по метрологии РФ).
Примеры
1) Число 12,0 – имеет три значащие цифры;
2) Число 30 – имеет две значащие цифры;
3) Число 120 × 10 3 – имеет три значащие цифры;
4) Число 0,514 × 10 – имеет три значащие цифры;
5) Число 0,0056 × 10 – имеет две значащие цифры;
6) Число 0,704 – имеет три значащие цифры;
7) Число 68 – имеет две значащие цифры.
Таким образом, нули вначале числа всегда незначимы; нули в середине числа между ненулевыми цифрами значимы; нули в конце числа могут быть значимыми и незначимыми.
По количеству значащих цифр осуществляется запись приближенных чисел (согласно СТ СЭВ 543-77).
Пример
Следует различать числа 2,4 и 2,40.
Запись 2,4 означает, что верны только цифры целых и десятых; истинное значение числа может быть, например, 2,43 и 2,38.
Запись 2,40 означает, что верны и сотые доли числа; истинное число может быть, например, 2,403 и 2,398, но не 2,421 и не 2,382.
3.2. Округление числа – это отбрасывание значащих цифр справа до определенного разряда с возможным изменением цифры этого разряда (согласно СТ СЭВ 543-77).
В случае, если первая из отбрасываемых цифр (считая слева направо) меньше 5, то последняя сохраняемая цифра не меняется.
В случае, если первая из отбрасываемых цифр (считая слева направо) равна или больше 5, то последняя сохраняемая цифра увеличивается на единицу.
Округление следует выполнять сразу до желаемого числа значащих цифр, поэтапное округление может привести к ошибкам.
Примеры
1) Если число 12,364 требуется округлить до сотых долей, после округления получаем число 12,36; если число 12,364 требуется округлить до десятых долей, после округления получаем число 12,4.
2) Если число 0,703 требуется округлить до сотых долей, получаем число 0,70; если число 0,703 требуется округлить до десятых долей, после округления получаем число 0,7.
3) Если число 0,703 требуется округлить до двух значащих цифр, после округления получаем число 0,70; если число 0,703 требуется округлить до одной значащей цифры, после округления получаем число 0,7.
4) Если число 0,429 требуется округлить до двух значащих цифр, после округления получаем число 0,43; если число 0,429 требуется округлить до одной значащей цифры, после округления получаем число 0,4.
5) Если число 8,574 требуется округлить до двух значащих цифр, после округления получаем число 8,6; если число 8,574 требуется округлить до одной значащей цифры, после округления получаем число 9.
6) Поэтапное округление результата измерения 227,46 дает на первом этапе 227,5 и на втором этапе 228, в то время как правильный результат округления 227.
3.3. Окончательный результат – это результат измерения с погрешностью, который вносится испытателями в лабораторные журналы. Окончательный результат выдается лабораторией в протоколе испытаний.
3.4. Промежуточные результаты – это вся информация по анализу от показания приборов до окончательного результата (в том числе расчеты результатов единичных определений; расчет результата измерения как среднеарифметическое значение результатов единичных определений, полученных в условиях повторяемости; контроль повторяемости; расчет погрешности). Промежуточные результаты заносятся испытателями в лабораторные журналы, но в протоколах испытаний не выдаются.
4.1. Требования к промежуточному результату
4.1.1. Число значащих цифр в промежуточных вычислениях при обработке результатов измерений должно быть больше, чем в окончательном результате.
4.1.2. Если значение погрешности (неопределенности) результата измерений представлено числом, содержащим две значащие цифры, то для промежуточных результатов расчета сохраняем не менее трех значащих цифр.
4.1.3. Если значение погрешности (неопределенности) результата измерений представлено числом, содержащим одну значащую цифру, то для промежуточных результатов расчета сохраняем не менее двух значащих цифр.
4.1.4. При проведении промежуточных расчетов в рукописных лабораторных журналах в числовых значениях измеряемой величины и погрешности следует оставлять столько значащих цифр, чтобы в окончательном результате не появлялась ошибка, связанная с поэтапным округлением.
Примеры
Промежуточные результаты | Окончательные результаты |
0,178 ± 0,053 | 0,18 ± 0,05 |
0,1784 ± 0,0533 | 0,178 ± 0,053 |
1,22 ± 0,18 | 1,2 ± 0,2 |
1,224 ± 0,183 | 1,22 ± 0,18 |
3,74 ± 0,748 | 3,7 ± 0,7 |
3,742 ± 0,748 | 3,74 ± 0,75 |
12,83 ± 1,28 | 12,8 ± 1,3 |
54,2 ± 5,4 | 54 ± 5 |
54,23 ± 5,42 | 54,2 ± 5,4 |
177,6 ± 33,7 | 178 ± 34 |
2357,4 ± 212,2 | 2357 ± 212 |
11624,8 ± 5812,4 | 11624 ± 5812 |
4.2. Требования к окончательному результату
4.2.1. Числовые значения результата измерений и его погрешности (неопределенности) записываются с указанием одной и той же единицы измерения.
Примеры
(5,4 ± 0,5) мг/дм³;
(6,1 ± 0,7) ммоль/ дм³.
4.2.2. Числовое значение результата измерений должно оканчиваться цифрой того же разряда, что и значение его погрешности (неопределенности).
Примеры
Правильно | Неправильно |
0,043 ± 0,004 | 0,043 ± 0,0043 |
0,0428 ± 0,0043 | 0,0428 ± 0,004 |
17,0 ± 0,2 | 17,00 ± 0,2 или 17 ± 0,2 |
12,13 ± 0,17 или 12,1 ± 0,2 | 12,1 ± 0,17 или 12,13 ± 0,2 |
46,40 ± 4,64 или 46,4 ± 4,6 | 46,402 ± 4,64 или 46,4 ± 4,64 |
4.2.3. Значение погрешности (неопределенности) результата измерений представляют числом, содержащим одну или две значащих цифры. Если числовое значение погрешности (неопределенности) в целой части числа содержит три и более цифр, то результат и погрешность округляются до целых чисел без подсчета количества значащих цифр.
Примеры
Результаты измерения |
0,14 ± 0,05 |
0,164 ± 0,051 |
1,1 ± 0,1 |
1,18 ± 0,11 |
3,6 ± 0,6 |
3,28 ± 0,54 |
12,4 ± 1,2 |
44 ± 4 |
44,2 ± 4,4 |
168 ± 34 |
2357 ± 212 |
23684 ± 1184 |
4.2.4. Если заказчик требует другие формы представления результатов измерений, лаборатория оставляет за собой право учитывать эти требования.
Ответственность за правильность обработки и представления результатов измерений несут специалисты лаборатории.
Представление результатов измерений на примере определения обобщенных и химических показателей в воде с учетом требований методик измерений
1. Железо общее (ГОСТ 4011-72)
Округлять результат до двух значащих цифр.
Примеры
Окончательные результаты, мг/дм³ | Промежуточные результаты, мг/дм³ |
0,12 ± 0,03 | 0,116 ± 0,029 |
0,18 ± 0,04 | 0,178 ± 0,0445* |
0,18 ± 0,05 | 0,183 ± 0,046 |
0,31 ± 0,08 | 0,308 ± 0,077 |
1,3 ± 0,3 | 1,26 ± 0,32 |
1,8 ± 0,3 | 1,77 ± 0,32 |
12 ± 2 | 12,4 ± 2,2 |
25 ± 5 | 25,3 ± 4,6 |
2. Хлориды (ПНД Ф 14.1:2:3.96-97)
Численные значения результата измерений должны оканчиваться цифрой того же разряда, что и значения характеристики погрешности.
3. Фосфорсодержащие вещества (ГОСТ 18309-2014)
Числовое значение результата измерений должно оканчиваться цифрой того же разряда, что и значение характеристики погрешности, выраженное в мг/дм³ и содержащее не более двух значащих цифр.
4. Взвешенные вещества (ПНД Ф 14.1:2:3.110-97)
Численные значения результата измерений должны оканчиваться цифрой того же разряда, что и значения характеристики погрешности.
5. Цветность (ГОСТ 31868-2012)
В протоколе указывают метод определения цветности по настоящему стандарту, результат с указанием единиц измерения (например, градусов цветности по хром-кобальтовой шкале Cr-Co) и температуру пробы анализируемой воды.
При определении цветности при постоянной комнатной температуре (20 ± 5) °С в конкретной лаборатории допускается по согласованию с заказчиком не указывать в протоколе значение температуры.
6. Металлы (ПНД Ф 14.1:2:4.139-98)
Примеры записи числовых значений:
Диапазон, мг/дм³ | Точность округления, мг/дм³ |
от 0,004 до 0,01 вкл. | 0,0001 |
от 0,01 до 0,1 вкл. | 0,001 |
от 0,1 до 1 вкл. | 0,01 |
от 1 до 10 вкл. | 0,1 |
свыше 10 | 1 |
7. Алюминий (ГОСТ 18165-2014)
Числовое значение результата измерений должно оканчиваться цифрой того же разряда, что и абсолютное значение характеристики погрешности измерений, выраженное в мг/дм³. Абсолютное значение характеристики погрешности измерений представляют двумя значащими цифрами, если первая цифра не превышает 3. В остальных случаях оставляют одну значащую цифру.
Примеры
Окончательные результаты, мг/дм³ | Промежуточные результаты, мг/дм³ |
0,287 ± 0,057 | 0,2872 ± 0,0574 |
0,262 ± 0,052 | 0,2623 ± 0,05246* |
2,38 ± 0,48 | 2,381 ± 0,476 |
13,5 ± 2,7 | 13,47 ± 2,69 |
16,6 ± 3,3 | 16,62 ± 3,32 |
22 ± 4 | 21,8 ± 4,4 |
27 ± 5 | 27,4 ± 5,48* |
38 ± 7 | 38,47* ± 7,7 |
51 ± 10 | 51,46* ± 10,3 |
8. Нефтепродукты (ПНД Ф 14.1:2:4.128-98)
Примеры записи числовых значений, мг/дм³:
0,009 ± 0,005 | 0,08 ± 0,03 |
0,65 ± 0,16 | 3,5 ± 0,9 |
3,5 ± 0,9 | 25 ± 6 |
9. Анионные поверхностно-активные вещества (ПНД Ф 14.1:2:4.158-2000)
Примеры записи для питьевой воды, мг/дм³ | Примеры записи для природной и сточной воды, мг/дм³ |
0,028 ± 0,010 | 0,080 ± 0,032 |
0,44 ± 0,12 | 0,35 ± 0,11 |
4,8 ± 1,0 | 71 ± 17 |
10. Щелочность (МП УВК 1.19-2013)
Численные значения результата количественного химического анализа должны оканчиваться цифрой того же разряда, что и численное значение характеристики погрешности. Характеристику погрешности измерения следует выражать числом, содержащим не более двух значащих цифр.
11. Температура, прозрачность, запах (РД 52.24.496-2018)
Численное значение результата измерений должно оканчиваться цифрой того же разряда, что и значение характеристики погрешности.
12. Кальций (РД 52.24.403-2018)
Численные значения результата измерений должны оканчиваться цифрой того же разряда, что и значения погрешности; последние не должны содержать более двух значащих цифр.
13. Перманганатная окисляемость (ПНД Ф 14.1:2:4.154-99)
Результаты измерений округляют с точностью:
Диапазон, мг/дм³ | Точность округления, мг/дм³ |
от 0,25 до 1,0 вкл. | 0,01 |
от 1,0 до 10 вкл. | 0,1 |
свыше 10 | 1 |
14. Фториды (ПНД Ф 14.1:2:4.270-2012)
Результаты измерений концентрации фторид-ионов при занесении в протокол округляют с точностью:
Диапазон, мг/дм³ | Точность округления, мг/дм³ |
от 0,15 до 10 вкл. | 0,01 |
свыше 10 | 0,1 |
15. Растворенный кислород (ПНД Ф 14.1:2:3.101-97)
Численные значения результата измерений должны оканчиваться цифрой того же разряда, что и значения характеристики погрешности.
Значимые цифры: правила, примеры, решенные упражнения
Содержание:
А что происходит, когда число целое? Это означает, что он известен с максимально возможной точностью, другими словами, он имеет бесконечную точность. Например, при подсчете людей, животных или таких предметов, как книги и телефоны, результатом будет точное целое число.
Если мы скажем, что в кинотеатре 110 человек смотрят фильм, это точное число, ни много, ни мало, и оно состоит из трех значащих цифр.
Значительные числа обрабатываются по некоторым простым правилам, которые запоминаются после небольшой практики, как мы увидим дальше.
Правила определения значащих цифр числа
Правило 1
Начальные нули не считаются значащими цифрами, поэтому 0,045 и 4,5 имеют две значащие цифры, поскольку они начинают отсчет слева и начиная с первой ненулевой цифры.
Правило 2
Нули после (справа) первой значащей цифры действительно считаются значащей цифрой (если это оправдано точностью измерительного прибора).
Наконец, нули в середине также считаются значащей цифрой.
Правило 3
Для чисел, записанных в экспоненциальном представлении, все цифры в мантиссе значимы, а показатель степени не влияет на точность.
Правило 4
При выполнении операций с десятичными знаками, например при вычислении площадей или других подобных операций, результат должен иметь такое же количество значащих цифр, что и количество с наименьшим количеством значащих цифр, участвовавших в операции. Это правило действует для любых арифметических операций.
Правило 5
Знак числа не влияет на количество его значащих цифр.
Мы сразу же увидим некоторые примеры этого и всех других правил.
Примеры
Пример 1
Найдите, сколько значащих цифр в каждом из этих чисел.
Ответы
а) 876 имеет 3 значащих цифры.
б) 1000,68 имеет 6 значащих цифр, поскольку нули в середине считаются как таковые.
c) Вместо 0,00005026 имеется 4 значащих цифры. Обратите внимание, что 5 нулей слева от 5 не считаются значащими цифрами, тогда как 0 между 5 и 2 считается.
г) 4.8 имеет 2 значащих цифры.
Пример 2
Обычно измерения проводят с помощью измерительных инструментов, таких как рулетки, часы, термометры, весы и т. Д. Со сколькими значащими цифрами мы должны указывать количества, которые мы измеряем таким образом?
Ответить
Это зависит от оценки инструмента, которым он измеряется. Возьмем пример: измерьте внешний диаметр трубы с помощью градуированной линейки и штангенциркуля.
Он более точен, чем градуированная линейка, потому что с его помощью мы можем узнать более значащие числа определенной длины.
Вот почему нет смысла сообщать периметр, скажем, 35,88 см, если мы измеряем его рулеткой, поскольку этот инструмент недостаточно точен, чтобы указать такое количество значащих цифр.
Оценка рулетки A определяется по:
Пример 3
Сколько значащих цифр в показании цифрового термометра?
Ответить
Термометр на рисунке показывает трехзначные показания температуры. Однако в показанном измерении 36,6 ºC только первые две цифры слева направо являются точными, поскольку на десятичную дробь влияет погрешность оценки прибора, которая обычно указывается на задней стороне прибора или на ваше руководство по эксплуатации.
Обычно для представленного типа цифрового прибора погрешность оценки составляет 0,1 ºC. Этого достаточно, чтобы быть уверенным, что у вас нет температуры.
Правила округления чисел
При использовании калькулятора для выполнения расчетов с полученными измерениями некорректно давать результат, используя все цифры, которые появляются на экране.
Сохраняются только те, которые точно известны, поскольку только они имеют истинное значение. Затем необходимо округлить результаты, чтобы они соответствовали количеству точно известных цифр. Вот эти правила:
-Если число, следующее за цифрой, которую необходимо скрыть, является равно или больше 5, к этой цифре добавляется 1.
Например, при округлении 3,786 до двух десятичных знаков мы хотим сохранить числа до 8. Поскольку число, следующее за (6), больше 5, 8 становится 8 + 1 = 9, и число остается как 3.79.
-Когда число, следующее за цифрой, которую необходимо сохранить, менее 5, цифра останется прежней.
Если мы хотим округлить 1,27924, чтобы у него было только 3 десятичных разряда, это достигается путем достижения 9, за которым следует 2. Поскольку 2 меньше 5, эти десятичные дроби исчезают, а округленное число остается 1,279.
Упражнение решено
Обеденный стол имеет форму и размеры, указанные на прилагаемом рисунке. Вам предлагается рассчитать его площадь по правилам работы со значащими цифрами.
Решение
Зона стола может быть разделена на центральную прямоугольную зону и два полукруга, по одному с каждой стороны, которые вместе составляют один полный круг.
Мы будем называть A1 к площади прямоугольника, задаваемой:
К1 = основание × высота = 2,5 м x 1,0 м = 2,5 м 2
Со своей стороны, площадь круга, равная площади 1 полукруга, умноженной на 2, равна:
Диаметр любого из полукругов составляет 1,0 м, поэтому радиус равен 0,50 м. Диаметр также можно использовать напрямую для расчета площади, в этом случае:
К2 = (π × диаметр 2 ) / 4
К2 = [π x (1,0 м) 2 ] / 4 = 0,785398163 м 2
Были использованы все цифры, предоставленные калькулятором. Теперь добавляем A1 уже2 для общей площади стола A:
A = (2,5 + 0,785398163) м 2 = 3,285398163 м 2
Поскольку размеры таблицы известны до двух значащих цифр, не имеет смысла выражать результат со всеми десятичными знаками, указанными калькулятором, который никогда не дает количество значащих цифр в результате.
Что вам нужно сделать, так это округлить область так, чтобы в ней было такое же количество значащих цифр, что и размеры таблицы, то есть 2. Таким образом, окончательный результат будет представлен следующим образом: