Правила округления результатов измерений и значений погрешности

Обработка результатов измерений в лабораториях проводятся на калькуляторах и ПК, и просто удивительно, как магически действует на многих студентов длинных ряд цифр после запятой. «Так точнее» – считают они. Однако легко видеть, например, что запись a = 2.8674523 ± 0.076 бессмысленна. При ошибке 0.076 последние пять цифр числа не означает ровно ничего.

Если мы допускаем ошибку в сотых долях, то тысячным, тем более десятитысячным долям веры нет. Грамотная запись результата была бы 2.87 ± 0.08. Всегда нужно производить необходимые округления, чтобы не было ложного впечатления о большей, чем это есть на самом деле, точности результатов.

Правила округления
  1. Погрешность измерения округляют до первой значащей цифры, всегда увеличивая ее на единицу.
    Примеры:

243.871 ± 0.026 ≈ 243.87 ± 0.03;
243.871 ± 2.6 ≈ 244 ± 3;
1053 ± 47 ≈ 1050 ± 50.

Округление результата измерения достигается простым отбрасыванием цифр, если первая из отбрасываемых цифр меньше 5.
Примеры:

8.337 (округлить до десятых) ≈ 8.3;
833.438 (округлить до целых) ≈ 833;
0.27375 (округлить до сотых) ≈ 0.27.

Если первая из отбрасываемых цифр больше или равна 5 , (а за ней одна или несколько цифр отличны от нуля), то последняя из остающихся цифр увеличивается на единицу.
Примеры:

8.3351 (округлить дл сотых) ≈ 8.34;
0.2510 (округлитьь до десятых) ≈ 0.3;
271.515 (округлить до целых) ≈ 272.

Если отбрасываемая цифра равна 5 , а за ней нет значащих цифр (или стоят одни нули), то последнюю оставляемую цифру увеличивают на единицу, когда она нечетная, и оставляют неизменной, когда она четная.
Примеры:

0.875 (округлить до сотых) ≈ 0.88;
0.5450 (округлить до сотых) ≈ 0.54;
275.500 (округлить до целых) ≈ 276;
276.500 (округлить до целых) ≈ 276.

Примечание.

  1. Значащими называют верные цифры числа, кроме нулей, стоящих впереди числа. Например, 0,00807 – в этом числе имеется три значащих цифры: 8, ноль между 8 и 7 и 7 ; первые три нуля незначащие.
    8.12 · 10 3 – в этом числе 3 значащих цифры.
  2. Записи 15,2 и 15,200 различны. Запись 15,200 означает, что верны сотые и тысячные доли. В записи 15,2 – верны целые и десятые доли.
  3. Результаты физических экспериментов записывают только значащими цифрами. Запятую ставят сразу после отличной от нуля цифры, а число умножают на десять в соответствующей степени. Нули, стоящие в начале или конце числа, как правило, не записывают. Например, числа 0,00435 и 234000 записывают так: 4,35&middot10 -3 и 2,34·10 5 . Подобная запись упрощает вычисления, особенно в случае формул, удобных для логарифмирования.
  4. teachmen.ru

    Правила округления результатов измерений и значений погрешности

    4.5. Правила округления результатов измерений

    1. Погрешность результата измерения указывается двумя значащими цифрами, если первая из них равна 1 или 2, и одной — если первая цифра равна 3 или более.

    2. Результат измерения округляется до того же десятичного знака, которым оканчивается округленное значение абсолютной погрешности http://tvmmoscow.ru/ монтаж узлов учета тепловой тепловой узел монтаж. . Если десятичная дробь в числовом значении результата измерений оканчивается нулями, то нули отбрасываются до того разряда, который соответствует разряду числового значения погрешности.

    3. Если цифра старшего из отбрасываемых разрядов меньше 5, то остальные цифры числа не изменяются. Лишние цифры в целых числах заменяются нулями, а в десятичных дробях отбрасываются.

    6. Округление производится лишь в окончательном ответе, а все предварительные вычисления проводят с одним-двумя лишними знаками.

    Если руководствоваться этими правилами округления, то количество значащих цифр в числовом значении результата измерений дает возможность ориентировочно судить о точности измерения. Это связано с тем, что предельная погрешность, обусловленная округлением, равна половине единицы последнего разряда числового значения результата измерения.

    Для оценки влияния округления результата измерения Y представим его в виде

    (4.4)

    где А1 . А s — десятичные цифры и старшая цифра A 1 ≠ 0; R , P , S — целые числа, причем R — Р = S — 1.

    Абсолютная погрешность, обусловленная округлением, D = 0,5 × 10 P . В качестве оценки относительной предельной погрешности округления рекомендуется [4] принять

    поскольку деление абсолютной погрешности лишь на первый член суммы (4.4) ведет к увеличению числового значения оценки погрешности. Поскольку значения A 1 могут находиться в пределах от 1 до 9, то при одной значащей цифре ( S = 1) предельная погрешность округления может находится в пределах от 6 до 50%. При двух значащих цифрах она составит от 0,6 до 5%, при трех — от 0,06 до 0,5%.

    Оцененные границы погрешности округления характеризуют влияние округления на точность результата измерения. Кроме того, эти данные позволяют ориентироваться в минимально необходимом для записи результата измерений числе значащих цифр при его заданной точности.

    2. Назовите признаки, по которым классифицируются погрешности.

    4. Приведите известные вам примеры методических погрешностей.

    5. В чем заключаются принципы оценивания погрешностей?

    7. Какие характеристики погрешностей вам известны?

    8. Перечислите правила округления результатов измерений.

    Воспроизведениематериалов или их частей в любом виде иформе без письменного согласия запрещен

    ks-invest.ru

    2. Результат измерения округляется до того же десятичного разряда, которым оканчивается округленное значение абсолютной погрешности. (Например, результат 85.6342, погрешность 0.01. Результат округляют до 85.63. Тот же результат при погрешности в пределах 0.012 следует округлить до 85.634).

    3. Округление производится лишь в окончательном ответе, а все предварительные вычисления проводят с одним — двумя лишними знаками.

    4. Округление следует выполнять сразу до желаемого числа значащих цифр, поэтапное округление приводит к ошибкам.

    При округлении числовых значений погрешности и результата измерений необходимо руководствоваться следующими общими правилами округления.

    Лишние цифры в целых числах заменяются нулями, а в десятичных дробях отбрасываются. (Например, число 165245 при сохранении четырех значащих цифр округляется до 165200, а число 165.245 — до 165.2).

    Если десятичная дробь оканчивается нулями, они отбрасываются только до разряда, который соответствует разряду погрешности. (Например, результат измерений 235.200, погрешность 0.05. Результат округляют до 235.20. Тот же результат при погрешности в пределах 0.015 следует округлить до 235.200).

    Если первая (считая слева направо) из заменяемых нулями или отбрасываемых цифр меньше 5, остающиеся цифры не изменяются.

    Если первая из этих цифр равна 5, а за ней не следует никаких цифр, или идут нули, то, если последняя цифра в округляемом числе четная или нуль, она остается без изменения, если нечетная — увеличивается на единицу. (Например, число 1234.50 округляют до 1234, а число 8765.50 — до 8766).

    Если первая из заменяемых нулями или отбрасываемых цифр больше 5 или равна 5, но за ней следует значащая цифра, то последняя остающаяся цифра увеличивается на единицу. (Например, число 6783.6 при сохранении четырех значащих цифр, округляют до 6784, а число 12.34520 — до 12.35).

    Особенно внимательно следует относиться к записи результата измерения без указания погрешности, так как записи результата 2.4 10 3 В и 2400В не являются тождественными. Первая запись означает, что верны цифры тысяч и сотен вольт и истинное значение может находиться в интервале от 2.351кВ до 2.449кВ. Запись 2400 означает, что верны и единицы вольт, следовательно истинное значение напряжения может находиться в интервале от 2399.51В до 2400.49В.

    Поэтому запись результата без указания погрешности крайне нежелательна.

    Окончательно правила записи результата измерений можно сформулировать следующим образом.

    1) При промежуточных вычислениях значения погрешности сохраняют три -четыре значащие цифры.

    2) Окончательное значение погрешности и значение результата округляются в соответствии с изложенными выше правилами.

    3) При однократных технических измерениях когда учитывается только основная погрешность СИ (СИ используются в нормальных условиях эксплуатации), результат записывается в виде:

    или

    .

    (Например, результат измерения напряжения В, погрешность В. Результат может быть записан в виде:)

    4) При однократных технических измерениях в рабочих условиях, когда по нормативным данным на СИ учитывают основную и дополнительные погрешности и результирующую погрешность определяют по формуле (1.35), результат записывают в виде:

    5) При статистических измерениях, когда определяется только величина случайной погрешности нормально распределенных данных в виде доверительного интервала, результат записывается в соответствии с (1.31):

    Если границы доверительного интервала несимметрична, то они указываются по отдельности.

    6) При статистических измерениях, когда оцениваются границы неисключенных систематических погрешностей результата (НСП) и доверительный интервал случайной погрешности нормально распределенных данных, но результат используется как промежуточный для нахождения других величин (например, при статистических косвенных измерениях) или предполагается сопоставление его с другими результатами аналогичного измерительного эксперимента, результат записывается в соответствии с (1.39):

    если , то это указывается дополнительно, как в п. 5.

    Если границы НСП или границы доверительного интервала несимметричны, то они указываются по отдельности:

    7) Если при измерении получены оценки погрешности при условиях, оговоренных в п. 6, но результат является окончательным и не предполагается в дальнейшем анализ его и сопоставление с другими результатами, то он записывается в соответствии с (1.41):

    где определяется по формуле (1.40),

    если же , это указывается дополнительно, как в п. 5.

    8) При статистических измерениях, когда оцениваются границы НСП и доверительный интервал случайной погрешности, но при обработке результатов идентифицирован закон распределения, отличный от нормального, оценки значения результата измерения и доверительный интервал случайной погрешности находятся по соответствующим формулам [5], результат представляется в виде аналогичном представлению результата в п. 6, но дополнительно приводится информация о виде закона распределения опытных данных.

    9) Если как в п. 8 обрабатываются результаты статических измерений и заранее известно, что закон распределения опытных данных отличается от нормального, но действий по идентификации вида реального закона по какой-либо причине не предпринимается, то результат может быть представлен в виде, аналогичном представлению результата в п. 6, но доверительный интервал случайной погрешности определяется в соответствии с рекомендациями ГОСТ 11.001-73 как при доверительной вероятности .

    Запись результата может выглядеть, например, так:

    (при ); ; ; .

    Доверительная вероятность, при которой определяется суммарный НСП — , в этом случае может отличаться от .

    studfiles.net

    Рефераты и конспекты лекций по географии, физике, химии, истории, биологии. Универсальная подготовка к ЕГЭ, ГИА, ЗНО и ДПА!

    Физика — рефераты, конспекты, шпаргалки, лекции, семинары

    Правила округления значений погрешностей и результатов измерения

    Погрешности измерений показывают также, какие цифры в полученном результате измерения сомнительны, поэтому нет смысла в записи погрешности с большим числом знаков.

    По обычаю ограничиваются одной значащей цифрой и только при особо точных измерениях погрешность записывается двумя или тремя цифрами.

    Используют 3 правила округления рассчитанного значения погрешности и полученного экспериментального результата измерения:

    1. Погрешность результата измерения показывается двумя значащими цифрами, если первая из них 1 или 2, и одной — если первая цифра 3 и более.

    2. Результат измерения округляется до того же десятичного разряда, которым заканчивается округления значение абсолютной погрешности.

    3. Округление производится только в конечной ответы, а все предварительные расчеты проводят с одним — двумя лишними знаками.

    В соответствии с правилом 1 установлены и нормированные значения погрешностей 3В: в числах 1,5% или 2,5% показываются два знака, но в числах 0,5%, 4%, 6%; показывается только один знак.

    При округлении результатов измерения используют еще такие правила:

    1) лишние цифры в целых чисел заменяют нулями, а в дробных десятичных отвергают; н., 732 «700.

    2) если первая из заменяемых нулями или откидываемых цифр 5, то последняя из оставшихся цифр увеличивается на 1;

    3) если отвергаем цифра = 5 со следующими нулями, то округление производится до ближнего четного числа.

    Результаты измерения можно записать некоторыми значимыми цифрами и рядом нулей, но в этом случае и нули должны полностью определенное значение и характеризуют погрешность измерения. Н., пусть результат измерения их = 9,5 B, который можно записать цифрами: 9,5; 9,50; 9,500. В этих случаях нули после последней значащей цифры определяют показатель достоверности результатов измерения. С этой точки зрения эти записи необходимо читать так: 9,45

    worldofscience.ru

    Имя материала: Метрология

    Автор: Сергеев Алексей Георгиевич

    4.5. правила округления результатов измерений

    Поскольку погрешности измерений определяют лишь зону неопределенности результатов, их не требуется знать очень точно. В окончательной записи погрешность измерения принято выражать числом с одним или двумя значащими цифрами, Эмпирически были установлены следующие правила округления рассчитанного значения погрешности и полученного результата измерения.

    2. Результат измерения округляется до того же десятичного знака, которым оканчивается округленное значение абсолютной погрешности. Если десятичная дробь в числовом значении результата измерений оканчивается нулями, то нули отбрасываются до того разряда, который соответствует разряду числового значения погрешности.

    4. Если цифра старшего из отбрасываемых разрядов больше или равна 5, но за ней следуют отличные от нуля цифры, то последнюю оставляемую цифру увеличивают на единицу.

    5. Если отбрасываемая цифра равна 5, а следующие за ней цифры неизвестны или нули, то последнюю сохраняемую цифру числа не изменяют, если она четкая, и увеличивают на единицу, если она нечетная.

    (4.4)

    где А1 . Аs— десятичные цифры и старшая цифра A1 ≠ 0; R, P, S — целые числа, причем R — Р = S — 1.

    Абсолютная погрешность, обусловленная округлением, D = 0,5×10P. В качестве оценки относительной предельной погрешности округления рекомендуется [4] принять

    поскольку деление абсолютной погрешности лишь на первый член суммы (4.4) ведет к увеличению числового значения оценки погрешности. Поскольку значения A1 могут находиться в пределах от 1 до 9, то при одной значащей цифре (S = 1) предельная погрешность округления может находится в пределах от 6 до 50\%. При двух значащих цифрах она составит от 0,6 до 5\%, при трех — от 0,06 до 0,5\%.

    1. Перечислите возможные проявления погрешностей.

    3. Сформулируйте свойства случайной, систематической и прогрессирующей составляющих погрешности измерений.

    6. Расскажите о математических моделях погрешности измерения.

    8. Перечислите правила округления результатов измерений.

    9. Каким образом ориентировочно оценить погрешность результата измерения по числу его значащих цифр?

    Содержание

    Читать: Аннотация
    Читать: Предисловие
    Читать: Глава 1. предмет и задачи метрологии
    Читать: 1.1. предмет метрологии
    Читать: 1.2. структура теоретической метрологии
    Читать: 1.3. краткий очерк истории развития метрологии
    Читать: Глава 2. основные представления теоретической метрологии
    Читать: 2.1. физические свойства и величины
    Читать: 2.1.1. классификация величин
    Читать: 2.1.2. свойства, проявляющие себя только в отношении эквивалентности. понятие счета
    Читать: 2.1.4. экстенсивные величины, удовлетворяющие отношениям, эквивалентности, порядка и аддитивност2.1.5. шкалы измерений
    Читать: 2.2. измерение и его основные операции
    Читать: 2.3. элементы процесса измерений
    Читать: 2.5. постулаты теории измерений
    Читать: 2.6. классификация измерений
    Читать: 2.7. понятие об испытании и контроле
    Читать: Глава 3. теория воспроизведения единиц физических величин и передачи их размеров (теория единст3.1. системы физических величин и их единиц
    Читать: 3.2. принципы построения систем единиц физических величин
    Читать: 3.3. международная система единиц (система си)
    Читать: 3.4. воспроизведение единиц физических величин и передача их размеров
    Читать: 3.4.1. понятие о единстве измерений
    Читать: 3.4.2. эталоны, единиц физических величин
    Читать: 3.4.3. поверочные схемы
    Читать: 3.4.4. способы поверки средств измерений
    Читать: 3.4.5. стандартные образцы
    Читать: 3.5. эталоны единиц системы си
    Читать: Глава 4. основные понятия теории погрешностей
    Читать: 4.1. классификация погрешностей
    Читать: 4.2. принципы оценивания погрешностей
    Читать: 4.3. математические модели и характеристики погрешностей
    Читать: 4.4. погрешность и неопределенность
    Читать: 4.5. правила округления результатов измерений
    Читать: Глава 5. систематические погрешности
    Читать: 5.1. систематические погрешности и их классификация
    Читать: 5.2. способы обнаружения и убтранения систематических погрешностей
    Читать: Глава 6. случайные погрешности
    Читать:
    Читать: 6.1. вероятностное описание случайных погрешностей
    Читать: 6.2. числовые параметры законов распределения
    Читать: 6.2.1. общие сведения
    Читать: 6.2.2. понятие центра распределения
    Читать: 6.2.3. моменты распределений
    Читать: 6.2.4. энтропийное значение погрешности
    Читать: 6.3. основные законы распределения
    Читать: 6.3.1. общие сведения
    Читать: 6.3.2. трапецеидальные распределения
    Читать: 6.3.3. экспоненциальные распределения
    Читать: 6.3.4. нормальное распределение (распределение гаусса)
    Читать: 6.3.5. уплощенные распределения
    Читать: 6.3.6. семейство распределений стъюдента
    Читать: 6.3.7. двухмодальные распределения
    Читать: 6.4. точечные оценки законов распределения
    Читать: 6.5. доверительная вероятность и доверительный интервал
    Читать: Глава 7. грубые погрешности и методы их исключения
    Читать: 7.1. понятие о грубых погрешностях
    Читать: 7.2. критерии исключения грубых погрешностей
    Читать: Глава 8. обработка результатов измерений
    Читать: 8.1. прямые многократные измерения
    Читать: 8.1,1. равноточные измерения
    Читать: 8.1.2. идентификация формы распределения результатов измерений
    Читать: 8.2. однократные измерения
    Читать: 8.3. косвенные измерения
    Читать: 8.4. совместные и совокупные измерения
    Читать: Глава 9. суммирование погрешностей
    Читать: 9.1. основы теории суммирования погрешностей
    Читать: 9.2. суммирование систематических погрешностей
    Читать: 9.3. суммирование случайных погрешностей
    Читать: 9.4. суммирование систематических и случайных погрешностей
    Читать: 9.5. критерий ничтожно малой погрешности
    Читать: Глава 10. измерительные сигналы
    Читать: 10.1. классификация сигналов
    Читать: 10.1.1. классификация измерительных сигналов
    Читать: 10.1.2. классификация помех
    Читать: 10.2. математическое описание измерительных сигналов
    Читать: 10.3. математические модели элементарных измерительных сигналов
    Читать: 10.5. квантование и дискретизация измерительных сигналов

    bugabooks.com

Смотрите так же:

  • Штрафы по отчету есв 2018 Единый социальный взнос - 2018 (ЕСВ) 9. Часто зaдаваемые вопросы о EСВ ·03· ИНК ГФCУ №183/6/99-99-. /ІПК oт 17.01.18 - начисление на декретные, больничные инвалиду. ·04· 27.03.2018 Видeо Материальная помощь: предоставление, […]
  • Гарантия на товар по закону о защите прав Гарантия на товар по закону о защите прав I. Общие положения. 1. Гарантия на проданные товары подразумевает под собой бесплатный ремонт в течение гарантийного срока, либо их замену на аналогичные в случае невозможности ремонта. 2. […]
  • Syndicate изменить разрешение Syndicate изменить разрешение Жанр: Action/Shooter Издатель: Electronic Arts Разработчик: Starbreeze Платформы: PC, PS3, Xbox360 Дата выхода: 23 февраля 2012 года Официальный сайт ) прописать команду Cheat1,после этого прописать […]
  • Правила пдд категории сд 2014 Экзаменационные билеты ПДД категории СД 2018 года Экзаменационные билеты CD ГИБДД 2018 Официальные экзаменационные билеты категории СД 2018 года. Билеты и комментарии составлены на основе ПДДот 18 июля 2018 года (применяются с 10 апреля […]
  • Гпк документы прикладываемые к исковому заявлению Новая редакция Ст. 132 ГПК РФ документ, подтверждающий уплату государственной пошлины; Комментарий к Статье 132 ГПК РФ Из содержания абз. 2 и 5 ст. 132 ГПК РФ следует, что копии искового заявления, а также документов - доказательств […]
  • Закон об образовании ст 47 п 3 Согласно п. 5 ст. 47 273-ФЗ "педагогические работники имеют право на дополнительное профессиональное образование по профилю педагогической деятельности не реже чем один раз в три года". Что значит "профилю педагогической деятельности"? По […]