ГЛАВНАЯ Визы Виза в Грецию Виза в Грецию для россиян в 2016 году: нужна ли, как сделать

Правила округления. Программа Microsoft Excel: округление чисел

Округление мы часто используем в повседневной жизни. Если расстояние от дома до школы будет 503 метра. Мы можем сказать, округлив значение, что расстояние от дома до школы 500 метров. То есть мы приблизили число 503 к более легко воспринимающемуся числу 500. Например, булка хлеба весит 498 грамм, то можно сказать округлив результат, что булка хлеба весит 500 грамм.

Округление – это приближение числа к более “легкому” числу для восприятия человека.

В итоге округления получается приближенное число. Округление обозначается символом ≈, такой символ читается “приближённо равно”.

Можно записать 503≈500 или 498≈500.

Читается такая запись, как “пятьсот три приближенно равно пятистам” или “четыреста девяносто восемь приближенно равно пятистам”.

Разберем еще пример:

44 71≈4000 45 71≈5000

43 71≈4000 46 71≈5000

42 71≈4000 47 71≈5000

41 71≈4000 48 71≈5000

40 71≈4000 49 71≈5000

В данном примере было произведено округление чисел до разряда тысяч. Если посмотреть закономерность округления, то увидим, что в одном случае числа округляются в меньшую сторону, а в другом – в большую. После округления все остальные числа после разряда тысяч заменили на нули.

Правила округления чисел:

1) Если округляемая цифра равна 0, 1, 2, 3, 4, то цифра разряда до которого идет округление не меняется, а остальные числа заменяются нулями.

2) Если округляемая цифра равна 5, 6, 7, 8, 9, то цифра разряда до которого идет округление становиться на 1 больше, а остальные числа заменяются нулями.

Например:

1) Выполните округление до разряда десятков числа 364.

Разряд десятков в данном примере это число 6. После шестерки стоит число 4. По правилу округления цифра 4 разряд десятков не меняет. Записываем вместо 4 нуль. Получаем:

36 4 ≈360

2) Выполните округление до разряда сотен числа 4 781.

Разряд сотен в данном примере это число 7. После семерки стоит цифра 8, которая влияет на то измениться ли разряд сотен или нет. По правилу округления цифра 8 увеличивает разряд сотен на 1, а остальные цифры заменяем нулями. Получаем:

47 8 1≈48 00

3) Выполните округление до разряда тысяч числа 215 936.

Разряд тысяч в данном примере это число 5. После пятерки стоит цифра 9, которая влияет на то измениться ли разряд тысяч или нет. По правилу округления цифра 9 увеличивает разряд тысяч на 1, а остальные цифры заменяются нулями. Получаем:

215 9 36≈216 000

4) Выполните округление до разряда десятков тысяч числа 1 302 894.

Разряд тысяч в данном примере это число 0. После нуля стоит цифра 2, которая влияет на то измениться ли разряд десятков тысяч или нет. По правилу округления цифра 2 разряд десятков тысяч не меняет, заменяем на нуль этот разряд и все разряды младшие разряды. Получаем:

130 2 894≈130 0000

Если точное значение числа неважно, то значение числа округляют и можно выполнять вычислительные операции с приближенными значениями . Результат вычисления называют прикидкой результата действий .

Например: 598⋅23≈600⋅20≈12000 сравним с 598⋅23=13754

Прикидкой результата действий пользуются для того, чтобы быстро посчитать ответ.

Примеры на задания по теме округление:

Пример №1:
Определите до какого разряда сделано округление:
а) 3457987≈3500000 б)4573426≈4573000 в)16784≈17000
Вспомним какие бывают разряды на числе 3457987.

7 – разряд единиц,

8 – разряд десятков,

9 – разряд сотен,

7 – разряд тысяч,

5 – разряд десятков тысяч,

4 – разряд сотен тысяч,
3 – разряд миллионов.
Ответ: а) 3 4 57 987≈3 5 00 000 разряд сотен тысяч б) 4 573 426≈4 573 000 разряд тысяч в)16 7 841≈17 0 000 разряд десятков тысяч.

Пример №2:
Округлите число до разрядов 5 999 994: а) десятков б) сотен в) миллионов.
Ответ: а) 5 999 994 ≈5 999 990 б) 5 999 99 4≈6 000 000 (т.к. разряды сотен, тысяч, десятков тысяч, сотен тысяч цифра 9, каждый разряд увеличился на 1) 5 9 99 994≈6 000 000.

Округляют числа в Excel несколькими способами. С помощью формата ячеек и с помощью функций. Эти два способа следует различать так: первый только для отображения значений или вывода на печать, а второй способ еще и для вычислений и расчетов.

С помощью функций возможно точное округление, в большую или меньшую сторону, до заданного пользователем разряда. А полученные значения в результате вычислений, можно использовать в других формулах и функциях. В то же время округление с помощью формата ячеек не даст желаемого результата, и результаты вычислений с такими значениями будут ошибочны. Ведь формат ячеек, по сути, значение не меняет, меняется лишь его способ отображения. Чтобы в этом быстро и легко разобраться и не совершать ошибок, приведем несколько примеров.

Как округлить число форматом ячейки

Впишем в ячейку А1 значение 76,575. Щелкнув правой кнопкой мыши, вызываем меню «Формат ячеек». Сделать то же самое можно через инструмент «Число» на главной странице Книги. Или нажать комбинацию горячих клавиш CTRL+1.

Выбираем числовой формат и устанавливаем количество десятичных знаков – 0.

Результат округления:

Назначить количество десятичных знаков можно в «денежном» формате, «финансовом», «процентном».

Как видно, округление происходит по математическим законам. Последняя цифра, которую нужно сохранить, увеличивается на единицу, если за ней следует цифра больше или равная «5».

Особенность данного варианта: чем больше цифр после запятой мы оставим, тем точнее получим результат.



Как правильно округлить число в Excel

С помощью функции ОКРУГЛ() (округляет до необходимого пользователю количества десятичных разрядов). Для вызова «Мастера функций» воспользуемся кнопкой fx. Нужная функция находится в категории «Математические».


Аргументы:

  1. «Число» - ссылка на ячейку с нужным значением (А1).
  2. «Число разрядов» - количество знаков после запятой, до которого будет округляться число (0 – чтобы округлить до целого числа, 1 – будет оставлен один знак после запятой, 2 – два и т.д.).

Теперь округлим целое число (не десятичную дробь). Воспользуемся функцией ОКРУГЛ:

  • первый аргумент функции – ссылка на ячейку;
  • второй аргумент – со знаком «-» (до десятков – «-1», до сотен – «-2», чтобы округлить число до тысяч – «-3» и т.д.).

Как округлить число в Excel до тысяч?

Пример округления числа до тысяч:

Формула: =ОКРУГЛ(A3;-3).

Округлить можно не только число, но и значение выражения.

Допустим, есть данные по цене и количеству товара. Необходимо найти стоимость с точностью до рубля (округлить до целого числа).

Первый аргумент функции – числовое выражение для нахождения стоимости.

Как округлить в большую и меньшую сторону в Excel

Для округления в большую сторону – функция «ОКРУГЛВВЕРХ».

Первый аргумент заполняем по уже знакомому принципу – ссылка на ячейку с данными.

Второй аргумент: «0» - округление десятичной дроби до целой части, «1» - функция округляет, оставляя один знак после запятой, и т.д.

Формула: =ОКРУГЛВВЕРХ(A1;0).

Результат:

Чтобы округлить в меньшую сторону в Excel, применяется функция «ОКРУГЛВНИЗ».

Пример формулы: =ОКРУГЛВНИЗ(A1;1).

Полученный результат:

Формулы «ОКРУГЛВВЕРХ» и «ОКРУГЛВНИЗ» используются для округления значений выражений (произведения, суммы, разности и т.п.).


Как округлить до целого числа в Excel?

Чтобы округлить до целого в большую сторону используем функцию «ОКРУГЛВВЕРХ». Чтобы округлить до целого в меньшую сторону используем функцию «ОКРУГЛВНИЗ». Функция «ОКРУГЛ» и формата ячеек так же позволяют округлить до целого числа, установив количество разрядов – «0» (см.выше).

В программе Excel для округления до целого числа применяется также функция «ОТБР». Она просто отбрасывает знаки после запятой. По сути, округления не происходит. Формула отсекает цифры до назначенного разряда.

Сравните:

Второй аргумент «0» - функция отсекает до целого числа; «1» - до десятой доли; «2» - до сотой доли и т.д.

Специальная функция Excel, которая вернет только целое число, – «ЦЕЛОЕ». Имеет единственный аргумент – «Число». Можно указать числовое значение либо ссылку на ячейку.

Недостаток использования функции «ЦЕЛОЕ» - округляет только в меньшую сторону.

Округлить до целого в Excel можно с помощью функций «ОКРВВЕРХ» и «ОКРВНИЗ». Округление происходит в большую или меньшую сторону до ближайшего целого числа.

Пример использования функций:

Второй аргумент – указание на разряд, до которого должно произойти округление (10 – до десятков, 100 – до сотен и т.д.).

Округление до ближайшего целого четного выполняет функция «ЧЕТН», до ближайшего нечетного – «НЕЧЕТ».

Пример их использования:

Почему Excel округляет большие числа?

Если в ячейки табличного процессора вводятся большие числа (например, 78568435923100756), Excel по умолчанию автоматически округляет их вот так: 7,85684E+16 – это особенность формата ячеек «Общий». Чтобы избежать такого отображения больших чисел нужно изменить формат ячейки с данным большим числом на «Числовой» (самый быстрый способ нажать комбинацию горячих клавиш CTRL+SHIFT+1). Тогда значение ячейки будет отображаться так: 78 568 435 923 100 756,00. При желании количество разрядов можно уменьшить: «Главная»-«Число»-«Уменьшить разрядность».

При работе с таблицами часто возникает необходимость округлить число в Excel, для этого предусмотрен ряд имеющихся математических функций. Но необходимо понимать разницу между округлением и форматированием значения ячейки. Рассмотрим все нюансы поподробнее…

Любое введенное в ячейку числовое значение отображается в формате «Общий» (Главное меню или формат ячеек). В случае форматирования числа, оно отображает определённое количество знаков после запятой, которые можно настроить (, формат ячейки). Т.е. вы можете задать любое количество знаков после запятой при помощи форматирования (при этом само число в ячейке не изменится — изменится отображение).

Функции округления ОКРУГЛ(), ОКРУГЛВВЕРХ(), ОКРУГЛВНИЗ()

Когда данные в ячейках используются формулами, программа работает с его фактическим значением, которое может отличаться от того что мы видим на мониторе (например как в ячейки B1 первой картинке). Округление числа происходит с помощью функций (формул) ОКРУГЛ(), ОКРУГЛВВЕРХ(), ОКРУГЛВНИЗ().

Интересная функция =ОКРУГЛТ (128;6), чтобы округлить число «127» к кратному «6» в строке формул необходимо прописать: =ОКРУГЛТ (128;6), в итоговой ячейке мы получим число «126».

Округление денежных значений

Очень часто рассчитывая денежные значения в Excel, в которых используется дополнительные расчеты, получаем числа с большим количеством знаков после запятой. Денежные форматы предусматривают только два знака после запятой, поэтому значение необходимо привести в надлежащий вид, округлить число в Excel.

Для этого если ячейка В1 содержит числовой показатель 10,561 р. (этот формат можно задать нажав иконку с деньгами на второй картинке), чтобы привести значение к нужному (2 знака после запятой) достаточно в строке формул прописать: =ОКРУГЛ (В1;2), получим результат 10,56 р.

Бывают случаи, что значение необходимо округлить в большую или меньшую сторону, для этого используются формулы:

1. Округление в большую сторону, т.е. вверх: =ОКРВВЕРХ(В1;0,01), ячейка В1 получит значение 10,57 р., с округлением до следующей копейки (0,01) в большую сторону
2. Округление в меньшую сторону, вниз: =ОКРВНИЗ(В1;0,01), ячейка получит значение 10,56 р., с округлением до следующей копейки в меньшую сторону
3. А если к примеру округлить показатель до 10 копеек используйте формулу: =ОКРВВЕРХ(В2;0,10)

Преобразование в целое число

Для того, чтобы получить целое число в Excel , используют формулы =ЦЕЛОЕ() и =ОТБР() . На первый взгляд они могут показаться похожими, но это не так, особенно это хорошо видно на отрицательных числах. При использовании формулы с функцией ОТБР , удаляется только дробная часть числа.

Например, имеем число- 16,3543,формула: =ОТБР (-16,3543) преобразовывает значение в число -16, а формула: =ЦЕЛОЕ(-16,3543) выдаёт показатель -17, потому что, целое следующее число, идущее за «-16,3543» — это именно «-17».

Иногда функцию ОТБР используют, для усечения десятичных знаков формула:=ОТБР (16,3555555;2) даёт показатель «16,35».

Как округлить число в Excel вверх или вниз

Бывает так, что крупные цифровые значения необходимо округлить до определённого количества некоторых значимых цифр вверх или вниз. Для этого используем формулы с функцией ОКРВВЕРХ и ОКРВНИЗ. Например имеем число 164 358 находящееся в ячейки В1, формула: =ОКРУГЛВВЕРХ (В2;3-ДЛСТР(B1)), преобразует его в показатель «165000», Тройка в данной формуле это как раз значение, которое отвечает за количество знаков в преобразовании. Если мы заменим например её на «2» и напишем формулу =ОКРУГЛВНИЗ (В2;2-ДЛСТР(A1)), получим значение «160000».

Необходимо отметить, что все эти формулы работают только с положительными числами.

Банковское округление

Очень часто в учетных программах, таких как 1С используется банковское округление, что говорит Википедия : Банковское округление (англ. banker’s rounding ) или бухгалтерское округление - округление здесь происходит к ближайшему четному (если число заканчивается на 5), то есть 2,5 → 2, 3,5 → 4. Для этого можно воспользоваться следующими функциями:

Округление до четного/нечетного

Функция =ЧЕТН() округляет до ближайшего четного целого. При этом положительные числа округляются в сторону увеличения, а отрицательные – к уменьшению

Функция =НЕЧЁТ() округляет число до ближайшего нечетного целого. Положительные числа округляются в сторону увеличения, а отрицательные – к уменьшению

Поделитесь нашей статьей в ваших соцсетях:

Методы

В разных сферах могут применяться различные методы округления. Во всех этих методах «лишние» знаки обнуляют (отбрасывают), а предшествующий им знак корректируется по какому-либо правилу.

  • Округление к ближайшему целому (англ. rounding ) - наиболее часто используемое округление, при котором число округляется до целого, модуль разности с которым у этого числа минимален. В общем случае, когда число в десятичной системе округляют до N-ого знака, правило может быть сформулировано следующим образом:
    • если N+1 знак < 5 , то N-ый знак сохраняют, а N+1 и все последующие обнуляют;
    • если N+1 знак ≥ 5 , то N-ый знак увеличивают на единицу, а N+1 и все последующие обнуляют;
    Например: 11,9 → 12; −0,9 → −1; −1,1 → −1; 2,5 → 3.
  • Округление к меньшему по модулю (округление к нулю, целое англ. fix, truncate, integer ) - самое «простое» округление, поскольку после обнуления «лишних» знаков предшествующий знак сохраняют. Например, 11,9 → 11; −0,9 → 0; −1,1 → −1).
  • Округление к большему (округление к +∞, округление вверх, англ. ceiling ) - если обнуляемые знаки не равны нулю, предшествующий знак увеличивают на единицу, если число положительное, или сохраняют, если число отрицательное. В экономическом жаргоне - округление в пользу продавца , кредитора (лица, получающего деньги). В частности, 2,6 → 3, −2,6 → −2.
  • Округление к меньшему (округление к −∞, округление вниз, англ. floor ) - если обнуляемые знаки не равны нулю, предшествующий знак сохраняют, если число положительное, или увеличивают на единицу, если число отрицательное. В экономическом жаргоне - округление в пользу покупателя , дебитора (лица, отдающего деньги). Здесь 2,6 → 2, −2,6 → −3.
  • Округление к большему по модулю (округление к бесконечности, округление от нуля) - относительно редко используемая форма округления. Если обнуляемые знаки не равны нулю, предшествующий знак увеличивают на единицу.

Варианты округления 0,5 к ближайшему целому

Отдельного описания требуют правила округления для специального случая, когда (N+1)-й знак = 5, а последующие знаки равны нулю . Если во всех остальных случаях округление до ближайшего целого обеспечивает меньшую погрешность округления, то данный частный случай характерен тем, что для однократного округления формально безразлично, производить его «вверх» или «вниз» - в обоих случаях вносится погрешность ровно в 1/2 младшего разряда. Существуют следующие варианты правила округления до ближайшего целого для данного случая:

  • Математическое округление - округление всегда в бо́льшую по модулю сторону (предыдущий разряд всегда увеличивается на единицу).
  • Банковское округление (англ. banker"s rounding ) - округление для этого случая происходит к ближайшему чётному , то есть 2,5 → 2, 3,5 → 4.
  • Случайное округление - округление происходит в меньшую или большую сторону в случайном порядке, но с равной вероятностью (может использоваться в статистике).
  • Чередующееся округление - округление происходит в меньшую или большую сторону поочерёдно.

Во всех вариантах в случае, когда (N+1)-й знак не равен 5 или последующие знаки не равны нулю, округление происходит по обычным правилам: 2,49 → 2; 2,51 → 3.

Математическое округление просто формально соответствует общему правилу округления (см. выше). Его недостатком является то, что при округлении большого числа значений может происходить накопление ошибки округления . Типичный пример: округление до целых рублей денежных сумм. Так, если в реестре из 10000 строк окажется 100 строк с суммами, содержащими в части копеек значение 50 (а это вполне реальная оценка), то при округлении всех таких строк «вверх» сумма «итого» по округлённому реестру окажется на 50 рублей больше точной.

Три остальных варианта как раз и придуманы для того, чтобы уменьшить общую погрешность суммы при округлении большого количества значений. Округление «до ближайшего чётного» исходит из предположения, что при большом числе округляемых значений, имеющих 0,5 в округляемом остатке, в среднем половина окажется слева, а половина - справа от ближайшего чётного, таким образом, ошибки округления взаимно погасятся. Строго говоря, предположение это верно лишь тогда, когда набор округляемых чисел обладает свойствами случайного ряда, что обычно верно в бухгалтерских приложениях, где речь идёт о ценах, суммах на счетах и так далее. Если же предположение будет нарушено, то и округление «до чётного» может приводить к систематическим ошибкам. Для таких случаев лучше работают два следующих метода.

Два последних варианта округления гарантируют, что примерно половина специальных значений будет округлена в одну сторону, половина - в другую. Но реализация таких методов на практике требует дополнительных усилий по организации вычислительного процесса.

Применения

Округление используется для того, чтобы работать с числами в пределах того количества знаков, которое соответствует реальной точности параметров вычислений (если эти значения представляют собой измеренные тем или иным образом реальные величины), реально достижимой точности вычислений либо желаемой точности результата. В прошлом округление промежуточных значений и результата имело прикладное значение (так как при расчётах на бумаге или с помощью примитивных устройств типа абака учёт лишних десятичных знаков может серьёзно увеличить объём работы). Сейчас оно остаётся элементом научной и инженерной культуры. В бухгалтерских приложениях, кроме того, использование округлений, в том числе промежуточных, может требоваться для защиты от вычислительных ошибок, связанных с конечной разрядностью вычислительных устройств.

Использование округлений при работе с числами ограниченной точности

Реальные физические величины всегда измеряются с некоторой конечной точностью, которая зависит от приборов и методов измерения и оценивается максимальным относительным или абсолютным отклонением неизвестного действительного значения от измеренного, что в десятичном представлении значения соответствует либо определённому числу значащих цифр, либо определённой позиции в записи числа, все цифры после (правее) которой являются незначащими (лежат в пределах ошибки измерения). Сами измеренные параметры записываются с таким числом знаков, чтобы все цифры были надёжными, возможно, последняя - сомнительной. Погрешность при математических операциях с числами ограниченной точности сохраняется и изменяется по известным математическим законам, поэтому когда в дальнейших вычислениях возникают промежуточные значения и результаты с больши́м числом цифр, из этих цифр только часть являются значимыми. Остальные цифры, присутствуя в значениях, фактически не отражают никакой физической реальности и лишь отнимают время на вычисления. Вследствие этого промежуточные значения и результаты при вычислениях с ограниченной точностью округляют до того количества знаков, которое отражает реальную точность полученных значений. На практике обычно рекомендуется при длинных «цепочных» ручных вычислениях сохранять в промежуточных значениях на одну цифру больше. При использовании компьютера промежуточные округления в научно-технических приложениях чаще всего теряют смысл, и округляется только результат.

Так, например, если задана сила 5815 гс с точностью до грамма силы и длина плеча 1,4 м с точностью до сантиметра, то момент силы в кгс по формуле , в случае формального расчёта со всеми знаками, окажется равным: 5,815 кгс 1,4 м = 8,141 кгс м . Однако если учесть погрешность измерения, то мы получим, что предельная относительная погрешность первого значения составляет 1/5815 ≈ 1,7 10 −4 , второго - 1/140 ≈ 7,1 10 −3 , относительная погрешность результата по правилу погрешности операции умножения (при умножении приближённых величин относительные погрешности складываются) составит 7,3 10 −3 , что соответствует максимальной абсолютной погрешности результата ±0,059 кгс м! То есть в реальности, с учётом погрешности, результат может составлять от 8,082 до 8,200 кгс м, таким образом, в рассчитанном значении 8,141 кгс м полностью надёжной является только первая цифра, даже вторая - уже сомнительна! Корректным будет округление результата вычислений до первой сомнительной цифры, то есть до десятых: 8,1 кгс м, или, при необходимости более точного указания рамок погрешности, представить его в виде, округлённом до одного-двух знаков после запятой с указанием погрешности: 8,14 ± 0,06 кгс м .

Эмпирические правила арифметики с округлениями

В тех случаях, когда нет необходимости в точном учёте вычислительных погрешностей, а требуется лишь приблизительно оценить количество точных цифр в результате расчёта по формуле, можно пользоваться набором простых правил округлённых вычислений :

  1. Все исходные значения округляются до реальной точности измерений и записываются с соответствующим числом значащих цифр, так, чтобы в десятичной записи все цифры были надёжными (допускается, чтобы последняя цифра была сомнительной). При необходимости значения записываются со значащими правыми нулями, чтобы в записи указывалось реальное число надёжных знаков (например, если длина в 1 м реально измерена с точностью до сантиметров, записывается «1,00 м», чтобы было видно, что в записи надёжны два знака после запятой), или точность явно указывается (например, 2500±5 м - здесь надёжными являются только десятки, до них и следует округлять).
  2. Промежуточные значения округляются с одной «запасной» цифрой.
  3. При сложении и вычитании результат округляется до последнего десятичного знака наименее точного из параметров (например, при вычислении значения 1,00 м + 1,5 м + 0,075 м результат округляется до десятых метра, то есть до 2,6 м). При этом рекомендуется выполнять вычисления в таком порядке, чтобы избегать вычитания близких по величине чисел и производить действия над числами по возможности в порядке возрастания их модулей.
  4. При умножении и делении результат округляется до наименьшего числа значащих цифр, которое имеют параметры (например, при вычислении скорости равномерного движения тела на дистанции 2,5 10 2 м, за 600 с результат должен быть округлён до 4,2 м/с, поскольку именно две цифры имеет расстояние, а время - три, предполагая, что все цифры в записи - значащие).
  5. При вычислении значения функции f(x) требуется оценить значение модуля производной этой функции в окрестности точки вычисления. Если (|f"(x)| ≤ 1) , то результат функции точен до того же десятичного разряда, что и аргумент. В противном случае результат содержит меньше точных десятичных разрядов на величину log 10 (|f"(x)|) , округлённую до целого в большую сторону.

Несмотря на нестрогость, приведённые правила достаточно хорошо работают на практике, в частности, из-за достаточно высокой вероятности взаимопогашения ошибок, которая при точном учёте погрешностей обычно не учитывается.

Ошибки

Довольно часто встречаются злоупотребления некруглыми числами. Например:

  • Записывают числа, имеющие невысокую точность, в неокруглённом виде. В статистике: если 4 человека из 17 ответили «да», то пишут «23,5 %» (в то время как верно «24 %»).
  • Пользователи стрелочных приборов иногда размышляют так: «стрелка остановилась между 5,5 и 6 ближе к 6, пусть будет 5,8» - это также запрещено (градуировка прибора как правило соответствует его реальной точности). В таком случае надо говорить «5,5» или «6».

См. также

  • Обработка наблюдений
  • Ошибки округления

Примечания

Литература

  • Генри С. Уоррен, мл. Глава 3. Округление к степени 2 // Алгоритмические трюки для программистов = Hacker"s Delight. - М .: «Вильямс», 2007. - С. 288. - ISBN 0-201-91465-4

Введение.............................................................................................................

ЗАДАЧА № 1. Ряды предпочтительных чисел...............................................

ЗАДАЧА № 2. Округление результатов измерений.......................................

ЗАДАЧА № 3. Обработка результатов измерений.........................................

ЗАДАЧА № 4. Допуски и посадки гладких цилиндрических соединений...

ЗАДАЧА № 5. Допуски формы и расположения...........................................

ЗАДАЧА № 6. Шероховатость поверхности.................................................

ЗАДАЧА № 7. Размерные цепи........................................................................

Список литературы............................................................................................

Задача № 1. Округление результатов измерений

При выполнении измерений важно соблюдать определенные правила округления и записи их результатов в технической документации, так как при несоблюдении этих правил возможны существенные ошибки в интерпретации результатов измерений.

Правила записи чисел

1. Значащие цифры данного числа - все цифры от первой слева, не равной нулю, до последней справа. При этом нули, следующие из множителя 10, не учитывают.

Примеры.

а) Число 12,0 имеет три значащие цифры.

б) Число 30 имеет две значащие цифры.

в) Число 12010 8 имеет три значащие цифры.

г) 0,51410 -3 имеет три значащие цифры.

д) 0,0056 имеет две значащие цифры.

2. Если необходимо указать, что число является точным, после числа указывают слово "точно" или последнюю значащую цифру печатают жирным шрифтом. Например: 1 кВт / ч = 3600 Дж (точно) или 1 кВт / ч = 3600 Дж.

3. Различают записи приближенных чисел по количеству значащих цифр. Например, различают числа 2,4 и 2,40. Запись 2,4 означает, что верны только целые и десятые доли, истинное значение числа может быть, например, 2,43 и 2,38. Запись 2,40 означает, что верны и сотые доли: истинное значение числа может быть 2,403 и 2,398, но не 2,41 и не 2,382. Запись 382 означает, что все цифры верны: если за последнюю цифру ручаться нельзя, то число должно быть записано 3,810 2 . Если в числе 4720 верны лишь две первые цифры, оно должно быть записано в виде: 4710 2 или 4,710 3 .

4. Число, для которого указывают допустимое отклонение, должно иметь последнюю значащую цифру того же разряда, как и последняя значащая цифра отклонения.

Примеры.

а) Правильно: 17,0 + 0,2. Неправильно: 17 + 0,2 или 17,00 + 0,2.

б) Правильно: 12,13+ 0,17. Неправильно: 12,13+ 0,2.

в) Правильно: 46,40+ 0,15. Неправильно: 46,4+ 0,15 или 46,402+ 0,15.

5. Числовые значения величины и её погрешности (отклонения) целесообразно записывать с указанием одной и той же единицы величины. Например: (80,555 + 0,002) кг.

6. Интервалы между числовыми значениями величин иногда целесообразно записывать в текстовом виде, тогда предлог "от" означает "", предлог "до"– "", предлог "свыше" – ">", предлог "менее" – "<":

"d принимает значения от 60 до 100" означает "60d 100",

"d принимает значения свыше 120 менее 150" означает "120 <d < 150",

"d принимает значения свыше 30 до 50" означает "30 <d 50".

Правила округления чисел

1. Округление числа представляет собой отбрасывание значащих цифр справа до определенного разряда с возможным изменением цифры этого разряда.

2. В случае если первая из отбрасываемых цифр (считая слева направо) менее 5, то последнюю сохраняемую цифру не меняют.

Пример: Округление числа 12,23 до трех значащих цифр дает 12,2.

3. В случае если первая из отбрасываемых цифр (считая слева направо) равна 5, то последнюю сохраняемую цифру увеличивают на единицу.

Пример: Округление числа 0,145 до двух цифр дает 0,15.

Примечание . В тех случаях, когда следует учитывать результаты предыдущих округлений, поступают следующим образом.

4. Если отбрасываемая цифра получена в результате округления в меньшую сторону, то последнюю оставшуюся цифру увеличивают на единицу (с переходом при необходимости в следующие разряды) , иначе – наоборот. Это касается и дробных и целых чисел.

Пример: Округление числа 0,25 (полученного в результате предыдущего округления числа 0,252) дает 0,3.

4. В случае если первая из отбрасываемых цифр (считая слева направо) более 5, то последнюю сохраняемую цифру увеличивают на единицу.

Пример: Округление числа 0,156 до двух значащих цифр дает 0,16.

5. Округление выполняют сразу до желаемого количества значащих цифр, а не по этапам.

Пример: Округление числа 565,46 до трех значащих цифр дает 565.

6. Целые числа округляют по тем же правилам, что и дробные.

Пример: Округление числа 23456 до двух значащих цифр дает 2310 3

Числовое значение результата измерения должно оканчиваться цифрой того же разряда, что и значение погрешности.

Пример: Число 235,732 + 0,15 должно быть округлено до 235,73 + 0,15, но не до 235,7 + 0,15.

7. Если первая из отбрасываемых цифр (считая слева направо) меньше пяти, то остающиеся цифры не меняются.

Пример: 442,749+ 0,4 округляется до 442,7+ 0,4.

8. Если первая из отбрасываемых цифр больше или равна пяти, то последняя сохраняемая цифра увеличивается на единицу.

Пример: 37,268 + 0,5 округляется до 37,3 + 0,5; 37,253 + 0,5 должно быть округлено до 37,3 + 0,5.

9. Округление следует выполнять сразу до желаемого числа значащих цифр, поэтапное округление может привести к ошибкам.

Пример: Поэтапное округление результата измерения 220,46+ 4 дает на первом этапе 220,5+ 4 и на втором 221+ 4, в то время как правильный результат округления 220+ 4.

10. Если погрешность средств измерения указывается всего с одной или двумя значащими цифрами, а рассчетное значение погрешности получают с большим числом знаков, в окончательном значении рассчитанной погрешности должны быть оставлены соответственно только первые одна или две значащие цифры. При этом, если полученное число начинается с цифр 1 или 2, то отбрасывание второго знака приводит к очень большой ошибке (до 3050 %), что недопустимо. Если же полученное число начинается с цифры 3 и более, например, с цифры 9, то сохранение второго знака, т.е. указание погрешности, например, 0,94 вместо 0,9, является дезинформацией, так как исходные данные не обеспечивают такой точности.

Исходя из этого на практике установилось такое правило: если полученное число начинается со значащей цифры, равной или большей 3, то в нем сохраняется лишь она одна; если же оно начинается со значащих цифр, меньших 3, т.е. с цифр 1 и 2, то в нем сохраняют две значащих цифры. В соответствии с этим правилом установлены и нормируемые значения погрешностей средств измерений: в числах 1,5 и 2,5 % указываются две значащих цифры, но в числах 0,5; 4; 6 % указывается лишь одна значащая цифра.

Пример: На вольтметре класса точности 2,5 с пределом измерений х К = 300 В был получен отсчет измеряемого напряжения х = 267,5 В. В каком виде должен быть записан результат измерения в отчете?

Расчет погрешности удобнее вести в следующем порядке: вначале необходимо найти абсолютную погрешность, а затем – относительную. Абсолютная погрешность х =  0 х К /100, для приведенной погрешности вольтметра  0 = 2,5 % и пределов измерения (диапазона измерения) прибора х К = 300 В: х = 2,5300/100 = 7,5 В ~ 8 В; относительная погрешность  = х 100/х = 7,5100/267,5 = 2,81 % ~ 2,8 % .

Так как первая значащая цифра значения абсолютной погрешности (7,5 В) больше трех, то это значение должно быть округлено по обычным правилам округления до 8 В, но в значении относительной погрешности (2,81 %) первая значащая цифра меньше 3, поэтому здесь должны быть сохранены в ответе два десятичных разряда и указано  = 2,8 %. Полученное значение х = 267,5 В должно быть округлено до того же десятичного разряда, которым оканчивается округленное значение абсолютной погрешности, т.е. до целых единиц вольт.

Таким образом, в окончательном ответе должно быть сообщено: "Измерение произведено с относительной погрешностью = 2,8 % . Измеренное напряжениеХ = (268+ 8) В".

При этом более наглядно указать пределы интервала неопределенности измеренной величины в виде Х = (260276) В или 260 ВX276 В.