Погрешность записи (округления) числа

Погрешность записи (округления) числа определяется как отношение половины единицы младшего разряда числа к значению числа.

Например, для нормального ускорения падающих тел g = 9,81 м/с2, единица младшего разряда равна 0,01, следовательно, погрешность записи числа 9,81 будет равна

5,1·10-4.


Понравилась статья? Добавь ее в закладку (CTRL+D) и не забудь поделиться с друзьями:  



double arrow
Сейчас читают про: