Ошибки округления

Даже если предположить, что исходная информация не содержит никаких ошибок и все вычислительные процессы конечны и не приводят к ошибкам ограничения, то все равно в этом случае присутствует третий тип ошибок – ошибки округления. Предположим, что вычисления производятся на машине, в которой каждое число представляется 5-ю значащими цифрами, и что необходимо сложить два числа 9.2654 и 7.1625, причем эти два числа являются точными. Сумма их равна 16.4279, она содержит 6 значащих цифр и не помещается в разрядной сетке нашей гипотетической машины. Поэтому 6-значный результат будет округлен до 16.428, и при этом возникает ошибка округления. Так как компьютеры всегда работают с конечным числом значащих цифр, то потребность в округлении возникает довольно часто.

Вопросы округления относятся только к действительным числам. При выполнении операций с целыми числами потребность в округлении не возникает. Сумма, разность и произведение целых чисел сами являются целыми числами; если результат слишком велик, то это свидетельствует об ошибке в программе. Частное от деления двух целых чисел не всегда является целым числом, но при делении целых чисел дробная часть отбрасывается.