Вычислим погрешность интерполяционной формулы для наиболее часто употребляемого случая линейной интерполяции (при n=1)
В этом случае
Далее,
Для функция принимает своё наибольшее значение в точке, где . Так как ,то Положим .Тогда .
Вычислим неустранимую погрешность:
=
=
Неустранимая погрешность совпадает с погрешностью вычисления значений функции (табличной погрешностью).
Окончательно, (5)
При использовании таблиц интерполяция допустимо, чтобы сумма не превосходила одной единицы последнего табличного разряда. Если используется таблица с к верными знаками после запятой, то должно выполняться условие:
, так как ,то приходим к условию: . В случае линейной интерполяции это условие принимает вид: или
Вычисляя sin , при использовании линейной интерполяции получим:
,то есть
Следовательно,
Использованы пятизначные таблицы, поэтому к=5 и нужное условие оказалось выполненным.
Полная погрешность равна: