Причиной появления вычислительных погрешностей является способ представления чисел на ЭВМ. В привычной нам десятичной системе счисления вещественное число
представляется последовательностью символов, начиная со знака
,и продолжается цепочкой десятичных цифр
, то есть

Так как десятичная система счисления позиционная, то значение числа вычисляется так:
.
Все вычислительные машины работают в двоичной системе счисления. В ней то же число выглядит следующим образом:
.
По форме представления, способу хранения и реализации вычислительных операций на ЭВМ целые и вещественные числа существенно различаются.
Целые представляются так:
, где
- фиксированное число. Всего для хранения числа
отводят
разряда, в том числе один разряд на знак числа. Таким образом,
обычно не слишком велико, например, для ЭВМ РС
Тогда 
Арифметические операции сложения, вычитания и умножения производятся точно, если результат меньше или равен
. Если же это не так, то ситуация не доводится до сведения пользователя, а результату присваивается некоторое значение меньшее абсолютной величины
.
Вещественные числа представляются в форме с плавающей точкой, то есть в виде
, где обычно
- размерность мантиссы,
- двоичный порядок. Порядок
также записывается как двоичное целое число
, на его хранение отводятся
двоичных разрядов
. Следует помнить, что на ЭВМ представимы не все числа, а лишь конечный набор рациональных чисел. Это – представимое множество данной вычислительной машины. Для всех остальных чисел возможно лишь их приближенное представление с ошибкой представления (ошибкой округления). Если округление производится усечением, то
, если имеет место округление по дополнению, то
,
называется машинной точностью или машинным эпсилон.
Диапазон изменения чисел в ЭВМ ограничен. Если
, то
Если же
, то 
0


Для ЭВМ РС диапазон представления вещественных чисел примерно равен:
при этом 






