Способы записи чисел

Используются в основном 2 способа:

1. Запись числа с фиксированной точкой, например:

123,456; 454; 9,456.

2. Запись числа с плавающей точкой (нормализованная, экспоненциальная запись). Например: 2,14E+3 тоже, что и 2,14*10³=2140.

Общая форма записи числа N в таком виде:

, т.е. ,

здесь - мантисса числа N (; - порядок числа N).

В языках программирования обычно .

Примеры:

1E+0=1; 9E-2=0,09 3,65E+2=365.

В Visual Basic используются числа с плавающей точкой обычной точности (Single) - количество чисел не более 7 и числа с плавающей точкой двойной точности - количество чисел не более 17.

Например 1/3=0,3333333 (для типа Single) и 1/3=0,333333333333333 (для типа Double).