Итерационные методы позволяет найти последовательность приближений {x(n)}, сходящуюся к точному решению при n®¥, т.е. . Поскольку бесконечные процессы нереализуемы на практике, то обычно выполняется конечное число итераций, т.е. строится конечное множество векторов х(1), х(2), … х(к), причем, задаваясь некоторым малым числом e>0 (погрешностью решения) добиваются, чтобы , где - некоторая норма вектора.