Формулы для статистической обработки полученных результатов

По градуировочной зависимости определяли для каждого элемента концентрации, соответствующие величинам абсорбции анализируемой пробы.

Для оценки отклонения находили центр распределения выборки, используя среднее :

где - единичный результат серии (варианта); n – число вариант.

Отклонение от среднего d - разность между единичным результатом и средним без учета знака:

Среднее отклонение - среднее арифметическое из единичных отклонений:

Дисперсия и стандартное отклонение характеризуют рассеяние вариант относительно среднего. Дисперсию выборки (V), содержащей n вариант вычисляли по формуле:

Стандартное отклонение (s) представляет собой квадратный корень из дисперсии, взятый с положительным знаком, и имеет размерность измеряемой величины:

Для определения истинного значения в выборочной совокупности использовали следующую формулу:

где s - стандартное отклонение выборки; t_p - коэффициент Стьюдента; принимали равным 0,95. Число степеней свободы f = n – 1.

При P = 95%, f = 5 - 1 = 4, t_p= 2,78 [8]. Относительное стандартное отклонение (s_r) вычисляли по формуле:

Дисперсия, стандартное отклонение и относительное стандартное отклонение характеризуют воспроизводимость результатов химического анализа.

Коэффициент чувствительности (S) характеризует отклик аналитического сигнала на содержание компонента y = Sx. Коэффициент чувствительности – это значение первой производной градуировочной функции при данном определенном содержании. Для прямолинейных градуировочных графиков – это тангенс угла наклона прямой:

Чем больше коэффициент чувствительности S, тем меньшие количества компонента можно обнаруживать и определять, получая один и тот же аналитический сигнал. Чем выше S, тем точнее можно определить одно и то же количество вещества.

Нижняя граница определяемых концентраций – это наименьшее содержание компонента, определяемого по данной методике.