Математическая обработка результатов хроматографического анализа

Целью математической обработки хроматографических измерений является получение достоверных количественных результатов, что включает в себя: выявление грубых ошибок (промахов), оценка прецизионности и правильности методик выполнения измерений, обработка градуировочных характеристик.

С т а т и с т и ч е с к а я о б р а б о т к а р е з у л ь т а т о в и з м е р е н и й (р е з у л ь т а т о в а н а л и з а)

Обычно аналитик имеет реальное число (n < 20) результатов измерений выходного хроматографического сигнала (высоты или площади пика) или концентрации, которое называют выборочной совокупностью (или малой выборкой).

Пусть выполнено n параллельных анализов одной и той же смеси в результате получены соответствующие значения содержания одного из компонентов X ₁, X ₂, X ₃и т. д.

Первым этапом математической обработки этих n измерений является выявление промахов и исключение их из выборочной совокупности. Для этого используют достаточно простой метод с применением Q -критерия ¹³. Сущность этого метода заключается в расчете величины экспериментального Q -критерия (Q _эксп), равного отношению разности выпадающего и ближайшего к нему результата к размаху варьирования (разности наибольшего и наименьшего из результатов выборочной совокупности) и в сравнении Q _эксп с критическим значением Q _крит при доверительной вероятности Р = 0.95 (см. таблицу 6).

Таблица 6 – значения Q _крит (при доверительной вероятности Р = 0.90, n – число членов выборочной совокупности)

n	Q крит	n	Q крит
	0.94		0.51
	0.76		0.47
	0.64		0.44
	0.56		0.41

Если Q _эксп > Q _крит, выпадающий результат является промахом и его отбрасывают; если же Q _эксп < Q _крит результат из рассмотрения не исключают.

После исключения промахов находят среднее арифметическое значение:

(50),

среднюю арифметическую ошибку ():

(51)

и дисперсию отдельного среднего результата измерения (S ²):

(52).

В знаменателе последнего выражения стоит число, равное n – 1. Оно представляет собой, так называемое число степеней свободы, и в общем случае обозначается f (от англ. freedom). Число степеней свободы – это число независимых данных в выборочной совокупности минус число связей между ними.

После этого рассчитывают стандартное отклонение (квадратичную ошибку)

(53)

и относительное стандартное (средняя квадратичная ошибка среднего серии измерений)

(54).

Дисперсия, стандартное отклонение и относительное стандартное отклонение – характеризуют воспроизводимость результатов анализа.

При достаточно большом количестве определений n между Δ X _ср и существует соотношение

(55)

т. е. величины Δ X _ср и близки между собой. Поэтому практически безразлично, какую величину вычислять. Очевидно, проще в этом случае вычислять среднюю арифметическую ошибку Δ X _ср. Однако, при малом n это соотношение не соблюдается. При малом n для средней квадратической ошибки или степень надежности измерений по таблицам Стьюдента-Фишера (приложение 1) легко определить доверительную вероятность, или степень надежности измерений. В то же время таблицы для расчета доверительной вероятности в случае средней арифметической ошибки не получили распространения. Поэтому в обычной практике, когда число измерений невелико, следует пользоваться средней квадратической ошибкой.

Обычно при обработке данных хроматографического анализа определяют также величину доверительного интервала ( – Х _ист) измеряемой величины для заданной доверительной вероятности (при отсутствии систематических погрешностей в этом интервале с соответствующей вероятностью находится истинное значение Х _ист). Этот интервал можно рассчитать, пользуясь выражением

(56),

где – распределение Стьюдента; s – стандартное отклонение измеряемой величины, рассчитанное для выборочной совокупности из n данных, а f = n – 1.

Доверительную вероятность Р обычно принимают равной 0.95 хотя в зависимости от характера решаемой задачи ее можно полагать равной 0.90, 0.99 или какой-либо другой величине. Если известно истинное значение Х _ист то доверительный интервал () характеризует как воспроизводимость результатов химического анализа, так и их правильность.

Обработанные данные можно представить в виде таблицы. При расчете большого числа экспериментов часто применяют электронные таблицы Microsoft Excel и другие подобные программы.

С применением методов математической статистики можно не только оценить результаты и случайные погрешности единичной серии результатов химического анализа, но сравнивать данные двух совокупностей. Это могут быть результаты анализа одного и того же объекта, полученные двумя разными методами, в двух разных лабораториях, на двух разных хроматографах, различными аналитиками.

Сравнение двух дисперсий проводится при помощи F-распределения (распределения Фишера). Если имеются две выборочные совокупности с дисперсиями и и числами степеней свободы f ₁ = n ₁ – 1 и f ₂ = n ₂ – 1, соответственно, то значение F _эксп рассчитывают по формуле

, при условии, что > (57).

Полученное значение сравнивают с табличным значением F -распределения (F _табл, приложение 2). Если при выбранной доверительной вероятности (обычно, при уровне значимости р = 0.05) F _эксп > F _табл, то расхождение между дисперсиями значимо и рассматриваемые выборочные совокупности различаются по воспроизводимости. Если же F _эксп ≤ F _табл, то различие в дисперсии имеет случайный характер.

В случае если расхождение между дисперсиями незначимо, можно сравнивать средние и двух выборочных совокупностей, т. е. выяснить, есть ли статистически значимая разница между результатами анализов, представленных этими сериями. Для этого предварительно рассчитывают среднее взвешенное двух дисперсий

(58),

а затем – величину t _эксп

(59).

Значение сравнивают с t _табл при числе степеней свободы f = f ₁ + f ₂ = n ₁ + n ₂ – 2 и доверительной вероятности Р = 0.99. Если t _эксп > t _табл, то расхождение между и значимо, а рассматриваемые выборки не принадлежат одной генеральной совокупности. Если же t _эксп < t _табл, то расхождение между средними двух серий незначимо. Следовательно, все данные обеих серий можно объединить и рассматривать как одну выборочную совокупность из n ₁ + n ₂ результатов.

О б р а б о т к а г р а д у и р о в о ч н ы х г р а ф и к о в м е т о д о м н а и м е н ь ш и х к в а д р а т о в (М Н К)

Для получения градуировочной характеристики хроматографа (при анализе по методу абсолютной градуировки или внутреннего стандарта) строят график зависимости выходного сигнала хроматографа, т. е. высоты, площади хроматографического пика или же отношение площади пика анализируемого компонента к площади пика внутреннего стандарта от концентрации анализируемого компонента ¹⁴.

Если измерения производятся в режиме ЛДД детектора (см. п. 3. 1.) градуировочная характеристика, получаемая, например, по методу абсолютной градуировки имеет вид прямой, выражаемой уравнением (43).

В большинстве случаев, коэффициент b равен нулю и график выходит из начала координат, однако, такое достигается не всегда и, в спорных случаях, требуется оценка значимости коэффициента b.

Нестабильность работы хроматографа, неточность ввода пробы и другие причины приводят к тому, что экспериментальные точки зависимости не выстраиваются идеально в прямую, а дают некоторый разброс относительно «наилучшей» прямой. В связи с этим, для получения градуировочной характеристики хроматографа, возникает необходимость построения «наилучшей» прямой, получения значений К и оценки значимости коэффициента b.

Для решения этой задачи используют метод наименьших квадратов (МНК). Метод наименьших квадратов – один из методов регрессионного анализа для оценки неизвестных величин по результатам измерений, содержащих случайные ошибки.

Абсолютный градуировочный коэффициент К находят по МНК пользуясь уравнением

(60),

а коэффициент b находят по уравнению

(61).

Разброс экспериментальных точек относительно «наилучшей» прямой принято характеризовать коэффициентом линейной корреляции r, который определяют по формуле

(62),

где , , m – количество градуировочных смесей, т. е. количество точек градуировочной зависимости.

«Наилучшую» кривую проводят, основываясь на величинах K и b. Расчет К, b и r удобно производить пользуясь на компьютере, пользуясь электронными таблицами Microsoft Excel.