Статистическая обработка экспериментальных данных

Объективная оценка экспериментальных данных по-степени токсичности различных веществ для того или иного вида рыб, сопоставление уровня токсикорези-стентности различных видов рыб и отдельных стадий их индивидуального развития немыслимы без применения статистических методов. Между тем эти методы все еще не находят должного применения в ихтиотоксико-логии.

Обычно авторы, характеризуя токсичность вещества или степень устойчивости рыб к ядам, используют среднюю арифметическую (М) и лишь изредка другие параметры вариационного ряда. Однако хорошо известно, что сама по себе средняя арифметическая не дает представления о вариабельности учитываемого признака. Кроме того, средняя величина в большей мере зависит от особенностей распределения вариант на концах ряда, где частоты бывают наименее надежны и точны. В связи с этим нередко наряду с определением средней арифметической M=Σx/n (где Σx — сумма отдельных вариант; п — число наблюдений) указывают также центральную варианту ряда — медиану, (Me), и наиболее частую варианту — моду (Мо). Сопоставление Me и Мо со средней арифметической позволяет также составить представление о степени симметрии распределения членов данного вариационного ряда: в случае соавпдения этих трех, величин имеют дело с нормальным распределением. Поскольку главной особенностью любой выборочной совокупности является наличие вариации между ее членами, возникает необходимость измерения степени этой изменчивости. Нередко с этой целью указывают амплитуду ряда распределения, представляющую собой разность между наименьшей и наибольшей величинами, получившими название лимитов ряда. Однако сопоставление лимитов ряда лишь в ограниченной мере характеризует степень изменчивости внутри вариационного ряда, поэтому для определения характера и степени вариации или рассеивания используют среднее квадратичное (стандартное) отклонение

 и дисперсию  (где Σх²— сумма квадратов отдельных измерений).

Строго говоря, δ характеризует амплитуду колебаний М и представляет собой абсолютную величину от М. При сопоставлении степени вариации отдельных рядов распределения времени гибели (или другого показателя), измеренных в разных единицах, удобнее использовать коэффициент вариации v, показывающий, какую долю от М составляет δ и рассчитывающийся по формуле υ =(δ/М) 100%.

Основные показатели изменчивости величин, составляющих ряд распределений (δ и υ), являются такими же важными параметрами, как и средние величины. Без использования этих показателей, оперируя лишь средними, экспериментатор всегда рискует сделать ошибочное заключение о степени токсичности исследуемого вещества. Таким образом, для описания ряда распределения полученных данных необходимо учитывать не только М, Me и Мо, но и распределение частот вокруг средней и их вариабельность, оцениваемую δ и υ.

Обычно исследователь имеет в своем распоряжении экспериментальные данные, полученные на ограниченном количестве испытуемых рыб и представляющие собой случайные малые выборки, относящиеся к обширному ряду, именуемому генеральной совокупностью. В связи с этим возникает необходимость экстраполяции результатов, полученных в выборочной совокупности, на генеральную совокупность. Опыты показывают, что точность выборочной средней определяется объемом выборки и степенью вариабельности регистрируемой величины. Однако точность выборочной средней изменяется прямо пропорционально не объему выборки, а квадратному корню из этого объема: с увеличением объема выборки в 100 раз точность средней возрастает в 10 раз.. Это следует иметь в виду при определении числа испытуемых рыб в токсикологических опытах для выявления эффективной концентрации яда и среднего времени токсического эффекта [861].

Критерием точности средней арифметической М служит средняя ошибка (т_м) средней арифметической, высчитываемая по формуле , где б — среднеквадратичное отклонение от выборочной средней.

Один из наиболее важных моментов при статистической обработке экспериментальных данных — определение достоверности различия между сравниваемыми величинами, совершенно необходимое при характеристике относительной токсичности различных компонентов промышленных сточных вод или отдельных пестицидов, а также при оценке роли факторов водной среды в изменении этой токсичности. Вполне понятно, что оценка достоверности выявленных различий имеет первостепенное значение при описании экологических, видовых и возрастных особенностей устойчивости рыб к ядам.

Существует несколько способов определения достоверности различия. По одному из них различие считается достоверным, если разница между двумя средними:

Другой способ основан на использовании критерия t, вычисляемого по формуле

где М₁ к М₂ — сравнимые средние арифметические; Σ(х₁ — M ₁)² и Σ(х₂ — М₂)² — сумма квадратов отклонений членов вариационного ряда от их средних арифметических; n₁ и п₂ — количество наблюдений.

Полученный t сопоставляют с значением t, указанным в строке с определенным количеством животных, вычисленным по формуле f = n₁+n₂-2 в специальной таблице.

В том случае, когда количество испытуемых животных в двух сопоставляемых сериях опытов одинаково (n₁ = n₂), критерий может быть установлен по более простои формуле

Хотя в некоторых случаях [861, 596] опытным путем удавалось показать, что распределение частот времени проявления или времени опрокидывания находится в соответствии с нормальной кривой, однако чаще в работах по токсикологии рыб нормальное распределение лишь предполагается без достаточных экспериментальных данных. В связи с этим в тех случаях, когда характер распределения полученных экспериментальных данных неизвестен, предпочтительнее использовать в качестве показателя достоверности различия двух рядов распределения непараметрический критерий Вилкоксона, основанный на числе инверсий. Для каждой пары рядов распределения вычисляют математическое ожидание М числа инверсий и по формуле М и = (mn)/2 (где m и n — количество наблюдений в каждом ряду) и среднеквадратичное

Приняв уровень значимости критерия q = 5% рассчитывают область больших по абсолютной величине отклонении u = M_u ± 1*96δ_u и определяют положение полученного числа инверсий относительной этой области.

Важное преимущество использования непараметрического критерия Вилкоксона перед другими методами оценки достоверности выявляемого различия состоит в том, что он применим при обработке экспериментальных данных, как соответствующих нормальному распределению, так и отклоняющихся от него.

ГЛАВА V