Частота /лД 145 33 30 37 25 24 25 10 12 8 39 3 3 5

Поскольку значения а,- < 0 использовались всего лишь 11 раз (3 + 3 + 5) из 399,. т. е. в 2,8% случаев, то возникает вопрос, дей­ствует ли отрицательная часть этой шкалы. Возможно, что попа­дание в эту часть шкалы — явление чисто случайное. Проверим предположение.

Будем считать, что если вероятность р попадания в конец шкалы не превышает 5% при достаточно малом уровне значимости (а =»

¹³ Все примеры взяты из исследовательского проекта «Ценностные ориента-тации». Руководитель В. А. Ядов.

= 0,05 или о^=0,01), то наблюдаемые попадания ответов являются случайными и соответствующая часть шкалы «пе работает». Для этого границы доверительного интервала, построенного по имею­щейся частоте для вероятности попадания в конец шкалы, сравним «о значением 5%. Если значение 5% оказывается выше границ «того интервала, то следует признать, что проверяемая часть шкалы «не работает».

Для расчета границ доверительного интервала воспользуемся ■формулами ^u

mn + -j- Z\_a -Z_ia ]/m (1 - m) n + -j-Z^

"⁺/i!______________________ (1)

_ mn + -\- Z\_a+Z_ia у m (1 - m) n + -j- Z^

Здесь m — доля попаданий в проверяемую часть шкалы; п — •объем выборочной совокупности данных; Z — коэффициент доверия, соответствующий 2а (о доверительном оценивании см. с. 211).

Для рассматриваемого примера та — 0,0276; га — 399; Z_a = l,9G для а = 0,05. Подставляя эти значения в формулы, получим p_t = = 0,016, />₂ = 0,049. То же самое в процентах: p_t = 1,6%; р₂ = 4,9%. Поскольку значение 5% не принадлежит интервалу (1,6%; 4,9%), то считаем, что отрицательная часть шкалы (а₍<0) «не работает», •следовательно, 21-балльная оценка функционирует лишь в области ют +10 до 0.

Для вопросов, имеющих качественные градации ответов, можно применять подобное требование в отношении каждого пункта шка­лы: каждый из них должен набирать не менее 5% ответов, в про­тивном случае считаем этот пункт шкалы неработающим.

Требование 5%-го уровня наполнения в двух рассмотренных задачах не следует рассматривать как строго обязательное; в за­висимости от задач исследования могут быть выдвинуты большие или меньшие значения этих уровней.

Неравномерное использование отдельных пунктов шкалы. Слу­чается, особенно при использовании упорядоченных шкал, града­ции которых сопровождаются словесными описаниями, что некото­рое значение переменной (признака) систематически выпадает из поля зрения респондентов, хотя соседние градации, характеризую­щие более низкую и более высокую степень выраженности при­знака, имеют существенное паполнепие.

Так, если конфигурация распределения ответов на вопрос с четырьмя упорядоченными градациями такая, как на рис. 14, то, видимо, шкала неудачно сформулирована. Значительное наполненио

¹⁴ Формулы для оцепки границ доверительного интервала можпо найти в кв.; Варден Ван дер. Математическая статистика. М., I960, с. 46,

T

двух соседпих пунктов (1 и 3) свиде- I I

тельствует о «захвате» части голосов ___„

из плохо сформулированного пункта 2. ^/УУ/_/

Аналогичная картина наблюдается 6 'У//'

и в том случае, когда респонденту | v>% %%

предлагают шкалу, имеющую слишком»g уу/\ %/ у//Л
большую дробность: будучи не в со- ^% Ул//У///

стоянии оперировать всеми градация- У/У/,,,, у/У/ уУ/.

ми шкалы, респондент выбирает лишь р_анг градации

несколько базовых. Например, зачастую

десятибалльную шкалу респонденты р_ис. 14. Пример неравномер-расценивают как некоторую модифи- ного распределения ответов по нацию пятибалльной, предполагая, что ^шкале «десять» соответствует «пяти», «во­семь» — «четырем», «пять» — «трем» и т. д. При этом базовые оценки используются значительно чаще, чем другие.

Для выявления указанных аномалий равномерного распределе­ния по шкале можно предложить следующее правило: для достаточ­но большой доверительной вероятности (1 — а > 0,99) и, следова­тельно, в достаточно широких границах наполнение каждого зна­чения не должно существенно отличаться от среднего из соседних наполнений.

Соответствующий статистический критерий таков:

(n_i + Z_i)(2n-n_i-n_i) '

Эта величипа имеет хи-квадрат распределение с одной степенью свободы (dj = 1).

Здесь i — номер значения признака, который подвергается ана­лизу; n_t — наблюдаемая частота для этого значения;

Ш = ■*~¹»—— — ожидаемая частота, как средняя из двух соседних,

Пример. Рассмотрим случай измерения в десятибалльной шкале ряда ценностей типа «любимая работа», «материальный достаток», «здоровье» и т. д. При 45 испытуемых и 14 предложенных ценно­стях получепы 623 оценки, распределение которых выглядит так

Д_{ iO 987654321 _ у _ _fi2q

п_{ 167 67 90 60 45 81 33 35 28 17 ^ * '

Поскольку предполагается, что шкала должна «работать» равно­мерно, то, возможно, пункты шкалы 9, 7, 5 не удовлетворяют этому требованию.

Для оценки a_t = 9 наблюдаемая частота п, — 67, ожидаемая —

и _ 167 + 90 _4оо г

Подставим данные значения в формулу у? и получим расчетпую ■величину х¹ = 22,93. Поскольку у,² = 22,93 > tip = 6,63 (а = 0,01), то следует признать различие между наблюдаемой и ожидаемой частотами значимым. Следовательно, частота 67 для оценки а <= 9 слишком мала по сравнению с соседними.

Аналогичные расчеты проводятся для пунктов шкалы а = 7 и а = 5; частота пункта 7 (п₇ = 60) не противоречит выдвинутому требованию равномерности; частота оценки 5 (га₅ — 81) слишком велика по сравнению с соседними и, таким образом, противоречит требованию равномерности.

Определение грубых ошибок. В процессе измерения иногда воз­никают грубые ошибки, причиной которых могут быть неправиль­ные записи исходных данных, плохие расчеты, неквалифицирован­ное использование измерительных средств и т. п. Это проявляется в том, что в рядах измерений попадаются данные, резко отличаю­щиеся от совокупности всех остальных значений. Чтобы выяснить, нужно ли эти значения признать грубыми ошибками, устанавли­вают критическую границу так, чтобы вероятность превышения ее крайними значениями была достаточно малой и соответствовала не­которому уровню значимости а. Это правило основано на том, что появление в выборке чрезмерно больших значений хотя и возмож­но как следствие естественной вариабельности значений, но мало­вероятно.

Если окажетбя, что какие-то крайние значения совокупности принадлежат ей с очень малой вероятностью, то такие значения признаются грубыми ошибками и исключаются из дальнейшего рас--смотрения. Выявление грубых ошибок особенно важно проводить для выборок малых объемов: не будучи исключенными из анализа, они существенно искажают параметры выборки.

Статистический критерий т определения грубых ошибок таков (т>т„_р, где в качестве т выступает либо Xmai, либо т_ти)^1|У;

_ ^дтах ~ ^х. _ ^х ~ ^ут1п,₉v

^Ттах------------------ ~ < T_mi_n — -. \6)

Здесь x_min и х_тах являются крайними членами некоторой совокуп­ности значений {х).

В табл. XII, приводимой В. 10. Урбахом ", даны критические ■значения т, соответствующие различным объемам выборки для до­верительных уровней: а = 0,05 и а = 0,01.

Например, при выборке в 50 единиц значение т для уровня ■а = 0,05 будет 3,16.

Если т расчетное окажется больше т критического, то соответ­ствующее х считается маловероятным и отбрасывается как грубая ошибка.

Пример. Представим; что получены распределения по признаку -с такими выборочными параметрами: х = 0,012; s = 0,160 (при объ-

¹⁵ Урбах Ю. В. Биометрические методы. М., 1964, с. 284. ¹⁽¹ Там же, табл. XII.

.256

еме выборки п = 29 респондентов). В этом распределении край­ними значениями оказались такие: х_шщ = —0,500; х_ты ■= 0,250. Су­щественное подозрение вызывает значение, равное —0,500, посколь­ку среднее значение этого признака близко к 0 (0,012), а вариация его значений невелика U = 0,160).

0,012-(-0,500) о _{2Q 29},.

0.250 — 0,012 wq^-oq/
Tmai = ----- o^gQ^1-------- = 1,49 < 2,94.

Так как для п = 29 и а = 0,05 т„_р = 2,94, то с вероятностью 0,95 можно признать, что значение признака х = —0,500 слишком мало для данной совокупности и поэтому является грубой ошибкой, а х = 0,250 не относится к резко выделяющимся значениям.

Итак, дифференцирующая способность шкалы как первая су­щественная характеристика ее надежности предполагает: обеспече­ние достаточного разброса данных, выявление фактического исполь­зования респондентом предложенной протяженности шкалы; ана­лиз отдельных «выпадающих» значений, исключение грубых оши­бок. После того как установлена относительная приемлемость ис­пользуемых шкал в указанных аспектах, следует переходить к вы­явлению устойчивости измерения по этой шкале.

Устойчивость измерения. О высокой надежности шкалы можно говорить лишь в том случае, если повторные измерения при ее помощи одних и тех же объектов дают сходные результаты. Устой­чивость проверяется на одной и той же выборке исследуемых объ­ектов (респондентов). Сравнение же средних оценок разных выборок ничего не говорит об устойчивости измерения как таковом, а толь­ко лишь о репрезентативности выборок и их соответствии одной и той же совокупности. Обычно устойчивость проверяют проведе­нием двух последовательных замеров с определенным временным интервалом — таким, чтобы этот промежуток не был слишком ве­лик, чтобы сказалось изменение самого объекта, но не слишком лгал, чтобы респондент мог по памяти «подтягивать» данные вто­рого замера к предыдущему (т. е. его протяженность зависит от объекта изучения и колеблется от двух до трех недель).

Осуществление более двух измерений связано с трудностями организации эксперимента и накапливанием ошибок другой при­роды, не связанпой с устойчивостью.

Пусть х — изучаемый на устойчивость признак, а отдельные его значения — х,, х_г, х„,.., х_к. Каждый респондент I (.1 = 1,..., п) и при первом и при втором опросах получает некоторую оценку по изучаемому признаку — х) и х}¹ соответственно.

Результаты двух опросов п респондентов заносятся в таблицу сопряженности (табл. 30), которая служит основой для дальней­шего изучения вопросов устойчивости.

Здесь пц — число респондентов, выбравших в первом опросе ответ Xi и заменивших его при втором опросе на ответ Xj.

Существует традиция изучать устойчивость с помощью анализа корреляций между ответами проб J и II. Однако этот подход не­достаточно эффективен, поскольку не учитывает многих аспектов устойчивости.

Таблица 30

Опрос И ' j

^{Опрос т} т~. | ~ i: I

I

|.

^rl "()••• "У--- "iA ⁿh

^xh "hi--- "k--- ⁿhh "ft.

"j¹ «.,... n.j.-. ™._A j n

Остановимся на более результативных показателях.

1. Показателем абсолютной устойчивости шкалы назовем вели-мину, показывающую долю совпадающих ответов в последователь­ных пробах k

W = ^<-^¹"° = ^яп+"«+•••+"*» _(ГЛ

п п '

Этот показатель использует не всю информацию, содержащуюся в соотношении ответов проб I и II, а базируется лишь па" частотах совпадающих ответов. Однако он хорош, например, для характе­ристики устойчивости качественных признаков.

Для описания устойчивости количественных признаков его не­достаточно, поскольку при большом числе градаций доля совпада­ющих ответов будет чрезвычайно мала и значение W мало инфор­мативно. Здесь пригодны показатели неустойчивости, т. е. величи­ны ошибки, учитывающие не просто факт несовпадения ответов, а степень этого несовпадения. Ошибки рассчитываются по край­ней мере для порядковых признаков.

Линейной мерой несовпадения оценок является средняя ариф­метическая ошибка, показывающая средний сдвиг в ответах в рас­чете на одну пару последовательных наблюдений:

|^д|=4-21*"-*'1' (4)

г=1

Здесь х¹ и х¹¹ — ответы ио анализируемому вопросу £-го рес­пондента в I и II пробах соответственно.

Пример. Пусть ответы па вопрос в пятибалльной шкале для выборки 50 человек распределились, как в табл. 31.

Таким образом, в I пробе оценку «1» дали 9 респондентов, из них только трое повторили ее в пробе II, пятеро отметили «2», один дал оценку «3» и т. д.

Таблица 31. Распределение ответов в двух пробах

Проба II

Проба I i i! Сумма

1 I 2 | 3 I 4 5

13 5 1 — — 9

2-31 1-5

3 — 7 6 2 2 17

4 1 3 4 6 1 15
5-1-12 4

2- 4 19 12 10 5 50

Ошибка такого соотношения ответов:

I Д | = 3|1-1|+5-11-2| + 1-|*-3|+... + 2[5-5| ₌ «. _в о_>82>

Данный показатель использует всю информацию, содержащуюся в распределении, хорошо интерпретируется как средний сдвиг в ответах одного респондента, однако имеет определенные ограниче­ния аналитического характера и поэтому обычно редко использу­ется в статистических расчетах.

Средняя квадратическая ошибка для последовательных дан­ных " в расчете на одну пару наблюдений выглядит так:

*.-"/■£ 2 («"-«О*- (5)

Для данных табл. 31 эта ошибка будет равна

£* = >^щ(3.0² + 5.1² + 1.2²+... + 1-1² + 2.0²) = 0,82.

(совпадение S_x и |Д| в этом примере чисто случайное).

До сих пор речь шла об абсолютных ошибках, размер которых выражался в тех же единицах, что и сама измеряемая величина, например 0,82 балла в пятибалльной шкале. Это не позволяет срав­нивать ошибки измерения разных признаков по разным шкалам. Следовательно, помимо абсолютных, нужны относительные показа­тели ошибок измерения.

В качестве показателя для нормирования абсолютной ошибки можно использовать максимально возможную ошибку в рассмат­риваемой ШКале (Amai).

¹⁷ Линник Ю. В. Метод наименьших квадратов и основы теории обработки наблюдений. М., 1962, с. 114.

2 59

Если число делений шкалы к, тогда Д_га„ равио разнице между крайними значениями шкалы (х_тя1 — х_т\_п), т. е. к — 1, и относи­тельная ошибка имеет вид

Л - JAL- 1^Д1

^атах * — 1

(здесь |Д| — средняя арифметическая ошибка измерения).

Однако зачастую этот показатель «плохо работает» из-за того, что шкала не используется на всей ее протяженности. Поэтому бо­лее показательными являются относительные ошибки, рассчитан­ные по фактически используемой части шкалы, как было рассмот­рено выше. Если число градаций в «работающей» части шкалы обозначить к', то тогда более надежной будет такая оценка ошибки:

д' - 1^Д1 - JAL (₆\

Лотн--^7 _k,__v \V>

"max

Если в качестве абсолютной ошибки использовалась средняя квадратическая ошибка S, то показатель относительной ошибки

«JOTH — ■ £/ ____ j. (')

Пример. Допустим, что шкала имеет 7 градаций. При опреде­лении «работающей» части этой шкалы анализируется распреде­ление полученных в I пробе оценок:

Оценка 12 3 4 5 6 7

Частота 233 106 59 78 4 6 1 2 = ⁴⁸⁷

i=i

Здесь на оценки «5», «6», «7» приходится лишь 11 наблюдений, т. е. 2,26%. Проверка согласно критерию (формула (1)) устанав­ливает, что эта часть шкалы «не работает», т. е,-используются лишь градации 1, 2, 3, 4, поэтому Д_та1 = 4—1 = 3. На основании соот­ношения ответов в I и II пробах находим сдвиги в ответах (ошиб­ки). Распределение ошибок по этой шкале оказалось следующим:

Значение ошибки —4—3—2—1 0 1 2 3

а

Частота 3 14 19 54 284 88 15 10 2 ⁼⁼⁴⁸⁷

t=i

Таким образом, |Д I = 0,60 и относительная ошибка А_0Тн = '₃ ~ = 0,20, или 20%, и А_отн = i'_a — 0,10 — явно завышенная точность

измерения. Однако оценка по к' также является довольно грубой и не использует всю информацию, содержащуюся в ответах I про­бы, ведь реально не все оценки могут дать максимальный сдвиг, а только крайние на шкале.

Оценим для приведенного распределения максимальный сдвиг по реально работающей части шкалы: только крайние значения. (233, 78+11) могут дать сдвиг в 3 балла, 106 и 59 ответов могут

дать максимальный сдвиг в 2 балла. Таким образом, возможный едвиг для данного исходного распределения может быть равен-средней в 2,6 балла четырехбалльной шкалы, т. е. фактическая

ошибка еще больше: ₂' - = 0,23.

Повышение устойчивости измерения. Для решения этой задачи необходимо выяснить различительные возможности пунктов иополь-зуемой шкалы, что предполагает четкую фиксацию респондентами отдельных значений: каждая оценка должна быть строго отделена от соседней. На практике это означает, что в последовательных про­бах респонденты практически повторяют свои оценки. Следователь­но, высокой различимости, делений шкалы должна соответствовать малая ошибка.

Эту же задачу можно описать в терминах чувствительности шка­лы, которая характеризуется количеством делений, приходящихся па одну и ту же разность в значениях измеряемой величины, т. е. чем больше градаций в шкале, тем больше ее чувствительность. Однако чувствительность нельзя повышать простым увеличением дробности, ибо высокая чувствительность при низкой устойчивости является излишней (например, шкала в 100 баллов, а ошибка из­мерения ±10 баллов).

Но и при малом числе градаций, т. е. при низкой чувствитель­ности, может быть низкая устойчивость, и тогда следует увеличить дробность шкалы. Так бывает, когда респонденту навязывают кате­горические ответы «да», «нет», а он предпочел бы менее жесткие оценки. И потому он выбирает в повторных испытаниях иногда «да», иногда «нет» для характеристики своего нейтрального поло­жения.

Итак, следует найти некоторое оптимальное соотношение меж­ду чувствительностью и устойчивостью. Введем правило: исполь­зовать столько градаций в шкале, чтобы ее ошибка была меньше 0,5 балла.

Если ошибка меньше 0,5 балла, то в последовательных опросах ответы в среднем будут совпадать. При |Д I 5^s 0,5 балла ответы в последовательных опросах будут в среднем отличаться на 1 балл (и выше).

Существуют способы, позволяющие добиться требуемой чувстви­тельности.

Пример. В исследовании каждый испытуемый дает 8 оценок некоторым профессиональным качествам инженеров. Значение оце­нок варьирует от +3 до —3. Проведено два измерения. Рассмотрим суммарное распределение оценок по четырем качествам (самостоя­тельность, творчество, инициативность, опытность), данных тринад­цати респондентов (табл. 32).

Всего в табл 32 представлено 416 пар наблюдений: 13 респон­дентов X 8 оценок X 4 качества. Из них в первой пробе 226 оценок имели значение «3»; во второй пробе из них только 170 были по­вторены, 47 оценок получили значение «2», 6 оценок — значение «1» и 3 оценки — значение «О».

Таблица 32. Распределение ответов в двух пробах

__^______ Проба х^{1__________________} V и о

ПР°^Са" 3 1 2 | 1 | 0 |-l|-l|-₈|' " ^Xi ^ <>^{i+ i}

3 170 47 6 3 226 2,70 0,3383 |ЗТО1 |

2 51 31 7 1 90 2,47 0,4547 1,96

1 39 22 7 5 1 74 2,18 1,3962 |з,39|

0 3 3 6 3 11 17 1,06 1,8175 1^5

—12 1 3 2,67 0,2044

—2 2 11 4 0,25 0,6875

—3 1 1________ 2 —1,50 0,2500_______

". ⁼ 2 ⁿU ^{265 104 W 8 8 3} ° ^{416 2М}

Таким образом, для исходной оценки «3» средняя оценка во второй пробе стала равной

_и 170-3 + 47-2 + 6-1 „_7П

#а=з =-------------- 221------------ ⁼ ' ^Д*

На основании этого соотношения оценок получим распределение ошибок:

Значения ошибок —3 —2 —10 12 3 4

Частоты ошибок 4 13 55 211 81 44 6 ^ 2^=41S

Рассчитаем среднюю арифметическую ошибку ГД 1=0,69.

Поскольку |Д| >0,5, ищем неразличающиеся градации.

Средние оценки по каждой строке сравниваем с помощью кри­терия Стыодента. Если окажется, что х, и x_i+, отличаются незна­чимо (t < („рит), то далее пужно сравнивать х_{ в х_<+1 и т. д. до значимого отличия средних U_{(| (+1} записаны в последнем столбце табл. 32, а значимые значения выделены).

Таким образом, оценки «3» и «2» отличаются между собой су­щественно, поскольку критерий Стьюдента фиксирует значимое раз­личие между 2,70 и 2,47; оценки «2» и «1» несущественно отлича­ются друг от друга и т. д. Представим результаты сравнения ис­ходных оценок при помощи схемы разбиения совокупности оце­нок на классы эквивалентности:

Т | 2 1 I II Hi ~2 ИэГ[

Здесь все оценки попадают в три непересекающихся класса: оценка «3» отличается от «2»; «2» и «1» не отличаются друг от друга, но отличаются от соседних оценок; последние четыре значе­ния взаимно неразличимы.

Следовательно, респонденты различают лишь три уровня вме­сто семи предложенных, и шкала должна быть преобразована в трехбалльную, где высокой оценке соответствует исходная оценка

в 3 балла, средней — 2 и 1 балл; низкой — 0, —1, —2, —3. При своим описанным уровням новые баллы — соответственно 3, 2, 1

В итоге имеем следующее соотношение оценок (табл. 33).

Это распределение характеризуется ошибкой |Д 1=0,43 балла т. е. уже меньше 0,5 градации, и потому такая шкала устойчива Таблица 33. Итоговое распределение оценок

Проба II

Проба I -------------- i j 2

__________ 3 I 2 I 1_________

3 170 53 3 226 2 90 67 7 164

1 5 12 9 26

2 265 132 19 416

В общем случае возможны два варианта соотношения исходных оценок: 1) классы неразличимости оценок не пересекаются (на­пример, как это было в только что рассмотренном случае):

Т| I 2 3 I 4 5 6 7

2) классы неразличимости оценок пересекаются, например, так!

/ 2 3 '4 5 6 7

В первом случае можно подобрать для шкалы числовую серию, т. е. упорядоченный ряд чисел, в котором большее число характе­ризует более высокий уровень качества.

Во втором случае имеется полуупорядоченная система оценок,
н ее можно отобразить лишь на полуупорядоченную числовую си­
стему. В рассматриваемом примере возможно, в частности, такое
числовое представление: _ь

1 1 ~Т\ Ч 5 6 7

\° V/lWx S'/j W^/g\
I I I I III

Там, где между исходными оценками пет существенного раз­личия, разница между значениями числового представления (ниж­ний ряд чисел) меньше 1; при значимом различии разница боль­ше 1.

Однако часто желательно иметь преобразованные оценки, вы­раженные целыми числами. В таком случае можно предложить сле­дующую систему понижения дробности шкалы; ближайшим исход-

ным значениям, существенно отличающимся друг от друга, при­сваивают ранги последовательна I, II, III и т, д. В рассматривае­мом примере это будет выглядеть так:

¹ DlZI ^{v 5} Г^~~^~1 i i i i tit

\i \ \ir\ ш \ \лг\
I I I I III

Для промежуточных значений, несущественно отличающихся от соседних (например, исходную оценку «2» можно отнести в любые классы — ив I, и во II), следует предложить дополнительные кри­терии отнесения их в один из двух соседних классов. Можно в качестве критерия использовать меру относительной близости про­межуточной оценки к тому или иному соседнему классу и путем перебора всех возможных схем объединения искать схему с наи­меньшей ошибкой.

В конечном итоге порядок действия может быть таким. На ос­нове данных двух последовательных проб определяем пороги раз-личаемости градаций шкалы. В том случае, если обнаружено сме­шение градаций, применяют один из двух способов.

Первый способ. В итоговом варианте уменьшают дробность шкалы (например, из шкалы в 7 интервалов нереходят на шкалу в 3 интервала).

Второй способ. Для предъявления респонденту сохраняют преж­нюю дробность шкалы и только при обработке укрупняют соот­ветствующие ее пункты (как это было показано выше).

Второй способ кажется предпочтительнее, поскольку, как пра­вило, большая дробность шкалы побуждает респондента и к более активной реакции. При обработке данных информацию следует перекодировать в соответствии с проведенным анализом различи­тельной способности исходной шкалы.

Итак, предложенные способы анализа целесообразны при отра­ботке окончательного варианта методики. Анализ устойчивости от­дельных вопросов шкалы позволяет: а) выявить плохо сформулиро­ванные вопросы, их неадекватное понимание разными респонден­тами; б) уточнить интерпретацию шкалы, предложенной для оценки того или иного явления, выявить более оптимальный вариант дроб­ности значения шкалы.

Изучение устойчивости окончательного варианта методики даст представление о надежности данных (связанной с устойчивостью), которые будут получены в основном исследовании.

Обоснованность измерения. Проверка обоснованности шкалы предпринимается лишь после того, как установлены достаточные правильность и устойчивость измерения исходных данных. Как уже отмечалось, проверка обоснованности — достаточно сложный про­цесс и, как правило, не до конца разрешимый. И поэтому нецеле-

сообразно сначала применять трудоемкую технику для выявления обоснованности, а после этого убеждаться в неприемлемости дан­ных вследствие их низкой устойчивости.

Обоснованность данных измерения — это доказательство соответ­ствия между тем, что измерено, и тем, что должно было быть измерено. Некоторые исследователи предпочитают исходить из так называемой наличной обоснованности, т. е. обоснованности в поня­тиях использованной процедуры. Например, считают, что удовлет­воренность работой — это то свойство, которое содержится в от­ветах на вопрос: «Удовлетворены ли Вы работой?» В серьезном социологическом исследовании, имеющем целью проверку некото­рых теоретических гипотез, такой сугубо эмпирический подход не­приемлем.

Остановимся ва возможных формальных подходах к выяснению уровня обоснованности методики. Их можно разделить на три груп­пы: 1) конструирование типологии в соответствии с целями иссле­дования на базе нескольких признаков; 2) использование парал­лельных данных; 3) судейские процедуры.

Первый вариант нельзя считать формальным методом — это все­го лишь некоторая схематизация логических рассуждений, начало процедуры обоснования, которая может быть на этом и закопчена, а может быть подкреплена более мощными средствами.

Второй, вариант требует использования по крайней мере двух источников для выявления одного и того же свойства. Обоснован­ность определяется степенью согласованности соответствующих данных.

В последнем случае мы полагаемся на компетентность судей, которым предлагается определить, измеряем ли мы нужное нам свойство или что-то иное.

Рассмотрим предложенные варианты последовательно.

Конструированная типология. Один из способов — использова­ние контрольных вопросов, которые в совокупности с основными дают большее приближение к содержанию изучаемого свойства, раскрывая различные его стороны.

Например, можно определять удовлетворенность работой лобо­вым вопросом: «Устраивает ли Вас Ваша нынешняя работа?» Ком­бинация его с двумя другими косвенными: «Хотите ли Вы перейти на другую работу?» и «Предположим, что Вы по каким-то при­чинам временно не работаете. Вернулись бы Вы на свое прежнее место работы?» — позволяет произвести более надежную дифферен­циацию респондентов. Типология по пяти упорядоченным группам от наиболее удовлетворенных работой до наименее удовлетворенных проводится с помощью «логического квадрата».

Обоснованность в подобного рода типологии не доказывается каким-либо формальным критерием и опирается на логические доводы.

Единственное требование, которое может быть выдвинуто при конструировании такого рода типологии,— это положительная кор­реляция между составляющими ее признаками. Отсутствие положи-*

тельной взаимосвязи между вопросами может свидетельствовать о том, что мы не понимаем сущности измеряемого явления.

Так, попытка построить типологию самостоятельности инженера в работе на базе двух вопросов — сложность получаемых инже­нером заданий (плюс за сложность) и обращение его за консуль­тациями (плюс за самостоятельное решение) — оказалась неудач­ной, ибо вопросы коррелировали отрицательным образом и как раз сложность задания предполагала обращение к консультациям.

Параллельные данные. Нередко целесообразно разработать два равноправных приема измерения заданного признака, что позволяет установить обоснованность методов относительно друг друга, т. е. повысить общую обоснованность путем сопоставления двух неза­висимых результатов.

Классифицируем параллельные процедуры в зависимости от соотношения методов и исполнителей: а) несколько методов — один исполнитель; б) один метод — несколько исполнителей; в) несколь­ко методов — несколько исполнителей.

Несколько методов — один исполнитель. Здесь один и тот же исполнитель использует два или более различных метода для изме­рения одного и того же свойства.

Рассмотрим различные способы использования этого метода, и прежде всего — эквивалентные шкалы. Понятие эквивалентности тесно связано здесь с психологическим явлением социальной уста­новки. Всевозможные акты поведения, обусловленные некоторой установкой, или состояние предрасположенности к определенному поведению составляют целостность (универсум) данной предраспо­ложенности. Универсум можно описать совокупностью признаков. Возможны равнозначные выборки признаков для описания — измерения социальной установки. Эти выборки и образуют парал­лельные шкалы, обеспечивая параллельную надежность.

Каждую шкалу рассматриваем как способ измерения некоторого свойства и в зависимости от числа параллельных шкал имеем ряд способов измерения. В качестве исполнителя выступает респондент, дающий ответы одновременно по всем параллельным шкалам. Все ответы сортируем в зависимости от принадлежности к шкале и та­ким образом получаем параллельные данные.

При обработке такого рода данных следует выяснить два момен­та: 1) непротиворечивость пунктов отдельной шкалы; 2) согласо­ванность оценок по разным шкалам.

Первая проблема возникает в связи с тем, что модели ответов не представляют идеальной картины: ответы нередко противоречат ДРУГ ДРУгу. Такая противоречивость свойственна как кумулятив­ным, так и некумулятивным шкалам. Поэтому встает вопрос, что принимать за истинное значение оценки респондента на данной шкале.

Вторая проблема непосредственно касается сопоставления па­раллельных данных.

Рассмотрим пример неудавшейся попытки повысить надежность измерения признака «удовлетворенность инженера профессией» с

помощью трех параллельных порядковых шкал. Приведем две из них:

Шкала А

11. Профессия мне очень нравится 5

1. Профессия скорее нравится, чем не нравится 4
8. Трудно сказать, нравится ли мне ноя профессия 3

14. Эта профессия мне скорее не нравится, чем нравится 2

3. Профессия мне совершенно не нравится 1

Шкала В

2. Моя профессия — одна из лучших 5
13. Считаю, что моя профессия не хуже многих других 4

5. Моя профессия не хуже и не лучше других 3

12. Считаю, что есть много профессий, которые лучше моей 2
4. Моя профессия хуже, чем многие другие 1

15 суждений (в порядке, обозначенном слева) предъявляются респонденту общим списком, и он должен выразить свое согласие или несогласие с каждым. из них. Каждому суждению присваива­ется оценка, соответствующая его рангу в указанной шкале (спра­ва). (Например, согласие с суждением 4 дает оценку «1», согласие с суждением 11 — оценку «5» и т. д.).

Рассматриваемый здесь способ предъявления суждений списком дает возможность проанализировать пункты шкалы на непротиво­речивость. При использовании упорядоченных номинальных шкал обычно считается, что пункты, образующие шкалу, взаимпо исклю­чают друг друга и респондент легко найдет тот из них, который ему подходит.

Изучение распределений ответов доказывает, что респонденты выражают согласие с противоречивыми (с точки зрения исходной гипотезы) суждениями. Например, по шкале «Z?» 42 человека из 100 одновременно согласились с суждениями 13 и 12, т. е. с двумя противоположными суждениями.

Наличие в ответе противоречивых суждений приводит к необ­ходимости вычислять ошибку противоречивости. Это будет разница в рангах, наиболее противоположных для данной шкалы суждений в ответе респондента.

Итак, средние ошибки, характеризующие противоречивость для рассматриваемых шкал, оказались равными

Ал = 0,37; Д_в = 1,57.

Ошибка в 1,57 балла при пятибалльной оценке, видимо, слишком велика, чтобы считать шкалу приемлемой.

Для эквивалентных шкал итоговая оценка респондента рассчи­тывается как суммарная (или усредненная) оценка по разным шка­лам. Однако для правомерности такой процедуры необходимо уста-вовйть соответствие оценок респондента по всем рассматриваемым шкалам.

В вышеприведенном примере такого соответствия не наблюда-лесь, что сказалось на коэффициенте корреляции г= —0,02.

Поиск эквивалентной процедуры для повышения надежности шкалы — весьма утомительная и кропотливая операция. Поэтому данный прием можно рекомендовать лишь при разработке ответ­ственных психологических тестов или методик, предназначенных для массового употребления или панельных исследований.

Один метод — несколько исполнителей. Если метод надежен, то разные исполнители дадут совпадающую информацию, по если их результаты плохо согласуются, то либо измерения ненадежны, ли­бо результаты отдельных исполнителей нельзя считать равноцен­ными. В последнем случае надо установить, нельзя ли считать ка­кую-либо группу результатов заслуживающей большего доверия. Решение этой задачи тем более важно, если предполагается, что одинаково допустимо получение информации любым из рассматри­ваемых методов (например, использование самооценок против оце­нок). Анализ параллельных данных с помощью описанных ниже процедур позволит установить правильность такого предположения.

Для количественных признаков при решении вопроса о согласо­ванности оценок нескольких исполнителей предлагается выявить ошибки соответствия одним из приемов, рассмотренных при изуче­нии устойчивости. Прежде всего, поскольку мы имеем здесь слу­чай прямых групповых наблюдений, наиболее адекватной оценкой совпадения данных является средняя квадратическая ошибка.

Пусть каждый раз измерение производят два человека, и рес­понденту приписывается значение в виде средней (х) из двух ис­ходных. Оценку точности такого измерения следует производить по формуле

Пример. Двое судей оценивают опытность инженера в работе по семибалльной шкале. Предположим, что 13 респондентов получили такие оценки:

Респондент

Судья____ i i ■ | I 1 | (I
___________ 1 I 2 I 3 I 4 I 6 | С I 7 | 8 I 9 10 11 | 12 | 13

А 2 155225455342 В 4 53544^453523

ч}-*¹] ~2 | 4 | 2 | 0 | 2 2 j 2 | 0 0 | 2 2 | 2 | 1

^si = V-Ш (2² + 4² + 2² +... + I²) = 0,97.

Итак, средняя ошибка при таком способе оценивания респондента составляет почти 1 балл.

В том случае, если число измерений каждого объекта равно 3, формула для расчета ошибки будет

с ^s

£f>8

где «— число респонцентов (объектов);

S* = 3 jj ,f;»=i

•S* — дисперсия оценок г-го респондента.

Допустим, что рассмотренную выше совокупность из 13 респон­дентов оценивают не двое, а трое судей, т. е. добавляется еще одна строчка данных и следующие расчеты:

Респондент
^СУДЬ" 1 | 2 | 3 | 4 | 5 | 6 | 7 8 [ 9 | 10 II | 12 13

А 2 15 5 2 2 5 455342

D4 535443 453523

С 3 4 4 6 13 4 4 57544

~7_{ 3 JJ"l 5X~ 2,3 ~3 1 4 Ъ~~Ъ 4,3 3,3 1

s\ 0,67 2,89 0,67 0,22 1,56 0,67 0,67 0 0 2,67 0,89 0,89 0,67

^ = W = ⁰'⁶⁹-

Как видно, оценивание.с помощью трех лиц значительно надеж­нее, чем с помощью двух (соответствующие ошибки 0,69 и 0,97).

Обоснование измеряемого свойства путем определения уровня согласованности нескольких шифровальщиков — классический при­ем, используемый в контент-анализе документов. Этот метод вы­явления надежности особенно необходим здесь, ибо, как правило, анализируемый документ не имеет в тексте четких границ измеря­емого признака, референты которого расплывчаты и толкуются неоднозначно, самые детальные инструкции по шифровке все же не дают исчерпывающих указаний.

Тем же способом можно изучать совпадения оцепок и самооце­нок. Если согласованность оценок со стороны «судей» и соответ­ствующих самооценок респондентов будет достаточно высокой, это может озпачать, что методика достаточно обоснованна. Во всяком случае, одновременное использование оценок и самооценок дает возможность глубже понять сущность измеряемых признаков, уточ­нить их смысл.

Несколько методов и несколько исполнителей. Одним из спосо­бов установления обоснованности измерения некоторого качества у одного и того же респондента (объекта) является фиксирование данного свойства разными исполнителями, владеющими разными методами. Как и в предыдущих случаях, здесь нельзя установить некую абсолютную обоснованность, поэтому рассматривается лишь обоснованность одного способа относительно другого.

Такая ситуация наблюдается, например, в случае, если руково­дитель ранжирует своих подчиненных по какому-то качеству, а ис­следователь ранжирует этих же людей на основании их опроса по

специально разработанной методике. Скорее всего надежность пер-ввго способа ранжирования значительно выше, и обоснованность второго метода следует проверять по его согласованности с первым. Используя параллельные методы измерения одного и того же свойства, исследователь сталкивается с целым рядом трудностей. Во-первых, неясно, в какой мере оба метода измеряют одно и то же качество объекта, причем, как правило, формальных крите­риев для проверки такой гипотезы не существует. Следовательно, необходимо прибегнуть к содержательному (логико-теоретическому) обоснованию того или иного метода.

Во-вторых, если обнаруживается, что параллельные процедуры измеряют общее свойство (данные существенно не различаются), остается вопрос о теоретико-содержательном соответствии этих процедур.

Нельзя не признать, что сам принцип использования парал­лельных процедур оказывается не формальным, а скорее содержа­тельным принципом, и решение остается за теоретико-методологи­ческой концепцией исследования.

Именно теоретическая позиция исследователя, теоретическая обоснованность метода измерения оказываются решающими фак­торами при решении вопроса о предпочтительности той или иной процедуры. Такое заключение необходимо сделать по отношению к параллельным процедурам, когда ни одна из них не обладает большей достоверностью по сравнению с другой.

Метод судейства при обосновании процедур измерения. Один из широко распространенных подходов к установлению обоснован-пости — это использование так называемых судей. Исследователи обращаются к определенной группе людей с просьбой выступить в качестве судей или компетентных лиц. Им предлагают набор признаков, предназначенный для измерения изучаемого явления, и просят оценить правильность отнесения каждого из признаков к этому объекту. Совместная обработка мнений судей позволит присвоить признакам веса или, что то же самое, шкальные оценки в измерении изучаемого явления. В качестве набора признаков мо­жет выступить список отдельных суждений, серия предметов, со­вокупность обследуемых лиц и т. д.

Процедуры судейства многообразны. Способ выявления отноше­ния признаков к измеряемому свойству определяет сущность ме­тода. Это могут быть методы парных сравнений, ранжирования, последовательных интервалов и т. д. В каждом случае, выбирая ту или иную технику судейства, необходимо учитывать ее специ­фические возможности, влияющие на уровень обоснования судей­ских оценок.

Вопрос о том, кого следует считать судьями, достаточно дискус­сионен. Судьи, выбираемые в качестве представителей изучаемой совокупности, так или иначе должны представлять ее микромо­дель: по оценкам судей исследователь определяет, насколько адек­ватно будут истолкованы респондентами пункты опросной процеду­ры или другие обращенные к респонденту стимулы,

Однако при отборе судей возникает трудноразрешимый вопрос, каково влияние собственных установок судей на их оценки, ведь эти установки могут существенно отличаться от установок обследу­емых в отношении того же самого объекта.

Ясно, что в каждом конкретном случае* следует осуществлять контроль такого рода ошибок применительно к данной выборке судей.

Так, используя мужчин и женщин в качестве судей для оценки потенциальных творческих возможностей различных занятий па досуге, нашли, что установки судей-мужчин существенно отлича­ются от установок судей-женщин. Более того, их установки зави­сят от того, увлекается ли сам судящий данным видом досуга. На­пример, женщины, которые занимаются рукоделием, значительно выше оценивают творческие возможности этого занятия, чем те, которые им не занимаются.

В общем виде решение проблемы состоит в том, чтобы: а) вни­мательно проанализировать состав судей с точки зрения адекват­ности их жизнепного опыта и признаков социального статуса со­ответствующим показателям обследуемой генеральной совокупно­сти; б) выявить эффект индивидуальных уклонений в оценках судей относительно общего распределения оценок. Наконец, следу­ет оценить не только качество, но и объем выборочной совокупно­сти судей. Здесь также нет единодушия между специалистами. Рекомендуется брать то 25—30 человек, то 200—300 и более. Серь­езных обоснований в обоих случаях не приводится.

Рассмотрим эту проблему на языке измерения. Поскольку судьи должны измерить некоторое свойство, которое содержится в дан­ном признаке, процедуру судейства можно понимать таким обра­зом: каждый судья i U = l, 2,..., Л0, измеряя одно и то же свой­ство, дает признаку некоторую оценку Xt и помещает его в неко­торый класс значений. Имея оценки N судей, получаем iV измере­ний одного и того же признака. Если признаков к, то имеем N1: измерений. Количество судей надо поставить в прямую зависимость от вариации их мнений и, таким образом, от однозначности изме­ряемого объекта.

С одной стороны, это количество определяется согласованностью: если согласованность мнений судей достаточно высокая и соответ­ственно ошибка измерения мала, численность судей может быть небольшой. Нужно задать значение допустимой ошибки и на ос­новании ее рассчитать требуемый объем выборки.

При обнаружении полной неопределенности объекта, т. е. в слу­чае, когда мнения судей распределятся равномерно по всем кате­гориям оценки, никакое увеличение объема выборки судей не спа­сет ситуацию и не выведет объект из состояния неопределенности. С другой стороны, количество измерений и соответственно чис­ло судей должны быть целесообразными. Очевидно, что 1000 судей дадут более надежные данные, но разумнее ограничиться мень­шим количеством, особенно если требования к точности измерения являются не слишком высокими.

Здесь возникает проблема точности (устойчивости) измерения. Рассмотрим с этой точки зрения принципиально разные варианты судейства:

1) производится классификация состояний объекта (сам объект
имеет качественные градации);

2) находится количественная оценка изменяющихся состояний
объекта, представляющих собой континуум.

В первом случае при определении объема выборки судей необ­ходимо задать некоторый уровень определенности в их мнениях, т. е. эптропия распределения оценок должна быть не выше некото­рого порогового значения. Во втором задается уровень допустимой ошибки. Далее возникает вопрос о численности градаций в судей­ских оценках, что относится к чувствительности любой измеритель­ной процедуры. В общем случае речь идет не о чем ином, как о чувствительности измерения, зависящей и от изменчивости объек­та, и от устойчивости инструмента измерения. Основной способ определения дробности судейских оценок — выявление их устойчи­вости путем двух последовательных (с временпым интервалом) су-действ по единой процедуре. Эта операция уже рассматривалась выше в разделе об устойчивости.

Если объект достаточно неопределен, то большое число града­ций только внесет дополнительные помехи в работу судей и не принесет более точной информации. Нужно выявить устойчивость судейских мнений с помощью повторной пробы и соответственно сузить число градаций.

Выбор того или иного конкретного способа, метода или техники проверки на обоснованность зависит от многих обстоятельств.

Прежде всего следует четко установить, возможны ли какие-то существенные отклонения от запланированного предмета измере­ния. Как правило, интерпретация полученных данных вследствие различных погрешностей измерения не отвечает полностью эмпи­рической интерпретации понятий или свойств, которыми, согласно гипотезе, обладает этот объект. Если программа исследования ста­вит чрезвычайно жесткие рамки, следует использовать не один, а несколько приемов проверки данных на обоснованность, с тем чтобы четко определить границы достоверности заключения по ги­потезе. Если же она не столь жестко ограничивает содержание объекта, уточнение уровня обоснованности поможет интерпретиро­вать данные в несколько иных направлениях в соответствии с ре­зультатами проверки на обоснованность исходного измерения.

Во-вторых, нужно иметь в виду, что уровни устойчивости и обоснованности данных тесно взаимосвязаны. Неустойчивая инфор­мация уже в силу недостаточной надежности по этому критерию не требует слишком строгой проверки на обоснованность. Следует обеспечить достаточную устойчивость и уже затем принять соот­ветствующие меры для уточнения границ интерпретации данных (т. е. выявить уровень обоснованности).

Наконец, надо сказать, что для оперативных исследований, про­грамма которых разработана лишь в общем виде (т. е. имеется скорее общий пабросок логики исследования, общий замысел), мож­но ограничиться проверкой данных на устойчивость, используя эту информацию для некоторых, хотя бы гипотетических, суждений относительно обоснованности.

Выбор конкретной техники проверки данных на обоснован­ность — задача скорее содержательная, чем формальная. Мы пока­зали, как решается эта задача в зависимости от особенностей мето­дики, подлежащей проверке на обоснованность, того места, которое она занимает в рамках всего исследования, и, главное, в соответ­ствии со спецификой объекта измерения.

Многочисленные эксперименты по выявлению уровня надежно­сти исходной информации, в частности рассмотренные в этой гла­ве, позволяют заключить, что в процессе отработки инструментов измерения со стороны их надежности целесообразна следующая последовательность основных этапов работы:

1. Предварительный контроль обоснованности методов измере-
пия первичных данных на стадии проб методики. Здесь проверя­
ется, насколько информация отвечает своему назначению по суще­
ству и каковы пределы последующей интерпретации данных. Для
этой цели достаточны небольшие выборки в 10—20 наблюдения
с последующей корректировкой структуры методики.

2. Пилотаж методики и тщательная проверка устойчивости ис­
ходных данных, в особенности итоговых показателей, индексов, мно­
гомерных шкал и т. п. На этом этапе нужна выборка не менее 100
человек, представляющая микромодель реальной совокупности об­
следуемых с учетом представительства по существенным характе­
ристикам объекта исследования.

3. В период общего пилотажа осуществляются все необходимые
операции, относящиеся к проверке уровня обоснованности. Резуль­
таты анализа данных генерального пилотажа приводят к усовер­
шенствованию методики, к доработке всех ее деталей и в итоге —
к получению окончательного варианта методики для основного
исследования.

4. В начале основного исследования желательно провести про­
верку используемого варианта методики на устойчивость с тем,
чтобы рассчитать точные показатели ее устойчивости. Последую­
щее уточнение границ обоснованности проходит через весь анализ
самого исследования.

Литература для дополнительного чтения

Аванесов В. С. Тесты в социологическом исследовании. М.: Наука, 1982. 199 с. Бородкин Ф. М., Миркин Б. Г. Эмпирические описания в социологии.— В кн.:

Математика и социология. Новосибирск: Наука. Сиб. отд-яие, 1972, с. 3—

41 Воронов Ю. П., Ершова Н. П. Общие принципы социологического измерения.—

В кн.: Измерение и моделирование в социологии. Новосибирск: Наука.

Сиб. отд-ние, 1969, с. 3—15.

Грин Ф. Б. Измерение установки.— В кн.: Математические методы в совре­менной буржуазной социологии. М.: Прогресс, 1966, с. 227—287.

Докторов Б. 3. О надежности измерения в социологическом исследовании. Л.: Наука, 1979. 128 с.

Жуков Ю. М. Применение шкалирования в социально-психологических иссле­дованиях.— В кн.: Методология и методы социальной психологии. М.: Наука, 1977, с. 128—135.

Зайцева М. И. Методы шкалировашш при измерешш установки.— В кн.: Со-циальпые исследования. М.: Наука, 1970, вып. 5, с. 220—242.

Клигер С. А., Косолапое М. С, Толстова Ю. II. Шкалирование при сборе п анализе социологической информации. М.: Наука, 1978. 112 с.

Лаварсфельд П. Ф. Измерение в социологии.— В кп.: Американская социоло­гия: Перспективы, проблемы, методы. М.: Прогресс, 1972, с. 134—149.

Осипов Г. В., Андреев Э. П. Методы измерения в социологии. М.: Наука, 1977. 183 с.

Процесс социального исследования. М.: Прогресс, 1975, разд. 1.4.2.

Саганенко Г. И. Свциологичеокая информация: Статистическая оценка надеж­
ности исходных данных социологического исследования. Л.: Наука, 1979.
142 с. ^J

Статистическое измерение качественных характеристик. М.: Статистика, 1972. 173 с.

Суппес П., Зинес Дж. Основы теории измерений.— В кн.: Психологические из­мерения. М.: Мир, 1967, с. 9—110.