Оценка коэффициентов линейной регрессии

Регрессией случайной величины Y на X называется условное математическое ожидание случайной величины Y при условии, что X = x:

my (x) = M[ Y / X = x ]. (9.1)

Регрессия Y на X устанавливает зависимость среднего значения величины Y от величины X. Если X и Y независимы, то

my (x) = my = const.

Простейшим видом регрессии является линейная:

my (x) = a 0+ a 1 x.

Определение оценок коэффициентов a 0, a 1осуществляется с помощью метода наименьших квадратов.

Пусть имеется выборка {(x 1, y 1), (x 2, y 2),..., (xn, yn)}, содержащая n пар значений случайных величин X и Y. Тогда оценки параметров и вычисляются по следующим формулам:

(9.2)

(9.3)

Для визуальной проверки правильности вычисления величин необходимо построить диаграмму рассеивания и график уравнения регрессии (рис. 9.1).

Рис 9.1

Если оценки парамет­ров a 0, a 1рассчитаны без грубых ошибок, то сумма квадратов отклонений всех точек (xi, yi) от прямой должна быть минимально возможной.

Если выборка дву­мер­ной случайной вели­чины за­да­на с помощью приведен­ной ниже корреляционной таблицы

Таблица 9.1

X	Y
	y 1	y 2		ys
x 1	n 1,1	n 1,2		n 1, S
x 2	n 2,1	n2,2	...	n 2, S
		. . .
xr	nr,1	nr,2		n r,s

где ni,j - количество появлений в выборке пары (xi, yj), то величины , вычисляются по формулам

(9.4)

(9.5)

где (9.6)

Пример 9.1 Найти уравнение прямой регрессии Y на X по данным корреляционной таблицы: Таблица 9.2

xi	yj

Решение. Для расчета оценок коэффициентов a 0, a 1воспользуемся формулами (9.4-9.6).

Тогда

Таким образом, уравнение регрессии имеет вид

ЗАДАЧИ.

Найти уравнение прямой регрессии для следующих экспериментальных данных:

9.1

X
Y	0,1		8,1	14,9	23,9

Ответ:

9.2

X
Y		4,9	7,9	11,1	14,1

Ответ:

9.3

X		1,5		2,5
Y	2,1	2,2	2,7	2,8	2,85

Ответ:

9.4

X	Y

Ответ:

ЛИТЕРАТУРА

1. Большев Л.Н., Смирнов Н.В. Таблицы математической статистики.– М.: Наука, 1983. – 416 с.

2. Герасимович А.И. Математическая статистика. – Мн.: Выш.школа, 1983. - 279 с.

3. Гмурман В.Е. Теория вероятностей и математическая статистика. - М.: Высш.шк., 1977.– 479 с.

4. Гурский Е.И. Сборник задач по теории вероятностей и математической статистике.– Мн.: Выш.шк., 1984.–223 с.

5. Жевняк Р.М., Карпук А.А. Высшая математика. Ч.V.– Мн.: Выш.шк., 1988.-253 с.

6. Сборник задач по математике для втузов. ч. 3. Теория вероятностей и математическая статистика (под редакцией А.В.Ефимова).–М.:Наука. 1990.-428 с.

7. Сборник задач по теории вероятностей, математической статистике и теории случайных функций (под редакцией А.А.Свешникова).-М.: Наука, 1965.-656 с.

8. Сборник индивидуальных заданий по теории вероятностей и математической статистике (под редакцией А.П.Рябушко). – Мн.: Выш. шк., 1992. – 191 с.

9. Справочник по теории вероятностей и математической статистике/ В.С.Королюк и др.– М.: Наука, 1985. – 640 с.

10. Харин Ю.С., Степанова М.Д. Практикум по ЭВМ по математической статистике.– Мн.: изд-во "Университетское", 1987. – 304 с.

ПРИЛОЖЕНИЕ

1. Таблица функции Лапласа

z	(z)	z	(z)	z	(z)	z	(z)
0,00	0,0000	0,66	0,4907	1,32	0,8132	1,98	0,9523
0,02	0,0160	0,68	0,5035	1,34	0,8198	2,00	0,9545
0,04	0,0319	0,70	0,5161	1,36	0,8262	2,05	0,9596
0,06	0,0478	0,72	0,5285	1,38	0,8324	2,10	0,9643
0,08	0,0638	0,74	0,5407	1,40	0,8385	2,15	0,9684
0,10	0,0797	0,76	0,5527	1,42	0,8444	2,20	0,9722
0,12	0,0955	0,78	0,5646	1,44	0,8501	2,25	0,9756
0,14	0,1113	0,80	0,5763	1,46	0,8557	2,30	0,9786
0,16	0,1271	0,82	0,5878	1,48	0,8611	2,35	0,9812
0,18	0,1428	0,84	0,5991	1,50	0,8664	2,40	0,9836
0,20	0,1585	0,86	0,6102	1,52	0,8715	2,45	0,9857
0,22	0,1741	0,88	0,6211	1,54	0,8764	2,50	0,9876
0,24	0,1897	0,90	0,6319	1,56	0,8812	2,55	0,9892
0,26	0,2051	0,92	0,6424	1,58	0,8859	2,60	0,9907
0,28	0,2205	0,94	0,6528	1,60	0,8904	2,66	0,9920
0,30	0,2358	0,96	0,6629	1,62	0,8948	2,70	0,9931
0,32	0,2510	0,98	0,6729	1,64	0,8990	2,75	0,9940
0,34	0,2661	1,00	0,6827	1,66	0,9031	2,80	0,9949
0,36	0,2812	1,02	0,6923	1,68	0,9070	2,85	0,9956
0,38	0,2961	1,04	0,7017	1,70	0,9109	2,90	0,9963
0,40	0,3108	1,06	0,7109	1,72	0,9146	2,95	0,9968
0,42	0,3255	1,08	0,7199	1,74	0,9181	3,00	0,9973
0,44	0,3401	1,10	0,7287	1,76	0,9216	3,10	0,9981
0,46	0,3545	1,12	0,7373	1,78	0,9249	3,20	0,9986
0,48	0,3688	1,14	0,7457	1,80	0,9281	3,30	0,9990
0,50	0,3859	1,16	0,7540	1,82	0,9312	3,40	0,9993
0,52	0,3969	1,18	0,7620	1,84	0,9342	3,50	0,9995
0,54	0,4108	1,20	0,7699	1,86	0,9371	3,60	0,9997
0,56	0,4245	1,22	0,7775	1,88	0,9399	3,70	0,9998
0,58	0,4381	1,24	0,7850	1,90	0,9426	3,80	0,9999
0,60	0,4515	1,26	0,7923	1,92	0,9451	3,90	0,9999
0,62	0,4647	1,28	0,7995	1,94	0,9476	4,00	0,9999
0,64	0,4778	1,30	0,8064	1,96	0,9500

2. Таблица функции Стьюдента

k	0,90	0,95	0,98	0,99
	6,31	12,71	31,8	63,7
	2,92	4,30	6,96	9,92
	2,35	3,18	4,54	5,84
	2,13	2,77	3,75	4,60
	2,02	2,57	3,36	4,03
	1,943	2,45	3,14	4,71
	1,895	2,36	3,00	3,50
	1,860	2,31	2,90	3,36
	1,833	2,26	2,82	3,25
	1,812	2,23	2,76	3,17
	1,782	2,18	2,68	3,06
	1,761	2,14	2,62	2,98
	1,746	2,12	2,58	2,92
	1,734	2,10	2,55	2,88
	1,725	2,09	2,53	2,84
	1,717	2,07	2,51	2,82
	1,711	2,06	2,49	2,80
	1,697	2,04	2,46	2,75
	1,684	2,02	2,42	2,70

3. Таблица функции "Хи-квадрат"

k	0,01	0,02	0,05	0,95	0,98	0,99
	6,64	5,41	3,84	0,004	0,001	0,000
	9,21	7,82	5,99	0,103	0,040	0,020
	11,34	9,84	7,82	0,352	0,185	0,115
	13,28	11,67	9,49	0,711	0,429	0,297
	15,09	13,39	11,07	1,145	0,752	0,554
	16,81	15,03	12,59	1,635	1,134	0,872
	18,48	16,62	14,07	2,17	1,564	1,239
	20,10	18,17	15,51	2,73	2,03	1,646
	21,07	19,68	16,92	3,32	2,53	2,09
	23,20	21,2	18,31	3,94	3,06	2,56
	26,2	24,1	21,0	5,23	4,18	3,57
	29,1	26,9	23,7	6,57	5,37	4,66
	32,0	29,6	26,3	7,96	6,61	5,81
	34,8	32,3	28,9	9,39	7,91	7,02
	37,6	35,0	31,4	10,85	9,24	8,26
	40,3	37,7	33,9	12,34	10,60	9,54
	43,0	40,3	36,4	13,85	11,99	10,86
	45,6	42,9	38,9	15,38	13,41	12,20
	48,3	45,4	41,3	16,93	14,85	13,56
	50,9	48,0	43,8	18,49	16,31	14,95

4. Таблица функции Колмогорова

0,50	0,0361	1,02	0,7500	1,54	0,9826
0,54	0,0675	1,06	0,7889	1,58	0,9864
0,58	0,1104	1,10	0,8223	1,62	0,9895
0,62	0,1632	1,14	0,8514	1,66	0,9918
0,66	0,2236	1,18	0,8765	1,70	0,9938
0,70	0,2888	1,22	0,8981	1,74	0,9953
0,74	0,3560	1,26	0,9164	1,78	0,9965
0,78	0,4230	1,30	0,9319	1,82	0,9973
0,82	0,4880	1,34	0,9449	1,86	0,9980
0,86	0,5497	1,38	0,9557	1,90	0,9985
0,90	0,6073	1,42	0,9646	1,94	0,9989
0,94	0,6601	1,46	0,9718	1,98	0,9992
0,98	0,7079	1,50	0,9778

Св. план 1993, поз. 41

Учебное издание

Составители:

Аксенчик Анатолий Владимирович,

Волковец Александр Иванович,

Волорова Наталья Алексеевна,

Епихин Андрей Валерьевич,

Лозицкий Вячеслав Петрович

МЕТОДИЧЕСКИЕ УКАЗАНИЯ

к практическим занятиям по курсу

«Теория вероятностей и математическая статистика»

для студентов радиотехнических специальностей

Часть 2

Ответственный за выпуск В.А.Новиков

Редактор В.А.Заяц

Подписано в печать Формат 60х84 1/16.

Объем 2,7 усл. печ. л. 2,0 уч.-изд. л. Тираж 300 экз.

Заказ

Белорусский государственный университет

информатики и радиоэлектроники

­Отпечатано на ротапринте БГУИР 220600, Минск, П.Бровки, 6.