Построение нелинейных регрессионных моделей

Цель работы: изучение методов построения моделей нелинейных процессов.

Одним из недостатков линейного регрессионного анализа является то, что он может быть использован для описания результативного признака только приближенного линейно зависящего от независимых переменных. Это, безусловно, не удовлетворяет ученых и практиков, работающих в области финансов.

Некоторые функции достаточно просто могут быть прообразованы к линейному виду, например:

y₁=b₀+b₁/x; (1)

y₂= b₀+b₁ +b₂·x₂²; (2)

y₃=b₀·x^b1. (3)

Уравнения (1) и (2) легко могут быть приведены к линейным путем простой замены переменных. Для (1) заменой может служить z=1/x, а для (2) z₁= ; z₂=x₂². В этом случае уравнения (1) и (2) примут вид линейных:

y₁=b₀+b₁·z;

y₂=b₀+b₁·z₁+b₁·z_2.

Такие уравнения принято считать внутренне линейными и для использования алгоритма линейной регрессии достаточно преобразовать массивы независимых переменных согласно известной функциональной зависимости.

Уравнение (3) описывает степенную зависимость результативного показателя (y) от переменной (х). Замена z= x^b1 не позволит решить проблему, т. к. показатель степени b₁ не известен. Такое уравнение будет нелинейным по параметрам, которые и необходимо определить. Уравнения вида (3) могут быть легко приведены к линейному виду путем логарифмирования обеих его частей по любому основанию.

y= b₀·x^b1;

ln y=ln b₀+b₁·ln x. (4)

Обозначим: ln y=Y;

ln b₀=B₀;

ln x=X;

тогда (4) примет вид:

Y=B₀+b₁X.

Значения B₀, b₁ находим пользуясь обычной методикой для линейных зависимостей. Значение b₀ найдем потенцируя B₀: b₀=exp (B₀).

Аналогично может быть преобразована к линейному виду и показательная функция.

y=b₀·b₁^x.

ln y=ln b₀+x·ln b₁. (5)

Обозначим: ln b₀=B₀;

ln b₁=B₁;

ln y=Y;

тогда (5) примет вид:

Y=B₀+B₁·x.

Значения неизвестных параметров найдем: b₀=exp (B₀); b₁=exp (B₁).

Пример: Производственная функция.

Эта функция показывает зависимость показателей реального объема выпуска (Y) от капитальных затрат (К) и затрат труда (L).

В практике исследований используется несколько функциональных зависимостей:

1) Линейная y= b₀+b₁·K+b₂·L;

2) Кобба-Дугласа y=A·K^α·L^β;

3) С постоянной эластичностью замещения и т. д.

Имеются значения индексов реального объекта производства, капитальных затрат и затрат труда в промышленности США за 1899-1922 гг. (1899 г. взят за 100%) [7].

Таблица 1. Производственная функция.

Год	Y	K	L	Год	Y	K	L

Построить уравнения линейной регрессии с использованием логарифмического преобразования. Сравнить результаты на основе R², сделать выводы.

Прежде чем использовать методику построения уравнения регрессии, необходимо выявить тип закономерности, лежащей в основе изучаемого явления. Часто общий вид закономерности можно получить по литературным источникам, относящимся к изучаемому явлению. Однако не учет влияния каких-то важных факторов может существенно исказить проявление изучаемого процесса.

Поэтому предварительно необходимо ответить на следующие вопросы:

1. Насколько однородными являются выборочные данные?

2. Каков количественный характер действия факторов на результативный показатель?

3. Происходили ли какое-либо качественные изменения объекта в изучаемый период времени?

Начинать исследование целесообразно (за исключением тех случаев, когда точно известна функциональная зависимость) с линейной функции:

y=b₀+b₁·x₁+b₂·x₂+..., являющийся частным случаем полиномиальной зависимости порядка более 1.

Далее можно использовать следующие функции:

гиперболическая зависимость:

y=1/(b₀+b₁·x₁+b₂·x₂+... ) ^k;

показательная зависимость:

y=b₀·b₁^x1·b₂^x2... (b_i>0);

логарифмическая зависимость:

y=b₀+b₁·ln x₁+...;

степенная зависимость:

y=b₀·x₁^b1·x₂^b2..., b_i могут принимать положительные и отрицательные значения;

логистическая зависимость:

y= .

При наличии периодичностей могут использоваться функции y=А·sin x или y=B·cos x. Однако определение параметров уравнения в последних двух случаях возможно с использованием специальных процедур, базирующихся на приближенных методах.

Пример: (К. Доугерти. Введение в эконометрику): Функция спроса на продукты питания (определяется естественными потребностями) в зависимости от дохода характеризуется насыщением.

Имеются данные по потреблению продукта питания (у) в зависимости от дохода (х) [7].

Таблица 2. Потребление продукта в зависимости от дохода.

х, тыс.$	у, фунты
	1,93
	7,13
	8,78
	9,69
	10,09
	10,42
	10,62
	10,71
	10,79
	11,13

Построить уравнения, используя:

1) линейную функцию

y=b₀+b₁·x;

2) степенную функцию

y=b₀+b₁·x^α,

при этом подобрать наилучшую функциональную зависимость, используя прием замены переменной, изменяя показатель степени исходя из критерия max R² (-1≤α≤1).

3) степенную функцию вида: y=b₀·x₁^b1

4) показательную функцию:

y=b₀·b₁·exp(x).

Варианты 3) и 4) реализовать, используя логарифмическое преобразование.

Задание: В соответствии с вариантом индивидуального задания построить уравнение линейной регрессии, подобрать функциональную зависимость и ее параметры наилучшим образом (по R²) описывающие эмпирические данные. Оценить точность описания моделью эмпирических данных, оценить значимость уравнения и значимость параметров уравнения регрессии. Сделать выводы.

Отчет должен содержать:

1) Результаты моделирования производственный функции;

2) Результаты моделирования функций спроса;

3) Результаты моделирования по варианту выбранного задания.

Варианты индивидуального задания

	Вариант1			Вариант2			Вариант3
x	y		x	y		x	y
	5,529351			4,804512			4,229923
	3,526624			3,1821			2,807131
	3,957413			3,301655			2,692317
	3,805162			3,04559			2,359257
	3,310732			2,577393			1,913823
	2,993967			2,256596			1,604137
	1,996696			1,478766			0,991565
	2,051955			1,453873			0,934905
	2,10586			1,441519			0,900986
	1,54081			1,007109			0,575987
	1,442863			0,908958			0,498902
	1,223724			0,733632			0,372345
	1,102581			0,63319			0,303321
	1,045005			0,582373			0,272549
	0,965724			0,520519			0,23575
	0,812927			0,410544			0,165719
	0,81457			0,411336			0,175411
	0,756498			0,372417			0,156946
	0,743968			0,366995			0,16233
	0,630684			0,292271			0,117934
	Вариант4			Вариант5			Вариант6
x	y		x	y		x	y
	6,937475			5,790199			4,933985
	4,348793			3,757618			3,218215
	3,855888			3,230587			2,641554
	3,262047			2,66541			2,087699
	2,48658			2,000487			1,501746
	2,403866			1,843525			1,309087
	2,607044			1,90601			1,296739
	2,163919			1,532249			0,990888
	2,07017			1,416536			0,883141
	1,626414			1,067032			0,618789
	1,377859			0,863455			0,4664
	1,598224			0,995782			0,559595
	1,352528			0,808153			0,428295
	1,132833			0,643853			0,316463
	1,123841			0,631201			0,314808
	0,827251			0,420571			0,172881
	1,003148			0,54334			0,2697
	0,669156			0,311277			0,113275
	0,686553			0,326804			0,133622
	0,791265			0,404677			0,198224
	Вариант7			Вариант8			Вариант 9
x	y		x	y		x	y
	8,293259			6,739248			5,611878
	5,421061			4,508206			3,754349
	3,293483			2,836903			2,360352
	2,806559			2,346567			1,859955
	2,796373			2,217342			1,656643
	2,955234			2,229482			1,58477
	2,621475			1,916111			1,303955
	2,220646			1,571957			1,019251
	1,666834			1,134201			0,681473
	1,645168			1,080159			0,628166
	1,5202			0,963094			0,53757
	1,294234			0,782989			0,407601
	1,198116			0,700064			0,351089
	1,260041			0,732898			0,380067
	1,06786			0,592014			0,286818
	0,900458			0,471816			0,209485
	0,800065			0,401182			0,168159
	0,925749			0,490892			0,241571
	0,819293			0,419722			0,199992
	0,706965			0,345667			0,156075
	Вариант10		Вариант11		Вариант12
x	y		x	y		x	y
	8,45455			6,852152			5,692523
	4,581344			3,920404			3,334491
	4,609899			3,758395			3,01856
	3,543008			2,862082			2,22818
	2,737503			2,176133			1,627208
	2,786416			2,11131			1,500361
	2,625333			1,918812			1,305884
	1,914373			1,357567			0,866115
	1,796775			1,22516			0,746444
	1,885135			1,248136			0,74815
	1,563841			0,993643			0,559391
	1,445453			0,888843			0,48321
	1,461056			0,884122			0,482559
	1,244585			0,722079			0,372339
	0,94548			0,506349			0,225628
	1,061204			0,584338			0,289858
	0,785596			0,391054			0,160924
	0,916635			0,484513			0,237015
	0,618224			0,278974			0,099458
	0,604667			0,274059			0,104926
	Вариант13		Вариант14		Вариант15
x	y		x	y		x	y
	7,593881			6,670304			6,544674
	5,644393			5,477151			6,504234
	5,778227			5,760933			7,734783
	5,803188			5,988987			9,192547
	5,642907			6,109907			10,90336
	6,175918			6,740919			13,38478
	6,999382			7,602499			16,53115
	7,185023			8,047559			19,99543
	7,732367			8,778724			24,42054
	7,945833			9,312331			29,63367
	8,374411			10,03622			36,12324
	9,295611			11,14854			44,28943
	9,778271			12,00173			53,98615
	10,31833			12,94759			65,85181
	11,10445			14,1233			80,45781
	11,64238			15,18844			98,13995
	12,69638			16,6841			119,9926
	13,28843			17,93233			146,3969
	14,28429			19,54646			178,8489
	15,4246			21,35291			218,5176