Влияние включения в модель переменной, которая не должна быть включена

Допустим, что истинная модель представляется в виде:

а вы считаете, что ею является

и рассчитываете оценку величины b _1, используя формулу

вместо выра­жения Cov (x₁, y)/D (х₁).

В целом проблемы смещения здесь нет, даже если b₁, будет рассчитана непра­вильно. Величина M(b₁) остается равной β₁, но в общем оценка будет неэффек­тивной. Она будет более неустойчивой, в смысле наличия большей дисперсии относительноβ₁, чем при правильном вычислении.

Это можно легко объяснить интуитивно. Истинная модель может быть записана в виде:

Таким образом, если вы строите регрессионную зависимость у от х₁, и х_г, то b₁ будет являться несмещенной оценкой величины β₁, а β₂ будет несмещенной оценкой нуля (при выполнении условий Гаусса—Маркова). Практически вы обнаруживаете для себя, что β₂, равно нулю. Если бы вы заранее поняли, что β₂ равно нулю, то могли бы использовать эту информацию для исключения и применить парную регрессию, которая в данном случае является более эффективной.

Утрата эффективности в связи со включением х₂ вслучае, когда она не дол­жна была быть включена, зависит от корреляции между х₁, и х₂.

Сравните дис­персии величины β₁ при построении парной и множественной регрессии.

Парная регрессия	Множественная регрессия

Дисперсия в общем окажется большей при множественной регрессии, и разница будет тем большей, чем ближе коэффициент корреляции к единице или -1. Единственным исключением в связи с проблемой утраты эффективности яв­ляется вариант, когда коэффициент корреляции точно равен нулю. В этом случае оценка b₁ для множественной регрессии совпадает с оценкой для парной

регрессии. Доказательство этого опустим.