Точечная оценка и ее свойства. Устойчивые параметрические методы оценивания

6.2. Оценка параметров модели и дисперсии

Результаты оценки параметров

Для оценки параметров q 0 , q 1 и дисперсии s 2 используется случайная выборка у 1 , у 2 , ..., у п наблюдений переменных отклика в п опытах эксперимента и соответствующие им числовые значения x 1 , x 2 , ..., x п x . Для получения результатов и оценки параметров используется метод наименьших квадратов, который не требует никаких допущений о распределении случайных переменных модели.

Методом наименьших квадратов ищутся такие результаты и оценки параметров q 0 и q 1 , которые делают минимальной сумму квадратов разностей

= (6.2.1)

наблюдаемых в п опытах значений у i переменных отклика и их ожидаемых значений Е (у i )=q 0 +q 1 x i в соответствии с постулируемой моделью (6.1.1). Эта сумма квадратов является функцией параметров q 0 и q 1 и поэтому обозначается S (q 0 , q 1). Для нахождения и , при которых функция S (q 0 , q 1)= принимает минимальное значение, берутся её первые частные производные по q 0 и q 1 и приравниваются нулю:

=–2=0, (6.2.2)

=–2=0. (6.2.3)

Эти уравнения можно записать соответственно в виде

=0 и =0.

Решение первого уравнения относительно q 0 даёт

q 0 =

=–q 1 , (6.2.4)

где = и =. Подставляя его во второе уравнение, получаем

=0

и отсюда находим формулу для вычисления

==

= . [в силу (1.4.3)] (6.2.5)

Подставляя в (6.2.4) вместо его найденное значение , получаем формулу расчёта

Чтобы убедиться, что при результатах и оценки параметров функция S (q 0 , q 1) принимает минимальное значение, нужно рассмотреть вторые производные этой функции по q 0 и q 1 . Вторые производные функции S (q 0 , q 1) получаются соответственно =2п и =2. Значения этих производных положительные, поэтому при q 0 = и q 1 = функция S (q 0 , q 1) принимает минимальное значение [Выгодский (2006) стр. 429; Khuri (2003) стр. 114].

Заметим, что при выполнении оценки по формулам (6.2.5) и (6.2.6) не используются допущения раздела 6.1. Получаемые из уравнения =+x i результаты оценки ожидаемых значений переменных отклика оценивают их значения, полученные в результате эксперимента, и которые на самом деле возможно должны моделироваться нелинейной функцией. Тем не менее, если три допущения раздела 6.1 соблюдаются, то полученные методом наименьших квадратов и являются несмещёнными результатами оценки и имеют наименьшую дисперсию среди всех возможных линейных несмещенных результатов оценки.

Уравнения (6.1.1) моделей для п опытов эксперимента можно представить в матричном или векторном видах

у =Xq +e

Q 0 1 +q 1 x +e , (6.2.7)

где у = - вектор полученных в опытах значений переменных отклика, X = - матрица модели, q = - вектор параметров модели и e =- вектор ошибок. В этом случае оценка параметров модели может быть сделана тоже с использованием матриц. Так, произведение матрицы модели на себя принимает вид X Т X =, а обратная этого произведения (X Т X ) –1 =. Произведение матрицы модели на вектор значений переменных отклика имеет вид X Т y =. В теореме 7.2.1 следующей главы доказано, что оценки и получаются в результате решения нормальных уравнений X Т Xq =X Т y по формуле =(X Т X ) –1 X Т y , то есть

Результаты и оценки здесь такие же, как по формулам (6.2.5) и (6.2.6). Это можно показать так

===,

что, как и в (6.2.5). Для начнём с выражения (6.2.6)

=–

Второй и четвёртый члены числителя сокращаются и, как в (6.2.7), получаем

=.

Пример 6.2.1 . В интегральной микросхеме коэффициент (у) усиления транзистора между эмиттером и коллектором зависит от двух контролируемых в процессе напыления переменных: эмиттерной дозы (x в единицах по 10 14 ионов) и времени (x 1 в мин.) разгонки примеси эмиттера. Здесь рассмотрим часть данных для 10 образцов после напыления при x 1 =225, сведённых в таблицу 6.2.1 .

Таблица 6.2.1 . Значения коэффициента (у) усиления транзистора и переменной x

По формулам (6.2.5) и (6.2.6) находятся =2201,7 и =–197,6. Таким образом, уравнение оценки ожидаемых значений коэффициента усиления в зависимости от переменной x получается в виде

2201,7–197,6x .

На Рис. 6.1 показаны график зависимости от x в виде прямой линии синим цветом вместе с 10 точками с координатами (x , у ). Из рисунка, очевидно, что наклон является скоростью изменения при изменении x , а значение равно значению при x =0.

Кажущаяся линейной зависимость на Рис. 6.1 не устанавливает причинно следственной зависимости коэффициента усиления от эмиттерной дозы (выводы, которые здесь можно сделать, см. в разделе 6.3). Допущение D (e i )=s 2 (постоянной дисперсии) для всех i =1, 2, ..., 10 представляется разумным.

Рис. 6.1. Линия регрессии и данные эксперимента для коэффициента усиления и эмиттерной дозы.

Объяснение результатов и условие их раздельной оценки

Обсудим теперь смысл результатов оценки параметров, использованных в уравнении =2201,7–197,6x оценки ожидаемых значений переменных отклика из примера 6.2.1. Заметим, что на Рис.6.1 результат 2201,7 оценки параметра q 0 равный при x =0, не показана. За пределами интервала от 4,00 до 4,72 единиц переменной x , при которых коэффициент усиления транзистора действительно измерялся, прямая линия на Рис.6.1 не показана, так как нет данных, чтобы проверить её обоснованность за пределами этого интервала. В частности, результат 2201,7 должен расцениваться просто как точка, через которую проходит прямая линия в диапазоне значений переменной x опытов эксперимента.

Второй результат –197,6 оценки параметра q 1 в уравнении оценки ожидаемых значений переменных отклика определяет наклон линии в используемых единицах измерений. Таким образом, по уравнению =2201,7–197,6x величина уменьшается на 197,6 единиц при изменении на единицу переменной x .

В статистическом моделировании под планом эксперимента понимается перечень используемых в опытах эксперимента значений влияющей на отклик переменной. Так, в примере 6.2.1 с коэффициентом усиления транзистора перечень представленных в таблице 6.2.1 значений переменной ξ является планом эксперимента. Здесь план представляется вектором значений эмиттерной дозы, но в общем случае для нескольких влияющих на отклик переменных план представляет собой матрицу значений этих переменных, строки которой являются наборами их значений, устанавливаемых в опытах эксперимента. Столбцы этой матрицы используются для оценки параметров модели и для раздельной их оценки столбцы должны удовлетворять определённому условию.

Рассмотрим это условие на примере . В нём имеется уравнение линейной модели y=θ 1 x 1 +θ 2 x 2 +e, где переменной (y) отклика является скорость протекания химической реакции, а x 1 и x 2 - процентные содержания двух катализаторов А и В, влияющих на скорость реакции. Полагается, что выбран такой план эксперимента, в котором значения x 1 и x 2 оказались пропорциональны один другому, так что для каждого опыта x 2 =δ x 1 . Тогда, например, при δ =2 в каждом опыте процентное содержание катализатора В будет в два раза больше, чем катализатора А. В этом случае матрица модели имеет, например, вид X =. Тогда уравнение y=θ 1 x 1 +θ 2 x 2 +e модели может быть записано в виде

y=θ 1 x 1 +θ 2 δ x 1 +e

=(θ 1 +δ θ 2)x 1 +e

=δ –1 (θ 1 +δ θ 2)x 2 +e.

Методом наименьших квадратов могут быть найдены нормальные уравнения для оценки параметров θ 1 и θ 2 , но они не обеспечивают единственности их оценки. Эти параметры не могут быть оценены раздельно. В этом случае можно оценить только их линейную комбинацию θ 1 +δ θ 2 . Причина этого в том, что когда x 2 =δ x 1 , то влияние на переменную отклика переменной x 1 (катализатор А) полностью неразличимо от влияния переменной x 2 (катализатор В). Равенство x 2 =δ x 1 означает, что x 2 –δ x 1 =0. В общем, это происходит всегда, когда линейная зависимость вида α 1 x 1 +α 2 x 2 =0 (для данного примера α 1 =–δ , α 2 =1) связывает линейно зависимые столбцы матрицы X .

В начале раздела П.4 приложения даётся определение линейно независимых векторов и столбцов матрицы. Следовательно, для раздельной оценки параметров модели вектор-столбцы матрицы модели должны быть линейно независимы. Это условие соблюдается для столбцов матрицы модели в примере 6.2.1.

Математические ожидания и дисперсии результатов оценк и

Результаты и оценки параметров модели являются линейными функциями значений у 1 , у 2 , ..., у п переменных отклика. Используя три допущения раздела 6.1, можно получить следующие математические ожидания и дисперсии для и .

В числителе правой части выражения (6.2.5) имеем

=

=

Тогда формула (6.2.5) принимает вид

=.

Теперь, используя первое допущение Е (у i )=q 0 +q 1 x i раздела 6.1, получаем

Е ()==

==

Математическое ожидание для находится следующим образом

E ()=E (–)=E ()–E ()

=–q 1 =–q 1

Q 0 +q 1 –q 1 =q 0 . (6.2.10)

Таким образом, математические ожидания для и равны самим оцениваемым параметрам и поэтому их результаты оценки являются несмещёнными. В векторном виде для модели (6.2.7) это можно записать так

E ()=q . (6.2.11)

Дисперсия определяется с использованием его выражения по формуле (6.2.5), а также второго D (у i )=s 2 и третьего C (у i , у j )=0 допущений раздела 6.1. В силу (3.2.8), имеем

D ()==

По формуле (6.2.6) для можно записать

=–=–.

Тогда дисперсия находится следующим образом

D ()=D =

=s 2

S 2

S 2 . (6.2.13)

Обратим внимание, что при нахождении математического ожидания Е () и дисперсии D () рассматриваются случайные изменения от выборки к выборке значений случайных переменных у i . Полагается, что n значений x 1 , x 2 , ..., x п влияющей на отклик переменной x остаются теми же в опытах эксперимента при получении выборочных значений случайных переменных у i , так что дисперсии D () и D () постоянны.

Матрица дисперсий и ковариаций вектора оценки параметров модели находится в виде

D ()=E {[–E ()][–E ()] T }=(X Т X ) –1 X Т E {[y –E (y )][y T –E (y T)]}X (X Т X ) –l

= (X Т X ) –l X T E (ee T)X (X Т X ) –l

= (X Т X ) –l s 2 . (6.2.14)

Условия оценки параметров с минимальной дисперсией

Из выражения (6.2.12) видно, что дисперсия D () становится минимальной, когда сумма максимальна. Если значения x i влияющей на отклик переменной находятся в интервале а ≤x i ≤b , где а и b - крайние числа интервала, то при четном п сумма становится максимальной, если в опытах эксперимента одна половина значений переменной x выбирается равной а , а другая половина равной b . Это можно показать следующим образом.

Пусть р значений переменной x равны а , а оставшиеся п –р значений равны b . Тогда усреднённое значение этой переменной =[рa +(n –р )b ]/n . В этом случае можно представить в виде

=р {a –[рa +(n –р )b ]/n } 2 +(n –р ){b –[рa +(n –р )b ]/n } 2

=р {[na –рa –nb +рb ]/n } 2 +(n –р ){[nb –рa –nb +рb ]/n } 2

=р {[n (a –b )–р (a –b )]/n } 2 +(n –р )[–р (a –b )/n ] 2

=р (n –р ) 2 (a –b ) 2 /n 2 +(n –р )р 2 (a –b ) 2 /n 2

=[р (n –р ) 2 +р 2 (n –р )](a –b ) 2 /n 2

=р (n –р )(n –р +р )(a –b ) 2 /n 2

=р (n –р )(a –b ) 2 /n.

=(n –2р )(a –b ) 2 /n =0.

Отсюда получаем р =п /2. А если взять вторую производную, то получаем

=–2(a –b ) 2 /n.

Вторая производная получается отрицательной, следовательно при р =п /2 достигается максимум суммы .

Это преимущество, что при проведении опытов эксперимента с использованием только двух значений, называемых также уровнями фактора x , достигается минимальная дисперсия оценки коэффициента регрессии, используется в планировании двухуровневых факторных экспериментов. При планировании таких экспериментов для каждого фактора выбираются только два значения или уровня.

Кроме этого, в силу (6.2.13), очевидно, что дисперсия D () становится минимальной, когда =0. Для этого при обработке результатов двухуровневых факторных экспериментов каждый влияющий на отклик фактор нормируется по формуле (2.6.4) чтобы усреднённое нормированного фактора было равно нулю.

Ортогонализация столбцов матрицы модели

При соблюдении первого допущения раздела 6.1, математическое ожидание вектора случайных переменных отклика модели (6.2.7) имеет вид Е (у )=Xq . Если в это выражение вместо вектора q подставить вектор =(X Т X ) –1 X Т y его оценки, то получается вектор оценки ожидаемых значений случайных переменных ≡ =X . Разность векторов у и даёт вектор остатков или остаточных ошибок

е =у –=у –X (X Т X ) –1 X Т y

=[I –X (X Т X ) –1 X Т ]y (6.2.15)

Произведение этого вектора и матрицы X даёт нулевой вектор

X Т е =X Т [I –X (X Т X ) –1 X Т ]y =[X Т –X Т ]y =0 .

По определению произведения матрицы на вектор это значит, что произведение вектора е с любым вектор-столбцом матрицы X даёт нулевой результат.

Если при планировании эксперимента векторы столбцы матрицы X не сделаны ортогональными, то на практике они обычно получаются не ортогональными. Это видно из примера 6.2.1, где первый и второй столбцы не ортогональны, то есть 1 Т x ≠0. Однако можно найти составляющий вектор x о вектора x , который ортогонален вектору 1 , и переписать функцию модели с использованием ортогональных векторов. Для нахождения вектора x о, являющегося составляющим вектора x и ортогонального вектору 1 , воспользуемся тем, что вектор е остатков ортогонален векторам 1 и x . Временно считая x вектором переменных отклика и 1 вектором значений влияющей на отклик переменной, методом наименьших квадратов получим оценку вектора ожидаемых значений отклика x в виде =4,352x1 . В силу (6.2.15), вектор остатков для данных примера 6.2.1находится так x о = x –= x –4.352x1 , что в численном выражении имеет вид

x о Т =[–0,352 0,248 –0,152 –0,252 0,248 –0,052 –0,352 0,348 –0,052 0,368].

Теперь перепишем функцию модели (6.2.7) в виде

Е (у )=θ 0 1 +θ 1 x +4,352θ 1 1 –4,352θ 1 1

=(θ 0 +4,352θ 1)1 +θ 1 (x –4,352x1 ),

откуда получаем

Е (у )=θ1 +θ 1 x о,

где θ=θ 0 +4,352θ 1 . Для такой функции модели имеем матрицу X о =[1 , x о ] с использованием которой вычисляем

(X о Т X о) –1 =, X о Т y = и ==.

И последним найдём также функцию Е (у )=θ 0 1 модели, где параметр θ 0 тоже оценивается методом наименьших квадратов по формуле =(1 Т 1 ) –1 1 Т y =1341,5.

Теперь можно сравнить три выражения, полученные для оценки вектора ожидаемых значений переменных отклика:

Ø Для модели с одним параметром =1341,5x1

Ø Для модели с двумя параметрами =2201,7x1 –197,6x

Ø Для модели с ортогональными столбцами её матрицы =1341,5x1 –197,6x о

Из сравнения делаем следующие заключения:

1. Так как векторы 1 и x о ортогональны, то коэффициент перед вектором 1 в модели с ортогональными столбцами её матрицы и двумя параметрами является тем же, что и коэффициент перед 1 в модели с одним параметром.

2. Коэффициент перед вектором x о в модели с ортогональными столбцами её матрицы является тем же, что и коэффициент перед вектором x в модели с двумя параметрами и не ортогональными столбцами её матрицы.

Полученные выше выражения оценки представлены графически на Рис.6.2.1.

Рис. 6.2.1. Плоскость оценки векторов ожидаемых значений переменных отклика тремя моделями.

Вектор 1 и ортогональный ему вектор x о, как и векторы 1 и x , могут использоваться для задания плоскости, где расположен вектор оценки ожидаемых значений переменных отклика. При не ортогональности базисных векторов 1 и x конец вектора имеет координаты 2201,7x1 и –197,6x . При ортогональности базисных векторов 1 и x о, тот же конец вектора имеет координаты 1341,5x1 и –197,6x о.

Таким образом, проведённый анализ показывает, что если матрица модели с двумя параметрами имеет ортогональные вектор-столбцы, то параметры модели оцениваются независимо друг от друга и от выбираемой линейной функции модели. При этом заметим, что столбцы матрицы модели с двумя параметрами можно сделать также ортогональными, если подвергнуть нормированию переменную x , как показано в разделе 6.5 этой главы.

Оценка дисперсии

Методом наименьших квадратов невозможно оценить дисперсию D (у i )=s 2 . Нахождение минимума функции S (q 0 , q 1) дает только результаты и оценки параметров модели. Для оценки дисперсии используется выражение (3.2.2), то есть,

D (у i )=E [у i –E (у i )] 2 .

В опытах эксперимента по второму допущению раздела 6.1 дисперсия s 2 считается одинаковой для всех переменных у i (i =1, 2, ..., п ) отклика. Используя обозначение для результата оценки ожидаемого значения E (у i ) случайной переменной отклика, дисперсия s 2 оценивается выражением

Выборочные характеристики. Состоятельные,

В начале курса были рассмотрены такие понятия как классическая и статистическая вероятности.

Если классическая вероятность - это теоретическая характеристика, которую можно определить, не прибегая к опыту, то статистическая вероятность может быть определена только по результатам эксперимента. При большем числе опытов величина W(A) может служить оценкой для вероятности P(A). Достаточно вспомнить классические опыты Бюффона и Пирсона. Подобные аналогии можно продолжить и далее. Например, для теоретической характеристики М(x) таковой аналогией будет - среднее арифметическое:

= i f i / n ,

для дисперсии D(x) эмпирическим аналогом будет статистическая дисперсия:

S 2 (x) = (x i - ) 2 f i / n .

Эмпирические характеристики , S 2 (x) , W(A) являются оценками параметров М(x) , D(x) , P(A) . В тех случаях, когда эмпирические характеристики определяются на основе большого числа опытов, использование их в качестве теоретических параметров не приведет к существенным ошибкам в исследовании, однако в тех случаях, когда число опытов ограничено, ошибка при замене будет существенна. Поэтому к эмпирическим характеристикам, являющимися оценками теоретических параметров предъявляются 3 требования:

оценки должны быть состоятельными, несмещенными и эффективными.

Оценка называется состоятельной, если вероятность отклонения ее от оцениваемого параметра на величину меньшую как угодно малого положительного числа стремится к единице при неограниченном увеличении числа наблюдений n , т.е.

P(| - | < ) = 1

где - некоторый параметр генеральной совокупности,

/ - оценка этого параметра. Большинство оценок различных чис­ловых параметров отвечают этим требованиям. Однако одного этого требования бывает недостаточно. Необходимо, чтобы они еще были и несмещенными.

Оценка называется несмещенной, если математическое ожидание этой оценки равно оцениваемому параметру:

М ( / ) = .

Примером состоятельной и несмещенной оценки систематического ожидания является средняя арифметическая:

М () = .

Примером состоятельной и смещенной оценки является

дисперсия:

М (S 2 (x) ) = [ (n – 1)/ n] D(x).

Поэтому, чтобы получить несмещенную оценку теоретической дисперсии D(x) надо эмпирическую дисперсию S 2 (x) умножить на n/(n – 1) , т.е.

S 2 (x) = (x i - ) 2 f i / n n /(n – 1) = (x i - ) 2 f i /(n – 1) .

Практически эту поправку вносят при вычислении оценки дисперсии в тех случаях, когда n < 30 .

Состоятельных несмещенных оценок может быть несколько. Например, для оценки центра рассеивания нормального распределения наряду со средней арифметической , может быть взята медиана . Медиана так же, как и является несмещенной состоятельной оценкой центра группирования. Из двух состоятельных несмещенных оценок для одного и того же параметра естественно отдать пред­почтение той, у которой дисперсия меньше.

Такая оценка, у которой дисперсия будет наименьшей относительно оцениваемого параметра, называется эффективной . Например, из двух оценок центра рассеивания нормального распределения М(x) эффективной оценкой является , а не , так как дисперсия меньше дисперсии . Сравнительная эффективность этих оценок при большой выборке приближенно равна: D() / D= 2/ = 0,6366.

Практически это означает, что центр распределения генеральной совокупности (назовем его 0) определяется по с той же точностью при n наблюдениях, как и при 0,6366 n наблюдениях по средней арифметической .

4.4. Свойства выборочных средних и дисперсий.

1. Если объем выборки достаточно велик, то на основе закона больших чисел с вероятностью близкой к единице, можно утверждать, что средняя арифметическая и дисперсия S 2 будут как угодно мало отличаться от М(x) и D(x ), т.е.

М(x) , S 2 (x) D(x ),

Эффективность (оптимальность) оценок

До сих пор мы говорили об оптимальности оценок в смысле мини­мума квадратичного критерия. Оказывается, что при выполнении условий Гаусса-Маркова они являются также оптимальными в смысле минимума дисперсии.

Оценка называется эффективной, если она имеет минимальную дис­персию по сравнению с другими оценками заданного класса.

Таким образом, оценки наименьших квадратов являются эффек­тивными, т. е. наилучшими в смысле минимума диспепсии, в классе всех линейных несмещенных оценок параметров.

Рассмотрим функции плотности вероятности и одиночного наблюдения и выборочного среднего .

Величина х считается распределённой. Распределения и симметрично относительно -теоретического среднего. Разница в том, что распределение - уже и выше. Величина , ближе к , чем значение единичного наблюдения, поскольку её случайная составляющая , есть среднее от чисто случайных составляющих в выборке и они как-бы «гасят» друг друга при расчёте среднего.

Вычтем из (1) (2):

То есть оценка теоретической дисперсии зависит от (и только от) числа случайной составляющей наблюдений х в выборке. Поскольку эти составляющие меняются от выборки к выборке, так от выборки к выборке меняется и величина оценки .

Несмещённость.

Поскольку оценки являются случайными переменными, их значения лишь по случайному совпадению могут в точности равняться характеристикам генеральной совокупности. Обычно будет присутствовать определённая ошибка, которая может быть большой, или малой, положительной или отрицательной, в зависимости от чисто случайных составляющих величин х в выборке.

Желательно, чтобы оценка в среднем за достаточно длительный период была аккуратной. То есть математическое ожидание оценки = соответствующей характеристике генеральной совокупности. Такая оценка называется несмещённой . Если это не так, то оценка называется смещённой и разница, между её М. О. и соответствующей теоретической характеристикой генеральной совокупности называется смещением .

Полученная оценка – не единственно возможная несмещённая оценка . Рассмотрим выборку из всего двух наблюдений и . Любое взвешенное среднее наблюдений и было бы несмещённой оценкой, если сумма весов равна 1. Докажем, это. Рассмотрим обобщённую форму оценки:

то ,

которые называются...

1. стандартизированными

2. рекурсивными

3. частными

4. нелинейными

Вопрос № 4.5. Оригинальный порядковый номер: 51

В линейной модели множественной регрессии рассматриваются только ____ функции регрессии

Варианты ответов. Кол-во правильных ответов - 1

1. линейные

2. степенные

3. квадратичные

4. показательные

Тема № 5. Оценка параметров линейных уравнений регрессии

Оригинальное кол-во заданий: 59, в базе представлено: 5

Вопрос № 5.1. Оригинальный порядковый номер: 24

При применении метода наименьших квадратов для оценки параметров уравнений регрессии минимизируют _____________ между наблюдаемым и моделируемым значениями зависимой переменной.

Варианты ответов. Кол-во правильных ответов - 1

1. сумму разностей

2. квадрат суммы

3. сумму квадратов разности

4. квадрат разности (только для одного наблюдения)

Вопрос № 5.2. Оригинальный порядковый номер: 26

В линейном уравнении множественной регрессии метод наименьших квадратов позволяет оценить значение параметра …

Варианты ответов. Кол-во правильных ответов - 1

1. x 1

2. x 2

Вопрос № 5.3. Оригинальный порядковый номер: 48

Коэффициенты "чистой" регрессии уравнения множественной регрессии вида …

Варианты ответов. Кол-во правильных ответов - 1

1. не могут быть отрицательными

2. всегда меньше 1

3. некорректно сравнивать по величине

4. имеют одинаковый знак

Вопрос № 5.4. Оригинальный порядковый номер: 55

В рамках метода наименьших квадратов (МНК) система нормальных уравнений – это система, решением которой являются оценки ____ модели.

Варианты ответов. Кол-во правильных ответов - 1

1. независимых переменных

2. отклонений параметров теоретической модели от параметров эмпирической

3. параметров теоретической

4. переменных теоретической

Вопрос № 5.5. Оригинальный порядковый номер: 58

Название метода «метод наименьших квадратов» подразумевает, что сумма квадратов отклонений значений результирующего признака от теоретических должна быть …

Варианты ответов. Кол-во правильных ответов - 1

1. меньше средней ошибки аппроксимации

2. меньше уровня значимости, принятого при проверке статистических гипотез

3. минимальной

4. равной нулю

Вопрос № 5.1. Оригинальный порядковый номер: 3

Систему МНК, построенную для оценки параметров линейного уравнения множественной регрессии можно решить методом…

Варианты ответов. Кол-во правильных ответов - 1

1. скользящего среднего

2. максимального правдоподобия

3. определителей

4. первых разностей

Вопрос № 5.2. Оригинальный порядковый номер: 4

В исходном соотношении МНК сумма квадратов отклонений фактических значений результативного признака от его теоретических значений …

Варианты ответов. Кол-во правильных ответов - 1

1. центрируется

2. приравнивается к системе нормальных уравнений

3. минимизируется

4. максимизируется

Вопрос № 5.3. Оригинальный порядковый номер: 8

Метод наименьших квадратов применяется для оценки …

Варианты ответов. Кол-во правильных ответов - 1

1. параметров уравнений регрессии, внутренне нелинейных

2. существенности параметров уравнений регрессии

3. параметров линейных уравнений регрессии

4. качества линейных уравнений регрессии

Вопрос № 5.4. Оригинальный порядковый номер: 12

Самым распространенным методом оценки параметров регрессии является метод наименьших …

Варианты ответов. Кол-во правильных ответов - 1

1. моментов

2. разностей

3. квадратов

4. модулей

Вопрос № 5.5. Оригинальный порядковый номер: 23

При оценке параметров линейных уравнений регрессии с помощью метода наименьших квадратов минимизируют сумму квадратов разности между …

Варианты ответов. Кол-во правильных ответов - 1

1. наблюдаемым и моделируемым значениями случайной величины

2. наблюдаемым и моделируемым значениями параметров

3. наблюдаемым и моделируемым значениями зависимой переменной

4. наблюдаемым и моделируемым значениями независимой переменной

Вопрос № 5.1. Оригинальный порядковый номер: 15

В модели парной линейной регрессии Y=b 0 +b 1 X +e коэффициент b 1 показывает…

Варианты ответов. Кол-во правильных ответов - 1

1. на какую величину в среднем изменится Y , если X изменится на один процент

2. на сколько процентов в среднем изменится Y , если X изменится на одну единицу

3. на какую величину в среднем изменится Y , если X изменится на одну единицу

4. на сколько процентов в среднем изменится Y , если X изменится на один процент

Вопрос № 5.2. Оригинальный порядковый номер: 21

Метод наименьших квадратов используется для оценки параметров ______ уравнений регрессии.

Варианты ответов. Кол-во правильных ответов - 1

1. только нелинейных

2. нелинеаризуемых

3. только линейных

4. линейных и приводимых к линейным

Вопрос № 5.3. Оригинальный порядковый номер: 27

Приведенное выражение представляет собой _________ для линейной двухфакторной модели регрессии.

Варианты ответов. Кол-во правильных ответов - 1

1. систему нормальных уравнений

2. теорему Гаусса-Маркова

3. исходное положение метода наименьших квадратов

4. условие отсутствия автокорреляции остатков

Вопрос № 5.4. Оригинальный порядковый номер: 35

Метод наименьших квадратов может применяться для оценки параметров регрессионных моделей, если эти модели...

Варианты ответов. Кол-во правильных ответов - 1

1. характеризуются гетероскедастичностью случайных отклонений

2. имеют автокорреляцию в остатках

3. линейны по параметрам и факторным переменным

4. включают лаговую переменную

Вопрос № 5.5. Оригинальный порядковый номер: 46

Метод наименьших квадратов позволяет оценить _____________ уравнений регрессии.

Варианты ответов. Кол-во правильных ответов - 1

1. параметры и переменные

2. параметры

3. переменные

4. переменные и случайные величины

Тема № 6. Предпосылки МНК, методы их проверки

(Задание с выбором одного правильного ответа из предложенных)

Оригинальное кол-во заданий: 53, в базе представлено: 5

Вопрос № 6.1. Оригинальный порядковый номер: 28

В линейной регрессионной модели для каждого значения фактора фактические значения случайных отклонений имеют одинаковую дисперсию. Выполнение этого условия называют ____ остатков.

Варианты ответов. Кол-во правильных ответов - 1

1. автокорреляцией

2. мультиколлинеарностью

3. гомоскедастичностью

4. гетероскедастичностью

Вопрос № 6.2. Оригинальный порядковый номер: 29

гетероскедастичностью называют свойство дисперсии случайного отклонения при переходе от наблюдения к наблюдению проявлять...

Варианты ответов. Кол-во правильных ответов - 1

1. стремление к нулю

2. стремление к единице

3. изменчивость

4. постоянство

Вопрос № 6.3. Оригинальный порядковый номер: 30

Для линейной регрессионной модели гомоскедастичностью называют свойство дисперсии случайного отклонения при любом наблюдении проявлять...

Варианты ответов. Кол-во правильных ответов - 1

1. стремление к нулю

2. тенденцию к уменьшению

3. постоянство

4. изменчивость

Вопрос № 6.4. Оригинальный порядковый номер: 31

Дисперсия значения случайной компоненты в линейной регрессионной модели зависит от номера наблюдения. Это свидетельствует о(об) ______ остатков.

Варианты ответов. Кол-во правильных ответов - 1

1. автокорреляции

2. равномерном распределении

3. гетероскедастичности

4. гомоскедастичности

Вопрос № 6.5. Оригинальный порядковый номер: 41

Возможность перехода от точечного оценивания параметра классической линейной регрессии к интервальному обеспечивается таким статистическим свойством оценок как...

Варианты ответов. Кол-во правильных ответов - 1

1. достоверность

2. смещенность

3. эффективность

4. состоятельность

Вопрос № 6.1. Оригинальный порядковый номер: 24

Оценки, являющиеся линейными функциями от выборочных наблюдений, называются...

Варианты ответов. Кол-во правильных ответов - 1

1. несмещенными

2. эффективными

3. линейными

4. состоятельными

Вопрос № 6.3. Оригинальный порядковый номер: 34

Для линейной регрессионной модели величина и определенный знак фактического значения случайной составляющей не должны обуславливать величину и знак фактического значения другой случайной составляющей . Выполнение этого условия свидетельствует о(об) ______ остатков.

Варианты ответов. Кол-во правильных ответов - 1

1. отсутствии гетероскедастичности

2. нормальном распределении

3. отсутствии автокорреляции

4. наличии гомоскедастичности

Вопрос № 6.4. Оригинальный порядковый номер: 35

Истинная форма взаимосвязи между результирующей и объясняющими переменными в регрессионной модели линейна относительно параметров. Это утверждение является...

Варианты ответов. Кол-во правильных ответов - 1

1. условием линеаризации

2. критерием Фишера

3. одной из основных предпосылок метода наименьших квадратов для оценки параметров регрессии

4. нарушением предпосылок метода наименьших квадратов

Вопрос № 6.5. Оригинальный порядковый номер: 45

При наличии гетероскедастичности или автокорреляции в остатках для оценки параметров регрессии применяется ______ метод наименьших квадратов.

Варианты ответов. Кол-во правильных ответов - 1

1. двухшаговый

2. косвенный

3. обобщенный

4. традиционный

Вопрос № 6.1. Оригинальный порядковый номер: 50

Нарушение условия независимости случайных составляющих в разных наблюдениях называют ______ случайной составляющей.

Варианты ответов. Кол-во правильных ответов - 1

1. детерминированностью

2. гомоскедастичностью

3. автокорреляцией

4. гетероскедастичностью

Вопрос № 6.2. Оригинальный порядковый номер: 56

Одной из предпосылок метода наименьших квадратов является утверждение...

Варианты ответов. Кол-во правильных ответов - 1

1. случайное отклонение должно иметь постоянное математическое ожидание, отличное от нуля

2. регрессионная модель является нелинейной относительно параметров

3. дисперсия случайного возмущения постоянна для всех наблюдений

4. случайное отклонение представляет собой линейную функцию от факторных переменных

Вопрос № 6.3. Оригинальный порядковый номер: 85

График зависимости остатков e t от времени t свидетельствует о наличии…

Варианты ответов. Кол-во правильных ответов - 1

1. мультиколлинеарности данных

2. автокорреляции остатков

3. нелинейной связи между объясняющими переменными

4. отсутствии корреляции в остатках

Вопрос № 6.4. Оригинальный порядковый номер: 99

Автокорреляцию в остатках модели линейной регрессии можно обнаружить с помощью критерия …

Варианты ответов. Кол-во правильных ответов - 1

1. Гольдфельда–Квандта

2. Дарбина-Уотсона

3. Спирмена

Вопрос № 6.5. Оригинальный порядковый номер: 119

В случае нормального распределения остатков линейной регрессионной модели проверка статистической значимости каждого параметра возможна с помощью …

Варианты ответов. Кол-во правильных ответов - 1

1. Энгеля–Грангера

2. Дарбина–Уотсона

3. критерия Стьюдента

4. критерия Фишера

Тема № 7. Свойства оценок параметров эконометрической модели, получаемых при помощи МНК

(Задание с выбором одного правильного ответа из предложенных)

Оригинальное кол-во заданий: 57, в базе представлено: 5

Вопрос № 7.1. Оригинальный порядковый номер: 7

Математическое ожидание остатков равно нулю, если оценки параметров обладают свойством …

Варианты ответов. Кол-во правильных ответов - 1

1. эффективности

2. состоятельности

3. несмещенности

4. смещенности

Вопрос № 7.2. Оригинальный порядковый номер: 11

Варианты ответов. Кол-во правильных ответов - 1

Вопрос № 7.3. Оригинальный порядковый номер: 18

При применении метода наименьших квадратов свойствами эффективности, состоятельности и несмещенности обладают оценки …

Варианты ответов. Кол-во правильных ответов - 1

1. независимой переменной

2. случайной величины

3. параметров

4. зависимой переменной

Вопрос № 7.4. Оригинальный порядковый номер: 32

Несмещенная оценка параметра имеет наименьшую дисперсию среди всех возможных несмещенных оценок параметра , вычисленных по выборкам одного и того же объема . Такая оценка называется...

Варианты ответов. Кол-во правильных ответов - 1

1. несмещенной

2. асимптотически эффективной

3. эффективной

4. состоятельной

Вопрос № 7.5. Оригинальный порядковый номер: 44

Статистическая оценка параметра называется эффективной, если при заданном объеме выборки она имеет...

Варианты ответов. Кол-во правильных ответов - 1

1. математическое ожидание равное 1

2. максимальную дисперсию

3. наименьшую возможную дисперсию

4. максимальное математическое ожидание

Вопрос № 7.1. Оригинальный порядковый номер: 1

Если оценка параметра эффективна, то это означает …

Варианты ответов. Кол-во правильных ответов - 1

1. максимальную дисперсию остатков

2. уменьшение точности с увеличением объема выборки

3. наименьшую дисперсию остатков

4. равенство нулю математического ожидания остатков

Вопрос № 7.3. Оригинальный порядковый номер: 11

Оценка является несмещенной оценкой параметра если…

Варианты ответов. Кол-во правильных ответов - 1

1. она стремится к истинному значению параметра с увеличением объема выборки

2. ее дисперсия с увеличением выборки не изменяется

3. ее математическое ожидание равно оцениваемому параметру

4. ее дисперсия меньше дисперсии других оценок

Вопрос № 7.4. Оригинальный порядковый номер: 48

Эффективной оценкой называется та, у которой …

Варианты ответов. Кол-во правильных ответов - 1

1. дисперсия максимальна

2. смещенность выше

3. дисперсия минимальна

4. отсутствует смещенность

Вопрос № 7.5. Оригинальный порядковый номер: 52

Состоятельность оценки характеризуется увеличением ее точности при...

Варианты ответов. Кол-во правильных ответов - 1

1. добавлении в уравнение дополнительной независимой переменной

2. переходе к обратной форме зависимости

3. увеличении объема выборки

4. уменьшении объема выборки

Вопрос № 7.1. Оригинальный порядковый номер: 26

Если оценки параметров линейного уравнения регрессии обладают свойством состоятельности, то с увеличением выборки точность оценки параметра…

Варианты ответов. Кол-во правильных ответов - 1

1. увеличивается

2. стремится к нулю

3. не изменяется

4. уменьшается

Вопрос № 7.2. Оригинальный порядковый номер: 28

Точечная оценка параметра регрессии зависит от …

Варианты ответов. Кол-во правильных ответов - 1

1. дополнительной выборки

2. критического значения t–критерия Стьюдента

3. фактического значения t–критерия Стьюдента

4. данной выборки

Вопрос № 7.3. Оригинальный порядковый номер: 36

Эмпирический коэффициент регрессии является состоятельной оценкой теоретического коэффициента регрессии

при условии, что...

Варианты ответов. Кол-во правильных ответов - 1

1. дисперсия оценки равна 1

2. сходится по вероятности к при числе наблюдений, стремящемся к бесконечности

3. сходится по вероятности к при числе наблюдений, стремящемся к 0

4. математическое ожидание оценки равно нулю

Вопрос № 7.4. Оригинальный порядковый номер: 40

Состоятельной называется такая оценка параметра, которая дает _______ значение параметра для большой выборки независимо от входящих в нее конкретных наблюдений.

Варианты ответов. Кол-во правильных ответов - 1

1. минимальное

2. нулевое

4. максимальное

Тема № 8. Обобщенный метод наименьших квадратов (ОМНК)

(Задание с выбором одного правильного ответа из предложенных)

Оригинальное кол-во заданий: 38, в базе представлено: 5

Вопрос № 8.1. Оригинальный порядковый номер: 3

Варианты ответов. Кол-во правильных ответов - 1

1. гомоскедастичных

2. отсутствия автокорреляции

3. наличия автокорреляции

4. нормально распределенных

Вопрос № 8.2. Оригинальный порядковый номер: 10

Метод оценки параметров моделей с гетероскедастичными остатками называется …методом наименьших квадратов.

Варианты ответов. Кол-во правильных ответов - 1

1. минимальным

2. косвенным

3. обобщенным

4. обычным

Вопрос № 8.3. Оригинальный порядковый номер: 21

Для регрессионной модели с гетероскедастичностью остатков при отсутствии автокорреляции остатков ковариационная матрица возмущений является...

Варианты ответов. Кол-во правильных ответов - 1

1. треугольной

2. вырожденной

3. диагональной

4. единичной

Вопрос № 8.4. Оригинальный порядковый номер: 25

Множественная линейная регрессионная модель, в которой не выполняются условия гомоскедастичности и (или) имеет место автокорреляция остатков, называется ______ регрессионной моделью.

Варианты ответов. Кол-во правильных ответов - 1

2. множественной линейной

3. обобщенной линейной

4. нелинейной

Вопрос № 8.5. Оригинальный порядковый номер: 31

Обобщенный метод наименьших квадратов может использоваться для корректировки _______ остатков.

Варианты ответов. Кол-во правильных ответов - 1

1. доверительного интервала

2. стандартной ошибки

3. гетероскедастичности и автокорреляции

4. минимальной суммы квадратов

Вопрос № 8.1. Оригинальный порядковый номер: 7

Что преобразуется при применении обобщенного метода наименьших квадратов?

Варианты ответов. Кол-во правильных ответов - 1

1. дисперсия факторного признака

2. коэффициент корреляции

3. исходные уровни переменных

4. дисперсия результативного признака

Вопрос № 8.3. Оригинальный порядковый номер: 12

Для преодоления проблемы автокорреляции служит …

Варианты ответов. Кол-во правильных ответов - 1

1. двухшаговый метод наименьших квадратов

2. косвенный метод наименьших квадратов

3. обобщенный метод наименьших квадратов

4. метод наименьших квадратов

Вопрос № 8.4. Оригинальный порядковый номер: 16

Пусть случайные остатки e T в модели парной линейной регрессии подвержены воздействию авторегрессии первого порядка: e T =r· e T-1 +u T . Тогда для получения наилучших линейных несмещенных оценок используют следующее преобразование переменных:

Варианты ответов. Кол-во правильных ответов - 1

1. y T * = y T + r·y T-1 ; x T * = x T + r· x T-1

2. y T * =r· y T - y T-1 ; x T * = r·x T - x T-1

3. y T * = y T - r·y T-1 ; x T * = x T - r· x T-1

4. y T * = ry T ; x T * = rx T

Вопрос № 8.5. Оригинальный порядковый номер: 33

Проявление гетероскедастичности в остатках удается устранить при помощи метода обобщенного метода наименьших квадратов путем …

Варианты ответов. Кол-во правильных ответов - 1

1. расчета критерия Дарбина–Уотсона гомоскедастичных остатков

2. введения в модель фиктивных переменных

3. преобразования переменных на основе коэффициента пропорциональности

4. расчета скорректированного коэффициента детерминации

Вопрос № 8.1. Оригинальный порядковый номер: 0

Обобщенный метод наименьших квадратов применяется в случае…

Варианты ответов. Кол-во правильных ответов - 1

1. автокорреляции переменных

2. мультиколлинеарности факторов

3. фиктивных переменных

4. автокорреляции остатков

Вопрос № 8.2. Оригинальный порядковый номер: 5

На основании преобразования переменных при помощи обобщенного метода наименьших квадратов получаем новое уравнение регрессии, которое представляет собой …

Варианты ответов. Кол-во правильных ответов - 1

1. нелинейную регрессию, в которой переменные взяты с весами

2. нелинейную регрессию, в которой переменные взяты с весами

3. взвешенную регрессию, в которой переменные взяты с весами

4. взвешенную регрессию, в которой переменные взяты с весами

Для того, чтобы статистические оценки давали хорошее приближение оцениваемых параметров, они должны быть несмещенные, эффективные и состоятельные.

Несмещенной называется статистическая оценка параметра, математическое ожидание которой равно оцениваемому параметру при любом объеме выборки.

Смещенной называется статистическая оценка
параметра, математическое ожидание которой не равно оцениваемому параметру.

Эффективной называется статистическая оценка
параметра, которая при заданном объеме выборкиимеет наименьшую дисперсию.

Состоятельной называется статистическая оценка
параметра, которая при
стремится по вероятности к оцениваемому параметру.

т.е.для любого

.

Для выборок различного объема получаются различные значения среднего арифметического и статистической дисперсии. Поэтому среднее арифметическое и статистическая дисперсия являются случайными величинами, для которых существуют математическое ожидание и дисперсия.

Вычислим математическое ожидание среднего арифметического и дисперсии. Обозначим через математическое ожидание случайной величины

Здесь в качестве случайных величин рассматриваются: – С.В., значения которой равны первым значениям, полученным для различных выборок объемаиз генеральной совокупности,
–С.В., значения которой равны вторым значениям, полученным для различных выборок объемаиз генеральной совокупности, …,
– С.В., значения которой равны-м значениям, полученным для различных выборок объемаиз генеральной совокупности. Все эти случайные величины распределены по одному и тому же закону и имеют одно и то же математическое ожидание.

Из формулы (1) следует, что среднее арифметическое является несмещенной оценкой математического ожидания, так как математическое ожидание среднего арифметического равно математическому ожиданию случайной величины. Эта оценка является также состоятельной. Эффективность данной оценки зависит от вида распределения случайной величины
. Если, например,
распределена нормально, оценка математического ожидания с помощью среднего арифметического будет эффективной.

Найдем теперь статистическую оценку дисперсии.

Выражение для статистической дисперсии можно преобразовать следующим образом

(2)

Найдем теперь математическое ожидание статистической дисперсии

. (3)

Учитывая, что
(4)

получим из (3)-

Из формулы (6) видно, что математическое ожидание статистической дисперсии отличается множителем от дисперсии, т.е. является смещенной оценкой дисперсии генеральной совокупности. Это связано с тем, что вместо истинного значения
, которое неизвестно, в оценке дисперсии используется статистическое среднее.

Поэтому введем исправленную статистическую дисперсию

(7)

Тогда математическое ожидание исправленной статистической дисперсии равно

т.е. исправленная статистическая дисперсия является несмещенной оценкой дисперсии генеральной совокупности. Полученная оценка является также состоятельной.