In estimating the regressioncoeffic

In estimating the regressioncoefficients β, the ordinary least squares (OLS) estimator, the most common method, is unbiased.However, it may still have a large mean squared error when the multicollinearity in the designmatrix X causes unstable solutions.Penalized regression methods, such as the ridge (Hoerl and Kennard, 1970), lasso (Tibshirani,1996), elastic net (Zou and Hastie, 2005), and bridge (Frank and Friedman, 1993), have beenproposed to solve the problem. The ridge regression utilizes the L2 penalty and is best usedwhen there are high correlations between predictors. However, it could be influenced by irrelevantvariables since it uses all the predictors in hand. The lasso utilizes the L1 penalty and does both continuous shrinkage and automatic variable selection simultaneously. However, in the presence of multicollinearity, it has empirically been observed that the prediction performance of the lasso is dominated by ridge regression (Tibshirani, 1996). The elastic net attempts to keep the advantages of the ridge and lasso, and overcome their shortcomings by combining the L1 and L2 penalties.In addition, it has a grouping effect, i.e. if there is a set of variables among which the pairwise correlations are high, the elastic net groups the correlated variables together.

Results (Russian) 1:

При оценке регрессии
коэффициенты р, то обычный метод наименьших квадратов (МНК) оценки, наиболее распространенным методом, является несмещенной.
Тем не менее, он все еще может иметь большой средний квадрат ошибки , когда мультиколлинеарности в конструкции
матрицы X вызывает неустойчивые решения.
Оштрафованных методы регрессии, такие как конька (Hoerl и Kennard, 1970), лассо (Tibshirani,
1996), эластичная сетка (Цзоу и Гесте, 2005), и мост (Франк и Фридман, 1993), было
предложено решить эту проблему , Хребет регрессия использует штраф L2 и лучше всего использовать ,
когда существует высокая корреляция между предсказателями. Тем не менее, это может быть в й uenced по значению
переменные , поскольку она использует все предикторы в руке. Lasso использует штраф L1 и делает как непрерывное усадку и автоматический выбор переменной одновременно. Тем не менее, при наличии мультиколлинеарности, оно эмпирический было обнаружено , что эффективность предсказания аркана преобладает конек регрессия (Tibshirani, 1996). Эластичные чистые попытки сохранить преимущество хребта и лассо, и преодолеть свои недостатки путем объединения штрафы L1 и L2.
Кроме того, он имеет эффект группировку, то есть , если существует множество переменных , среди которых попарные корреляции являются высокими, упругими чистых групп коррелированных переменных вместе.

Results (Russian) 2:

При оценке регрессии
коэффициенты, обычные наименее квадратисы (OLS) оценщик, наиболее распространенный метод, является беспристрастным.
Тем не менее, он все еще может иметь большую среднее ошибка в квадрате, когда многокомпонентность в дизайне
матрица X вызывает нестабильные решения.
Наказуемые методы регрессии, такие как хребет (Хёрль и Кеннард, 1970), лассо (Тибсирани,
1996), эластичная сетка (Зоу и Хасти, 2005), и мост (Frank and Friedman, 1993), были
предложил решить эту проблему. Регрессия хребта использует штраф L2 и лучше всего использовать
когда существует высокая корреляция между предикторами. Тем не менее, на это может повлиять нерелевантные
переменных, так как он использует все предикторов в руке. Лассо использует штраф L1 и делает одновременно непрерывную усадку и автоматический выбор переменных. Однако, в присутствии многокомпонентности, было эмпирически отмечено, что прогноз производительности лассо доминирует регрессия хребта (Tibshirani, 1996). Упругая сеть пытается сохранить преимущества хребта и лассо, и преодолеть свои недостатки, объединив L1 и L2 штрафов.
Кроме того, он имеет эффект группировки, т.е. если есть набор переменных, среди которых парные корреляции высоки, эластичные чистые группы коррелированных переменных вместе.

Results (Russian) 3:

При оценке регрессии
коэффициент бета, общий наименьший квадрат (оол), считается наиболее распространенным методом без отклонения.
Однако, когда в проекте есть много коллинеарных, все еще есть большие среднеквадратичные ошибки
матрица X вызывает неустойчивое решение.
карательные методы регрессии, такие, как горные хребты (Hoerl and Kennard, 1970), петли (Tibshirani,
В 1996 году эластичные сети (Zou and Haste, 2005) и Бридж (Frank and Friedman, 1993) были созданы.
поднять вопрос.возвращение кряж использует наказание L2, это лучшее использование
когда существует большая корреляция между факторами прогнозирования.Однако на него могут влиять не относящиеся к делу факторы
переменные, так как они используются для всех прогнозов.в петле используются штрафные очки L1, которые одновременно сокращаются и выбираются автоматическими переменными.Однако при наличии нескольких коллинеарных линий опыт показывает, что прогнозируемые характеристики петли в основном контролируются регрессией горных хребтов (Tibshirani, 1996).эластичная сеть пытается сохранить преимущество хребта и петли и преодолеть их недостатки путем сочетания санкций L1 и L2.
Кроме того, она имеет кластерный эффект, заключающийся в том, что в случае существования группы переменных, имеющих высокую корреляцию, эластичная сеть группирует соответствующие переменные.