Capítulo 6 Extensiones de los modelos lineales (generalizados)
En este capítulo, y en los siguientes, nos centraremos principalmente en regresión. Comenzaremos por extensiones de los modelos lineales y los modelos lineales generalizados, descritos en el Capítulo 2. En las secciones 2.1.2 y 2.2.1 se mostraron los métodos clásicos de inferencia para la selección de predictores (métodos envolventes según la terminología introducida al final de la Sección 1.4), con el objetivo principal de evitar problemas de colinealidad. En este capítulo se mostrarán métodos alternativos de ajuste que integran el procedimiento de selección de predictores. Los métodos de regularización (Sección 6.1), incluyen una penalización en el ajuste que retrae los valores estimados de los parámetros hacia cero. Los métodos de reducción de la dimensión (Sección 6.2) introducen restricciones en el ajuste al considerar únicamente combinaciones lineales ortogonales de los predictores, denominadas componentes.
Por simplicidad, nos limitaremos al estudio de modelos lineales, pero los distintos procedimientos y comentarios se extienden de forma análoga a los modelos lineales generalizados53.
En los métodos de regularización básicamente habría que sustituir la suma de cuadrados residual por el logaritmo negativo de la verosimilitud.↩︎