Regressão Linear Aula 09 Prof. Christopher Freire Souza Centro de Tecnologia Universidade Federal...
Transcript of Regressão Linear Aula 09 Prof. Christopher Freire Souza Centro de Tecnologia Universidade Federal...
Regressão LinearAula 09
Prof. Christopher Freire SouzaCentro de TecnologiaUniversidade Federal de Alagoaswww.ctec.ufal.br/professor/cfs
Objetivos
•Desenvolver habilidades para avaliar a linearidade da relação entre variáveis
•Desenvolver habilidades para sugerir equação para previsão de valor de uma variável a partir de outra(s) de mais fácil mensuração
2
Christopher Souza: Regressão Linear
Relevância do conteúdo• Regressão é aplicada para estimar como se
relacionam variáveis tendo em vista a observação de sua variação conjunta
• É de especial interesse realizar previsões de valores de variáveis de difícil mensuração quando outras relacionadas e de mais fácil mensuração são conhecidas
Christopher Souza: Regressão Linear
3
Conteúdo
•Correlação linear•Regressão linear simples•Avaliação da regressão linear simples•Regressão linear múltipla•Avaliação da regressão linear múltipla
Christopher Souza: Regressão Linear
4
Correlação linear• Mede o grau de
variação conjunta de duas variáveis
• Diagramas de dispersão
• Não necessariamente causa e efeito
• Possibilidade de linearidade por trechos (segmentação)
Christopher Souza: Regressão Linear
5
Correlação linear• Correlações
espúrias
Christopher Souza: Regressão Linear
6
Correlação linear (Teste de hipótese)• H0: =0
• H1: ≠0
• Estatística de teste
• Rejeita-se a hipótese nula se:
• Intervalo de confiança
Christopher Souza: Regressão Linear
7
• H0: =
• H1: ≠
• Estatística de teste
• Rejeita-se a hipótese nula se:
Regressão linear simples• Equação de regressão
• Método dos mínimos quadrados▫ Considerando para cada
ponto a relação
▫ O método consiste em estimar valores dos parâmetros que resultem em
▫ Para isso, estima-se a e b via
▫ Resultando em:
Christopher Souza: Regressão Linear
8
Regressão linear simples(funções linearizáveis)
Christopher Souza: Regressão Linear
9
Regressão linear simples (Hipóteses básicas)• Aleatoriedade, independência e homogeneidade de séries• Lineariedade entre variáveis• Aleatoriedade, independência, normalidade e
homoscedasticidade (VAR(ei)=cte) dos resíduos
Christopher Souza: Regressão Linear
10
Regressão linear simples (Avaliação)• Erro Padrão
Christopher Souza: Regressão Linear
11
Regressão linear simples (Avaliação)• Erro Padrão
▫ Regressão aceitável: 0<se<sy
• Coeficiente de determinação▫ SQDR/SQRM
• Intervalos de confiança para coeficientes
• para
Christopher Souza: Regressão Linear
12
SQ QM F p
DR 1 SQDR QMDR/QMRR
RR n-2 SQRR/ (n-2)
RM n-1 SQRM/(n-1)
n
i ii yy1
2ˆ
n
i ii mediay1
2
n
i ii mediay1
2ˆ
Christopher Souza: Regressão Linear
13
Regressão linear simples (Avaliação)• H0: =0
• H1: ≠0
• Estatística de teste
• Rejeita-se a hipótese nula se:
• Avaliação de b pode ser realizada via intervalo de confiança
Regressão linear simples (Avaliação)
Christopher Souza: Regressão Linear
14
• Intervalo de confiança para a linha de regressão num ponto xj
• Intervalo de confiança para um valor previsto num ponto xj
• Linearidade entre variável dependente (Y) e variáveis independentes (Xi)
• Equação de regressão
• Abordagem matricial
• Estimação de parâmetros (i)
• Somatório dos quadrados
SQRM SQDR SQRR
Regressão linear múltipla
Christopher Souza: Regressão Linear
15
Procedimentos• Separar conjunto de dados para validar (¼) equação
“calibrada” (¾)• Montar matriz de correlações para avaliar linearidade em
relação à variável dependente e colinearidade entre variáveis independentes
• Identificar um máximo de variáveis explicativas não-colineares e que apresentem correlação linear à variável dependente de forma a ter 3 ou 4 vezes o número de observações em relação ao número de variáveis explicativas
• Escolher entre fazer ▫ Regressão de todas as equações possíveis
Fazer regressão com todas as variáveis escolhidas▫ Regressão passo-a-passo (step-wise)
Incorporação de variáveis uma-a-uma em função da correlação e teste F parcial
Christopher Souza: Regressão Linear
16
Regressão linear múltipla (Avaliação)
• Multicolinearidade▫ 2 ou mais preditores são
altamente correlacionados (|r|>0,85)
▫ Grandes mudanças nos coeficientes da regressão quando um preditor é adicionado
▫ Coeficiente de determinação apresenta melhoria insignificante, embora insignificância da regressão seja rejeitada
• Erro Padrão
Christopher Souza: Regressão Linear
17
• Coeficiente de determinação▫ SQDR/SQRM
Regressão linear simples (Avaliação)• Erro Padrão
▫ Regressão aceitável: 0<se<sy
Christopher Souza: Regressão Linear
18
SQ QM F p
DR p QMDR/QMRR
RR n-p-1
RM n-1
Christopher Souza: Regressão Linear
19
Regressão linear múltipla(Avaliação)• H0: ==…=p=0
• H1: i≠0
• Estatística de teste (F)• Rejeita-se a hipótese nula
se:
• Coeficiente de determinação ajustado
• Estatística de teste:
• Rejeita-se a hipótese nula se:
• Coeficiente de determinação parcial
Christopher Souza: Regressão Linear
20
Regressão linear múltipla(Avaliação de partes)• SQDRXk=SQDRX-SQDRX-Xk
▫ Xk: efeito da inclusão da variável Xk
▫ X: regressão considerando todas as variáveis inclusive Xk
▫ X-Xk: regressão com todas antes de incluir Xk
• H0: Xnão melhora significativamente o modelo
• H1: Xmelhora significativamente o modelo
Regressão linear múltipla (Avaliação)
Christopher Souza: Regressão Linear
21
• Teste do valor de parâmetros
• H0: =
• H1: 1≠
• Estatística de teste
▫ onde▫ sendo o i-ésimo
elemento da diagonal de • Rejeita-se a hipótese nula
se:
• Intervalo de confiança para os coeficientes de regressão
Regressão linear múltipla (Avaliação)
Christopher Souza: Regressão Linear
22
• Intervalo de confiança para a linha de regressão num ponto Xj
• Intervalo de confiança para um valor previsto num ponto Xj