Nesta aula veremos como avaliar se um modelo de regressão linear simples é bom: a análise dos resíduos, o erro padrão da estimativa (SEE), o teste t, o intervalo de confiança e o coeficiente de determinação (R²). No fim, faremos exercícios com tabelas de dados para calcular regressões e interpretar os resultados.A regressão linear simples modela a relação entre uma variável dependente (Y) e uma variável independente (X) por meio de uma reta, \( \hat{Y} = \beta_0 + \beta_1 X \). Mas como saber se o modelo é confiável? Para isso, avaliamos sua qualidade com alguns indicadores estatísticos.Indicadores de Qualidade de uma Regressão LinearAnálise dos ResíduosOs resíduos são os erros do modelo em cada observação:\[ e_i = y_i - \hat{y}_i \]Em um bom modelo, os resíduos devem:Ser aleatórios: sem padrões claros quando colocados em gráfico contra os valores previstos ou contra X.Ter média zero: sem viés sistemático. Na regressão por mínimos quadrados com intercepto, a média dos resíduos é sempre zero por construção; por isso o que importa é verificar se eles não ficam positivos em uma faixa de X e negativos em outra.Ter variância constante (homocedasticidade).Seguir uma distribuição aproximadamente normal, para que os testes e intervalos de confiança sejam válidos.Como avaliar os resíduos?MétodoO que verificar?Gráfico resíduos vs. previstosSe há padrões (curvas, funis)Histograma dos resíduosSe a distribuição tem forma de sino, centrada em zeroGráfico Q-QSe os pontos seguem a reta da normalProblemas comuns:Não linearidade: resíduos em forma de U ou de curva indicam que a relação entre X e Y não é uma reta.Heterocedasticidade: variância não constante (gráfico em forma de funil).Não normalidade: resíduos muito assimétricos ou com caudas pesadas (afeta os testes estatísticos).Autocorrelação: o resíduo de uma observação ajuda a prever o da seguinte (comum em séries temporais).Exemplo de modelo cujas previsões acompanham bem os valores reais (aqui, um modelo de série temporal, mas a leitura do gráfico é a mesma):Regressão bem ajustadaExemplo de distribuição de resíduos:Resíduo bomA maior parte dos resíduos se concentra em torno de zero, de forma aproximadamente simétrica, o que é bom sinal. Repare, porém, nos poucos valores isolados perto de −75 e de +100: eles deixam as caudas mais pesadas que as da normal. É aqui que entram a assimetria e a curtose: queremos resíduos próximos de simétricos (assimetria perto de 0) e mesocúrticos (curtose em excesso perto de 0).Erro Padrão da Estimativa (SEE)O SEE (Standard Error of the Estimate, ou erro padrão da estimativa) mede o tamanho típico do erro que o modelo comete ao prever Y. Ele é o desvio padrão dos resíduos, na mesma unidade de Y:\[ SEE = \sqrt{\frac{\sum (y_i - \hat{y}_i)^2}{n - 2}} = \sqrt{\frac{SSE}{n-2}} \]O denominador é \( n - 2 \) porque dois parâmetros (\( \beta_0 \) e \( \beta_1 \)) foram estimados com os mesmos dados.Quanto menor o SEE, mais precisas são as previsões.É útil para comparar modelos que preveem a mesma variável Y.Teste t e Valor-pO teste t verifica se o coeficiente angular (\( \beta_1 \)) é estatisticamente diferente de zero.Hipóteses:\( H_0: \beta_1 = 0 \) (não há relação linear)\( H_1: \beta_1 \neq 0 \) (há relação linear)A estatística do teste divide o coeficiente pelo seu erro padrão, e tem \( n - 2 \) graus de liberdade:\[ t = \frac{\hat{\beta}_1}{SE(\hat{\beta}_1)}, \quad SE(\hat{\beta}_1) = \frac{SEE}{\sqrt{\sum (x_i - \bar{x})^2}} \]Interpretação do p-valor (ao nível de significância de 5%):p < 0,05: rejeita-se \( H_0 \) (relação significativa).p ≥ 0,05: não se rejeita \( H_0 \) (não há evidência suficiente de relação).Intervalo de Confiança para os CoeficientesO intervalo de confiança de 95% para \( \beta_1 \) mostra a faixa de valores plausíveis para a inclinação:\[ \hat{\beta}_1 \pm t_{0{,}025;\,n-2} \cdot SE(\hat{\beta}_1) \]Se o intervalo não inclui zero, a relação é significativa ao nível de 5% (é a mesma conclusão do teste t).Coeficiente de Determinação (R²)O R² (coeficiente de determinação) mede quanto da variação de Y é explicada por X:\[ R^2 = \frac{SQ_{\text{Reg}}}{SQ_{\text{Total}}} = 1 - \frac{SSE}{SQ_{\text{Total}}} \]Onde:\( SQ_{\text{Reg}} \) = soma dos quadrados da regressão (variação explicada);\( SSE \) = soma dos quadrados dos resíduos (variação não explicada);\( SQ_{\text{Total}} \) = soma dos quadrados total, \( SQ_{\text{Total}} = SQ_{\text{Reg}} + SSE \).Atenção: na segunda forma entra a soma dos quadrados dos resíduos (SSE), e não o SEE. Na regressão simples, o R² também é o quadrado do coeficiente de correlação: \( R^2 = r^2 \).Interpretação:0 ≤ R² ≤ 1 (quanto mais próximo de 1, mais da variação de Y é explicada).Se \( R^2 = 0{,}75 \), 75% da variação de Y é explicada por X.Limitações do R²:Não indica causalidade (apenas associação).Pode enganar se houver outliers ou relações não lineares: um R² alto não garante que a reta seja o modelo certo, por isso ele deve ser lido junto com o gráfico dos resíduos.Com poucas observações, um R² alto pode não ser estatisticamente significativo (veja o exercício 3).Ao analisar uma regressão, você vê que os resíduos formam um U: são positivos para X pequeno e grande, e negativos no meio. O que isso indica?Gabarito: Uma relação não linear que a reta não capturou — o padrão em U mostra que os erros dependem de X de forma curva; a solução é incluir um termo quadrático ou transformar as variáveis. Heterocedasticidade aparece como um funil (a dispersão dos resíduos aumenta ou diminui com X), não como um U.Uma regressão com 12 observações tem SQ Total = 500 e SSE = 100. Quais são o R² e o SEE?Gabarito: R² = 0,80 e SEE ≈ 3,16 — R² = 1 menos 100/500 = 0,80, e SEE = raiz de 100/(12 menos 2) = raiz de 10 ≈ 3,16. A opção 0,20 é a fração não explicada; a opção SEE = 10 esquece a raiz quadrada.Exemplo Prático com Tabela de DadosVamos analisar uma regressão entre horas de estudo (X) e nota na prova (Y).AlunoHoras (X)Nota (Y)125024603680487051090Passos para avaliar a regressão:Calcular \( \hat{Y} = \beta_0 + \beta_1 X \)Calcular os valores previstos e os resíduosCalcular as somas dos quadrados, o R² e o SEETestar a significância de \( \beta_1 \)Passo 1: Calcular a Regressão LinearPrecisamos encontrar \( \beta_0 \) (intercepto) e \( \beta_1 \) (inclinação) da reta \( \hat{Y} = \beta_0 + \beta_1 X \).Fórmulas:\[ \beta_1 = \frac{n \sum XY - (\sum X)(\sum Y)}{n \sum X^2 - (\sum X)^2} \]\[ \beta_0 = \bar{Y} - \beta_1 \bar{X} \]Cálculos:Calcule as somas:\( \sum X = 2 + 4 + 6 + 8 + 10 = 30 \)\( \sum Y = 50 + 60 + 80 + 70 + 90 = 350 \)\( \sum XY = (2 \times 50) + (4 \times 60) + (6 \times 80) + (8 \times 70) + (10 \times 90) = 100 + 240 + 480 + 560 + 900 = 2280 \)\( \sum X^2 = 2^2 + 4^2 + 6^2 + 8^2 + 10^2 = 4 + 16 + 36 + 64 + 100 = 220 \)Calcule \( \beta_1 \): \[ \beta_1 = \frac{5 \times 2280 - 30 \times 350}{5 \times 220 - 30^2} = \frac{11400 - 10500}{1100 - 900} = \frac{900}{200} = 4{,}5 \]Calcule \( \beta_0 \): \[ \bar{X} = \frac{30}{5} = 6, \quad \bar{Y} = \frac{350}{5} = 70 \] \[ \beta_0 = 70 - 4{,}5 \times 6 = 70 - 27 = 43 \]Equação da regressão: \[ \hat{Y} = 43 + 4{,}5X \]Passo 2: Calcular os Valores Previstos e os ResíduosAplicamos a equação para cada \( X \):Aluno\( X \)\( Y \)\( \hat{Y} = 43 + 4{,}5X \)\( Y - \hat{Y} \) (resíduo)1250\( 43 + 4{,}5 \times 2 = 52 \)\( 50 - 52 = -2 \)2460\( 43 + 4{,}5 \times 4 = 61 \)\( 60 - 61 = -1 \)3680\( 43 + 4{,}5 \times 6 = 70 \)\( 80 - 70 = +10 \)4870\( 43 + 4{,}5 \times 8 = 79 \)\( 70 - 79 = -9 \)51090\( 43 + 4{,}5 \times 10 = 88 \)\( 90 - 88 = +2 \)Repare que os resíduos somam zero: \( -2 - 1 + 10 - 9 + 2 = 0 \).Passo 3: Calcular as Somas dos Quadrados1. Soma dos quadrados total (\( SQ_{\text{Total}} \))Mede a variação total de \( Y \) em torno de sua média.\[ SQ_{\text{Total}} = \sum (Y_i - \bar{Y})^2 \]\( Y_i \)\( Y_i - \bar{Y} \)\( (Y_i - \bar{Y})^2 \)50-2040060-1010080+10100700090+20400\[ SQ_{\text{Total}} = 400 + 100 + 100 + 0 + 400 = 1000 \]2. Soma dos quadrados da regressão (\( SQ_{\text{Reg}} \))Mede quanto da variação de \( Y \) é explicada pelo modelo.\[ SQ_{\text{Reg}} = \sum (\hat{Y}_i - \bar{Y})^2 \]\( \hat{Y}_i \)\( \hat{Y}_i - \bar{Y} \)\( (\hat{Y}_i - \bar{Y})^2 \)52-1832461-981700079+98188+18324\[ SQ_{\text{Reg}} = 324 + 81 + 0 + 81 + 324 = 810 \]3. Soma dos quadrados dos resíduos (\( SQ_{\text{Res}} \) ou SSE)Mede a variação que o modelo não explica.\[ SSE = \sum (Y_i - \hat{Y}_i)^2 \]Resíduo (\( Y_i - \hat{Y}_i \))\( (Y_i - \hat{Y}_i)^2 \)-24-11+10100-981+24\[ SSE = 4 + 1 + 100 + 81 + 4 = 190 \]Observe que \( SQ_{\text{Total}} = SQ_{\text{Reg}} + SSE \): \( 1000 = 810 + 190 \).Passo 4: Calcular o R² (Coeficiente de Determinação)\[ R^2 = \frac{SQ_{\text{Reg}}}{SQ_{\text{Total}}} = \frac{810}{1000} = 0{,}81 \quad \text{ou} \quad R^2 = 1 - \frac{190}{1000} = 0{,}81 \]Interpretação: o modelo explica 81% da variação das notas. Os 19% restantes ficam sem explicação (resíduos). A correlação entre horas e notas é \( r = \sqrt{0{,}81} = 0{,}9 \).Passo 5: Calcular o SEE (Erro Padrão da Estimativa)\[ SEE = \sqrt{\frac{SSE}{n - 2}} = \sqrt{\frac{190}{5 - 2}} = \sqrt{63{,}33} \approx 7{,}96 \]Interpretação: as previsões do modelo erram, tipicamente, cerca de 8 pontos para mais ou para menos.Passo 6: Testar a Significância de \( \beta_1 \)Primeiro, a soma dos quadrados dos desvios de X: \( \sum (x_i - \bar{x})^2 = 16 + 4 + 0 + 4 + 16 = 40 \).\[ SE(\hat{\beta}_1) = \frac{7{,}96}{\sqrt{40}} \approx 1{,}258, \qquad t = \frac{4{,}5}{1{,}258} \approx 3{,}58 \]Com \( n - 2 = 3 \) graus de liberdade, o valor crítico bilateral de 5% é \( t_{0{,}025;\,3} = 3{,}182 \). Como \( 3{,}58 > 3{,}182 \), rejeitamos \( H_0 \): o p-valor é aproximadamente 0,037. O intervalo de confiança de 95% para a inclinação é:\[ 4{,}5 \pm 3{,}182 \times 1{,}258 = [0{,}50;\ 8{,}50] \]O intervalo não inclui zero, o que confirma a conclusão do teste. Repare, porém, como ele é largo: com só 5 alunos, cada hora a mais de estudo pode valer de meio ponto a 8,5 pontos.Resumo dos resultadosEquação da regressão: \( \hat{Y} = 43 + 4{,}5X \)R² = 0,81 (81% da variação explicada)SSE = 190 (soma dos quadrados dos resíduos)SEE ≈ 7,96 (erro típico das previsões)t ≈ 3,58, p ≈ 0,037 (inclinação significativa a 5%)No exemplo das horas de estudo, o teste t da inclinação deu t ≈ 3,58 com 3 graus de liberdade (valor crítico 3,182). Qual conclusão está correta?Gabarito: Rejeitamos H0: há evidência, ao nível de 5%, de que as horas de estudo se relacionam com a nota — 3,58 é maior que 3,182 (p ≈ 0,037). A terceira opção é tentadora, mas a regressão mostra associação, não causalidade.Exercícios1. Uma regressão entre idade (X) e pressão arterial (Y) tem \( R^2 = 0{,}64 \). O que isso significa?a) 64% da variação em Y é explicada por Xb) A correlação entre X e Y é 0,64c) O modelo é inválidod) 36% dos dados não são explicados por Y2. Os resíduos formam um padrão em U. O que isso indica?a) Homocedasticidadeb) Heterocedasticidadec) Uma relação não linear que o modelo não capturoud) Uma boa regressão3. Dada a tabela abaixo, calcule a regressão linear e interprete o R² e o SEE.X (anos de experiência)Y (salário)130.000340.000538.000755.000a) Calcule \( \beta_0 \) e \( \beta_1 \).b) Calcule o \( R^2 \) e o SEE.4. Faça uma regressão com os dados abaixo e discuta se o modelo é bom.X (publicidade)Y (vendas)100802007030090350110Dica: calcule o \( R^2 \), o SEE e faça o gráfico dos resíduos!5. Alguém propôs as previsões da tabela abaixo para as notas (elas não vêm da reta de mínimos quadrados). Calcule o \( R^2 \) e o SEE e faça o gráfico dos resíduos. Podemos dizer que essas previsões são boas? Verifique a assimetria e a curtose dos resíduos.AlunoHoras (X)Nota (Y)Previsão (\( \hat{Y} \))1250552460653680754870855109095Gabarito dos Exercícios1. a). A alternativa b) está errada porque a correlação é a raiz do R²: \( r = \sqrt{0{,}64} = 0{,}8 \).2. c). Um U nos resíduos indica que a relação é curva; heterocedasticidade aparece como um funil.3. \( \beta_1 = 3650 \) e \( \beta_0 = 26150 \), ou seja, \( \hat{Y} = 26150 + 3650X \): cada ano de experiência acrescenta, em média, 3.650 ao salário. Os resíduos são 200, 2.900, −6.400 e 3.300; SSE = 60.300.000 e \( SQ_{\text{Total}} \) = 326.750.000, logo \( R^2 \approx 0{,}815 \) (81,5% da variação dos salários é explicada pela experiência) e \( SEE = \sqrt{60.300.000/2} \approx 5.491 \) (as previsões erram, tipicamente, cerca de 5,5 mil). Cuidado: com só 4 observações, o teste t da inclinação dá p ≈ 0,097, ou seja, apesar do R² alto a relação não é significativa a 5%.4. \( \hat{Y} \approx 59{,}32 + 0{,}1186X \); resíduos ≈ 8,81, −13,05, −4,92 e 9,15; SSE ≈ 355,9; \( R^2 \approx 0{,}593 \); \( SEE \approx 13{,}34 \); p-valor da inclinação ≈ 0,23. O modelo não é bom: explica só 59% da variação, o erro típico (13 unidades) é grande perto de vendas entre 70 e 110, a inclinação não é significativa e os resíduos alternam sinal sem padrão claro, o que com 4 pontos não permite concluir muita coisa.5. Resíduos: −5, −5, +5, −15, −5. SSE = 325, logo \( R^2 = 1 - 325/1000 = 0{,}675 \) e \( SEE = \sqrt{325/3} \approx 10{,}41 \). Os resíduos têm média −5: as previsões superestimam as notas de forma sistemática (viés). A assimetria dos resíduos é 0 (eles são simétricos em torno de −5); a curtose, com só 5 pontos, é pouco confiável (−0,5 pela fórmula populacional, 2,0 com a correção para amostras do pandas). As previsões não são boas: a reta de mínimos quadrados do exemplo (R² = 0,81, SEE ≈ 7,96) é melhor. Repare ainda que, aqui, \( SQ_{\text{Reg}}/SQ_{\text{Total}} \) daria 1125/1000 = 1,125: as duas fórmulas do R² só coincidem para a reta de mínimos quadrados, e para outras previsões deve-se usar \( 1 - SSE/SQ_{\text{Total}} \).
Reações
0
0 Comentários
Seja o primeiro a comentar
Nada aqui ainda.