Parâmetros para avaliar um modelo de regressão linear simples: R² e SEE

, editado •0•0Comment iconComment iconComment iconComment icon

Como avaliar uma regressão linear simples: resíduos, SEE, teste t, intervalo de confiança e R², com exemplo resolvido passo a passo e exercícios.

Editar artigo

Nesta aula veremos como avaliar se um modelo de regressão linear simples é bom: a análise dos resíduos, o erro padrão da estimativa (SEE), o teste t, o intervalo de confiança e o coeficiente de determinação (R²). No fim, faremos exercícios com tabelas de dados para calcular regressões e interpretar os resultados.

A regressão linear simples modela a relação entre uma variável dependente (Y) e uma variável independente (X) por meio de uma reta, \( \hat{Y} = \beta_0 + \beta_1 X \). Mas como saber se o modelo é confiável? Para isso, avaliamos sua qualidade com alguns indicadores estatísticos.

Indicadores de Qualidade de uma Regressão Linear

Análise dos Resíduos

Os resíduos são os erros do modelo em cada observação:

\[ e_i = y_i - \hat{y}_i \]

Em um bom modelo, os resíduos devem:

  1. Ser aleatórios: sem padrões claros quando colocados em gráfico contra os valores previstos ou contra X.
  2. Ter média zero: sem viés sistemático. Na regressão por mínimos quadrados com intercepto, a média dos resíduos é sempre zero por construção; por isso o que importa é verificar se eles não ficam positivos em uma faixa de X e negativos em outra.
  3. Ter variância constante (homocedasticidade).
  4. Seguir uma distribuição aproximadamente normal, para que os testes e intervalos de confiança sejam válidos.

Como avaliar os resíduos?

MétodoO que verificar?
Gráfico resíduos vs. previstosSe há padrões (curvas, funis)
Histograma dos resíduosSe a distribuição tem forma de sino, centrada em zero
Gráfico Q-QSe os pontos seguem a reta da normal

Problemas comuns:

  • Não linearidade: resíduos em forma de U ou de curva indicam que a relação entre X e Y não é uma reta.
  • Heterocedasticidade: variância não constante (gráfico em forma de funil).
  • Não normalidade: resíduos muito assimétricos ou com caudas pesadas (afeta os testes estatísticos).
  • Autocorrelação: o resíduo de uma observação ajuda a prever o da seguinte (comum em séries temporais).

Exemplo de modelo cujas previsões acompanham bem os valores reais (aqui, um modelo de série temporal, mas a leitura do gráfico é a mesma):

Regressão bem ajustada
Regressão bem ajustada

Exemplo de distribuição de resíduos:

Resíduo bom
Resíduo bom

A maior parte dos resíduos se concentra em torno de zero, de forma aproximadamente simétrica, o que é bom sinal. Repare, porém, nos poucos valores isolados perto de −75 e de +100: eles deixam as caudas mais pesadas que as da normal. É aqui que entram a assimetria e a curtose: queremos resíduos próximos de simétricos (assimetria perto de 0) e mesocúrticos (curtose em excesso perto de 0).

Erro Padrão da Estimativa (SEE)

O SEE (Standard Error of the Estimate, ou erro padrão da estimativa) mede o tamanho típico do erro que o modelo comete ao prever Y. Ele é o desvio padrão dos resíduos, na mesma unidade de Y:

\[ SEE = \sqrt{\frac{\sum (y_i - \hat{y}_i)^2}{n - 2}} = \sqrt{\frac{SSE}{n-2}} \]

O denominador é \( n - 2 \) porque dois parâmetros (\( \beta_0 \) e \( \beta_1 \)) foram estimados com os mesmos dados.

  • Quanto menor o SEE, mais precisas são as previsões.
  • É útil para comparar modelos que preveem a mesma variável Y.

Teste t e Valor-p

O teste t verifica se o coeficiente angular (\( \beta_1 \)) é estatisticamente diferente de zero.

Hipóteses:

  • \( H_0: \beta_1 = 0 \) (não há relação linear)
  • \( H_1: \beta_1 \neq 0 \) (há relação linear)

A estatística do teste divide o coeficiente pelo seu erro padrão, e tem \( n - 2 \) graus de liberdade:

\[ t = \frac{\hat{\beta}_1}{SE(\hat{\beta}_1)}, \quad SE(\hat{\beta}_1) = \frac{SEE}{\sqrt{\sum (x_i - \bar{x})^2}} \]

Interpretação do p-valor (ao nível de significância de 5%):

  • p < 0,05: rejeita-se \( H_0 \) (relação significativa).
  • p ≥ 0,05: não se rejeita \( H_0 \) (não há evidência suficiente de relação).

Intervalo de Confiança para os Coeficientes

O intervalo de confiança de 95% para \( \beta_1 \) mostra a faixa de valores plausíveis para a inclinação:

\[ \hat{\beta}_1 \pm t_{0{,}025;\,n-2} \cdot SE(\hat{\beta}_1) \]

  • Se o intervalo não inclui zero, a relação é significativa ao nível de 5% (é a mesma conclusão do teste t).

Coeficiente de Determinação (R²)

O R² (coeficiente de determinação) mede quanto da variação de Y é explicada por X:

\[ R^2 = \frac{SQ_{\text{Reg}}}{SQ_{\text{Total}}} = 1 - \frac{SSE}{SQ_{\text{Total}}} \]

Onde:

  • \( SQ_{\text{Reg}} \) = soma dos quadrados da regressão (variação explicada);
  • \( SSE \) = soma dos quadrados dos resíduos (variação não explicada);
  • \( SQ_{\text{Total}} \) = soma dos quadrados total, \( SQ_{\text{Total}} = SQ_{\text{Reg}} + SSE \).

Atenção: na segunda forma entra a soma dos quadrados dos resíduos (SSE), e não o SEE. Na regressão simples, o R² também é o quadrado do coeficiente de correlação: \( R^2 = r^2 \).

Interpretação:

  • 0 ≤ R² ≤ 1 (quanto mais próximo de 1, mais da variação de Y é explicada).
  • Se \( R^2 = 0{,}75 \), 75% da variação de Y é explicada por X.

Limitações do R²:

  • Não indica causalidade (apenas associação).
  • Pode enganar se houver outliers ou relações não lineares: um R² alto não garante que a reta seja o modelo certo, por isso ele deve ser lido junto com o gráfico dos resíduos.
  • Com poucas observações, um R² alto pode não ser estatisticamente significativo (veja o exercício 3).

Ao analisar uma regressão, você vê que os resíduos formam um U: são positivos para X pequeno e grande, e negativos no meio. O que isso indica?

Loading icon

Gabarito: Uma relação não linear que a reta não capturou — o padrão em U mostra que os erros dependem de X de forma curva; a solução é incluir um termo quadrático ou transformar as variáveis. Heterocedasticidade aparece como um funil (a dispersão dos resíduos aumenta ou diminui com X), não como um U.

Uma regressão com 12 observações tem SQ Total = 500 e SSE = 100. Quais são o R² e o SEE?

Loading icon

Gabarito: R² = 0,80 e SEE ≈ 3,16 — R² = 1 menos 100/500 = 0,80, e SEE = raiz de 100/(12 menos 2) = raiz de 10 ≈ 3,16. A opção 0,20 é a fração não explicada; a opção SEE = 10 esquece a raiz quadrada.

Exemplo Prático com Tabela de Dados

Vamos analisar uma regressão entre horas de estudo (X) e nota na prova (Y).

AlunoHoras (X)Nota (Y)
1250
2460
3680
4870
51090

Passos para avaliar a regressão:

  1. Calcular \( \hat{Y} = \beta_0 + \beta_1 X \)
  2. Calcular os valores previstos e os resíduos
  3. Calcular as somas dos quadrados, o R² e o SEE
  4. Testar a significância de \( \beta_1 \)

Passo 1: Calcular a Regressão Linear

Precisamos encontrar \( \beta_0 \) (intercepto) e \( \beta_1 \) (inclinação) da reta \( \hat{Y} = \beta_0 + \beta_1 X \).

Fórmulas:

\[ \beta_1 = \frac{n \sum XY - (\sum X)(\sum Y)}{n \sum X^2 - (\sum X)^2} \]

\[ \beta_0 = \bar{Y} - \beta_1 \bar{X} \]

Cálculos:

  1. Calcule as somas:
    • \( \sum X = 2 + 4 + 6 + 8 + 10 = 30 \)
    • \( \sum Y = 50 + 60 + 80 + 70 + 90 = 350 \)
    • \( \sum XY = (2 \times 50) + (4 \times 60) + (6 \times 80) + (8 \times 70) + (10 \times 90) = 100 + 240 + 480 + 560 + 900 = 2280 \)
    • \( \sum X^2 = 2^2 + 4^2 + 6^2 + 8^2 + 10^2 = 4 + 16 + 36 + 64 + 100 = 220 \)
  2. Calcule \( \beta_1 \): \[ \beta_1 = \frac{5 \times 2280 - 30 \times 350}{5 \times 220 - 30^2} = \frac{11400 - 10500}{1100 - 900} = \frac{900}{200} = 4{,}5 \]
  3. Calcule \( \beta_0 \): \[ \bar{X} = \frac{30}{5} = 6, \quad \bar{Y} = \frac{350}{5} = 70 \] \[ \beta_0 = 70 - 4{,}5 \times 6 = 70 - 27 = 43 \]
  4. Equação da regressão: \[ \hat{Y} = 43 + 4{,}5X \]

Passo 2: Calcular os Valores Previstos e os Resíduos

Aplicamos a equação para cada \( X \):

Aluno\( X \)\( Y \)\( \hat{Y} = 43 + 4{,}5X \)\( Y - \hat{Y} \) (resíduo)
1250\( 43 + 4{,}5 \times 2 = 52 \)\( 50 - 52 = -2 \)
2460\( 43 + 4{,}5 \times 4 = 61 \)\( 60 - 61 = -1 \)
3680\( 43 + 4{,}5 \times 6 = 70 \)\( 80 - 70 = +10 \)
4870\( 43 + 4{,}5 \times 8 = 79 \)\( 70 - 79 = -9 \)
51090\( 43 + 4{,}5 \times 10 = 88 \)\( 90 - 88 = +2 \)

Repare que os resíduos somam zero: \( -2 - 1 + 10 - 9 + 2 = 0 \).

Passo 3: Calcular as Somas dos Quadrados

1. Soma dos quadrados total (\( SQ_{\text{Total}} \))

Mede a variação total de \( Y \) em torno de sua média.

\[ SQ_{\text{Total}} = \sum (Y_i - \bar{Y})^2 \]

\( Y_i \)\( Y_i - \bar{Y} \)\( (Y_i - \bar{Y})^2 \)
50-20400
60-10100
80+10100
7000
90+20400

\[ SQ_{\text{Total}} = 400 + 100 + 100 + 0 + 400 = 1000 \]

2. Soma dos quadrados da regressão (\( SQ_{\text{Reg}} \))

Mede quanto da variação de \( Y \) é explicada pelo modelo.

\[ SQ_{\text{Reg}} = \sum (\hat{Y}_i - \bar{Y})^2 \]

\( \hat{Y}_i \)\( \hat{Y}_i - \bar{Y} \)\( (\hat{Y}_i - \bar{Y})^2 \)
52-18324
61-981
7000
79+981
88+18324

\[ SQ_{\text{Reg}} = 324 + 81 + 0 + 81 + 324 = 810 \]

3. Soma dos quadrados dos resíduos (\( SQ_{\text{Res}} \) ou SSE)

Mede a variação que o modelo não explica.

\[ SSE = \sum (Y_i - \hat{Y}_i)^2 \]

Resíduo (\( Y_i - \hat{Y}_i \))\( (Y_i - \hat{Y}_i)^2 \)
-24
-11
+10100
-981
+24

\[ SSE = 4 + 1 + 100 + 81 + 4 = 190 \]

Observe que \( SQ_{\text{Total}} = SQ_{\text{Reg}} + SSE \): \( 1000 = 810 + 190 \).

Passo 4: Calcular o R² (Coeficiente de Determinação)

\[ R^2 = \frac{SQ_{\text{Reg}}}{SQ_{\text{Total}}} = \frac{810}{1000} = 0{,}81 \quad \text{ou} \quad R^2 = 1 - \frac{190}{1000} = 0{,}81 \]

Interpretação: o modelo explica 81% da variação das notas. Os 19% restantes ficam sem explicação (resíduos). A correlação entre horas e notas é \( r = \sqrt{0{,}81} = 0{,}9 \).

Passo 5: Calcular o SEE (Erro Padrão da Estimativa)

\[ SEE = \sqrt{\frac{SSE}{n - 2}} = \sqrt{\frac{190}{5 - 2}} = \sqrt{63{,}33} \approx 7{,}96 \]

Interpretação: as previsões do modelo erram, tipicamente, cerca de 8 pontos para mais ou para menos.

Passo 6: Testar a Significância de \( \beta_1 \)

Primeiro, a soma dos quadrados dos desvios de X: \( \sum (x_i - \bar{x})^2 = 16 + 4 + 0 + 4 + 16 = 40 \).

\[ SE(\hat{\beta}_1) = \frac{7{,}96}{\sqrt{40}} \approx 1{,}258, \qquad t = \frac{4{,}5}{1{,}258} \approx 3{,}58 \]

Com \( n - 2 = 3 \) graus de liberdade, o valor crítico bilateral de 5% é \( t_{0{,}025;\,3} = 3{,}182 \). Como \( 3{,}58 > 3{,}182 \), rejeitamos \( H_0 \): o p-valor é aproximadamente 0,037. O intervalo de confiança de 95% para a inclinação é:

\[ 4{,}5 \pm 3{,}182 \times 1{,}258 = [0{,}50;\ 8{,}50] \]

O intervalo não inclui zero, o que confirma a conclusão do teste. Repare, porém, como ele é largo: com só 5 alunos, cada hora a mais de estudo pode valer de meio ponto a 8,5 pontos.

Resumo dos resultados

  • Equação da regressão: \( \hat{Y} = 43 + 4{,}5X \)
  • R² = 0,81 (81% da variação explicada)
  • SSE = 190 (soma dos quadrados dos resíduos)
  • SEE ≈ 7,96 (erro típico das previsões)
  • t ≈ 3,58, p ≈ 0,037 (inclinação significativa a 5%)

No exemplo das horas de estudo, o teste t da inclinação deu t ≈ 3,58 com 3 graus de liberdade (valor crítico 3,182). Qual conclusão está correta?

Loading icon

Gabarito: Rejeitamos H0: há evidência, ao nível de 5%, de que as horas de estudo se relacionam com a nota — 3,58 é maior que 3,182 (p ≈ 0,037). A terceira opção é tentadora, mas a regressão mostra associação, não causalidade.

Exercícios

1. Uma regressão entre idade (X) e pressão arterial (Y) tem \( R^2 = 0{,}64 \). O que isso significa?

a) 64% da variação em Y é explicada por X
b) A correlação entre X e Y é 0,64
c) O modelo é inválido
d) 36% dos dados não são explicados por Y

2. Os resíduos formam um padrão em U. O que isso indica?

a) Homocedasticidade
b) Heterocedasticidade
c) Uma relação não linear que o modelo não capturou
d) Uma boa regressão

3. Dada a tabela abaixo, calcule a regressão linear e interprete o R² e o SEE.

X (anos de experiência)Y (salário)
130.000
340.000
538.000
755.000

a) Calcule \( \beta_0 \) e \( \beta_1 \).
b) Calcule o \( R^2 \) e o SEE.

4. Faça uma regressão com os dados abaixo e discuta se o modelo é bom.

X (publicidade)Y (vendas)
10080
20070
30090
350110

Dica: calcule o \( R^2 \), o SEE e faça o gráfico dos resíduos!

5. Alguém propôs as previsões da tabela abaixo para as notas (elas não vêm da reta de mínimos quadrados). Calcule o \( R^2 \) e o SEE e faça o gráfico dos resíduos. Podemos dizer que essas previsões são boas? Verifique a assimetria e a curtose dos resíduos.

AlunoHoras (X)Nota (Y)Previsão (\( \hat{Y} \))
125055
246065
368075
487085
5109095

Gabarito dos Exercícios

1. a). A alternativa b) está errada porque a correlação é a raiz do R²: \( r = \sqrt{0{,}64} = 0{,}8 \).

2. c). Um U nos resíduos indica que a relação é curva; heterocedasticidade aparece como um funil.

3. \( \beta_1 = 3650 \) e \( \beta_0 = 26150 \), ou seja, \( \hat{Y} = 26150 + 3650X \): cada ano de experiência acrescenta, em média, 3.650 ao salário. Os resíduos são 200, 2.900, −6.400 e 3.300; SSE = 60.300.000 e \( SQ_{\text{Total}} \) = 326.750.000, logo \( R^2 \approx 0{,}815 \) (81,5% da variação dos salários é explicada pela experiência) e \( SEE = \sqrt{60.300.000/2} \approx 5.491 \) (as previsões erram, tipicamente, cerca de 5,5 mil). Cuidado: com só 4 observações, o teste t da inclinação dá p ≈ 0,097, ou seja, apesar do R² alto a relação não é significativa a 5%.

4. \( \hat{Y} \approx 59{,}32 + 0{,}1186X \); resíduos ≈ 8,81, −13,05, −4,92 e 9,15; SSE ≈ 355,9; \( R^2 \approx 0{,}593 \); \( SEE \approx 13{,}34 \); p-valor da inclinação ≈ 0,23. O modelo não é bom: explica só 59% da variação, o erro típico (13 unidades) é grande perto de vendas entre 70 e 110, a inclinação não é significativa e os resíduos alternam sinal sem padrão claro, o que com 4 pontos não permite concluir muita coisa.

5. Resíduos: −5, −5, +5, −15, −5. SSE = 325, logo \( R^2 = 1 - 325/1000 = 0{,}675 \) e \( SEE = \sqrt{325/3} \approx 10{,}41 \). Os resíduos têm média −5: as previsões superestimam as notas de forma sistemática (viés). A assimetria dos resíduos é 0 (eles são simétricos em torno de −5); a curtose, com só 5 pontos, é pouco confiável (−0,5 pela fórmula populacional, 2,0 com a correção para amostras do pandas). As previsões não são boas: a reta de mínimos quadrados do exemplo (R² = 0,81, SEE ≈ 7,96) é melhor. Repare ainda que, aqui, \( SQ_{\text{Reg}}/SQ_{\text{Total}} \) daria 1125/1000 = 1,125: as duas fórmulas do R² só coincidem para a reta de mínimos quadrados, e para outras previsões deve-se usar \( 1 - SSE/SQ_{\text{Total}} \).

O que você achou deste artigo?

0%
Nota dos usuários (0)

Compartilhe este artigo!