Considere que, para uma regressão linear simples da relação Y = β0 + β1X, em uma amostra de 32 valores de X, obteve-se: ...

Um modelo de regressão linear entre uma variável aleatória Y (dependente) e uma variável não aleatória X (independente) é definido por Y = β₀ + β₁X + ε, em que ε, denominado erro aleatório, é uma variável aleatória independente de X com média E(ε) = 0 e desvio padrão Var(ε) = σ². Um modelo de regressão linear é essencialmente um modelo para a probabilidade condicional de Y com relação a X, denotada por P(Y|X); ele é chamado de simples se ε for uma variável aleatória gaussiana. Fixando-se n valores x₁, x₂, ..., x_n para a variável independente X, pode-se definir n variáveis aleatórias Y_i = β₀ + β₁X_i + ε_i, com i = 1, ..., n. Pelo método dos mínimos quadrados, é possível obter estimadores β̂₀ e β̂₁ para os parâmetros β₀ e β₁ e definir o Ŷ_i = β̂₀ + β̂₁X_i como o estimador para Y_i. Nesse contexto, são definidos os erros, denominados resíduos, como e_i = Y_i - Ŷ_i, a soma dos quadrados dos resíduos SQE = ∑e_i², a soma dos quadrados totais SQT = ∑(Y_i - Ȳ)² e a soma dos quadrados de regressão SQR = ∑(Ŷ_i - Ȳ)², com Ȳ = ∑Y_i / n.