///
Um modelo de regressão linear entre uma variável aleatória Y (dependente) e uma variável não aleatória X (independente) é definido por Y = β0 + β1X + ε, em que ε, denominado erro aleatório, é uma variável aleatória independente de X com média E(ε) = 0 e desvio padrão Var(ε) = σ2. Um modelo de regressão linear é essencialmente um modelo para a probabilidade condicional de Y com relação a X, denotada por P(Y|X); ele é chamado de simples se ε for uma variável aleatória gaussiana. Fixando-se n valores x1, x2, ..., xn para a variável independente X, pode-se definir n variáveis aleatórias Yi = β0 + β1Xi + εi, com i = 1, ..., n. Pelo método dos mínimos quadrados, é possível obter estimadores β̂0 e β̂1 para os parâmetros β0 e β1 e definir o Ŷi = β̂0 + β̂1Xi como o estimador para Yi. Nesse contexto, são definidos os erros, denominados resíduos, como ei = Yi - Ŷi, a soma dos quadrados dos resíduos SQE = ∑ei2, a soma dos quadrados totais SQT = ∑(Yi - Ȳ)2 e a soma dos quadrados de regressão SQR = ∑(Ŷi - Ȳ)2, com Ȳ = ∑Yi / n.
Um estimador não viciado para a variância de β̂1 é obtido pela variância amostral dada por S2 = SQE / (n - 2) ∑(Xi - X̄)2, em que X̄ = ∑Xi / n e a variável centralizada de β̂1, normalizada por S, tem uma distribuição t de Student com n - 1 graus de liberdade.