O que é o teorema de Gauss-Markov?

Do "The Cambridge Dictionary of Statistics" B. S. Everitt, 2ª Edição:

Um teorema que prova que, se os termos de erro em uma regressão múltipla tiverem a mesma variância e não estiverem correlacionados, os critérios dos parâmetros no modelo produzido pela estimativa de mínimos quadrados são melhores (no sentido de ter menor dispersão sobre a média) do que qualquer outro estimador linear imparcial.

Como interpretar o teorema? 

O principal ponto do teorema de Gauss-Markov é que podemos encontrar condições que garantam um bom ajuste sem exigir premissas distributivas detalhadas sobre e (i) e sem premissas distributivas sobre x (i). No entanto, se você estiver usando métodos bayesianos ou modelos generativos para previsões, poderá usar condições adicionais mais fortes (talvez até normalidade de erros e até suposições de distribuição nos xs).

Para saber mais(em inglês) clique aqui.