Mínimos quadrados e Projeção Ortogonal

por **Jhonata** » Sex Jul 19, 2013 19:44

Eu conheço a aplicação dos mínimos quadrados, no entanto, não estou conseguindo resolver a seguinte questão:

A reta que melhor ajusta os dados da tabela:
[x --- y]
[1 -7]
[2 8]
[3 -13]
no sentido dos mínimos quadrados é y = 2 - 3x

. Usando este fato, determine a projeção ortogonal do vetor (-7,8,-13

) sobre

.

Agradeço a todos pela atenção e ficarei mais grato ainda aquele que puder me ajudar.

por **MateusL** » Sáb Jul 20, 2013 17:12

Oi Jhonata.

O que simboliza <(1,2,3),(1,1,1)> ? É o produto escalar de dois vetores? Se for, a questão não tem sentido...

Abraço!

por **Jhonata** » Sáb Jul 20, 2013 17:30

MateusL escreveu:Oi Jhonata.

O que simboliza <(1,2,3),(1,1,1)> ? É o produto escalar de dois vetores? Se for, a questão não tem sentido...

Abraço!

Opa, perdoe-me ! Eu havia esquecido esse detalhe. É que minha apostila(um pouco louca rsrs) utiliza duas notações.
No caso, seria o espaço gerado pelos vetores, ou melhor: span{(1,2,3),(1,1,1)}.

por **MateusL** » Sáb Jul 20, 2013 18:34

Sem problemas!

Realmente não sei muito dessa parte, mas pesquisando aqui achei este teorema:

Se é uma matriz $m\times n$ com vetores-coluna linearmente independentes, então para cada matriz de tamanho $n\times 1$ , o sistema linear tem uma única solução de mínimos quadrados. Esta solução é dada por:

$x=(A^TA)^{-1}A^Tb$

Além disso, se é o espaço-coluna de , então a projeção ortogonal de em é:

$\text{proj}_W b=Ax=A(A^TA)^{-1}A^Tb$

Vetor-coluna de

é um vetor formado pelos elementos de uma coluna de

Espaço-coluna de

é o subespaço gerado pelas colunas de

.

Espero que isso ajude.

Abraço!

por **Jhonata** » Sáb Jul 20, 2013 18:53

Eu conheço o Teorema e é este mesmo que estou tentando aplicar nessa questão, mas não está dando certo.

por **Jhonata** » Sáb Jul 20, 2013 18:53

Eu conheço o Teorema e é este mesmo que estou tentando aplicar nessa questão, mas não está dando certo.

De qualquer forma, muito obrigado!

Desculpa o spam, ocorreu um problema com minha internet.

por **MateusL** » Dom Jul 21, 2013 00:41

Vou ver se consigo.

Queremos encontrar

e

tal que

para todos os valores de

na tabela.
Ou seja, queremos resolver o seguinte sistema:

$\begin{pmatrix}1&1\\2&1\\3&1\end{pmatrix}\cdot \begin{pmatrix}a\\q\end{pmatrix}=\begin{pmatrix}-7\\8\\-13\end{pmatrix}$

Seja $A=\begin{pmatrix}1&1\\2&1\\3&1\end{pmatrix}$ , $x=\begin{pmatrix}a\\q\end{pmatrix}$ e $b=\begin{pmatrix}-7\\8\\-13\end{pmatrix}$ .
Então podemos representar o sistema por Ax=b

(não confundir este

com o

do enunciado).

Este não é um sistema linear compatível, mas sabemos que a reta que melhor ajusta os dados no sentido dos mínimos quadrados é:

y=2-3x

Então

e

, ou seja, a solução pelo método dos mínimos quadrados é $x=\begin{pmatrix}-3\\2\end{pmatrix}$ .
É claro que usando estes valores para

, não encontrarás exatamente os valores para

, mas sim os valores que minimizam a soma dos quadrados da diferença entre o valor de

da tabela e o valor de

obtido utilizando este valor de

.

Seja

o subespaço formado pelos vetores-coluna de

.
Queremos encontrar a projeção ortogonal de

sobre

.

Pelo teorema que já postei acima:

... se é o espaço-coluna de , então a projeção ortogonal de em é:

$\text{proj}_W b=Ax=A(A^TA)^{-1}A^Tb$

Então:

$\text{proj}_W b=Ax=\begin{pmatrix}1&1\\2&1\\3&1\end{pmatrix}\cdot \begin{pmatrix}-3\\2\end{pmatrix}=\begin{pmatrix}-3+2\\-6+2\\-9+2\end{pmatrix}=\begin{pmatrix}-1\\-4\\-7\end{pmatrix}$

Acredito que seja isso.

Abraço!

por **Jhonata** » Dom Jul 21, 2013 10:49

É isso mesmo! Muito obrigado! Salvou meus estudos. rsrs

Estava quebrando a cabeça com essa questão até agora, mas era tão simples que até me senti estúpido.

Novamente, muito obrigado!