Álgebra Lineal Ma1010 - Profesor Eduardo Uresti...

Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 1/36

Álgebra LinealMa1010

Proyecciones Ortogonales y Proceso de Gram-SchmidtDepartamento de Matemáticas

ITESM

IntroduccionOrtogonalidad a unespacioProyeccıonortogonalGram-Schmidt


Introducción

En esta lectura veremos el proceso paraortogonalizar un conjunto de vectores. Esteproceso es conocido como el proceso deGram-Schmidt.



Ortogonalidad a un espacio

Teorema

Sea V un espacio vectorial con productointerno •. El vector u es ortogonal a todovector de W = Gen{v1, . . . ,vk} si y sólo si

u •vi = 0, para todo i = 1, 2 . . . , k



Ortogonalidad a un espacio

Teorema

Sea V un espacio vectorial con productointerno •. El vector u es ortogonal a todovector de W = Gen{v1, . . . ,vk} si y sólo si

u •vi = 0, para todo i = 1, 2 . . . , k

Demostraci onSi u es ortogonal a todo W , entonces es ortogonala todo elemento de W . Los elementos vi sontambién elementos de W . Por tanto, para cadai = 1, 2, . . . , k se cumple u • vi = 0.



Supongamos que para cada i = 1, 2, . . . , k secumpla u •vi = 0, y sea v un elemento cualquierade W . Como W está generado por los vi, debenexistir ci tales que:

v = c1 v1 + · · ·+ ck vk

Haciendo el producto interno con u:

u • v = c1 u • v1 + · · ·+ ck u • vk

= c1 · 0 + · · ·+ ck · 0 = 0

por tanto, u es ortogonal a todo elemento de W .



Proyección ortogonal

Nuestro principal resultado referente aortoginalidad es el siguiente.Teorema

Suponga que V es un espacio vectorial conproducto interno. Y sea b un vector de V y Wun subespacio lineal de V . Si W posee unabase ortogonal, entonces1. Existe z ∈ W tal que b− z ⊥ W .2. El vector z que cumple lo anterior es único.3. Para todo y de W : d(z,b) ≤ d(y,b).


Demostraci on

Sea B = {a1, a2, . . . , ak} una base ortogonal para W .Definamos

z =

(

b • a1

a1 • a1

)

a1 +

(

b • a2

a2 • a2

)

a2 + · · ·+(

b • ak

ak • ak

)

ak

Por conveniencia representaremos

fi =b • ai

ai • ai


Veamos que z cumple el requisito 1. De acuerdo al resultadoprevio debemos probar que (b− z) • ai = 0 para cadai = 1, 2, . . . , k. Si utilizamos las propiedades del productointerno y la ortogonalidad de B tenemos:

(b− z) • ai =(

b−∑k

j=1fj aj

)

• ai

= b • ai −(

∑k

j=1fj aj

)

• ai

= b • ai −∑k

j=1fj aj • ai

= b • ai − fi ai • ai

= b • ai − b•ai

ai•ai

ai • ai

= b • ai − b • ai = 0

Por lo anterior y el teorema previo concluimos que b− z ⊥ W .


Supongamos que el vector y de W también cumple lacondición 1. Es decir, que b− y es ortogonal a todo vector deW . Para probar que y = z, veamos que la magnitud de y − z

es cero.

(y − z) • (y − z) = (y − z+ b− b) • (y − z)

= (−(b− y) + (b− z)) • (y − z)

= −(b− y) • (y − z) + (b− z) • (y − z)

Como z y y son elementos de W y W es un subespacio lineal,y − z está en W . y como los vectores b− z y b− y sonperpendicuales a todo vector de W se obtiene que:

(b− y) • (y − z) = 0 y (b− z) • (y − z) = 0

de esta manera tenemos que (y − z) • (y − z) = 0. Por tanto‖y − z‖2 = 0. Y así y − z = 0; de donde concluimos que y = z.


Ahora, sea y un vector cualquiera de W , así:

(b− y) • (b− y) = (b− y + z− z) • (b− y + z− z)

= ((b− z) + (z− y)) • ((b− z) + (z− y))

= (b− z) • (b− z) + (b− z) • (z− y)+

(z− y) • (b− z) + (z− y) • (z− y)

= (b− z) • (b− z) + (z− y) • (z− y)

Por tantod(y,b)2 = d(z,b)2 + d(y, z)2

De donde concluimos que d(x,b) ≤ d(y,b) para todo y de W .



Sea V un espacio vectorial con producto interno.Sea u un vector y sea W un subespacio con unabase ortogonal B = {v1, . . . ,vk}. Entonces, laproyección ortogonal de u sobre W es el vector

upr =u •v1

v1 •v1

v1 + · · · + u •vk

vk •vk

vk



Sea V un espacio vectorial con producto interno.Sea u un vector y sea W un subespacio con unabase ortogonal B = {v1, . . . ,vk}. Entonces, laproyección ortogonal de u sobre W es el vector

upr =u •v1

v1 •v1

v1 + · · · + u •vk

vk •vk

vk

La diferencia uc = u − upr se llama lacomponente de u ortogonal a W .

uc = u − u •v1

v1 •v1

v1 − · · · − u •vk

vk •vk

vk

u = upr + uc

El vector upr es el vector de W lo más cercano a u

y la distancia de u a W es la magnitud del vectoruc.



Proceso de ortogonalización de Gram-Schmidt

Sea V un espacio vectorial con producto interno. Todo subespacioW con una base tiene al menos una base ortogonal y una baseortonormal. Si B = {v1, . . . ,vk} es cualquier base de V , entoncesB

′

= {u1, . . . ,uk} es una base ortogonal, donde

u1 = v1

u2 = v2 − v2•u1

u1•u1u1

u3 = v3 − v3 •u1

u1 •u1u1 − v3 •u2

u2 •u2u2

...

uk = vk − vk •u1

u1 •u1u1 − vk •u2

u2 •u2u2 − · · · − v2 •uk−1

uk−1 •uk−1

uk−1

y

Gen{v1, . . . ,vi} = Gen{u1, . . . ,ui}, i = 1, . . . , k



Una Base ortonormal B′′

se obtiene normalizandoB

′

.

B′′

=

{

u1

‖u1‖, . . . ,

uk

‖uk‖

}

El proceso anterior es conocido como proceso deGram-Schmidt.



Ejemplo

Determine una base ortogonal y una ortonormalde R3 aplicando el proceso de Gram-Schmidt a labase B = {v1,v2,v3} , en la cual

v1 =

1

−1

1

, v2 =

−2

3

−1

, v3 =

1

2

−4



Soluci on Por razones de conveniencia, definamos

xij =vj • ui

ui • uj

Se toma u1 = v1. Como v2 • u1 = −6 y u1 • u1 = 3se tiene x12 = −6/3 y por tanto se tiene:

u2 = v2 − x12u1

=

−2

3

−1

−(

−6

3

)

1

−1

1

=

0

1

1



Ya que v3 • u1 = −5, v3 • u2 = −2, y u2 • u2 = 2,se tiene que x13 = −5/3 y x23 = −1 y entonces

u3 = v3 − x13u1 − x23u2

=

1

2

−4

−

(−5

3

)

1

−1

1

− (−1)

0

1

1

=

8

3

4

3

−4

3



Así, la base ortogonal es B′ = {u1,u2,u3 } donde

u1 =

1

−1

1

, u2 =

0

1

1

, u3 =

8

3

4

3

−4

3



Así, la base ortogonal es B′ = {u1,u2,u3 } donde

u1 =

1

−1

1

, u2 =

0

1

1

, u3 =

8

3

4

3

−4

3

Por último, normalizamos para obtener una baseortonormal B

′′ :

B′′ =

1√3

− 1√31√3

,

01√21√2

,

2√61√6

− 1√6



Los cálculos anteriores pueden llevarse a cabo enla TI 89 o Voyage. La figura 1 contiene la capturade los vectores.

Figura 1: Captura de los vectores del ejemplo 1.



Las figuras 2 y 3 contienen los pasos del algoritmosobre el conjunto de vectores inicial.

Figura 2: Seguimiento del algoritmo en el ejemplo 1.



Las figuras 3 y 4 contienen la normalización de losvectores resultantes del proceso deGram-Schmidt.

Figura 3: Conclusión del algoritmo GS e inicio del ortonorma-lización.



Figura 4: Ortonormalización del conjunto.



La figura 5 contiene la matriz cuyas columnas sonel resultado del proceso del ortonormalizacióncompleto.

Figura 5: Resultado del ejemplo 1.



El proceso de Gram-Schmidt combinado con el deortonormalización está implementado en la TI mediante la rutinallamada factorización QR. El conjunto de entrada debe estar en lascolumnas de una matriz. En la figura 6 se ilustra la formación de lamatriz cuyas columnas son el conjunto inicial. Note en ella, el usode la función augment con punto y coma para la separación de losvectores y el uso de la transpuesta debido a que ellos inicialmentefueron definidos como vectores renglón.

Figura 6: Formación de la matriz para el ejemplo 1.



En la figura 7 se ilustra el uso del comando QR. Note que no seusan paréntesis debido a que es una rutina y no una función. Elprimer argumento es la matriz y el segundo y tercero son variablesdónde se depositarán los cálculos. Note que la matriz q resultantecontiene en sus columnas el mismo resultado de nuestro procesocompleto.

Figura 7: QR en el ejemplo 1.



Ejemplo

Determine la mínima distancia de v3 al espacio Vque generan v1 y v2 con los datos del problemaanterior.



Ejemplo

Determine la mínima distancia de v3 al espacio Vque generan v1 y v2 con los datos del problemaanterior.Soluci onPara este cálculo debemos cambiar a {v1,v2} poruna base ortogonal y poder utilizar el resultadosobre la descomposición.



Ejemplo

Determine la mínima distancia de v3 al espacio Vque generan v1 y v2 con los datos del problemaanterior.Soluci onPara este cálculo debemos cambiar a {v1,v2} poruna base ortogonal y poder utilizar el resultadosobre la descomposición. Por los resultados delproblema previo tenemos que una baseortonormal es: B

′ = {u1,u2} donde

u1 =

1

−1

1

, u2 =

0

1

1



Ya que v3 • u1 = −5, v3 • u2 = −2, y u2 • u2 = 2,entonces

v3c = v3 −(

v3 ·u1

u1 ·u1

)

u1 −(

v3 ·u2

u2 ·u2

)

u2

=

1

2

−4

−

(−5

3

)

1

−1

1

−

(−2

2

)

0

1

1

=

8

3

4

3

−4

3



Ya que v3 • u1 = −5, v3 • u2 = −2, y u2 • u2 = 2,entonces

v3c = v3 −(

v3 ·u1

u1 ·u1

)

u1 −(

v3 ·u2

u2 ·u2

)

u2

=

1

2

−4

−

(−5

3

)

1

−1

1

−

(−2

2

)

0

1

1

=

8

3

4

3

−4

3

Por lo tanto la distancia de v3 a V es

||v3c|| =√

(8/3)2 + (4/3)2 + (−4/3)2 =4

3

√6



En la figura 8 se ilustra la forma de realizar los cálculos del ejemplo2 en la TI. Note que el vector v3 se definió como renglón, y por elloel uso de v3

T . Aplicando el concepto de multiplicación de unamatriz por un vector,■ la expresión q

Tv3

T calculará < u1 • v3,u2 • v3 > (Recuerde queui • ui = 1).

■ la expresión q

(

qTv3

T)

calculará

pr = (u1 • v3)u1 + (u2 • v3)u2

Figura 8: Datos y ortonormalización del ejemplo 2.



En la figura 9 se obtiene la distancia mínima de v3 al espaciogenerado por v1 y v2:

d = ‖v3 − pr‖ =

√

32

3=

4

3

√6

Figura 9: Cálculos finales del ejemplo 2.



Ejemplo

Calcule una base ortogonal y una ortonormal deR3 aplicando el proceso de Gram-Schmidt a labase B , en la cual

B =

2

−1

1

,

0

3

−1

,

1

2

0



Ejemplo


B =

2

−1

1

,

0

3

−1

,

1

2

0

Soluci onUtilizando

v1 =

2

−1

1

, v2 =

0

3

−1

, v3 =

1

2

0

Iniciemos con u1 = v1.



Como v2 • u1 = −4 y u1 • u1 = 6 en ese caso

u2 = v2 −v2 •u1

u1 •u1

u1

=

0

3

−1

−

(−4

6

)

2

−1

1

=

4

3

7

3

−1

3



Ya que v3 • u1 = 1, v3 • u2 = 6, y u2 • u2 = 22

3,

entonces

u3 = v3 −v3 •u1

u1 •u1

u1 −v3 •u2

u2 •u2

u2

=

1

2

0

−

(

1

6

)

2

−1

1

−

(−622

3

)

4

3

7

3

−1

3

=

−14

33

17

66

− 7

66



Así la base ortogonal es B′ = {u1 ,u2 ,u3 } donde

u1 =

2

−1

1

, u2 =

4

3

7

3

−1

3

, u3 =

−14

33

17

66

7

66

O sea

B′ =

2

−1

1

,

4

3

7

3

−1

3

,

−14

33

17

66

7

66



Por último normalizamos para obtener una baseortonormal B

′′:

B′′

=

1

2

−1

4

1

4

,

4√66

7√66

− 1√66

,

− 28√1122

17√1122

− 7√1122



Ejemplo


B =

v1 =

1

−2

1

,v2 =

4

3

−5

,v3 =

1

2

3



Ejemplo


B =

v1 =

1

−2

1

,v2 =

4

3

−5

,v3 =

1

2

3

Soluci onIniciamos con u1 = v1.



Como v2 • u1 = −7 y u1 • u1 = 6 en ese caso

u2 = v2 − v2 ·u1

u1 ·u1

u1

=

4

3

−5

−

(

−7

6

)

1

−2

1

=

31

6

2

3

−23

6



Ya que v3 • u1 = 0, v3 • u2 = 13

2, y u2 • u2 = 251

6,

entonces

u3 = v3 −v3 • u1

u1 • u1

u1 −v3 • u2

u2 • u2

u2

=

1

2

3

−

(

0

6

)

1

−2

1

−

(

13

2

251

6

)

31

6

2

3

−23

6

=

99

502

476

251

1805

502



Así la base ortogonal es B′ = {u1, u2, u3} donde

B′ =

1

−2

1

,

7

6

2

3

1

6

,

99

502

476

251

1805

502

Por último, normalizamos para obtener una baseortonormal B

′′:

B′′ =

1

4

−1

2

1

4

,

7√66

2√66

1√66

,

99√3494402

952√3494402

1805√3494402

Álgebra Lineal Ma1010 - Profesor Eduardo Uresti...

Documents

Transcript of Álgebra Lineal Ma1010 - Profesor Eduardo Uresti...