Álgebra Lineal Ma1010 - Profesor Eduardo Uresti...
Transcript of Álgebra Lineal Ma1010 - Profesor Eduardo Uresti...
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 1/36
Álgebra LinealMa1010
Proyecciones Ortogonales y Proceso de Gram-SchmidtDepartamento de Matemáticas
ITESM
IntroduccionOrtogonalidad a unespacioProyeccıonortogonalGram-Schmidt
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 2/36
Introducción
En esta lectura veremos el proceso paraortogonalizar un conjunto de vectores. Esteproceso es conocido como el proceso deGram-Schmidt.
IntroduccionOrtogonalidad a unespacioProyeccıonortogonalGram-Schmidt
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 3/36
Ortogonalidad a un espacio
Teorema
Sea V un espacio vectorial con productointerno •. El vector u es ortogonal a todovector de W = Gen{v1, . . . ,vk} si y sólo si
u •vi = 0, para todo i = 1, 2 . . . , k
IntroduccionOrtogonalidad a unespacioProyeccıonortogonalGram-Schmidt
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 3/36
Ortogonalidad a un espacio
Teorema
Sea V un espacio vectorial con productointerno •. El vector u es ortogonal a todovector de W = Gen{v1, . . . ,vk} si y sólo si
u •vi = 0, para todo i = 1, 2 . . . , k
Demostraci onSi u es ortogonal a todo W , entonces es ortogonala todo elemento de W . Los elementos vi sontambién elementos de W . Por tanto, para cadai = 1, 2, . . . , k se cumple u • vi = 0.
IntroduccionOrtogonalidad a unespacioProyeccıonortogonalGram-Schmidt
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 4/36
Supongamos que para cada i = 1, 2, . . . , k secumpla u •vi = 0, y sea v un elemento cualquierade W . Como W está generado por los vi, debenexistir ci tales que:
v = c1 v1 + · · ·+ ck vk
Haciendo el producto interno con u:
u • v = c1 u • v1 + · · ·+ ck u • vk
= c1 · 0 + · · ·+ ck · 0 = 0
por tanto, u es ortogonal a todo elemento de W .
IntroduccionOrtogonalidad a unespacioProyeccıonortogonalGram-Schmidt
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 5/36
Proyección ortogonal
Nuestro principal resultado referente aortoginalidad es el siguiente.Teorema
Suponga que V es un espacio vectorial conproducto interno. Y sea b un vector de V y Wun subespacio lineal de V . Si W posee unabase ortogonal, entonces1. Existe z ∈ W tal que b− z ⊥ W .2. El vector z que cumple lo anterior es único.3. Para todo y de W : d(z,b) ≤ d(y,b).
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 6/36
Demostraci on
Sea B = {a1, a2, . . . , ak} una base ortogonal para W .Definamos
z =
(
b • a1
a1 • a1
)
a1 +
(
b • a2
a2 • a2
)
a2 + · · ·+(
b • ak
ak • ak
)
ak
Por conveniencia representaremos
fi =b • ai
ai • ai
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 7/36
Veamos que z cumple el requisito 1. De acuerdo al resultadoprevio debemos probar que (b− z) • ai = 0 para cadai = 1, 2, . . . , k. Si utilizamos las propiedades del productointerno y la ortogonalidad de B tenemos:
(b− z) • ai =(
b−∑k
j=1fj aj
)
• ai
= b • ai −(
∑k
j=1fj aj
)
• ai
= b • ai −∑k
j=1fj aj • ai
= b • ai − fi ai • ai
= b • ai − b•ai
ai•ai
ai • ai
= b • ai − b • ai = 0
Por lo anterior y el teorema previo concluimos que b− z ⊥ W .
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 8/36
Supongamos que el vector y de W también cumple lacondición 1. Es decir, que b− y es ortogonal a todo vector deW . Para probar que y = z, veamos que la magnitud de y − z
es cero.
(y − z) • (y − z) = (y − z+ b− b) • (y − z)
= (−(b− y) + (b− z)) • (y − z)
= −(b− y) • (y − z) + (b− z) • (y − z)
Como z y y son elementos de W y W es un subespacio lineal,y − z está en W . y como los vectores b− z y b− y sonperpendicuales a todo vector de W se obtiene que:
(b− y) • (y − z) = 0 y (b− z) • (y − z) = 0
de esta manera tenemos que (y − z) • (y − z) = 0. Por tanto‖y − z‖2 = 0. Y así y − z = 0; de donde concluimos que y = z.
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 9/36
Ahora, sea y un vector cualquiera de W , así:
(b− y) • (b− y) = (b− y + z− z) • (b− y + z− z)
= ((b− z) + (z− y)) • ((b− z) + (z− y))
= (b− z) • (b− z) + (b− z) • (z− y)+
(z− y) • (b− z) + (z− y) • (z− y)
= (b− z) • (b− z) + (z− y) • (z− y)
Por tantod(y,b)2 = d(z,b)2 + d(y, z)2
De donde concluimos que d(x,b) ≤ d(y,b) para todo y de W .
IntroduccionOrtogonalidad a unespacioProyeccıonortogonalGram-Schmidt
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 10/36
Sea V un espacio vectorial con producto interno.Sea u un vector y sea W un subespacio con unabase ortogonal B = {v1, . . . ,vk}. Entonces, laproyección ortogonal de u sobre W es el vector
upr =u •v1
v1 •v1
v1 + · · · + u •vk
vk •vk
vk
IntroduccionOrtogonalidad a unespacioProyeccıonortogonalGram-Schmidt
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 10/36
Sea V un espacio vectorial con producto interno.Sea u un vector y sea W un subespacio con unabase ortogonal B = {v1, . . . ,vk}. Entonces, laproyección ortogonal de u sobre W es el vector
upr =u •v1
v1 •v1
v1 + · · · + u •vk
vk •vk
vk
La diferencia uc = u − upr se llama lacomponente de u ortogonal a W .
uc = u − u •v1
v1 •v1
v1 − · · · − u •vk
vk •vk
vk
u = upr + uc
El vector upr es el vector de W lo más cercano a u
y la distancia de u a W es la magnitud del vectoruc.
IntroduccionOrtogonalidad a unespacioProyeccıonortogonalGram-Schmidt
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 11/36
Proceso de ortogonalización de Gram-Schmidt
Sea V un espacio vectorial con producto interno. Todo subespacioW con una base tiene al menos una base ortogonal y una baseortonormal. Si B = {v1, . . . ,vk} es cualquier base de V , entoncesB
′
= {u1, . . . ,uk} es una base ortogonal, donde
u1 = v1
u2 = v2 − v2•u1
u1•u1u1
u3 = v3 − v3 •u1
u1 •u1u1 − v3 •u2
u2 •u2u2
...
uk = vk − vk •u1
u1 •u1u1 − vk •u2
u2 •u2u2 − · · · − v2 •uk−1
uk−1 •uk−1
uk−1
y
Gen{v1, . . . ,vi} = Gen{u1, . . . ,ui}, i = 1, . . . , k
IntroduccionOrtogonalidad a unespacioProyeccıonortogonalGram-Schmidt
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 12/36
Una Base ortonormal B′′
se obtiene normalizandoB
′
.
B′′
=
{
u1
‖u1‖, . . . ,
uk
‖uk‖
}
El proceso anterior es conocido como proceso deGram-Schmidt.
IntroduccionOrtogonalidad a unespacioProyeccıonortogonalGram-Schmidt
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 13/36
Ejemplo
Determine una base ortogonal y una ortonormalde R3 aplicando el proceso de Gram-Schmidt a labase B = {v1,v2,v3} , en la cual
v1 =
1
−1
1
, v2 =
−2
3
−1
, v3 =
1
2
−4
IntroduccionOrtogonalidad a unespacioProyeccıonortogonalGram-Schmidt
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 14/36
Soluci on Por razones de conveniencia, definamos
xij =vj • ui
ui • uj
Se toma u1 = v1. Como v2 • u1 = −6 y u1 • u1 = 3se tiene x12 = −6/3 y por tanto se tiene:
u2 = v2 − x12u1
=
−2
3
−1
−(
−6
3
)
1
−1
1
=
0
1
1
IntroduccionOrtogonalidad a unespacioProyeccıonortogonalGram-Schmidt
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 15/36
Ya que v3 • u1 = −5, v3 • u2 = −2, y u2 • u2 = 2,se tiene que x13 = −5/3 y x23 = −1 y entonces
u3 = v3 − x13u1 − x23u2
=
1
2
−4
−
(−5
3
)
1
−1
1
− (−1)
0
1
1
=
8
3
4
3
−4
3
IntroduccionOrtogonalidad a unespacioProyeccıonortogonalGram-Schmidt
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 16/36
Así, la base ortogonal es B′ = {u1,u2,u3 } donde
u1 =
1
−1
1
, u2 =
0
1
1
, u3 =
8
3
4
3
−4
3
IntroduccionOrtogonalidad a unespacioProyeccıonortogonalGram-Schmidt
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 16/36
Así, la base ortogonal es B′ = {u1,u2,u3 } donde
u1 =
1
−1
1
, u2 =
0
1
1
, u3 =
8
3
4
3
−4
3
Por último, normalizamos para obtener una baseortonormal B
′′ :
B′′ =
1√3
− 1√31√3
,
01√21√2
,
2√61√6
− 1√6
IntroduccionOrtogonalidad a unespacioProyeccıonortogonalGram-Schmidt
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 17/36
Los cálculos anteriores pueden llevarse a cabo enla TI 89 o Voyage. La figura 1 contiene la capturade los vectores.
Figura 1: Captura de los vectores del ejemplo 1.
IntroduccionOrtogonalidad a unespacioProyeccıonortogonalGram-Schmidt
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 18/36
Las figuras 2 y 3 contienen los pasos del algoritmosobre el conjunto de vectores inicial.
Figura 2: Seguimiento del algoritmo en el ejemplo 1.
IntroduccionOrtogonalidad a unespacioProyeccıonortogonalGram-Schmidt
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 19/36
Las figuras 3 y 4 contienen la normalización de losvectores resultantes del proceso deGram-Schmidt.
Figura 3: Conclusión del algoritmo GS e inicio del ortonorma-lización.
IntroduccionOrtogonalidad a unespacioProyeccıonortogonalGram-Schmidt
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 20/36
Figura 4: Ortonormalización del conjunto.
IntroduccionOrtogonalidad a unespacioProyeccıonortogonalGram-Schmidt
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 21/36
La figura 5 contiene la matriz cuyas columnas sonel resultado del proceso del ortonormalizacióncompleto.
Figura 5: Resultado del ejemplo 1.
IntroduccionOrtogonalidad a unespacioProyeccıonortogonalGram-Schmidt
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 22/36
El proceso de Gram-Schmidt combinado con el deortonormalización está implementado en la TI mediante la rutinallamada factorización QR. El conjunto de entrada debe estar en lascolumnas de una matriz. En la figura 6 se ilustra la formación de lamatriz cuyas columnas son el conjunto inicial. Note en ella, el usode la función augment con punto y coma para la separación de losvectores y el uso de la transpuesta debido a que ellos inicialmentefueron definidos como vectores renglón.
Figura 6: Formación de la matriz para el ejemplo 1.
IntroduccionOrtogonalidad a unespacioProyeccıonortogonalGram-Schmidt
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 23/36
En la figura 7 se ilustra el uso del comando QR. Note que no seusan paréntesis debido a que es una rutina y no una función. Elprimer argumento es la matriz y el segundo y tercero son variablesdónde se depositarán los cálculos. Note que la matriz q resultantecontiene en sus columnas el mismo resultado de nuestro procesocompleto.
Figura 7: QR en el ejemplo 1.
IntroduccionOrtogonalidad a unespacioProyeccıonortogonalGram-Schmidt
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 24/36
Ejemplo
Determine la mínima distancia de v3 al espacio Vque generan v1 y v2 con los datos del problemaanterior.
IntroduccionOrtogonalidad a unespacioProyeccıonortogonalGram-Schmidt
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 24/36
Ejemplo
Determine la mínima distancia de v3 al espacio Vque generan v1 y v2 con los datos del problemaanterior.Soluci onPara este cálculo debemos cambiar a {v1,v2} poruna base ortogonal y poder utilizar el resultadosobre la descomposición.
IntroduccionOrtogonalidad a unespacioProyeccıonortogonalGram-Schmidt
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 24/36
Ejemplo
Determine la mínima distancia de v3 al espacio Vque generan v1 y v2 con los datos del problemaanterior.Soluci onPara este cálculo debemos cambiar a {v1,v2} poruna base ortogonal y poder utilizar el resultadosobre la descomposición. Por los resultados delproblema previo tenemos que una baseortonormal es: B
′ = {u1,u2} donde
u1 =
1
−1
1
, u2 =
0
1
1
IntroduccionOrtogonalidad a unespacioProyeccıonortogonalGram-Schmidt
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 25/36
Ya que v3 • u1 = −5, v3 • u2 = −2, y u2 • u2 = 2,entonces
v3c = v3 −(
v3 ·u1
u1 ·u1
)
u1 −(
v3 ·u2
u2 ·u2
)
u2
=
1
2
−4
−
(−5
3
)
1
−1
1
−
(−2
2
)
0
1
1
=
8
3
4
3
−4
3
IntroduccionOrtogonalidad a unespacioProyeccıonortogonalGram-Schmidt
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 25/36
Ya que v3 • u1 = −5, v3 • u2 = −2, y u2 • u2 = 2,entonces
v3c = v3 −(
v3 ·u1
u1 ·u1
)
u1 −(
v3 ·u2
u2 ·u2
)
u2
=
1
2
−4
−
(−5
3
)
1
−1
1
−
(−2
2
)
0
1
1
=
8
3
4
3
−4
3
Por lo tanto la distancia de v3 a V es
||v3c|| =√
(8/3)2 + (4/3)2 + (−4/3)2 =4
3
√6
IntroduccionOrtogonalidad a unespacioProyeccıonortogonalGram-Schmidt
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 26/36
En la figura 8 se ilustra la forma de realizar los cálculos del ejemplo2 en la TI. Note que el vector v3 se definió como renglón, y por elloel uso de v3
T . Aplicando el concepto de multiplicación de unamatriz por un vector,■ la expresión q
Tv3
T calculará < u1 • v3,u2 • v3 > (Recuerde queui • ui = 1).
■ la expresión q
(
qTv3
T)
calculará
pr = (u1 • v3)u1 + (u2 • v3)u2
Figura 8: Datos y ortonormalización del ejemplo 2.
IntroduccionOrtogonalidad a unespacioProyeccıonortogonalGram-Schmidt
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 27/36
En la figura 9 se obtiene la distancia mínima de v3 al espaciogenerado por v1 y v2:
d = ‖v3 − pr‖ =
√
32
3=
4
3
√6
Figura 9: Cálculos finales del ejemplo 2.
IntroduccionOrtogonalidad a unespacioProyeccıonortogonalGram-Schmidt
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 28/36
Ejemplo
Calcule una base ortogonal y una ortonormal deR3 aplicando el proceso de Gram-Schmidt a labase B , en la cual
B =
2
−1
1
,
0
3
−1
,
1
2
0
IntroduccionOrtogonalidad a unespacioProyeccıonortogonalGram-Schmidt
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 28/36
Ejemplo
Calcule una base ortogonal y una ortonormal deR3 aplicando el proceso de Gram-Schmidt a labase B , en la cual
B =
2
−1
1
,
0
3
−1
,
1
2
0
Soluci onUtilizando
v1 =
2
−1
1
, v2 =
0
3
−1
, v3 =
1
2
0
Iniciemos con u1 = v1.
IntroduccionOrtogonalidad a unespacioProyeccıonortogonalGram-Schmidt
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 29/36
Como v2 • u1 = −4 y u1 • u1 = 6 en ese caso
u2 = v2 −v2 •u1
u1 •u1
u1
=
0
3
−1
−
(−4
6
)
2
−1
1
=
4
3
7
3
−1
3
IntroduccionOrtogonalidad a unespacioProyeccıonortogonalGram-Schmidt
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 30/36
Ya que v3 • u1 = 1, v3 • u2 = 6, y u2 • u2 = 22
3,
entonces
u3 = v3 −v3 •u1
u1 •u1
u1 −v3 •u2
u2 •u2
u2
=
1
2
0
−
(
1
6
)
2
−1
1
−
(−622
3
)
4
3
7
3
−1
3
=
−14
33
17
66
− 7
66
IntroduccionOrtogonalidad a unespacioProyeccıonortogonalGram-Schmidt
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 31/36
Así la base ortogonal es B′ = {u1 ,u2 ,u3 } donde
u1 =
2
−1
1
, u2 =
4
3
7
3
−1
3
, u3 =
−14
33
17
66
7
66
O sea
B′ =
2
−1
1
,
4
3
7
3
−1
3
,
−14
33
17
66
7
66
IntroduccionOrtogonalidad a unespacioProyeccıonortogonalGram-Schmidt
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 32/36
Por último normalizamos para obtener una baseortonormal B
′′:
B′′
=
1
2
−1
4
1
4
,
4√66
7√66
− 1√66
,
− 28√1122
17√1122
− 7√1122
IntroduccionOrtogonalidad a unespacioProyeccıonortogonalGram-Schmidt
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 33/36
Ejemplo
Calcule una base ortogonal y una ortonormal deR3 aplicando el proceso de Gram-Schmidt a labase B , en la cual
B =
v1 =
1
−2
1
,v2 =
4
3
−5
,v3 =
1
2
3
IntroduccionOrtogonalidad a unespacioProyeccıonortogonalGram-Schmidt
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 33/36
Ejemplo
Calcule una base ortogonal y una ortonormal deR3 aplicando el proceso de Gram-Schmidt a labase B , en la cual
B =
v1 =
1
−2
1
,v2 =
4
3
−5
,v3 =
1
2
3
Soluci onIniciamos con u1 = v1.
IntroduccionOrtogonalidad a unespacioProyeccıonortogonalGram-Schmidt
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 34/36
Como v2 • u1 = −7 y u1 • u1 = 6 en ese caso
u2 = v2 − v2 ·u1
u1 ·u1
u1
=
4
3
−5
−
(
−7
6
)
1
−2
1
=
31
6
2
3
−23
6
IntroduccionOrtogonalidad a unespacioProyeccıonortogonalGram-Schmidt
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 35/36
Ya que v3 • u1 = 0, v3 • u2 = 13
2, y u2 • u2 = 251
6,
entonces
u3 = v3 −v3 • u1
u1 • u1
u1 −v3 • u2
u2 • u2
u2
=
1
2
3
−
(
0
6
)
1
−2
1
−
(
13
2
251
6
)
31
6
2
3
−23
6
=
99
502
476
251
1805
502
IntroduccionOrtogonalidad a unespacioProyeccıonortogonalGram-Schmidt
Proyecciones Ortogonales y Proceso de Gram-Schmidt Álgebra Lineal - p. 36/36
Así la base ortogonal es B′ = {u1, u2, u3} donde
B′ =
1
−2
1
,
7
6
2
3
1
6
,
99
502
476
251
1805
502
Por último, normalizamos para obtener una baseortonormal B
′′:
B′′ =
1
4
−1
2
1
4
,
7√66
2√66
1√66
,
99√3494402
952√3494402
1805√3494402