ALGEBRA LINEAL PARA TODOS

 

José Arturo Barreto G.,M.A

The University of Texas at Austin

 

 

 

Capítulo 9

 

Regresión Lineal

 

Preliminares

 

En el capítulo de vectores en Rn, vimos que cuando el sistema de ecuaciones lineales

 

Ax = b no tiene solución, podemos siempre resolver Ax= b,

 

El cual siempre tiene solución ya que b es la "proyección" de b sobre el subespacio generado por las columnas de A.

 

En ese capítulo solucionamos el problema Ax = b, en donde A era una matriz de orden 2, con vectores columna ( columnas), linealmente independientes, proyectando a b sobre el subespacio generado por las columnas de A, Gen(A).

 

 

 

 

 

 

 

 

Para resolver el problema procedimos así:

 

i)                  Calculamos una base V1 , V2 , de Gen (A).

ii)                 Calculamos la proyección b , de b en Gen(A).

iii)                Procedimos a resolver Ax = b.

 

La solución x así obtenida se denominó una solución por mínimos cuadrados de Ax = b.

 

En tal capítulo, a título de ilustración, resolvimos, por mínimos cuadrados, el sistema de ecuaciones lineales simultáneas:

 

                                                           2 x + y = 1

                                                           2 x  - y = 2

                                                              x + y = 1

 

La matriz de los coeficientes del sistema de ecuaciones planteado es .

 

 

 

 

 

 

 


Sus vectores columna son:

                       

                                                          

 

 

                                              

Como   v1 y v2 , son linealmente independientes, anteriormente construimos a partir de ellos, un conjunto ortogonal de Gen(A), formado por:

 

 

 

 

 


El proceso de ortogonalización aplicado, exigía que los dos vectores no fueran colineales, esto es que fuesen linealmente independientes.

 

La condición de independencia lineal de n vectores v1 , v2 , … , vn, es que la ecuación

 

l1 v1 + l2 v2 + … + ln vn = 0,

 

tenga como única solución:

 

l1 = l2 = … = ln = 0

 

o sea que la única solución sea la trivial  l = 0.

 

Esta condición la satisfacen plenamente los vectores v1 y v2.

 

Por esta razón se pudo aplicar el proceso de ortogonalización de Gram-Schmidt. Si no, no se podría aplicar. Aún más v1 y v2 son una base de Gen(A), ya que además de ser linealmente independientes, por la propia definición de Gen(A), lo generan.

           

La situación se complica cuando las columnas de A no son linealmente independientes como veremos en el ejemplo siguiente.

 

Problema

 

Hallar el conjunto solución del sistema de ecuaciones lineales:

  x  +   y   +  z   =  1

2x  +   y            =  2

- x  + 2y   + 5z = -3

 
 

 

 

 


Utilizando el método de Gauss, procedemos así:

 


                                                                                                                     

                                          º                        º                                                  º                             

 

  x   +    y   +    z  = 1

           - y   -   2z  = 1

                     0z  = 1                                                  

 

                                  

 
 


El sistema de ecuaciones equivalente :  (*)

 

                                                                                                         

No tiene solución (es inconsistente).

 

Procederemos a hallar su solución por mínimos cuadrados:

 


Tomemos los vectores

 

 

 

 

Veamos si estos vectores son linealmente independientes.

 

A partir de la ecuación:              l 1 A1 + l 2 A2 + l 3 A3 = 0,

           1                  1                   1

l 1      2     +  l 2   1      +  l3    0    = 0

          -1                 2                  5

 

 
 


Hosted by www.Geocities.ws