cont 0.pdf

Informacin y Repaso de conceptos bsicos

Mtodos de Optimizacin

Clase 0

Prof. Jaime CarrascoOtoo 2015

Informaciones generales sobre el curso. Repaso Conceptos bsicos

Clase 1

1 Informaciones generales sobre el curso.

2 Repaso Conceptos bsicos

2 / 29Informacin y Repaso de conceptos bsicos


Contenidos

Programa

1 Programacin no lineal sin y con restricciones

2 Mtodos Numricos para problemas de Optimizacin no lineales3 Mtodos de punto interior para problemas de programacin lineal.

4 Convexidad, Mtodo Simplex y Optimizacin en Redes5 Mtodos de Descomposicin para problemas de programacin lineal de gran

escala.6 Modelacin y Optimizacin a travs de Heursticas.



Modo de Calificacin

Pruebas

1era PruebaPonderacin 35%

2era PruebaPonderacin 35%

Tareas Tericas y Computacionales, y/o TrabajosPonderacin 30%

ExamenPonderacin 30%



Vectores y Matrices

En nuestro curso trabajaremos con matrices, donde designaremos por aij Rel elemento o componente de la matriz que se ubica en la fila i y en la columnaj. Por ejemplo, una matriz A sera:

A =

a11 a12 a1na21 a22 a2n...

... ...am1 am2 amn

.La jsima columna de A la denotaremos A j y constituye un vector columnade m componentes:

A j =

a1ja2j...amj

.



Operaciones con vectores y matrices. Producto matricial

El conjunto de todas las matrices de m n componentes es un espacio vectorialque denotamos Rmn

Las operaciones lineales estn definidas por las correspondientes operacionesen R, componente a componente.El espacio vectorial de los vectores (columna) de n componentes se denota Rn yse identifica con el de las matrices Rn1.Habitualmente, cuando nos refiramos a un vector fila usaremos la notaciny (Rn)T ' R1n la cual se usa tambin para denotar la trasposicin devectores y/o matrices:

v =

v1v2...vn

= vT = (v1, v2, ..., vn) = (vT)T = v,



Una m nmatriz A se interpreta como un operador lineal entre los espaciosRn y Rm, a travs del producto matriz vector, definido por:

A = (aij)j=1,...,ni=1,...,m , v = (v1, ..., vn)

T

Av =

nj=1

a1jvj

nj=1

a2jvj

...n

j=1

amjvj

Rm,

con lo cual, todo vector de Rn se transforma en un vector de Rm por esteproducto definido con la matriz A.



Decimos que este operador es lineal porque conserva lasoperaciones lineales, i.e.

A(x + y) = Ax + Ay, x, y Rn,A(x) = Ax, x Rn, R

Ntese que si A = aT = (a1, ..., an) es un vector fila, el producto matriz vector se convierte en un producto vector vector, que llamamos "productoescalar"de dos vectores:

Av = aTv =n

j=1

ajvj R,

que es tambin un operador lineal con imagen en R, al que habitualmentellamamos "forma lineal".



Finalmente, podemos ahora definir un producto matriz matriz, en la formasiguiente:

A = (aij)j=1,...,ni=1,...,m , B = (bjk)

k=1,...,pj=1,...,n ,

AB =

nj=1

aijbjk

k=1,...,pi=1,...,m

= (Ai . B. k)k=1,...,pi=1,..,m

es decir, una m nmatriz A se puede multiplicar por una n pmatriz Bse obtiene una m pmatriz C, cuyo elemento Cik es el producto escalar de lafila isima de A por la columna ksima de B.Este producto matricial se interpreta como la composicin de los operadoreslineales A y B, en ese orden.



Matrices no singulares. Clculo de determinantes

Una matriz se dice cuadrada si tiene el mismo nmero n de filas que decolumnas A = (aij)

j=1,...,ni=1,...,n.

A las matrices cuadradas se le asocia un nmero que llamamos el determi-nante de la matriz.

Este nmero (determinante de la matriz) puede calcularse a travs de losmenores y cofactores de la matriz que definiremos a continuacin porrecurrencia:

- Para una matriz cuadrada de orden n = 1, A = (a11), su menor esigual a su cofactor e igual a 1 y su determinante es a11.

- Para una matriz A = (aij)j=1,...,ni=1,...,n de orden n, el menor Mij del elemento

aij es el valor del determinante de orden (n 1) que se obtiene eliminando dela matriz A la fila i y la columna j,



- Para una matriz de orden n, el cofactor Aij del elemento aij se definecomo Aij = (1)i+jMij,

El determinante de una matriz de orden n se calcula sumando el producto delos elementos aij de cualquier fila o columna por sus cofactores:

det(A) =mi=1

airAir =mi=1

(1)i+rairMir, r = 1, 2, ..., n,

det(A) =n

j=1

arjArj =n

j=1

(1)r+jarjMrj, r = 1, 2, ...,m.



Matriz inversa. Mtodos para calcular la inversa

La matriz identidad I de orden n es la matriz que satisface la relacin:

AI = IA = A,

para cualquier matriz A de orden n. La matriz identidad es precisamente laque tiene unos en la diagonal principal y ceros en los dems elementos.

Una matriz cuadrada A se dice inversible si existe una matriz B tal que:

AB = BA = I.

A esta matriz B se le llama la matriz inversa de A y se denota A1. Unacondicin necesaria y suficiente para que una matriz A sea inversible es quedet(A) 6= 0.



Hay dos mtodos para calcular la inversa de una matriz

- Denotemos por cof (A) la matriz de los cofactores de la matriz A defi-nida por cof (A) = (Aij)j=1,...,ni=1,...,n , es decir, el elemento (i, j) de cof (A) es elcofactor del elemento aij de A.

El primer mtodo para calcular la inversa de A es entonces:

A1 =cof (A)T

det(A).

- El segundo mtodo para calcular la inversa consiste en adjuntar a lamatriz A la matriz identidad I del mismo orden:

A [A I]y efectuando transformaciones elementales, transformar la matriz A en laidentidad.



Si se realizan las mismas transformaciones a I se obtendr finalmente A1 ala derecha de I :

[A I] transf. elem. [I A1].

Las transformaciones elementales (de filas) son tres:

T1) Multiplicar una fila de A por un nmero diferente de cero,

T2) Multiplicar una fila de A por un nmero diferente de cero ysumrsela a otra fila,

T3) Intercambiar la posicin de dos filas de A.

Hay tres transformaciones elementales anlogas para las columnas de A. Sinembargo para la ejecucin correcta del mtodo no deben mezclarse.



Independencia lineal de vectores. Rango de una matriz

Un conjunto A1, ..,Ap de vectores de Rm se dice linealmente dependiente(`.d.) si y slo si existen escalares i R, no todos nulos, tales que la com-binacin lineal asociada produce el vector nulo, i.e.

pi=1

iAi = 0n.

Ntese que esto quiere decir que el vector x = (1, ..., p)T es una solucinno nula del sistema lineal homogneo:

pi=1

Aixi = 0n.

Si la nica solucin del sistema homogneo anterior es el vector nulo (i =0, i) entonces decimos que los vectores A1, ...,Ap son linealmente indepen-dientes (`.i.).



Rango de una Matriz

Una matriz A m n est compuesta de n vectores columna A j, j = 1, .., ny de m vectores filas Ai , i = 1, ...,m

El rango de una matriz es el nmero mximo de vectores `.i. que contiene.

Este rango puede calcularse lo mismo por los vectores fila que por los vec-tores columna porque coincide en ambos casos. Generalmente trabajaremoscon matrices m n de rango m.

Para calcular el rango de una matriz A m n basta hallar una sub-matrizcuadrada B p p de A, de orden p maximal, cuyo determinante seadiferente de cero (det(B) 6= 0).

El orden p de B es el rango de A. Esto significa que cualquier sub-matrizcuadrada R q q de A que tenga orden q > p tiene determinante igual acero (det(R) = 0).



Sistemas generadores. Bases de Rn

Un sistema de vectores A1, ...,Ap Rn es un sistema generador del espaciovectorialRn si y slo si todo vector X Rn se puede expresar como combina-cin lineal de los vectores A1, ...,Ap, i.e. para todo X Rn, existen escalares1, ..., p R tales que:

X =p

i=1

iAi.

Un sistema generador de Rn compuesto de vectores `.i. se le llama una basede Rn. Las bases de Rn deben contener exactamente n vectores, es decir, sunmero es exactamente la dimensin del espacio vectorial.



Subespacios. Nocleo e Imagen de un operador lineal

Un subconjunto S Rn es un subespacio si S es cerrado para la suma y elproducto por un escalar. Esto quiere decir:

x, y S = x + y S,x S, R = x S.

Ya hemos visto ms arriba que una matriz A m n se puede interpretarcomo un operador lineal de Rn en Rm. Los dos subespacios ms importantesasociados con el operador lineal (matriz) A son el kernell o ncleo de A, quedenotamos ker(A) y la imagen de A, que denotamos Im(A):

ker(A) = {x Rn : Ax = 0m} = A1 ({0m}) ,Im(A) = {y Rm : x Rn : y = Ax} = A (Rn) .



Sistema de ecuaciones linealesUn sistema de ecuaciones lineales est definido por una matriz A =(aij)

j=1,...,ni=1,...,m , un vector de incgnitas o variables x = (x1, ..., xn)

T y un vectorde trminos independientes b = (b1, ..., bm)T, que deben satisfacer la relacin

Ax = b,

la cual diremos que est escrita en forma "matricial".El sistema de ecuaciones puede tambin escribirse en forma escalar o porcomponentes:

nj=1

aijxj = bi, i = 1, ...,m

o en forma vectorial (por filas de A):

Ai x = bi, i = 1, ...,m



Si existe al menos una solucin x del sistema de ecuaciones lineales Ax = b,entonces las siguientes afirmaciones son ciertas:

(P1) b Im(A),

(P2) rank ([A b]) = rank(A),

(P3) Los vectores A 1, A 2 , ..., A n y b son `.d.,

(P4) b es una combinacin lineal de A 1, A 2 , ..., A n,

(P5) Si b = 0m = x ker(A),

Un recproco tambin es cierto. El sistema Ax = b tiene solucin si y slo sise cumple una cualquiera (y todas) las afirmaciones (P1)-(P4).



Valores y vectores propios de una matriz

Un nmero complejo C se le llama valor propio de la matriz cuadradaA n n si es una raz del polinomio caracterstico, i.e. P() = 0, donde:

P() = det(A I).Un vector x Rn, no nulo, es un vector propio asociado al valor propio dela matriz A si satisface la igualdad:

Ax = x,

o en forma equivalente, si es una solucin no trivial del sistema homogneo:

(A I)x = 0n.



Matrices simtricas, semi-definidas y definida positivas

Una matriz cuadrada A = (aij)j=1,...,ni=1,...,n es simtrica si sus componentes sim-

tricas con respecto a la diagonal principal son iguales, i.e. aij = aji, i 6= j.Toda matriz simtrica define una forma cuadrtica q(x) sobre Rn en la formasiguiente:

q(x) = xTAx, x Rn.La matriz A se dice definida positiva si la forma cuadrtica asociada q(x) esestrictamente positiva sobre todo vector no nulo.

La matriz A se dice semi-definida positiva si la forma cuadrtica asociadaq(x) es no negativa sobre todo Rn :



Matrices simtricas, semi-definidas y definida positivas

Def. Positiva xTAx > 0, x Rn, x 6= 0n,Semi-Def. Positiva xTAx 0, x Rn.

Las definiciones son anlogas para matrices definida negativas y semi-definida negativas, simplemente cambiando los signos:

Def. Negativa xTAx < 0, x Rn, x 6= 0n,Semi-Def. Negativa xTAx 0, x Rn.

La matriz A puede no ser signo definida y entonces se dice que A es indefinida.



Norma de vectores en Rn

En el espacio vectorial Rn se pueden definir varias normas para un vectorx = (x1, x2, ..., xn)t, las que a su vez inducen respectivas distancias. Las mscomunes son:

1 La norma euclideana (que es la que ms se usa):

x = n

j=1

x2j ,

2 La norma infinita:x = max

1jn|xj| ,



Funciones. Lmites y continuidadUna funcin f : Rn Rm tiene lmite ` Rm en el punto x0 Rn si y slosi para todo nmero > 0, existe un > 0 tal que para todo x B(x0, ) secumple que f (x) B(`, ). De forma equivalente:

> 0, > 0 : x x0 < f (x) ` < .Una sucesin {xn} Rn tiene lmite ` cuando n tiende a + si y slo si paratodo nmero > 0, existe un N N tal que, para todo n N se cumple quexn B(`, ). De forma equivalente:

> 0, N N : n N xn ` < .



Funciones. Lmites y continuidadUna funcin f se dice continua en x0 si est definida en x0, tiene lmite en x0y ese lmite es igual a su imagen f (x0).

Una funcin f es continua en S si es continua en todos los puntos de S.



Derivadas parciales. Gradiente. Jacobiano. Hessiano.Para la funcin f : Rn R, la derivada parcial de f con respecto a la variablexj en el punto x0 se define por:

f (x0)xj

= lmt0f (x0 + tej) f (x0)

t,

donde ej = (0, 0, ..., 1j, 0, ..., 0)T es el jsimo vector unitario.

El vector gradiente en x0 es el vector (fila) de las derivadas parciales de f conrespecto a todas las variables:

f (x0) =(f (x0)x1

,f (x0)x2

, ...,f (x0)xn

).



Derivadas parciales. Gradiente. Jacobiano. Hessiano.Una funcin F : Rn Rm, puede identificarse como el vector formado porm funciones fi : Rn R, i = 1, ...,m:

F(x) =

f1(x)f2(x)

...fm(x)

.La matriz Jacobiana o el Jacobiano de F en x0 es la matriz m n cuyas filasson los vectores gradiente de cada fi :

F(x0) =

f1(x0)f2(x0)

...fm(x0)

.



Derivadas parciales. Gradiente. Jacobiano. Hessiano.La matriz Hessiana o el Hessiano de f : Rn R en x0 es la matriz de lassegundas derivadas parciales de f en x0 :

2f (x0) =(2f (x0)xi xj

)j=1,...,ni=1,...,n

Casi siempre, en los casos prcticos, las segundas derivadas cruzadas soniguales:

2f (x0)xi xj

=2f (x0)xj xi

,

y por eso la matriz Hessiana es (casi) siempre simtrica.

El hecho de que la matriz Hessiana sea signo-definida (positiva o negativa)ser una propiedad muy importante en los problemas de optimizacin no li-neal.


Informaciones generales sobre el curso.Repaso Conceptos bsicos

cont 0.pdf

Documents

Transcript of cont 0.pdf