Casa abierta al tiempo

UNIVERSIDAD AUTONOMA METROPOLITANADivision de Ciencias Naturales e IngenieraDepartamento de Matematicas Aplicadas y Sistemas

Computacion EvolutivaTarea 1: metodos de optimizacion basados en gradiente

1. Objetivo

Familiarizarse con las caractersticas basicas de los metodos de optimizacion basados engradiente. En particular, con el metodo de gradiente conjugado propuesto por Fletcher-Reeves.

2. Actividades

2.1. Implementacion del metodo de Fletcher-Reeves

Implementar el algoritmo de Fletcher-Reeves en el lenguaje de su preferencia. Como recor-daran, este metodo necesita 2 procedimientos que se pueden hacer manualmente: i) calcularel gradiente de la funcion (derivando) y ii) encontrar el valor optimo de la longitud de paso.Para evitar hacer estos pasos de manera manual se pueden utilizar metodos numericos paraaproximar estos valores.

1. Aproximacion del gradiente: sea x0 Rn (n es el numero de variables) el punto dondequeremos evaluar el gradiente de una funcion f(x). Entonces, para aproximar la derivadaparcial con respecto a xi usamos lo siguiente:

f(x)

xi

x0

=f(x0i + x

0i ) f(x0i x0i )2x0i

,

donde x0i R es un valor relativamente pequeno y la notacion f(x0i + x0i ) significaf(x01, x

02, . . . , x

0i + x

0i , . . . , x

0n1, x0n), es decir, solamente se modifica la i-esima variable

de x0. Teoricamente entre mas pequeno sea x0i , mejor sera la aproximacion de la deri-vada. Sin embargo, en la practica, por limitantes en la precision de los tipos numericosde punto flotante, un valor muy pequeno de x0i puede empeorar la aproximacion de laderivada.

2. Longitud de paso optima: para obtener el valor optimo de podemos usar un metodo deeliminacion de intervalos como el de la seccion dorada mostrado en el Pseudocodigo 1.Puesto que este metodo requiere un intervalo inicial de busqueda tenemos que utilizarun metodo adicional para estimar este intervalo antes de aplicar el metodo de la secciondorada. El metodo que usaremos es la fase de acotamiento descrita en el Pseudocodigo 2.

2.2. Resolver una funcion de prueba

Una vez implementado el metodo de Fletcher-Reeves, usarlo para resolver el problemasiguiente:

Min f(x) = [10(x2 x21)]2 + (1 x1)2 + 90(x4 x23)2+(1 x3)2 + 10(x2 + x4 2)2 + 0.1(x2 x4)

1

La optimizacion se debe realizar con los siguientes parametros: x(0) = [3,1,3,1]T ytolerancias de 1 105 (incluso para las busquedas unidireccionales).

La salida de la ejecucion del algoritmo debera mostrar los valores de x, y de f(x) obtenidosa cada iteracion. Al final debera mostrar los valores optimos aproximados de x? y su f(x?)correspondiente.

Entrada:[a, b]: lmite inferior y superior del intervalo de busqueda.: tolerancias para detener la busqueda.

Salida:x?: aproximacion del valor que produce el mnimo de la funcion.

funcion seccionDorada(a, b, )L b aRepetirB Encontrar puntos intermedios dentro de [a, b]x1 a+ 0.618L B 0.618 es una aproximacion del numero dorado.x2 b 0.618LSi f(x1) < f(x2) entonces

a x2Otro

b x1Fin SiL b a B Actualizar longitud del intervalo

Hasta que |L| < x? (a+ b)/2regresa x?

Fin funcion

Algorithm 1: Pseudocodigo del algoritmo de la seccion dorada.

2

Entrada:x0: punto inicial de busqueda.: incremento para avanzar en la busqueda.

Salida:[a, b]: lmite inferior y superior del intervalo donde se encuentra el mnimo.

funcion acotamiento(x0, )B Encontrar la direccion en la que decrece la funcion.

Si f(x0 ||) f(x0) f(x0 + ||) entonces || B Avanzar a la derecha.

Otro Si f(x0 ||) f(x0) f(x0 + ||) entonces || B Avanzar a la izquierda

Otro Si f(x0 ||) f(x0) f(x0 + ||) entonces[a, b] [x0 ||, x0 + ||]regresa [a, b]

Fin Sik 0Repetir

k k + 1xk xk1 + 2k1 B Cada iteracion aumentamos mas x

Hasta que f(xk) < f(xk1)

B El mnimo esta entre los valores xk2 y xk, pero tenemosB que ajustar el intervalo dependiendo la direccion de busqueda.

[a, b] [mn(xk2, xk),max(xk2, xk)]regresa [a, b]

Fin funcion

Algorithm 2: Pseudocodigo de la fase de acotamiento.

3