OPTIMIZACIÓN Y SIMULACIÓN PARA LA EMPRESA

Tema 4Optimización no Lineal

ORGANIZACIÓN DEL TEMA

• Sesiones:

• El caso sin restricciones: formulación, ejemplos

• Condiciones de optimalidad, métodos

• Caso con restricciones: ejemplo, condiciones de optimalidad, solución

PROBLEMAS SIN RESTRICCIONES

• Función objetivo no lineal, pero sin restricciones en las variables,minx f(x)

• Soluciones locales: no se pueden mejorar en entorno de solución • Soluciones globales: las mejores de todas las soluciones locales

OPTIMIZACIÓN SIN RESTRICCIONES

• Escenario ideal: conseguir una solución global• En general, no resulta posible calcular una solución local en tiempos razonables

• Dos alternativas:• Conformarnos con una solución local rápida• Intentar conseguir la solución global con un heurístico (aproximación)

• Si la dimensión del problema es moderada, se puede intentar buscar una solución global de forma determinista

• En general, los solvers eficientes de optimización encuentran soluciones locales• En algunos casos también encuentran soluciones globales:

• Convexidad: soluciones locales = soluciones globales

OPTIMIZACIÓN SIN RESTRICCIONES

• Algunos solvers avanzados usan heurísticos para intentar conseguir soluciones globales, bajo condiciones generales• Sin exigir diferenciabilidad, convexidad, etc.

• En la práctica:• Si maximizamos y la función objetivo es cóncava, se

puede conseguir el óptimo en un tiempo razonable• Si minimizamos y la función objetivo es convexa, se

puede conseguir el óptimo en un tiempo razonable

EJEMPLO 1: MARKETING EN MÓVILES

• Descripción:

• Una compañía quiere vender un nuevo móvil de gama alta capaz de competir en el mercado actual

• Ha invertido un millón de euros para diseñar y desarrollar el producto

• El éxito final dependerá de la inversión que se haga en marketing y del precio final del móvil en el mercado

• Dos decisiones importantes:

• a : cantidad a invertir en la campaña de marketing

• p : precio de venta al público del móvil

EJEMPLO 1: MARKETING EN MÓVILES

• Descripción:

• El departamento de marketing estima las ventas del móvil en el próximo año como:

• El coste de producción del móvil es 100 euros/unidad

• ¿Cómo puede la compañía incrementar su beneficio el próximo año con la venta del nuevo móvil?

EJEMPLO 1: MARKETING EN MÓVILES

• Modelo:• Beneficios por ventas:

• Coste de producción total:

• Coste de diseño y desarrollo:

• Costes de marketing:

• Beneficio total:

EJEMPLO 1: MARKETING EN MÓVILES

• ¿Estrategia óptima?• Maximizar beneficio

• ¿Restricciones?• Las variables han de ser no negativas• ¿Es necesario incluir estas restricciones?

• Solución inicial:• ¿Qué ocurre si los valores iniciales son negativos?• ¿Qué ocurre si son positivos y grandes?• ¿Y si son positivos y pequeños?

• ¿El problema es convexo?• ¿El problema tiene varias soluciones locales?• ¿Podemos conseguir la solución global?

EJEMPLO 2: AJUSTE DE DATOS

• Problemas de regresión

• Como ajustar un modelo a un conjunto dado de datos

• Distintos procedimientos en función de criterio de ajuste

• Mínimos cuadrados:

• Mínimos cuadrados no lineales:

• Mínima desviación absoluta:

EJEMPLO 2: AJUSTE DE DATOS

• Modelo concreto: regresión logística o exponencial

• Analizar relación entre tasa de crecimiento de una persona y su edad

• Esta relación es no lineal

• El crecimiento es alto en los primeros años y luego estable

• Posible modelotasa = �0 + �1 exp(�2 edad) + error

log(tasa) = �0 + �1 edad + error

CONDICIONES DE OPTIMALIDAD (SIN RESTRICCIONES)

• Cuando resolvemos problemas prácticos:• Hay veces que no logramos encontrar una solución

• Necesitamos buenos puntos iniciales (que pueden ser decisiones actuales)• Incluso aunque encontremos una solución, puede ser de poca ayuda para obtener

mejores soluciones• Intentar resolver el problema con muchos puntos iniciales

• ¿Cómo podemos obtener mejor información sobre las soluciones?• Propiedades teóricas

• Analizar las condiciones que se satisfacen en la solución• Chequear si realmente se satisfacen• O usarlas para encontrar candidatos a solución

CONDICIONES DE OPTIMALIDAD (SIN RESTRICCIONES)

• Problema de optimización sin restricciones:

• Si queremos maximizar, entonces

• Un punto (decisión), x*, es solución local, si no hay una mejor solución cerca

• Un punto (decisión), x*, es solución global, si es la mejor en general

CONDICIONES DE OPTIMALIDAD (SIN RESTRICCIONES)

• Condiciones necesarias

• Caso univariante:

• Caso multivariante

• Condiciones de primer orden:

• Si x* es un mínimo local, entonces

• Condiciones de segundo orden:

• Si x* es un mínimo local, entonces

CONDICIONES DE OPTIMALIDAD (SIN RESTRICCIONES)

• Condiciones suficientes

• Caso univariante:

• Caso multivariante

• Si se satisfacen las siguientes condiciones en x*, entonces es un mínimo local:

CONDICIONES DE OPTIMALIDAD (SIN RESTRICCIONES)

• Ejemplo

• Para el siguiente problema sin restricciones:

• Condiciones necesarias:

• Existen dos puntos estacionarios (candidatos a mínimo):

CONDICIONES DE OPTIMALIDAD (SIN RESTRICCIONES)

• Ejemplo• Condición suficiente:

• Por tanto:• ∇2f(xb) es definida positiva ⇒ xb mínimo local

• ∇2f(xa) es indefinida, por lo que xa no es ni mínimo ni máximo local

EJEMPLO 1: MARKETING EN MÓVILES

• Compañía que desea comercializar nuevo móvil de última generación

• Modelo de optimización:

• Condiciones de primer orden:

• Una solución: a = 106003.245 , p = 230.233

• Condición de segundo orden: matriz hessiana

CONDICIONES DE OPTIMALIDAD

• ¿Qué ocurre si un mínimo no satisface las condiciones suficientes?

• Para todas estas funciones, ∇f(0) = ∇2f(0) = 0

• Por tanto, x = 0 es candidato a óptimo en los tres casos

• Pero f2 tiene un mínimo local en x = 0

• f1 tiene un punto de silla en 0

• f3 tiene un máximo local en 0

• Este tipo de puntos se llaman estacionarios o singulares

CONDICIONES DE OPTIMALIDAD

• Resumen

• Un punto es estacionario si ∇f(x*) = 0

• Para estos puntos:

• ∇2f(x*) ≻ 0 ⇒ mínimo

• ∇2f(x*) ≺ 0 ⇒ máximo

• ∇2f(x*) indefinida ⇒ punto de silla

• ∇2f(x*) singular ⇒ cualquier caso

MÉTODO DE NEWTON• Cómo calcular una solución local:

• La mayoría de algoritmos son iterativos y de descenso en la f.o.

• El paso importante es calcular la dirección de movimiento, pk , que nos lleva de xk a xk+1

• Método de Newton. Las iteraciones son:

x0, x1, x2, . . . tales que f(xk+1) < f(xk), k = 0, 1, 2, . . .

PROBLEMAS CON RESTRICCIONES

• Ahora el problema es

• Tanto la función objetivo como las restricciones pueden ser funciones no lineales

• Ahora las soluciones pueden tener propiedades distintas (respecto al caso sin restricciones)

• Solución local: mejor solución en un entorno dentro de la región factible

• Solución global: la mejor solución de la región factible

PROBLEMAS CON RESTRICCIONES

• Propiedades de la solución:

• Diferencias respecto al caso sin restricciones

• Identificar las restricciones activas en la solución es tan importante como mejorar el objetivo

• Diferencias respecto a PL

• Las soluciones no tienen por qué estar en vértices

• Cómo encontrar un óptimo local

• Transformar el problema en uno sin restricciones (o solo restricciones de igualdad)

• Encontrar las restricciones activas en la solución

• Métodos eficientes basados en ensayo-error

PROBLEMAS CON RESTRICCIONES

• Dificultades prácticas:• Soluciones locales

• Si el problema no es convexo, la solución encontrada será probablemente local• Difícil de comprobar formalmente• Heurístico: ejecutar el método con muchos puntos iniciales

• Problemas mal condicionados• En algunos casos, el objetivo o restricciones pueden no estar bien definidos

siempre (raíz cuadrada, logaritmos, etc.)• Podríamos añadir restricciones para evitar esos puntos, pero el algoritmo

podría generar puntos infactibles en esa región• Heurístico: empezar cerca de la solución

EJEMPLO 1: OPTIMIZACIÓN DE CARTERAS

• Descripción:

• Tenemos n activos donde invertir una cierta cantidad de dinero

• Sin pérdida de generalidad, esta cantidad es 1

• La variable (aleatoria) Ri representa la rentabilidad (futura) en cada activo

• El objetivo es encontrar los pesos xi que definen la inversión en cada activo

• Para maximizar la rentabilidad total (a un periodo vista)

• Y para minimizar el riesgo de la inversión

EJEMPLO 1: OPTIMIZACIÓN DE CARTERAS

• Modelo:• Queremos resolver :

• ¿Pero está bien definido ese problema?• Versión bien definida:

• ¿Pero es razonable?

EJEMPLO 1: OPTIMIZACIÓN DE CARTERAS

• Versión más razonable (modelo de Markowitz):

donde S = Var(R) y γ coeficiente aversión al riesgo• Este modelo permite el cálculo de la frontera eficiente

(estrategias que, dada una rentabilidad, minimizan la varianza o riesgo)

• Es un problema cuadrático

EJEMPLO 1: OPTIMIZACIÓN DE CARTERAS

• Otro modelo razonable:

donde VaRβ es el Valor en Riesgo (percentil) correspondiente a un nivel dado 0 ≤ β ≤ 1• Es un problema no lineal y no convexo

• ¿Cómo calcular la solución?• Necesitamos algoritmos de optimización con restricciones

CASO CON RESTRICCIONES: CONDICIONES DE OPTIMALIDAD• Queremos buscar soluciones para:

• Usaremos las condiciones de optimalidad para obtener información adicional• Condiciones de optimalidad

• Diremos que un punto x* es estacionario si satisface estas condiciones para algún vector λ*

rx

f(x

⇤)�r

x

c(x

⇤)�

⇤= 0 estacionariedad

cI(x⇤) � 0 y cE(x

⇤) = 0 factibilidad

cI(x⇤)

T

�

⇤I = 0 complementariedad

�

⇤I � 0 signo de multiplicadores

CASO CON RESTRICCIONES: CONDICIONES DE OPTIMALIDAD• Las condiciones anteriores son necesarias, pero no suficientes

• Condiciones de optimalidad de primer orden (sin derivadas segundas)

• El vector λ se conoce como el vector de multiplicadores de Lagrange

• Parte de las condiciones de Karush-Kuhn-Tucker (KKT)

• Condiciones de segundo orden:L(x,�) ⌘ f(x)�

X

j

�

j

c

j

(x)

Z matriz con columnas que forman una base de {d : rc(x)d = 0}donde c denota las restricciones activas, c(x) = 0

Z

Tr2xx

L(x,�)Z ⌫ 0

CASO CON RESTRICCIONES: CONDICIONES DE OPTIMALIDAD• Ejemplo:

• Comprobar que el punto (1,0) satisface las condiciones necesarias

CASO CON RESTRICCIONES: CONDICIONES DE OPTIMALIDAD• El vector de multiplicadores λ* = (3/4,1/4,0,0) satisface