Optimizacion by Olga Patricia Rodríguez Sarmiento

Optimización de

Optimización sin restricciones es n o ci n as u m F 2 o es n co iabl var

Sistemas

y Funciones

Métodos para optimizar

E EN G N A LAGR NOMÍA O LA EC

Teoría del Control

13/06/2015

Lagrang e

Ejercicios resueltos en las ultimas paginas

INSTITUTO UNIVERSITARIO POLITECNICO SANTIAGO MARIÑO

Contenido INTEGRANTES

Olga Rodríguez Ramón Arvelo Jesús Valbuena

Optimización sin restricciones 2 Métodos 4 Trayectoria de ascenso pronunciado 8 Efecto de Escala 10 Método de Lagrange 12 Lagrange 14 Método multiplicadores de lagrange 15 Características 19 Programación Convexa 20 Teoría de Control 21 Aplicaciones 24 Lagrange en la economía 25 Importancia 26 Función 27 Efectos 28 Ejercicios resueltos 29

INSTITUTO UNIVERSITARIO POLITECNICO SANTIAGO MARIÑO

Misión Formar profesionales de elevada calidad que respondan a las necesidades del país y a los cambios que éste demande; fomentar la investigación, así como promover actividades que propicien la correspondiente integración e interrelación de la institución y la comunidad a objeto de elevar el nivel cultural, afianzar valores, favorecer el bienestar, para así contribuir al enriquecimiento de la calidad de vida.

Visión Constituirse en una institución de educación superior signada por la excelencia, que contribuya al desarrollo cultural, científico, humanístico y tecnológico del país y a la consolidación de los valores fundamentales de la sociedad enmarcados en el contexto nacional, latinoamericano y mundial.

OPTIMIZACION SIN Función Objetivo de dos variables. Para que una función como f = z (x,y) tenga un mínimo o máximo relativo, tres condiciones deben ser satisfechas:

1. L as

derivadas parciales de primer orden deben simultáneamente ser iguales a cero. Ello indica que en un punto dado 8ª, b) llamado “punto crítico”, la función no esta creciendo ni decreciendo con respecto a los ejes principales sino a una superficie relativa.

2. L as

derivadas parciales de segundo orden deben ser negativas cuando ellas son evaluadas en el punto crítico (a,b) para un máximo relativo y positivas para un mínimo relativo. Ello asegura que la funciones cóncava y moviéndose hacia abajo en relación a los ejes principales en el caso de un máximo relativo y la función es convexo y moviéndose hacia arriba en relación a los ejes principales en el caso de un mínimo relativo.

3. E l

producto de las derivadas parciales de segundo orden en el punto crítico deben exceder el producto de las derivadas parciales cruzadas también evaluadas en dicho punto. Esta condición adicional es necesaria para evitar un punto de inflexión o punto de silla.

RESTRICCIONES

F u n c io n e s con 2 v a r ia b l e s

En la situación que , Máximo

Mínimo

Punto de Silla

cuando y tienen el mismo signo, la función está en un punto de inflexión. Caso contrario, la función estará en un punto de silla si entonces se requeriría mayor información.

o d o t é M Newton

VENTAJAS: 1. El procedimiento presenta convergencia cuadrática. 2. Para una función cuadrática, el mínimo se obtiene en un solo paso. 4

DESVENTAJAS: 1. Es necesario calcular f’(x) y f’(y) 2. Si f’(x)0 el método converge lentamente. 3. Si el punto inicial no se encuentra cerca al mínimo, el método podría no converger.

MÉTODO DE QUASINEWTON (MÉTODO DE LA SECANTE) Los

métodos Quasi-Newton, se utilizan si la derivada de la función objetivo es difícil de calcular, o ésta viene dada de forma numérica. Se basan en sustituir las derivadas por aproximaciones en diferencias finitas.

idea fundamental de los métodos Quasi-Newton es intentar construir una aproximación de la inversa del Hessiano, usando información obtenida durante el proceso de descenso Estos métodos son similares a los métodos de gradiente conjugado en el sentido de que se basan principalmente en propiedades de las funciones cuadráticas.

APROXIMACIÓN DE DIFERENCIAS FINITAS PARA LA DERIVADA

• El Método

consiste en una aproximación de las derivadas parciales por expresiones algebraicas con los valores de la variable dependiente en un limitado número de puntos seleccionados.

• Como resultado

de la aproximación, la ecuación diferencial parcial que describe el problema es reemplazada por un número finito de ecuaciones algebraicas, en términos de los valores de la variable dependiente en puntos seleccionados.

MÉTODO DE LA INTERPOLACIÓN CUADRÁTICA

Cuando

el polinomio que conviene es de 2º grado la interpolación recibe el nombre de cuadrática. El polinomio interpolador es único, luego como se encuentre da igual., sin embargo, a veces los cálculos son muy laboriosos y es preferible utilizar un método que otro. A la vista de los datos se decide.

MÉTODO DE ASCENSO

El resultado

del proceso de construcción de un modelo es una ecuación. El procedimiento de construcción del modelo experimental y la secuencia experimental son usados en la búsqueda de una región para la respuesta de mejora que es el método de ascendencia rápida . 6

Aquí se usaran diseños experimentales factoriales o fraccionados la economía y simplicidad del diseño pueden ser muy importantes. El diseño de experimentos es un procedimiento que construye una secuencia de experimentos para obtener una región de mejora que constituya un método de mejora ascendente.

Así

el resultado total de operaciones puede involucrar más de un experimento. Uno de los principios que asumimos es que el modelo se puede representar en un plano lo cual es una aproximación razonable de un sistema inicial en la región X1, X2, X3,…Xk

RÁPIDO O PRONUNCIADO Pasos

Decidimos un modelo de primer orden apropiado a un plano o un hiperplano usando el diseño ortogonal. Dos niveles de diseño pueden ser los apropiados aunque las corridas centrales sean las más recomendadas.

Calcular una trayectoria de ascenso pronunciado si se quiere maximizar la respuesta (máximo incremento). Si se requiere la mínima respuesta, uno debe calcular la trayectoria descendente (máximo decremento).

La conducta experimental corre separada de la trayectoria. Esto es que se tiene una corrida y se realizan otras para comparar los resultados. Los resultados normalmente muestran los valores de la respuesta mejorada. Para alguna región la mejora desciende y eventualmente desaparece. Frecuentemente la primera corrida es tomada cerca del perímetro del diseño. (Se busca el valor de 1 para la variable más importante y así se confirma el experimento).

TRAYECTORIA DE ASCENSO PRONUNCIADO. DESARROLL O DEL METODO

movimiento en Xj en la trayectoria de ascenso pronunciado es proporcional a la magnitud de los coeficientes de regresión bj con la dirección tomada de los signos de los coeficientes. La trayectoria descendente necesita que la dirección sea opuesta al signo del coeficiente.

Se presenta un breve ejemplo se produce una ecuación Y = 20+3 X1 -1.5 X2 . La PORSiEJEMPLO:

trayectoria es en X1 positiva y en X2 negativa. Además X1 se mueve el doble de X2 por cada unidad. La figura 1 indica la naturaleza de la trayectoria de ascenso pronunciado para este ejemplo. La trayectoria esta dad por los renglones nota que la trayectoria es perpendicular a la línea de respuesta constante. Para K = 3 las líneas se convierten en planos y la trayectoria se mueve perpendicular a estos planos. Mientras la trayectoria que se obtiene del movimiento de Xj es proporcional a los coeficientes de regresión bj. Quizá el lector entienda mejor en base al desarrollo matemático del procedimiento

ALGUNAS S E N O I C A T O C A SOBRE LA A I R O T C E Y A R T DE ASCENSO . O D A I C N U N PRO

1-. El ascenso pronunciado es la primera técnica de optimización. Funciona si empezamos en un punto alejado del óptimo. Si usas un punto en el extremo de la superficie de respuesta el ascenso pronunciado lo conseguirás moviéndote muy poco del punto de salida.

2-. En oca siones es ú til hacer observacion es individuale s en ca da punto de l a trayector ia, replicas u ot ras corridas .

3-. También se pueden aplicar otras técnicas de optimización. Existen algunos métodos para el ascenso más rápido.

4-. Algu nos dise ños se ajustan después de la primeras medicion s dependie e ndo de l s, os resultad os obten idos. Se debe tener cu ida porque e s fácil p do erder la región del optim o.

TRAYECTORIA DE ASCENSO PRONUNCIADO ¿Qué hay sobre la segunda fase?

se modifica el sistema o se ajusta después de la primera lectura, el resultado no dará información sobre la primera etapa de experimentación. Se deben tener presentes los grados de libertad para saber si es útil el ajuste posterior o nos causara más problemas.

Si tenemos un grado de libertad la función será cuadrática y esto determina la curvatura. En este caso la metodología del ascenso o descenso pronunciado se vuelve ineficiente. Cuando los términos de segundo orden estén relacionados y además estén al cuadrado son dominantes y no podemos hablar de ascenso pronunciado. Si los términos de segundo orden son estadísticamente significativo entonces aproximaremos con los de primer orden siempre y cuando sea razonable una estrategia de experimentación.

¿Qué pasa después del ascenso pronunciado?

La mejora en la calidad implica análisis y diseño de experimentos, cuando es exitosa es una experiencia interactiva. si la curvatura y la interacción se encuentran entonces el procedimiento de ascenso pronunciado será truncado. En este punto el investigador está seguro de encontrar mejores condiciones en ajustar a un segundo modelo. El diseño de primer orden de dos niveles con corridas centrales incrementa la posibilidad de estimar términos de segundo orden.

El diseño completo que permite una estimación más eficiente del modelo será:

EFECTO DE ESCALA (eligiendo el rango de los factores) La elección de los rangos de los factores es una decisión importante y no debe ser tomado a la ligera. Si se hace una decisión descuidada se obtiene un ineficiente proceso de optimización. Desde el principio se deben establecer las unidades en las que cada variable será medida y claro que el conocimiento en el sistema será una de las claves de la elección. Se debe usar la información disponible, más actual. Un cambio en la escala no cambia la dirección de los factores pero si puede cambiar la trayectoria de ascenso; un cambio de magnitud de un factor.

Suponiendo

que tenemos una situación ideal donde X1 es el tiempo y X2 es la temperatura y la estructura de la regresión que involucra un beneficio es la siguiente.

Donde Beta

es el coeficiente correspondiente a (+1, -1) donde la temperatura es de 50 oC y el tiempo de 1.0 hr. supongamos que el investigador A elige los rangos (+1,-1) mientras el investigador B elige 50 oC pero .5 del tiempo de nuevo en (+1,-1). El modelo para el investigador B estará dado por

EFECTO DE ESCALA (eligiendo el rango de los factores) Suponga que el investigador

elige los factores en el rango

r1,r2,…rK y el investigador B elige los valores en el rango r´1,r ´2,…r´k , donde aj =rj/r´j. Se refiere a que los movimientos relativos a lo largo de la trayectoria son como siguen: Δ1 , Δ2 ,… ΔK y Δ´1 Δ{2 ,…, Δ{k para el investigador A y B respectivamente son Δ j/ Δ´j = a2j para j=1,2,…k

Con

lo anterior sabemos que no importa que investigador establezca la escala de los factores sino de cuanto conocimiento tenga del sistema que maneja. Como lo vimos anteriormente cada sistema en particular nos permite una mejor elección del rango de los factores dependiendo que tan estudiado este el sistema.

vistazo general nos dice que podemos obtener una mejora con ascenso pronunciado si tenemos varias trayectorias posibles para la mejora.

método en si mismo nos enseña a elegir cada vez mejor los rangos en los que se deben mover los factores particularmente donde la meta es la optimización.

M ÉTODO DE LAGRANGE E

ste método introduce una nueva variable escalar desconocida, el multiplicador de Lagrange, para cada restricción y forma una combinación lineal involucrando los multiplicadores como coeficientes. Su demostración involucra derivadas parciales, o bien usando diferenciales totales, o sus parientes cercanos, la regla de la cadena

los

problemas

optimización, los multiplicadores de Lagrange, nombrados así en honor a Joseph Louis Lagrange, son un método para trabajar con funciones de varias variables que nos interesa maximizar o minimizar, y está sujeta a ciertas restricciones. Este método reduce el problema restringido en n variables en uno sin restricciones de n + 1 variables cuyas ecuaciones pueden ser resueltas.

Un b re v e re s u m e n s o b re la

HISTORIA

DEL MÉTODO DE LAGRANGE

o propuso Joseph Louis Lagrange (1736-1813), un matemático nacido en Italia. Sus multiplicadores lagrangian tienen aplicaciones en una variedad de campos, incluyendo el físico, astronomía y económica. La lectura de una obra del astrónomo inglés. Edmund Halley despertó su interés, y, tras un año de incesante trabajo, era ya un matemático consumado. nombrado profesor de la Escuela de Artillería, en 1758 fundó una sociedad, con la ayuda de sus alumnos, que fue incorporada a la Academia de Turín.

Joseph Louis Lagrange

E n su obra Miscellanea taurinensia, escrita por aquellos años, obtuvo, entre otros resultados, una ecuación diferencial general del movimiento y su adaptación para el caso particular del movimiento rectilíneo, y la solución a muchos problemas de dinámica mediante el cálculo de variantes.

Un poco m a s s obre

AGRANGE

¿Multiplicadores de Lagrange?

método de los Multiplicadores de Lagrange, es un procedimiento para encontrar los máximos y mínimos de funciones de múltiples variables sujetas a restricciones. Este método reduce el problema restringido con n variables a uno sin restricciones de n + k variables, donde k es igual al número de restricciones, y cuyas ecuaciones pueden ser resueltas más fácilmente.

método dice que los puntos donde la función tiene un extremo, condicionado con n restricciones, están entre los puntos estacionarios de una nueva función sin restricciones construida como una combinación lineal de la función y las funciones implicadas en las restricciones, cuyos coeficientes son los multiplicadores.

demostración usa derivadas parciales y la regla de la cadena para funciones de varias variables. Se trata de extraer una función implícita de las restricciones, y encontrar las condiciones para que las derivadas parciales con respecto a las variables independientes de la función sean iguales a cero.

Método de los multiplicadores de Lag range S ea f (x) una función definida

Lo que es equivalente a:

en un conjunto abierto ndimensional {x ∈ Rn}. Se definen s restricciones gk (x) = 0, k=1,..., s, y se observa (si las restricciones son satisfechas) que:

h(k,λ) =

buscar un extremo para h:

Se procede a

Demostración L os

multiplicadores desconocidos λk se determinan a partir de las ecuaciones con las restricciones y conjuntamente se obtiene un extremo para h que al mismo tiempo satisface las restricciones (i.e. gk=0), lo que implica que f ha sido optimizada.

Objetivos de los multiplicadores de lag range IDENTIFICAR , a través de los

INTERPRETAR

simuladores, los puntos (x,y) sobre la curva correspondiente a la función restricción donde la función principal tiene extremos.

gráficamente los resultados obtenidos empleando el método de multiplicadores de LaGrange.

ADQUIRIR habilidad en la resolución de problemas de optimización en un ambiente computacional.

APROXIMAR las soluciones del problema a partir de la observación en el simulador, de las curvas de nivel de la función principal y la curva correspondiente a la función condicionante.

VISUALIZAR algunas superficies cuádricas y curvas de nivel para distintos valores de la variable z.

APROXIMAR las soluciones del problema a partir de la observaciones cuádricas y curvas de nivel para distintos valores de la variable z. 16

BIDIMENSIONAL Como

Sea f:U⊂ℝ2→ℝ y

g:U⊂ℝ2→ℝ dos curvas suaves de clase C2. Sea ∈U tal que g()= c y sea S el conjunto de nivel de g con valor c. Asumimos que y existe un número real tal que = . Para la función auxiliar h= f – g tenemos la matriz hessiana limitada

en el caso no restringido en el que usamos la matriz Hessiana y el criterio de Sylvester para determinar la naturaleza de los puntos críticos, en presencia de multiplicadores de Lagrange existe un método análogo para descubrir si un punto crítico v0 es máximo, mínimo, o punto silla.

 Si |H|>0 entonces v0 es un máximo local en f limitada a S  Si |H|<0 entonces v0 es un mínimo local en f limitada a S  Si |H|=0 entonces el criterio no concluye nada

n -DIMENSIONAL Análogamente al caso

bidimensional, consideramos el caso n-dimensional, Sea f:U⊂ℝn→ℝ y g:U⊂ℝn→ℝ dos curvas suaves de clase . Sea ∈U tal que g()= c y sea S el conjunto de nivel de g con valor c. . Asumimos que y existe un número real tal que = . Para la función auxiliar h= f – g construimos la matriz hessiana limitada

 Si todos los subdeterminantes son distintos de cero, pero no siguen ninguno de los dos patrones anteriores, tenemos un punto silla en v0.

Examinamos los determinantes de las submatrices en la diagonal de orden mayor o igual a 3:  Si todos ellos son mayores que 0, tenemos un mínimo local en v0.  Si el primer subdeterminante de tamaño 3x3 es mayor que cero, el siguiente (el de 4x4) es menor que cero, y de esa manera los subdeterminantes van alternando su signo, tenemos un máximo local en v0  Si no se da ninguno de los tres casos anteriores, el criterio no concluye nada.

Características

De los métodos

El método de eliminación de variables no resulta operativo cuando el problema tiene muchas restricciones o las restricciones son complejas, por lo que resulta muy útil éste método Los Multiplicadores de Lagrange es un método alternativo que además proporciona más información sobre el problema. Todos los óptimos que verifiquen las condiciones de regularidad establecidas tienen asociados los correspondientes multiplicadores El teorema de Lagrange establece una condición necesaria de optimalidad (bajo las condiciones de regularidad).

PROGRAMACIÓN CONVEXA EL

análisis no diferenciable, surgió en la década de los setenta para cubrir las necesidades de la Teoría de Optimización y de la Teoría de Control, tuvo como fuente de inspiración el Análisis Convexo (no obstante, existen nociones de derivadas generalizadas muy anteriores al Análisis Convexo, algunas tan antiguas como las derivadas de Dini, que datan de finales del siglo XIX). El Análisis Convexo [9], como su nombre sugiere, trata del análisis de funciones convexas (no necesariamente diferenciables), y se fundamenta en las propiedades geométricas de los conjuntos convexos.

Multiplicadores de Lagrange

Una función definida sobre un subconjunto convexo de (o, más generalmente, de un espacio vectorial real) se dice que es convexa si su epigrafo.

TEORÍA DE Multiplicadores

Definición Un sistema de control es un sistema descrito por unas ecuaciones diferenciales de la forma: X= f(x,u) con f: O x U ⊂ En problemas concretos es necesario además especificar la clase de controles que se admiten: funciones constantes a trozos, continuas a trozos, medibles acotadas son algunas de las clases que se usan con frecuencia

Richard Bellman habló de la Teoría del Control como una “cierta disposición de la mente, más que como un conjunto de teorías y modelos matemáticos”. El objetivo, en sentido amplio, de esta teoría es conseguir que un sistema funcione de un modo más conveniente, se trata de intentar optimizar el comportamiento del sistema, cuando ello sea posible. El problema central de cualquier intento de optimización el “la búsqueda de un control que maximice o minimice un criterio representativo de la eficiencia del sistema”. En resumen a través del control se estudian los sistemas reales construyendo modelos matemáticos abstractos que, por una parte expliquen el sistema y, por otra, permitan regular la evolución del mismo…

CONTROL de Lagrange Mediante la adopción de decisiones adecuadas (decisiones óptimas). Tal y como se ha definido la Teoría del Control no cabe duda de que su aplicación al ámbito de la economía resulta, no sólo interesante, sino necesaria. Economizar, en sentido estático, consistía en distribuir recursos escasos entre objetivos que compiten en un momento dado del tiempo, en términos matemáticos se denominaba un problema de programación matemática. El problema dinámico de economizar, consiste en distribuir dichos recursos entre objetivos, que ahora competirán en un intervalo de tiempo, que va desde un tiempo inicial hasta un tiempo terminal.

Otra definición de

Teoría del Control

Un control es una función ω: [0, T] → U acotada y medible. Una trayectoria γ de un sistema de control, correspondiente a un control u = ω(t) definido en el intervalo [0, T], es una curva γ : [0, T] → O absolutamente continua y que satisface γ˙(t) = f(γ(t), ω(t)) para casi todo t ∈ [0, T]. Para un determinado sistema de control, consideremos además una funcion L: O x U , un punto inicial , en un tiempo final T > O y un punto final El problema de control óptimo planteado con estos datos consiste en encontrar, de entre todas las trayectorias del sistema y que empiezan en t = 0 en y terminan en t=T en , aquellas que minimicen el valor de:

En símbolos, escribimos un problema de control óptimo en la forma: La forma del problema anterior se llama forma de LAGRANGE del problema de control óptimo. 23

Aplicacione s Existen

en todas las ramas de la

Fís ic a , en la Mate m átic a , en la Quím ic a , en la A s tro no m ía , en Bio lo g ía , en Ec o no m ía etc. ciencia,

Situaciones en las que conociendo un conjunto de datos experimentales en un cierto intervalo de la variable independiente, esto es, conociendo una cierta cantidad de datos tabulados, se hace preciso encontrar una función que verifique todos esos datos y permita, por consiguiente, predecir la existencia de otros valores con la aproximación adecuada. El método de la interpolación de

Lagrange es

de gran importancia en el análisis numérico. 24

EL MÉTODO DE LAGRANGE EN LA ECONOMÍA Un problema clásico en economía es la forma de maximizar la utilidad pese a limitaciones de recursos, como el tiempo y el dinero. El método lagrangiano utiliza una técnica proveniente del cálculo para medir de modo matemático la forma en que los consumidores pueden lograr satisfacción máxima y los negocios pueden maximizar el beneficio (o minimizar los costos) con los límites dados.

IMPORTANCIA Una teoría clave en la economía neoclásica, la base de la mayoría del pensamiento económico tradicional, es que los consumidores y negocios son actores racionales que se esfuerzan por maximizar su utilidad. En el lado del consumidor, esto significa obtener el nivel más alto de satisfacción por los bienes y servicios consumidos. Para los negocios, la utilidad máxima significa maximizar el beneficio. Los economistas reconocen que las personas y empresas tienen necesidades ilimitadas, pero sólo existen recursos finitos para satisfacer esas necesidades. Los consumidores tienen ingresos limitados para comprar los bienes y servicios que deseen y las empresas tiene sólo tierra, trabajo y capital limitado para crear sus productos.

Estos recursos limitados, entonces, presentan restricciones. El reto es la forma de lograr la satisfacción o beneficio máximo en base a sus restricciones dadas. Otro reto para las empresas es el de minimizar los costos de producción mientras alcanzan los niveles esperados de producción. El método lagrangiano proporciona una forma de resolver cuantitativamente estos problemas, a los que algunos economistas se refieren como problemas de optimización con restricciones.

FUNCIÓN El método lagrangiano aplica cálculo diferencial, el cual implica el cálculo de derivadas parciales, y hasta temas de optimización restringida. El propietario de un negocio, por ejemplo, puede utilizar esta técnica para maximizar el beneficio o minimizar los costos dado que el negocio tiene sólo una cierta cantidad de dinero para invertir. Un consumidor hipotético, que, por ejemplo, deriva la utilidad de coleccionar libros y CD, podría utilizar este método para determinar la forma de obtener el número óptimo de libros y CD, dado que sólo tiene US$100 de ingresos disponibles para gastar. 27

IDENTIFICACIÓN El multiplicador lagrangiano, representado en la ecuación por la letra minúscula griega lambda, representa la tasa de cambio en la utilidad relativa al cambio en la restricción de presupuesto. En economía, esto se conoce como el valor o utilidad marginal, el aumento en la utilidad ganada por un aumento en la restricción de presupuesto.

EFECTOS Basado en los resultados de un análisis lagrangiano, una persona o empresa tiene una base empírica para tomar decisiones sobre la maximización continua de la utilidad teniendo en cuenta los cambios de las restricciones externas. Un incremento del precio en un artículo favorito, por ejemplo, podría llevar a que el consumidor compre una cantidad más baja de ese artículo o que trabaje más horas para conseguir más ingresos y costear el precio más alto.

Ejercicios resueltos