Optimización sin restricciones -...

Optimizacion sin restriccionesProblema general

Presentacion del problemaCaracterizacion de maximos y mınimos

Optimizacion sin restricciones

Jesus Getan y Eva Boj

Facultat d’Economia i EmpresaUniversitat de Barcelona

Marzo de 2014

Jesus Getan y Eva Boj Optimizacion sin restricciones 1 / 32



Problema generalFormulacion del problemaCaracterizacion del optimo

Presentacion del problemaIntroduccionSolucion geometrica. Curvas de nivelExistencia de solucion

Caracterizacion de maximos y mınimosVision geometricaCondicion necesaria de primer ordenCondiciones necesarias de segundo ordenCondiciones suficientes de segundo orden




Formulacion del problemaCaracterizacion del optimo

El problema general de optimizacion sin restricciones se puedeenunciar ası:

Dada una funcionf : F ⊆ Rn −→ R

~x 7→ z = f (~x),

encontrar los valores ~x ∈ F , tales que maximizan o minimizan elvalor de la funcion en F .

A la funcion f le llamaremos funcion objetivo y al conjunto Fconjunto factible.





Proponemos la formulacion general de un programa matematicomediante:

Opt f (~x),sujeta a: ~x ∈ F ,

donde la palabra Opt se interpretara como maximo o mınimosegun sea el problema que tratemos.





Puesto que estamos hablando de buscar maximos y mınimos defunciones, el primer paso a realizar es caracterizarlos.

DefinitionSea la funcion f : D ⊂ Rn −→ R donde D es el domino de lafuncion y un punto ~xo ∈ D.Decimos que:

El punto ~xo es un maximo local de f en D ⇔∃ δ > 0 tal que f (~x) ≤ f (~xo) para todo ~x ∈ D ∩ Bδ(~x

o) .

El punto ~xo es un maximo global de f en D ⇔f (~x) ≤ f (~xo) para todo ~x ∈ D.





DefinitionEl punto ~xo es un mınimo local de f en D ⇔∃ δ > 0 tal que , f (~x) ≥ f (~xo) para todo ~x ∈ D ∩ Bδ(~x

o) .

El punto ~xo es un mınimo global de f en D ⇔f (~x) ≥ f (~xo) para todo ~x ∈ D .

Observamos que un punto es maximo global cuando su imagen esmayor que la de cualquier otro punto del dominio; en cambio, unpunto es maximo local cuando su imagen es mayor que la imagende cualquier punto que se halle en un cierto entorno suyo, aunque,fuera de este entorno pueden existir puntos con mayor imagen queel.





a) Cuando ~x 6= ~xo y las desigualdades son estrictas, decimos quelos optimos son estrictos.

b) Todo optimo global (o absoluto) es tambien optimo local (orelativo).





TheoremSean f : D ⊂ Rn −→ R y ~xo ∈ D.

Si ~xo es un maximo o mınimo global de f en D entonces, ~xo esun maximo o mınimo local de f en D respectivamente.




IntroduccionSolucion geometrica. Curvas de nivelExistencia de solucion

Los preguntas basicas que nos podemos plantear para estudiar trashaber modelizado ciertas situaciones como programasmatematicos, son los siguientes:

I ¿Cuando podemos afirmar que un programa matematico tienesolucion?, es decir, ¿cuando podemos asegurar la existencia deoptimos locales o globales?

I Suponiendo que existen, ¿como se calculan estos optimos?





Para resolver el segundo problema, de momento, consideraremosun metodo geometrico consistente en dibujar el conjunto factibledel problema junto con las curvas de nivel de la funcion y analizarlos valores que toma la funcion sobre los puntos del conjuntofactible para determinar los valores maximo y mınimo. Estemetodo solo se puede llevar a cabo con funciones y conjuntosfactibles de una o dos variables y, aun ası, el trazado de las curvasde nivel de la funcion sobre el conjunto factible puede sercomplicado. Mas adelante, y en el caso de funciones diferenciables,encontraremos condiciones para calcular los optimos de la funcion.





En cuanto a la primera cuestion, la existencia y naturaleza de losoptimos depende fundamentalmente de las caracterısticas de lafuncion y del dominio.

Sera objeto de estudio en otras secciones.





Dada la funcion f : D ⊂ Rn −→ R, definimos la curva de nivelpara k ∈ R como el conjunto Ck de puntos del dominio dondefuncion f tiene valor constante k , es decir,

Ck = {~x ∈ D | f (~x) = k }.

Su representacion solo es posible para n = 2 y n = 3 .





Geometricamente podemos localizar los optimos de un programamatematico encontrando los puntos del conjunto factible por losque pasa la curva de nivel de valor maximo o mınimo.





Introducimos un teorema de existencia de solucion de un problemade optimizacion que depende de las caracterısticas de la funcionobjetivo y del dominio. Observamos los siguientes ejemplos:





Example

Sea la funcion f : [0, 1) ⊂ R −→ Rx 7−→ f (x) = x2.

en [0, 1) tiene un mınimo

global en x = 0 y no tiene maximo global.





Example

La funcion f : [0, 1] ⊂ R −→ Rx 7−→ f (x) = x2.

en [0, 1] tiene un mınimo

global en x = 0 y un maximo global en x = 1 .





Example

La funcion f : [0, 2] ⊂ R −→ R definida por

f (x) =

{x2 si 0 ≤ x < 1,12 si 1 ≤ x ≤ 2,

tiene un mınimo global en x = 0 y no tiene maximo.





Estos ejemplos nos muestran que si el dominio no es compacto(cerrado y acotado) o la funcion objetivo no es continua en eldominio, el programa matematico puede no tener solucion, elteorema siguiente nos asegura que en caso contrario podemosafirmar la existencia de optimos globales.





Teorema de Weierstrass

TheoremSea D un subconjunto compacto de Rn y f : D ⊂ Rn −→ Runa funcion continua en D . Entonces, f posee un maximo globaly un mınimo global en D , es decir,

∃ ~x1 , ~x2 ∈ D tal que f (~x1) ≤ f (~x) ≤ f (~x2) (~x ∈ D) .





El Teorema de Weierstrass nos asegura la existencia de optimosglobales bajo ciertas condiciones pero no afirma que el optimo seaunico (la funcion y = sin x en el intervalo [0, 4π] tiene dosmaximos globales y dos mınimos globales).





El Teorema de Weierstrass tampoco dice que la continuidad de lafuncion y la compacidad del dominio sean necesarias para laexistencia de optimos globales. La funcion

f (x) =

4x

x2 + 4si −∞ ≤ x < 0,

12 si x = 0,

4x

x2 + 4si 0 < x ≤ +∞.

tiene maximo global y mınimo global y sin embargo la funcion fno es continua y el dominio no es compacto.




Vision geometricaCondicion necesaria de primer ordenCondiciones necesarias de segundo ordenCondiciones suficientes de segundo orden

Dada z = f (x1, x2) tal que f ∈ C2, en primer lugarcaracterizaremos los optimos en ~xo ∈ D ⊆ Rn geometricamente, esdecir mediante el plano tangente a la funcion en ~xo . La ecuaciondel plano tangente a f en ~xo es:

z = f (xo1 , x

o2 ) +

(∂

∂x1f (xo

1 , xo2 ),

∂

∂x2f (xo

1 , xo2 )

)(x1 − xo

1

x2 − xo2

)

escrito de otra forma

z = f (xo1 , x

o2 ) +

∂

∂x1f (xo

1 , xo2 ) (x1 − xo

1 ) +∂

∂x2f (xo

1 , xo2 ) (x2 − xo

2 ) .





Si ~xo ∈ D ⊆ Rn es un optimo de f en D, entonces el planotangente es horizontal, es decir,

∂∂x1

f (xo1 , x

o2 ) = 0 y ∂

∂x2f (xo

1 , xo2 ) = 0,

luego z = f (xo1 , x

o2 ).





Generalizando lo anterior podemos enunciar el siguiente teoremapara la funcion f : D ⊂ Rn → R , diferenciable en D. Vamos a darcondiciones necesarias o suficientes para que un punto del interiordel dominio D sea optimo local de la funcion f .

Si D es abierto estas condiciones pueden aplicarse a todos lospuntos del dominio D .





TheoremSea f : D ⊂ Rn → R difenciable en D, con D abierto. Si ~xo ∈ Des un optimo local de f en D, entonces ∇f (~xo) = ~0.





Dem: Sea ~xo ∈ D es un maximo local, sus derivadas parciales son

∂∂xi

f (xo1 , x

o2 ) = lim

h→0

f (~xo+h~ei )−f (~xo)h y i = 1...n. Entonces, para cada

i tenemos

limh→0+

f (~xo + h~ei )− f (~xo)

h

(numerador < 0

denominador > 0

)= < 0,

limh→0−

f (~xo+h~ei )−f (~xo)h

(numerador >0denominador >0

)= > 0,

como el lımite existe, la unica posibilidad es que ea cero. Porinduccion se acaba la demostracion del teorema. �





El recıproco no es cierto, como demuestra el ejemplo,

f (x1, x2) = x1x2 en ~xo = (0, 0),

en el cual se anula el gradiente pero no es optimo es punto de silla.

Llamamos puntos crıticos a los puntos en los que se anula elgradiente de la funcion objetivo.





TheoremSea f : D ⊂ Rn → R, con f ∈ C2 y D abierto. Sea ~xo ∈ D tal que∇f (~xo) = ~0. Entonces,

el punto ~xo ∈ D es mınimo local de f en D ⇒ Hf (~xo)semidefinida positiva.

el punto ~xo ∈ D es maximo local de f en D ⇒ Hf (~xo)semidefinida negativa.





El recıproco no es cierto, como demuestra el ejemplo,

f (x1, x2) = x31 + x2

2 en ~xo = (0, 0),

en el cual se anula el gradiente, la hessiana es semidefinida positivapero no es mınimo, es punto de silla.





DefinitionDado ~xo ∈ D con D abierto. El punto ~xo es un punto de silla def en D ⇔ se cumplen las dos condiciones siguientes{

(i)~xo es punto crıtico,(ii) ∀r > 0 , ∃~x1 , ~x2 ∈ Br (~xo) ∩ D tales que f (~x1) < f (~xo) < f (~x2).





TheoremSea f ∈ C2. Sea ~xo ∈ D con D conjunto abierto tal que∇f (~xo) = ~0 .

Que Hf (~xo) sea definida positiva ⇒ ~xo es mınimo local.

Que Hf (~xo) sea definida negativa ⇒ ~xo es maximo local.

Que Hf (~xo) sea semidefinida positiva en todo un entorno de~xo ⇒ ~xo es mınimo local.

Que Hf (~xo) sea semidefinida negativa en todo un entorno de ~xo

⇒ ~xo es maximo local.

Que Hf (~xo) sea indefinida ⇒ ~xo es punto de silla.





El teorema recıproco no es cierto, como muestran los siguientesejemplos.

(i) f (x1, x2) = x41 + x4

2 en ~xo = (0, 0),

(ii) f (x1, x2) = x31 + x2

2 en ~xo = (0, 0).

En (i) la hessiana es semidefinida positiva y en el punto la funcionalcanza su valor mınimo.

En (ii) la hessiana es semidefinida positiva y en el punto la funcionposee un punto de silla


Optimización sin restricciones -...

Documents

Transcript of Optimización sin restricciones -...