curso de optimización restringida y estadística inferencial 2016

7/25/2019 Curso de Optimizacin Restringida y Estadstica Inferencial 2016

1/14

Principios de Optimizacin

1. Teorema de Weierstrass: Toda funcin real y continua definida sobre un compacto1

alcanza en dicho compacto mximo global y mnimo global.

fC0C! "#$Ccompacto x%C!fx%$ fx$! xC$ x&C!fx&$ fx$! xC$

2. Optimizacin esttica irrestricta

'ados U"#nyF C1U! "#$! se (uiere maxx)F x$.

TeoremaC*1erord$: +ix% int )$ x% es mximo local mnimo local deF!

entonces 'Fx%$, 0.

Ejemplo: ConFx!y$,x3-y3 /xy! se obtienen como candidatos a mximo local

mnimo local los puntos crticos0! 0$ y ! 2$.

TeoremaC+oord$: +iF CU! "#$ x% es punto crtico deF! entonces

i$ 'Fx*$ negati3o2definidax% es mximo local estricto4deF5

ii$ 'Fx*$ positi3o2definidax% es mnimo local estricto deF5

iii$ 'Fx*$ indefinida6x% no es mximo local ni mnimo local deF.

TeoremaC*oord$: +iF CU! "#$ x% es punto interior de U! entonces x% es

mximo local deFslo si 'Fx*$ , 0 'Fx*$ es negati3o2semidefinida: adems!

x% es mnimo local deFslo si 'Fx*$ , 0 'Fx*$ es positi3o2semidefinida.

Ejemplo: 7ara la funcinFdel e8emplo anterior! se obtiene (ue el punto crtico 0!

0$ es una ensilladura deF! y (ue el punto crtico ! 2$ es un mnimo local estricto.

#esol3er los e8ercicios 19.1 y 19. del texto! pg. 40$

Teorema: +iF CU! "#$ Ues abierto! entonces

a$ son e(ui3alentes las siguientes tres condiciones:

1 compacto : cerrado(contiene todos sus puntos fronterizos) y acotado(cabeen una bola bastante grande) en IRn

2 punto crtico de una funcin F : aquelxtal que DF() ! "#

$ %er de&niciones en tetos de referencia#

' io local estricto de F: aquelxtal que en alguna bola abierta* +(x)*

F(x) , F(z)* zde +(x) que no seax#

- .n tal caso se dice quex*es un punto silla una ensilladura de F#


2/14

i$ Fes cnca3a!

ii$ Fy$ -Fx$ 'Fx$y 2x$! x y!

iii$ 'Fx$ es negati3o2semidefinidax5

b$ son e(ui3alentes las siguientes tres condiciones:

i$Fes con3exa!

ii$Fy$ -Fx$ 'Fx$y 2x$! xy!

iii$ 'Fx$ es positi3o2semidefinida x5

c$Fes cnca3a 'Fx*$,0! x*x*es mximo globaldeF5

d$Fcon3exa 'Fx*$,0! x*x*es mnimo global deF.

'e +imon y ;lume! resol3er el e8ercicio 19.! pg.404! leer la seccin 19.6:Economic

Applications! pg.4042/ y resol3er los e8ercicios 19.421$

3. Optimizacin esttica restricta

l problema es: 'adas las funciones realesf! h1! ..! hm! C1"#n! "#$!

optfx1! ?!xn$ su8eto a h1x$ , a1? hmx$ , am .

+e llama regin factiblealRF:, @x"#n: hix$ , aiiA.

+e llama calificacin de restriccin no-degeneradaenx! *'#Bx$ a: m, rango 'hx$.

Teorema: +i x*FRx* es mximo local mnimo local de F en RF *'#Bx*$!

entonces %"#m! x*! %$ es punto crtico de la lagrangiana x! $:, f x$

1

m

k(akhk(x)) .

Ejemplo: maxxy!su8eto a 1 ,x"y"1 ,x!.

+e tiene (ue 'hx!y!!$ , [2x 2y 01 0 1 ] cuyo rango 3ale enRF! por lo (ue se cumplela *'#B en #.

Ddems!x!y$ ,xy! 11 -x"-y"$ 1 -x2!$.

/ io global de F : aquelxtal que F(x) F(z)* zde do(F).


3/14


4/14

Teorema: +ix*RFx*es mximo local deFsolo las #$primeras restricciones de

desigualdad son 3inculantes enx*#$& m, rango

x

xx

D g1

! entonces! con la lagrangiana

x! ! $ :,fx$ 1

k

j ( bjgj(x ))+1

m

j(ajhj(x)) ! se tiene (ue %! %$"#F"#m

! i! 0 ,

x,,

L x i

$$ %! 0 , 8%b% - g% x%$$$

%! h%x$ , a%$ % o bgx*$.

Ejemplo: max x - y$ su8eto a5 x y, 4 x!y0.

Ger pg. 462 y resol3er e8ercicios de pg. 4$

.4 ormulacin de !u"n#Tuc$er

>l problema es: 'adas las funciones realesf!g1! ..!g#C1"#n! "#$!

maxfx1! ?!xn$ su8eto ag1x$ b1? g# x$ b# x0.

Dsuncin:


5/14

Ejemplo: max Ux$ su8eto a:px 'x0 pg. 41 y 3er solucin en pg. 44$.

#esol3er los e8ercicios 1=.0 y 1=.1 en pg. 44.


6/14


7/14

$ +i .es "#! se toma como .a la menor -lgebra (ue contenga todos los inter3alos

llamada la -0lgebra de orel en "#$.

4$ +e exige (ue la coleccin de e3entos sea una -lgebra.

'efinicin: 'ados .y una -lgebra .en .! se llama medida probabil2sticaen .! .$ a una

funcin: .N0! 1O tal (ue:

.$,15 y si los elementos de una coleccin de e3entos @Ai: i "*A son mutuamente

dis8untos! entonces 7 i Ai $ ,

i

P(A i).

>stos son los llamados axiomas de 4olmogro/.

Ger e8emplo del lan!amiento de n dado$

PCmo puede definirse una medida probabilstica en .! .$Q

Teorema: +i ., @s1! ?!snA! entonces cual(uier @p1! ?!pnA N0! 1O tal (ue 1,ipi

determina una Hnica medida probabilstica!! en .. >lla es dada porA$ ,

{k:skA }

pk.

>n esto se adopta el (ue , 0. +e procedera igual si se partiera de @si: i"*A.

Teorema: +ies una medida probabilstica en .! .$! entonces $,0 Ac$,1 2A$!

Ade ..

Teorema: +ies una medida probabilstica en .! .$! entonces A+de .!Ac$,$

-A$ A$ ,A$ $ 2A$ A A$ $.

Teorema: +i @Ci: i"*A es una particin de .! entonces i$ A! de .! 7D$ , i7ACi$

cual(uiera sea @Ai: i"*A en .!iAi$ iAi$.

7robabilidad condicional e independencia:

'efinicin: 'ados cuales(uiera e3entosAy! si 0 R$! se llamaprobabilidad

condicional de A dado ! aA|$ :,A$I$.

>n consecuencia! siA$ S 0 $ S 0 A, ! entoncesA|$ , 0 |A$ , 0.

>s fcil comprobar (ue|$ satisface los axiomas de olmogro3! siempre (ue$ S 0.


8/14

Ger el e8emplo U prisionerosV en pg.121 acerca de cuan resbaloso puede ser el concepto

de probabilidad condicional$

TambiKn es fcil 3erificar (ue siA$ S 0 $ S 0! entoncesA|$ ,|A$A$I$.

Teoremaregla de ayes$: +ea @Ai: i"*A una particin de .tal (ue i!Ai$ S 0! y sea

un e3ento. >ntoncesAi |$ , |Ai$Ai$I 1

P(B/Aj)P(Aj) .

Ejemplo: codificacin$ Eay puntos y rayas (ue se dan en la proporcin de a 4. Ds!

en3iar $ , I9 en3iar 2$ , 4I9 recibir |en3a 2$ , 1I= ,recibir 2 |en3a $.

PCul esen3a |recibe $Q #pta.: 1I6.

'efinicin: +e dice (ue los e3entosAyson independientessiA$ ,A$$.

Ejemplo: 7robabilidad de sacar al menos u en 4 lanzamientos de un dado limpio.

Teorema: +i los e3entosAyson independientes! entoncesAyclo son5Acylos son5

Acyclo son.

Ger los e8emplos Utossing t5o diceV y UlettersV para apreciar (ue la generalizacin de la

nocin de independencia debe ser como sigue.$

'efinicin:


9/14

'efinicin: +i7es una 3aral en .! .!$! sufncin de distribcin cmlati/aes la

funcinF7 : "# "#!x4F7(x):! 7 x$! (ue no es sino 7 O2!xO$! (ue a su 3ez

es721O2!xO$$. >sto se abre3ia por:fdc.

Ger la continuacin del e8emplo de U coin tossesV en pg. 0 del texto$

Lbser3acin: Como consecuencia dela definicin! resulta (ue la funcinF7es diestro-

contina! es decir! x!F7(x) !

x+FXlim0

#

Teorema: 5na funcinF: "# "# es una fdc de alguna 3aral si! y solo si!

0 ,

xF(x)lim 1 ,

limx

F(x)Fes no decreciente Fes diestro2continua$.

Ger los e8emplos Utossing for headV y Ucontinuous cdfV en pg1 y $

'efinicin: )na 3aral!7! en .! .!$ es continasi suF7C0"#! "#$.

'efinicin: )na 3aral!7! en .! .!$ es discretasi suF7es una funcin escalonada.

'efinicin: sto no implica (ue7, 8.

Ger el e8emplo Uidentically distributed random 3ariablesV en pg. 24$

Teorema:


10/14

Ejemplo: ntonces! x"*!f7x$ ,7 ,x$ , 12p$x21p.


11/14

+i7es una 3aral continua! entonces con 8:,g67!F8y$ ,8 y$ , g1 (, y ] $ ,

g1 ( , y ]

fX(z)dz .

Ger el e8emplo de la Uuniform transformationV en pg. 4/$

'efinicin:


12/14

'efinicin: N7 2 7$O5 a su raz cuadrada

positi3a se la llama des/iacin est0ndarde7.

Ejemplo: 3ariancia exponencial$ +ea7una 3aral tal (ue fX(x) ,

x /

1

# . Xa se ha

3isto (ue >N7O , . Dhora! 3ar7$ , >N7 2 7$O ,

x2

0

, ? , 2

.

Teorema: +i7es una 3aral de 3ariancia finita! entonces! 3ar a7 b$ , a"3ar7$! a! b de

"#.

Lbser3acin: 3ar7$ , >N7 O - 7$.

Ejemplo: Gariancia binomial Ger pg. 1$.

'efinicin: )n /ector aleatorio n-dimensionalen .! .!$ es una funcin : ."#ntal

(ue la preimagen de cual(uier rect0nglo:de "#npertenezca a .. DbrK3iese por /ecal.

'efinicin: +i 7! 8$ es un 3ecal bidimensional con ambas discretas! entonces lafncin

con%nta de masa probabil2sticafcmp$ es la funcinf78x!y$ :,7,x8,y$.

Teorema: +i 7! 8$ es un 3ecal bidimensional con ambas discretas! entoncesf7 x$ ,

y fX$(x , y) 5 se la llama tambiKn marginal.

7 .s decir* producto cartesiano de ninter8alos de IR#


13/14


14/14

'efinicin: +i 7! 8$ es un 3ecal bidimensional con fdp con8unta fmp con8unta dada por

f78x!y$! siendo las marginalesfX(x) y f$(y ) ! entonces7y 8son /arales

independientessi xy!f78x!y$ , fX(x) f$(y) . >n tal caso!fy|x$ , f$(y ) fx|y$

, fX(x) .

curso de optimización restringida y estadística inferencial 2016

Documents