KONVEKSNA ANALIZA

1

SadrzajKonveksni skupovi

Definicija, primjeri, Konveksni omotac,Topoloska svojstva, Projekcija,Ekstremalne tacke, Teoreme razdvajanja, teoreme alternative, Polarni skupovi,

PoliedriKonveksne funkcije

ZadaciKonveksne funkcije i ekstremi

ZadaciRjesenja

LiteraturaSpisak pojmova

2

Uvod

Konveksna analiza se krajem 60 i pocetkom 70 ih... Neka je f realna funkcijasa domenom D(f) ⊆ Rn, i neka je S ⊆ D(f) neprazan skup. Opsti (apstraktan)problem matematickog programiranja sastoji se u odredivanju vrijednosti

π = infx∈S

f(x)

i skupaS∗ = {x ∈ S : f(x) = π}.

Problem oznacamo sa

(PA) : min{ f(x) : x ∈ S}.

Ako je funkcija f konveksna, a tzv. dopustivi skup S konveksan skup, onda sedobija problem konveksnog programiranja (konveksne optimizacije).Tada se dopustivi skup najcesce zadaje pomocu konveksnih funkcija g1, ..., gm

definisanih na konveksnom skupu C ⊆ Rn :

G = {x ∈ C : g1(x) 6 0, ..., gm(x) 6 0}.

Tacka x∗ ∈ S je rjesenje problema (PA) ako vrijedi

f(x) > f(x∗) ∀x ∈ S.

U sustini, x∗ je tacka globalnog minimuma funkcije f na skupu S. Cesto jelakse, a nekad i jedino moguce naci tacku minimuma date funkcije na nekompodskupu skupa S. Zato kazemo da je x∗ lokalno rjesenje datog problema, akoje to tacka lokalnog minimuma funkcije f na skupu S, tj. ako postoji okolinaO tacke x∗ takva da vrijedi

f(x) > f(x∗) ∀x ∈ S ∩ O.

3

Rn... x =

x1

...xn

, y> = (y1, ..., yn), 〈x, y〉 := x>y

‖x‖ :=√〈x, x〉 =

(n∑

i=1

x2i

) 12

‖x + y‖ 6 ‖x‖+ ‖y‖

| ‖x‖ − ‖y‖ | 6 ‖x− y‖

|〈x, y〉| 6 ‖x‖ ‖y‖‖x− y‖2 + ‖x + y‖2 = 2(‖x‖2 + ‖y‖2) (1)

B(x0, r) = {x ∈ Rn : ‖x0 − x‖ < r},B[x0, r] = {x ∈ Rn : ‖x0 − x‖ 6 r}

d(x0,S) = infx∈S

‖x0 − x‖

S + T = {x + y : x ∈ S, y ∈ T }...αS = {αx : x ∈ S}

Primjer 1 B[x1, r1] + B[x2, r2] = B[x1 + x2, r1 + r2] Zbog ... mozemo uzetix1 = x2 = 0. Inkluzija B[0, r1] + B[0, r2] ⊆ B[0, r1 + r2] vrijedi na osnovunejednakosti trougla. Neka je sada x ∈ B[0, r1 + r2], pri cemu je r1 6 r2. Akoje r2 < ‖x‖ stavljamo x = ‖x‖−r2

‖x‖ x + r2‖x‖x. U suprotnom pisemo x = x + 0.

S + T = T + S, S + {0} = S

1. α(S + T ) = αS + αT 2. (α + β)S ⊆ αS + βS.

3. S + (T ∪ U) = (S + T ) ∪ (S + U).

Analogna formula za ∩ ne vrijedi, ali je korisna sljedeca relacija

4. (S + T ) ∩ U = ∅ ⇐⇒ S ∩ (U − T ) = ∅

TOPOL

Navescemo neka svojstva operacija sa skupovima, posebno imajuci u vidu otvorene,zatvorene te kompaktne podskupove u Rn.

Tacka x0 je unutrasnja tacka skupa S ako postoji broj ε > 0 tako da vrijediB(x0, ε) ⊆ S. Skup svih unutrasnjih tacaka datog skupa je njegova unutrasnjost(interior):

int S = {x ∈ S : ∃ε > 0 (x + εB) ⊆ S}. (2)

4

Skup je otvoren ako mu je svaka tacka unutrasnja, tj. ako je int S = S.Tacka x0 je granicna tacka skupa S ako se u svakoj kugli B(x0, ε) nalaze

tacka iz S i tacka iz njegovog komplementa Rn\S. Skup svih tih tacaka jegranica skupa S, a oznacavamo ga sa bd S.

Zatvorenje skupa S definisemo sa cl S := S ∪ bd S. Kaze se da je neki skupzatvoren ako je njegov komplement otvoren skup. pokazuje se da su bd S i clS zatvoreni skupovi. Odatle izlazi da je cl S najmanji zatvoreni nadskup skupaS, i to da je on je zatvoren ako i samo ako je cl S = S. Navedimo jos da je skupS zatvoren ako i samo ako za svaki konvergentan niz (xk), xk ∈ S vrijedi limxk ∈ S. Za karakterizaciju zatvorenja skupa osim

x0 ∈ cl S ⇐⇒ d(x0,S) = 0,

koristicemo i sljedecucl S =

⋂ε>0

(S + εB), (3)

koja slijedi iz ().Uopste, vrijede formule:

int (S ∪ T ) ⊇ int S ∪ int T , cl (S ∪ T ) = cl S ∪ cl T ,

int (S ∩ T ) = int S ∩ int T , cl (S ∩ T ) ⊆ cl S ∩ cl T .

Mi cemo, zbog prirode konveksnih skupova, vise paznje posvetiti operacijama ∩i +. Kao prvo, navedimo da u posljednjoj formuli ne mora da vrijedi jednakost.

Primjer 2 Za skupove S = {x ∈ R2 : x1 > 0, x2 > 0} ∪ {0}, T = [0, e1],imamo cl (S ∩ T ) = {0}, dok je cl S ∩ cl T = T .

Primjedba 1 Treca formula vrijedi i za konacan broj skupova, ali to nije takou slucaju da ih je prebrojivo. Za Ck = [0, 1+ 1

k ] imamo da je int⋂

k∈N Ck =]0, 1[,dok je

⋂k∈N int Ck =]0, 1].

S obzirom da je S+T =⋃

x∈S(x+T ), imamo da je suma dva skupa otvoren skup

ako je jedan od njih (ovdje T ) otvoren.

5. Sada, iz int S+ int T ⊆ S + T slijedi int(int S+ int T ) ⊆ int (S + T ),odnosno

int S + int T ⊆ int (S + T ).

Obratna inkluzija nije na snazi, bez dodatnih uslova. Na primjer:S = [0, 1], T = S ∪ {2}, int S+ int T =]0, 2[ ⊂ int (S + T ) =]0, 3[.

6. Medutim, suma dva zatvorena skupa ne mora biti zatvorena. Na primjer,u R2 za zatvorene skupove S =

{(x, 1

x ) : x > 0}, i T = R× {0} suma S + T =

5

R×]0,+∞[ je otvoren skup.Ovo je i primjer da nije uvijek cl S+ cl T = cl (S + T ). Uvijek je

cl S + cl T ⊆ cl (S + T ),

a da bismo imali jednakost dovoljno je da je jedan od skupova kompaktan. Toslijedi iz sljedece cinjenice.

7. Suma zatvorenog i kompaktnog skupa je zatvoren skup. Zaista, neka je zk

niz sa clanovima iz S + T koji tezi z0. Vrijedi zk = xk + yk, xk ∈ S i yk ∈ Tza sve prirodne k. Neka su dati skupovi zatvoreni, i jos neka je T ogranicen (tj.kompaktan). Niz (yk) ima podniz koji tezi nekom y0 ∈ T . Sada i odgovarajucipodniz niza (xk) ima granicnu vrijednost, i to z0 − y0 ∈ S (S je zatvoren).Dakle, z0 = (z0 − y0) + y0 ∈ S + T , pa je ova suma zatvoren skup.

6

Afini skupovi

1. Skup V 6= ∅ je potprostor ako je i sam vektorski prostor, u odnosu na isteoperacije. Za to je potrebno i dovoljno da vrijedi

αx + βy ∈ V ∀x, y ∈ V, α, β ∈ R,

sto je ekvivalentno saαV + βV ⊆ V ∀ α, β ∈ R. (4)

Zbir jednoclanog skupa {v0} i potprostora V zove se linearna (afina) mno-gostrukost L:

L = v0 + V.

S obzirom da 0 ∈ V, to je v0 ∈ L. Uzmimo neki drugi vektor v ∈ L. Imamov − v0 ∈ V, pa je L − v = V − (v − v0) = V. Znaci da za svaki v ∈ L je

L = v + V.

Dalje, zbog

L − L = v0 + V − (v0 + V) = V − V = V,

imamo, za svaki v ∈ L,L − L = L − v. (5)

Slicno je (1−λ)L+λL = (1−λ)(v0 +V)+λ(v0 +V) = v0 +(1−λ)V+λV ⊆v0 + V = L, tj. za sve λ ∈ R vrijedi

(1− λ)L+ λL ⊆ L. (6)

Ova formula je i dovoljne da L bude linearna mnogostrukost. Zaista, uzmimovektore u, v ∈ L − L. Imamo u = u1 − u2, v = v1 − v2, gdje su svi sabirci iz L.Vrijedi αu = u1 − ((1− α)u1 + αu2) ⊆ L− L, i u+v

2 = u1+v1

2 − u2+v2

2 ∈ L − L.Sada je u+v = 2u+v

2 ∈ L−L, pa je ta razlika skupova potprostor i koristi se (4).

2. U slucaju da je linearna mnogostrukost u prostoru Rn zvacemo je ravanR. Ako je potprostor R−R dimenzije k ∈ {1, ..., n− 1}, onda postoji linearnonezavisan skup {x1, ..., xk} ⊆ R takav da je R − R = lin (v1, ..., vk). Dakle,prema (4), za neki x0 ∈ R imamo

R = x0 + lin (x1, ..., xk),

i kazemo da je ta ravan dimenzije k. Specijalno, prava je ravan dimenzije 1:

P = x0 + lin (v) = {x0 + λv : λ ∈ R}, v 6= 0.

Neka su x1, x2 ∈ razlicite tacke sa prave. Tada je za neke razlicite skalare λ1, λ2

x1 = x0 + λ1v, x2 = x0 + λ2v, x2 − x1 = (λ2 − λ1)v, odakle je lin (v)= lin

7

(x2 − x1). Zakljucno uzimajuci x1 umjesto x0 jednacina prave kojoj pripadajurazlicite tacke x1 i x2 je

x = x1 + λ(x2 − x1), λ ∈ R.

Ravan dimenzije n− 1

H = x0 + lin (x1, ..., xn−1)

zovemo hiperravan. Inace svaka hiperravan je data sa

H(a, α) = {x ∈ Rn : 〈a, x〉 = α},

gdje je a ∈ Rn, a 6= 0 i α ∈ R. Za a = 0 dobijamo ∅ (ako je α 6= 0) ili citavprostor (α = 0). Skup rjesenja sistema

Ax = b,

gdje je A m×n matrica, b ∈ Rn, a x ∈ Rn je ravan dimenzije k = n− rang(A),a vrijedi i obratno, svakoj ravni odgovara sistem ciji je skup rjesenja.

3. Na kraju, odredimo najmanju ravan (poredak je dat relacijom ⊆) u kojojje neprazan skup S. Neka je x0 ∈ S, tada je {0} ⊆ S − x0 ⊆ Rn, pa postojinajmanji potprostor ciji podskup je S − x0, a to je presjek svih odgovarajucihpotprostora, tj. lin (S − x0). Translirajuci taj lineal za x0 dobijamo trazenuravan, koja se naziva afini omotac skupa S

aff S = x0 + lin (S − x0).

Kao i dokazuje se da vrijedi

aff S =⋃

k∈N{λ1x

1 + ... + λkxk : x1, ..., xk ∈ S, λ1 + ... + λk = 1}

Pod dimenzijom skupa S smatracemo dimenziju njegovog afinog omotaca. Akoje ona k onda postoji skup {x0, x1, ..., xk} ⊆ S takav da je {x1−x0, ..., xk−x0}linarno nezavisan. Tada je

rang(

x0 x1 ... xk

1 1 ... 1

)= rang

(x0 x1 − x0 ... xk−1 − x0

1 0 ... 0

)= k + 1,

i

x ∈ aff S ⇔ x =k∑

i=0

λixi,

k∑

i=0

λi = 1. (7)

Kazemo da je {x0, x1, ..., xk} afino nezavisan, dok je vektor (λ0, ..., λk) jedinstveni njegove koordinate nazivamo baricentricnim.

8

FUNKCIJE

Vazni skupovi koji su pridruzeni svakoj funkciji f : Df → R,Df ⊆ Rn sunadgraf (epigraf), podgraf (hipograf) i nivoski (Lebegov) skup :

epi f ={(

xα

)∈ Df × R : α > f(x)

}

hypo f = −epi (−f),

lev (f, α) = {x ∈ Df : f(x) 6 α} .

Umjesto domena funkcije mozemo uzeti neki njegov neprazan podskup S, tj.posmtaramo restrikciju f |S . Tada se i gornje definicije modifikuju, pri cemu seumjesto epi (f,S) i lev (f,S, α) zadrzavaju stare oznake, a ako nema zabuneza nivoski skup imamo oznaku levα Limes inferior niza, odnosno limes inferiorfunkcije definisemo na sljedeci nacin.

lim inf xn = supn

infx>n

xk

lim infx→xo

f(x) = limε↓0

inf0<‖x−x0‖<ε

f(x)

Kazemo da je funkcija f odozdo poluneprekidna u tacki x0 ∈ S ako vrijedi

lim infx→xo

f(x) > f(x0).

Ovo je ekvivalentno sa

(∀ε > 0)(∃δ > 0)(∀x ∈ S ∩ B(x0, δ)) f(x0)− ε < f(x),

odnosno sa uslovom da za svaki niz {xk}, xk ∈ S, xk → x0 vrijedi

f(x0) 6 lim inf f(xk).

Teorema 1 (Vajerstras) Neka je realna funkcija f odozdo poluneprekidna nazatvorenom ogranicenom skupu S ⊆ Rn. Tada postoji x∗ ∈ S takva da je

f(x∗) = minx∈S

f(x).

Dokaz. Po definiciji postoji niz sa clanovima xk ∈ S takav da f(xk) → inff(S). Zbog kompaktnosti skupa S uoceni niz ima podniz koji konvergira tacki,na primjer x∗, iz tog skupa. Niz slika tog podniza tezi ka infimumu, pa jelim infx→x∗

f(x) 6 inf f(S). Na osnovu poluneprekidnosti imamo f(x∗) 6 lim infx→x∗

f(x),

pa slijedi f(x∗) 6 inf f(S). ¤Dakle, pojam poluneprekidnosti je posebno vazan, pa cemo mu posvetiti vise

paznje.

Teorema 2 Funkcija f je poluneprekidna odozdo na zatvorenom skupu S ⊆ Rn

ako i samo ako je svaki njen nivoski skup zatvoren, ili ako i samo ako je nadgrafzatvoren skup.

9

Dokaz. Uzmimo da niz sa clanovima(

xk

αk

)iz nadgrafa epi f odozdo pol-

uneprekidne funkcije f konvergira ka(

xα

). Tada imamo αk > f(xk), xk →

x ∈ S i α = lim αk > liminf f(xk) > f(x). Znaci i(

xα

)∈ epi f . Neka xk ∈

levα, xk → x. Ako je nadgraf zatvoren skup, onda je i limes niza(

xk

α

)

u epi f, tj. f(x) 6 α, odnosno x ∈ levα. Na kraju, pretpostavimo da fnije poluneprekidna odozdo u x. Postoji niz xk koji tezi toj tacki, dok je limf(xk) = α < f(x). Skoro svi clanovi niza {xk} su u lev (f, α+f(x)

2 ), ali ne i x,pa taj nivoski skup nije zatvoren. ¤

Primjedba 2 Ako skup S nije zatvoren, onda za poluneprekidnost odozdo jepotrebna i dovoljna zatvorenost nadgrafa u S × R, odnosno zatvorenost svakognivoskog skupa u S.

Osim realnih funkcija definisanih na podskupu prostora Rn posmatracemo ifunkcije definisane na Rn, sa vrijednostima u prosirenom skupu realnih brojevaR = R ∪ {±∞}. Na taj nacin svaka funkcija f : S → R, S ⊆ Rn moze sedodefinisati tako da joj domen bude citav prostor

f(x) ={

f(x), x ∈ S+∞, x ∈ Rn \ S,

(8)

tako da vrijediminx∈S

f(x) = minx∈Rn

f(x).

Skupdom(f) = {x ∈ Rn : f(x) < +∞}

naziva se efektivni domen funkcije f Nas ce posebno zanimati funkcije koje neuzimaju vrijednost −∞, a identicki nisu +∞, odnosno ako vrijedi

dom(f) 6= ∅, −∞ /∈ f(Rn). (9)

Nazivaju se sopstvene funkcije, a... Definicije iz ranijih razmatranja prenosese i na funkcije f : Rn → R, uz uobicajene operacije sa ±∞. Tako je f pol-uneprekidna odozdo u x0 ∈ Rn ako je

f(x0) 6 lim infx→x0

f(x).

Ovdje uocimo da iz neprekidnosti funkcije f ne slijedi da je (polu)neprekidna ifunkcija f , data formulom (33) .Na primjer, f(x) = x je neprekidna na ]0, +∞[, ali

f(x) ={

x, x > 0+∞, x 6 0

nije ni poluneprekidna u 0.

10

Primjer 3 Karakteristicna (indikatorna) funkcija skupa S

IS(x) ={

0, x ∈ S+∞, x /∈ S

Uocimo da za funkciju f datu sa (8), za sve x ∈ Rn, vrijedi

f(x) = f(x) + IS(x).

11

KONVEKSNI SKUPOVI

Definicija i primjeri

Definicija 1 Skup C ⊆ Rn je konveksan ako za sve x1, x2 ∈ C i sve λ ∈ [0, 1]vrijedi

(1− λ)x1 + λx2 ∈ C.Primjedba 3 Geometrijski duz [x1, x2] je skup tacaka x sa prave P za kojevrijedi

‖x1 − x‖+ ‖x− x2‖ = ‖x1 − x2‖.Ako je x1 6= x2 i x ∈ P imamo da je x = x1 + λ(x2 − x1), λ ∈ R. Odavdeje ‖x − x1‖ = |λ|‖x1 − x2‖, ‖x − x2‖ = |1 − λ|‖x1 − x2‖, tako da je polaznajednakost ispunjena ako i samo ako je |λ| + |1 − λ| = 1, odnosno 0 6 λ 6 1.Dakle, duz je skup

[x1, x2] = {(1− λ)x1 + λx2 : 0 6 λ 6 1}.Prema tome skup je konveksan ako i samo ako mu je podskup svaka duz cijekrajnje tacke su u njemu.

slika 1. C

Iz definicije slijedi da je skup C konveksan ako za svaki λ ∈ [0, 1] je

(1− λ)C + λC ⊆ C, (10)

a posto vrijedi i obratna inkluzija (za proizvoljne skupove) to u prethodnojformuli moze da stoji znak =.

Primjedba 4 Stavljajuci da je 1 − λ = λ1, λ = λ2 vidimo da je λ1 + λ2 = 1,a uslov 0 6 λ 6 1 je isto sto i λ1, λ2 > 0, tako da uz nove uslove (8) postaje

λ1C + λ2C ⊆ COd osnovnih skupovnih operacija konveksnost cuvaju sabiranje skupova i mnozenjerealnim brojem. Isto tako vrijedi

Teorema 3 Neka su C1 i C2 konveksni skupovi. Tada su C1 ∩C2 C1 + C2 i α · C1

konveksni skupovi.

Dokaz. Iz x1, x2 ∈ C1∩C2, zbog konveksnosti datih skupova, slijedi [x1, x2] ⊆ C1

i [x1, x2] ⊆ C2, pa je [x1, x2] ⊆ C1 ∩ C2. Dalje, zbog (1), za sve λ ∈ [0, 1] vrijedi

(1− λ)(C1 + C2) + λ(C1 + C2) = (1− λ)C1 + λC1 + (1− λ)C2 + λC2 ⊆ C1 + C2,

kao i(1− λ)αC1 + λαC1 = α((1− λ)C + λC) ⊆ αC.

¤Napomenimo da je presjek i proizvoljno mnogo konveksnih skupova opet kon-veksan skup. Ocigledno je da unija dva konveksna skupa ne mora biti konveksanskup.

12

Primjer 4 S obzirom da inkluzija (4) vrijedi za sve realne brojeve, tacna je i zasve brojeve iz [0, 1], tako da je svaka ravan konveksan skup. Tu su ,specijalno,ukljuceni jednoclani skupovi, potprostori kao i citav Rn.

Primjer 5 Svaka hiperravan H(a, α), a 6= 0 odreduje u Rn cetiri poluprostora.Zatvoreni poluprostori

H+(a, α) = {x ∈ Rn : 〈a, x〉 > α}, H−(a, α) = {x ∈ Rn : 〈a, x〉 6 α},kao i otvoreni poluprostori

intH+(a, α) = {x ∈ Rn : 〈a, x〉 > α}, int H−(a, α) = {x ∈ Rn : 〈a, x〉 < α}su konveksni skupovi.

Ovo direktno slijedi iz jednakosti 〈a, (1−λ)x1 +λx2〉 = (1−λ)〈a, x1〉+λ〈a, x2〉.Nazivi poluprostora nisu slucajni. Prvi je zaista zatvoren skup, sto slijedi izneprekidnosti skalarnog mnozenja (〈a, xk〉 > α i xk → x0 povlace 〈a, x0〉 > α).Posljednji je komplement prvog, pa je otvoren. Slicno je za ostale.

Primjer 6 Neka su a1, ..., am ∈ Rn i b1, ..., bm realni brojevi. Presjek konacnogbroja zatvorenih poluprostora (ovdje m) H−(ai, bi) = {x ∈ Rn : 〈ai, x〉 6 bi}je konveksan skup. Naziva se poliedar. Umjesto ∩m

i=1H−(ai, bi) mozemo pisati{x ∈ Rn : 〈ai, x〉 6 bi i = 1, ..., m} ili

{x ∈ Rn : Ax 6 b}, (11)

gdje je A matrica tipa m× n sa vrstama ai, dok je b = [b1, ..., bm]>. Specijalno,Rn

+ =⋂n

i=1H+(ei, 0) je polieadar.

Primjer 7 Otvorena kugla sa centrom u x0, poluprecnika r je konveksan skup.

Zaista, za x1, x2 ∈ B(x0, r), λ1 > 0, λ2 > 0, λ1 + λ2 = 1 imamo

‖x0−(λ1x1+λ2x

2)‖ = ‖λ1(x0−x1)+λ2(x0−x2)‖ 6 λ1‖x0−x1‖+λ2‖x0−x2‖ <

< λ1r + λ2r = r,

odnosnoλ1x

1 + λ2x2 ∈ B(x0, r).

Na isti nacin se vidi da je i zatvorena kugla B[x0, r] konveksna. Moglo se i naosnovu sljedecih jednakosti (prva je iz primjera), koristeci (3)i teoremu 1,

(1− λ)B[0, 1] + λB[0, 1] = B[0, 1], B[x0, r] = x0 + rB[0, 1].

Kao sto znamo, zbirλ1x

1 + · · ·+ λkxk

je linearna kombinacija vektora x1, ..., xk ∈ S ako su λ1, ..., λk ∈ R, a afinakombinacija ako je λ1 + · · · + λk = 1 (formula (6)). Ako je λ1 > 0, ..., λk > 0,onda kazemo da je linearna kombinacija nenegativna. Konveksna kombinacijaje ona linearna kombinacija datih vektora je ona koja je afina i nenegativna.

13

Primjer 8 Skup svih konveksnih kombinacija konacnog skupa vektora x1, ..., xm

naziva se politop, a oznacava sa co {x1, ..., xm}. Svaki politop je konveksan skup:

x, y ∈ co {x1, ..., xm} ⇒ x =m∑

i=1

λixi, y =

m∑

i=1

µiyi,

gdje je∑m

i=1 λi = 1,∑m

i=1 µi = 1, xi > 0, yi > 0 (i = 1, ...,m). Sada je

(1− λ)x + λy =m∑

i=1

((1− λ)λi + λµi)xi ∈ co {x1, ..., xm},

zato sto je∑m

i=1((1− λ)λi + λµi) = (1− λ)∑m

i=1 λi + λ∑m

i=1 µi = 1.

Politop se, za m > 1, naziva (m − 1)-dimenzionalni simpleks u Rn, ako je{x1, ..., xm} afino nezavisan. Jednoclane skupove smatramo simpleksima dimen-zije 0. Specijalno,

∆n = co {0, e1, ..., en}je standardan n-simpleks u Rn, dok je

σn = co {e1, ..., en+1}n - dimenzionalni jedinicni simpleks u Rn+1

slika

Teorema 4 Neka su C, D konveksni skupovi i a : Rn → Rm afino preslikavanje.Tada su skupovi a(C) i a−1(D) konveksni.

Dokaz. Iz a((1 − λ)x1 + λx2) = (1 − λ)a(x1) + λa(x2) ∀ xn, x2 ∈ Rn λ ∈ [0, 1]slijedi

(1− λ)a(C) + λa(C) = a(C)

(1− λ)a−1(D) + λa−1(D) ⊆ a−1(D),

tako da su ovi skupovi konveksni po definiciji. ¤

Skup K ⊆ Rn naziva se konus ako vrijedi

x ∈ K, λ > 0 ⇒ λx ∈ K.

Ova implikacija je ekvivalentna sa

λK ⊆ K, ∀λ > 0. (12)

Ako je konus konveksan skup onda se naziva konveksan konus. Za njihovukarakterizaciju potrebna je i dovoljna prethodna formula i zatvorenost skupa Ku odnosu na sabiranje, tj.

K +K ⊆ K. (13)

14

Fakat, iz ove dvije formule slijedi konveksnost:

(1− λ)K + λK ⊆ K +K ⊆ K ∀λ ∈ [0, 1].

Obratno, pokazimo da iz (8) i konveksnosti slijedi (9). Na osnovu 2K ⊆ K, jeK ⊆ 1

2K, pa ako je konus konveksan imamo

K +K ⊆ 12K +

12K = K.

Primjer 9 Skup K = {x ∈ Rn : Ax 6 0},0 ∈ Rm, je konveksni konus, stoneposredno slijedi iz (8), (9) i svojstava matricnog mnozenja. U skladu sa Prim-jerom 5., naziva se homogeni poliedar, a moze i poliedarski konus.

Primjer 10 Skup svih nenegativnih linearnih kombinacija konacnog skupa tacakax1, ..., xm je, ocigledno, konveksan konus. Nazivamo ga konacno generisanim,aoznaka mu je cone .... Dakle,

cone {x1, ..., xm} = {λ1x1 + ... + λmxm : λ1 > 0, ..., λm > 0}. (14)

Vazan primjer je {Ax : x > 0} ⊆ Rm. On je konacno generisan konus zatosto je K = cone {a∗1, ..., a∗n}.

Primjer 11 Svakom konveksnom konusu K dodjeljuju se dva konusa

{y : 〈y, x〉 6 0 ∀x ∈ K} i {y : 〈y, x〉 > 0 ∀x ∈ K}.To su normalni konusi (negativan normalan i pozitivan). Prvi se najcesce zovepolaran konus, sa oznakom Ko. Pozitivan normalan konus zove se konjugovan(dualan) konus konusa K, a oznacava sa K∗. jasno, vrijedi K◦ = −K∗.

SLIKA

Konveksan omotac

Ukoliko neki skup nije konveksan, mozemo mu dodijeliti najmanji konveksanskup koji ga sadrzi. U tom cilju, za proizvoljan neprazan skup S ⊆ Rn posma-tracemo sve njegove konveksne nadskupove. Jedan od njih je aff S, a presjekim je neprazan (podskup mu je S) i konveksan. Nazivamo ga konveksni omotacskupa S i pisemo co S. Dakle,

co S =⋂

S⊆CC.

Na osnovu definicije, za prozvoljne skupove S, T i konveksan skup C vrijedi

S ⊆ T ⇒ co S ⊆ co T , C = co C, co (co S) = co S .

15

Za svaki prirodan broj k, proizvoljnom nepraznom skupu S dodjeljujemo skupsvih konveksnih kombinacija svakih k njegovih elemenata (uniju svih politopagenerisanih tackama iz S):

cok S =⋃

x1,...,xk∈S

co {x1, ..., xk},

cok S =

{k∑

i=1

λixi : x1, ..., xk ∈ S, λ1, ..., λk > 0,

k∑

i=1

λi = 1

}.

Pomocu njih opisacemo konveksni omotac skupa S.

Prije svega, za proizvoljne skupove S, T , konveksan skup C iz Rn, i svebrojeve λ ∈ [0, 1] vrijedi:

S ⊆ T ⇒ cok S ⊆ cok T , (15)

(1− λ)cop S + λcoq S ⊆ cop+q S, (16)

cok C ⊆ C. (17)

Posljednja inkluzija se dokazuje indukcijom:co1 C = C, a co2 C ⊆ C je po definiciji konveksnog skupa.Ako je cok C ⊆ C i x ∈ cok+1 C, onda je x =

∑k+1i=1 λix

i za neke x1, ..., xk+1 ∈C, λ1, ..., λk+1 ∈ [0, 1], λ1 + ... + λk+1 = 1. Ukoliko je tada λk+1 6= 1 imamo

x = λk+1xk+1 + (1− λk+1)

k∑

i=1

λi

1− λk+1xi ∈ λk+1C + (1− λk+1)C = C.

Ako je λk+1 = 1, onda je opet x = xk+1 ∈ C.Dakle, cok C ⊆ C povlaci cok+1 C ⊆ C, za sve k ∈ N.

Teorema 5 Ako je S neprazan podskup od Rn, onda je

co S =⋃

k∈Ncok S.

Dokaz. S = co1 S ⊆ ∪k∈N cok S, odakle je, prema (13), co S ⊆ co (∪k∈N cok S).Posto iz (14) slijedi da je posmatrana unija konveksan skup imamo

co S ⊆⋃

k∈Ncok S.

Dalje, zbog S ⊆ co S vrijedi cok S ⊆ cok (co S), a na osnovu (15) je cok (co S) ⊆co S, tako da imamo cok S ⊆ co S. Kako posljednja inkluzija vrijedi za sveprirodne brojeve, to je

⋃

k∈Ncok S ⊆ co S. ¤

16

Ovaj rezultat se moze precizirati.

Teorema 6 (Karateodori, 1911) Ako je S ⊆ Rn neprazan skup vrijedi

co S =n+1⋃

k=1

cok S.

Dokaz. Neka je x ∈ co S. Prema prethodnom, tada je

x = λ1x1+· · ·+λkxk, za neke x1, ..., xk ∈ S, λ1 > 0, ..., λk > 0, λ1+···+λk = 1.

Ako je k > n+1, onda je skup{(

xi

1

), ...,

(xk

1

)}linearno zavisan u Rn+1.

Postoje realni brojevi α1, ..., αk, koji nisu svi jednaki 0, takvi da je

α1x1 + ·+ αkxk = 0, α1 + ·+ αk = 0.

Bar jedan od njih je pozitivan (druga jednakost), pa neka jeλj

αj= min

i:αi>0

λi

αi.

Imamo

x = x− λj

αj· 0 =

k∑

i=1

λixi − λj

αj

k∑

i=1

αixi =

k∑

i=1

(λi − λj

αjαi

)xi.

Posto je λi − λj

αjαi > 0 (za i takvo da je αi 6 0 to je ocigledno, a za ostale

zbog izbora indeksa j ) i∑k

i=1

(λi − λj

αjαi

)= 1 − λj

αj· 0 = 1, dobili smo da je

x konveksna kombinacija tacaka skupa {x1, ..., xj−1, xj+1, ..., xk}.Postupak se nastavlja sve dok skup preostalih vektora

(xi

1

)ne postane lin-

earno nezavisan, tj. dok ih ne ostane najvise n + 1. Tada je x ∈n+1⋃

k=1

cok S.

Dakle, co S ⊆n+1⋃

k=1

cok S. Obratna inkluzija izlazi iz prethodne teoreme. ¤

Primjedba 5 Zbog jasne veze cok S ⊆ cok+1 S tvrdnja Karateodorijeve teo-reme svodi na jednakost

co S = con+1 S.

Isto tako mozemo primjetiti da je konveksni omotac nekog skupa unija simpleksadimenzije (najvise) n, sa vrhovima iz tog skupa.

Primjer 12 Na osnovu Karateodorijeve teoreme dobijamo

σn−1 = {x ∈ Rn :n∑

i=1

xi = 1, xi > 0}.

17

za n - dimenzionalni standardni simpleks je

∆n = {x ∈ Rn :n∑

i=1

xi 6 1, xi > 0}.

Dalje je

int ∆n = int H−(e, 1) ∩ int H+(e1, 0) ∩ ... ∩ int H+(en, 0) =

= {x ∈ Rn :n∑

i=1

xi < 1, x1 > 0, ..., xn > 0}.

Uocimo jos da je ( 1n+1 , ..., 1

n+1 )> ∈ int ∆n.

Pomocu konveksnog omotaca definise se nova operacija koja cuva konveksnost

C1 ∪ C2 := co (C1 ∪ C2) (18)

Slijedece jednakosti su korisne ne samo za konstrukciju konveksnog omotacaslozenijih skupova

co (S1 + S2) = co S1 + co S2, (19)

C1 ∪ C2 = {(1− λ)x1 + λx2 : x1 ∈ C1, x2 ∈ C2, λ ∈ [0, 1]}. (20)

Dokazimo prvu formulu, koja vrijedi za proizvoljne skupove. Posto je konveksanzbir konveksnih skupova imamo da iz S1 + S2 ⊆ co S1 + co S2 slijedi

co (S1 + S2) ⊆ co (co S1 + co S2) = co S1 + co S2.

Za obratnu inkluziju koristimo Karateodorijevu teoremu. Za svaki xi ∈ S1 je

xi + co S2 = co (xi + S2) ⊆ co (S1 + S2).

Tacka x ∈ co S1, je oblika x =k∑

i=1

λixi, xi ∈ S1, λi > 0,

k∑

i=1

λi = 1, tako da,

nakon mnozenja sa λi i sabiranja, dobijamo

x +k∑

i=1

λico S2 ⊆k∑

i=1

λico (S1 + S2).

Zbog konveksnosti omotaca, dalje je x + co S2 ⊆ co (S1 + S2), i to za svex ∈ co S1, sto znaci da je

co S1 + co S2 ⊆ co (S1 + S2).

Druga jednakost vazi za konveksne skupove. Oznacimo sa C skup sa desnestrane jednakosti (19), i neka je x ∈ co (C1∪C2). Ako je x ∈ C1 ili x ∈ C2 situacijaje jasna. Inace x je konveksna kombinacija tacaka v1, ..., vk iz C1 ∪ C2, tako dasu skupovi J2 = {i : vi ∈ C1} i J1 = {i : vi ∈ C2} neprazni. Stavljajuci za

18

odgovarajuce koeficijente λ1, ..., λk da je λ = 1 −∑i∈J1

=∑

i∈J2λi dobijamo

0 < λ < 1. Tada je

x = (1− λ)∑

i∈J1

λi

1− λvi + λ

∑

i∈J2

λi

λvi ∈ (1− λ)C1 + λC2 ⊆ C.

Obratna inkluzija je trivijalna.

Za konveksni omotac unije konveksnih konusa imamo preciznije

K1∪K2 = K1 +K2. (21)

Jasno, za sve λ > 0 je λK = K. Prema (20) imamo

K1 ∪ K2) =⋃

06λ61

(1− λ)K1 + λK2 = K1 +⋃

0<λ<1

(K1 +K2) +K2 = K1 +K2.

Topoloska svojstva

Kao prvo navedimo da se zatvorenje skupa moze zapisati kao

cl C =⋂ε>0

(C + εB), (22)

dok je njegova unutrasnjost

int S = {x ∈ S : ∃ε > 0 (x + εB) ⊆ S}. (23)

Teorema 7 Za svaki konveksan skup sa nepraznim interiorom vrijedi

x1 ∈ int C, x2 ∈ cl C =⇒ [x1, x2[ ⊆ int C.Dokaz. Za svaki λ ∈]0, 1[ i svaki ε > 0, koristeci formulu za zatvorenje imamo

(1−λ)x1+λx2+εB ⊆ (1−λ)x1+λ(C+εB)+εB ⊆ (1−λ)(x1+λε

1− λB)+λC ⊆ C,

gdje je ε tako uzeto da je x1 + λε1−λB ⊆ C, sto je moguce, zbog x1 ∈ int C. ¤

Posljedica 1 Za konveksan skup sa nepraznim interiorom vrijedi

x ∈ int C ⇔ ∀v ∈ Rn ∃ε > 0 x + εv ∈ C. (24)

Zaista, neka je x0 ∈ int C i x 6= x0 takav da vrijedi desna strana ekvivalencije.Prema tome postoji ε > 0 za koji je x1 = x + ε(x − x0) ∈ C. Sada je x =

ε1+εx0 + 1

1+εx1 ∈]x0, x1[ ⊆ int C. Obratna implikacija je jasna.

Teorema 8 Unutrasnjost i zatvorenje konveksnog skupa su konveksni skupovi.

Dokaz. Za x1, x2 ∈ int C, prema prethodnom, vrijedi [x1, x2] = [x1, x2[ ∪{x2} ⊆int C ∪{x2} = int C. Drugo tvrdenje slijedi iz (5) i konveksnosti zbira i presjekakonveksnih skupova. ¤

19

Teorema 9 Ako je int C 6= ∅, onda je

int cl C = int C, cl int C = cl CDokaz. Iz C ⊆ cl C slijedi int C ⊆ int cl C. Obratno, neka je x ∈ int cl C iB(x, ε) ⊆ cl C. Za x 6= y ∈ int C postoji tacka z ∈ S(x, ε) takva da je x ∈]y, z[,pa prema Teoremi 4 je x ∈ int C.I u drugoj jednakosti jedna inkluzija je ocigledna, pa onda neka je x ∈ cl C i y ∈int C. Tada je [y, x[⊆ int C, odakle je cl [y, x[⊆ cl int C, i x ∈ [x, y] ⊆ cl int C. ¤

Na osnovu ove teoreme neposredno slijede veze za dva konveksna skupa.

Teorema 10 Ako su C i D konveksni skupovi sa nepraznim interiorima ondaje

int C = int D ⇔ cl C = cl D.

Svaka od jednakosti ekvivalentna je sa

int C ⊆ D ⊆ cl C.Dokaz. Na primjer, ako je D izmedu interiora i zatvorenja skupa C, slijedi da jecl int C ⊆ cl D ⊆ cl C, sto uz drugu jednakost iz Teoreme 6 je cl C = cl D. Iz intC = int D dobijamo int C ⊆ D ⊆ cl D ⊆= cl int D = cl int C =cl C. Preostajeda se dokaze prva ekvivalencija. ¤

Teorema 11 Neka je l : Rn → Rm linearno preslikavanje i C konveksan pod-skup od Rn sa nepraznim interiorom, tada vrijedi

int l(C) = l(int C).Dokaz. Pokazimo prvo da vrijedi dio ” ⊆ ”. U tom cilju ustanovimo da jekonveksan skup D = l(C) izmedu unutrasnjosti i zatvorenja skupa l(int C). Tadace biti, na osnovu Teoreme 7, int D = int l(int C), odakle je int l(C) ⊆ l(int C).Dakle, imamo uz jednakosti iz teoreme 6int l(int C) ⊆ l(int C) ⊆ D ⊆ l(cl C) = l(cl int C) ⊆ cl l(int C).Obratno, neka je y ∈ l(int C) i v ∈ Rm proizvoljan vektor. Postoje x ∈ intC,u ∈ Rn i ε > 0 takvi da je y = l(x), v = l(u) i x + εu ∈ C. Sada je y + εv =l(x) + εl(u) = l(x + εu) ∈ l(C). Prema posljedici 1. zakljucujemo da je y ∈ intl(C). ¤

Konveksnost skupova je dovoljna da vrijede jednakosti u ...

Teorema 12 int (C +D) = int C + int D.

Dokaz. Dosta je primjeniti teoremu 8. na funkciju l : Rn×Rn → Rn, l(x1, x2) =x1 + x2 koja je je linearna, i za koju vrijedi l(C × D) = C +D. sada je

int l(C × D) = int (C +D),

l(int (C × D)) = l(int C × int D) = int C + int D. ¤

20

Teorema 13 Ako su C,D konveksni skupovi i ako je int (C ∩ D) 6= ∅, ondavrijedi

cl (C ∩ D) = cl C ∩ cl D.

Dokaz. Neka je x ∈ cl C ∩ cl D. Za x0 ∈ int C ∩ int D vrijedi

[x0, x[ ⊆ int C ∩ int D = int (C ∩ D),

odakle je x ∈ cl (C ∩ D). ¤

Primjedba 6 Formula vrijedi i za presjek proizvoljno mnogo konveksnih skupova,uz odgovarajuci uslov (presjek njihovih unutrasnjosti je neprazan) i isti dokaz.

Uslov int C 6= ∅ jeste bitan, ali za konveksne skupove nije prirodan, nije is-punjen vec za duzi u ravni, krugove u trodimenzionom prostoru, kao i hiperravni.Stoga ga je potrebno oslabiti, a to se postize uopstavanjem pojma interiora.

Primjer 13 Za 2- dimenzioni simpleks σ2 = co {e1, e2, e3} u R3 imamo da jeint σ2 = ∅. Medutim posmatrajuci ovaj trougao u njegovom afinom omotacuaff (σ2) = {x ∈ R3 : x1 + x2 + x3 = 1}, vidimo, na primjer, za x0 = ( 1

3 , 13 , 1

3 )da je B(x0, 1

3 ) ∩ aff ⊆ σ2. Kako je ovaj presjek otvoreni krug u posmatranoj(hiper)ravni to je x0 unutrasnja tacka u odnosu na afini omotac. Skup svihtakvih tacaka naziva se relativni interior, i pise ri T .

Uopste, relativni interior definisemo sa

ri S = {x ∈ S : ∃ε > 0 (x + εB) ∩ aff S ⊆ S}.Jasno ako je int C 6= ∅ onda je relint C = int C. Sada cemo dokazati osnovnosvojstvo relativnog interiora, po cemu se i razlikuje od interiora.

Teorema 14 Ako je C ⊆ Rn neprazan konveksn skup, onda je ri C 6= ∅.

Dokaz.

Primjedba 7 Za konveksne skupove C = {(1, 0, 0)} i D = σ2 imamo C ⊆D, ali ri C = C * ri D = {x ∈ R3 : x1 + x2 + x3 = 1, x1, x2, x3 > 0}. Inace,S ⊆ T ⇒ int S ⊆ int T .

Ostala svojstva ostaju na snazi a za dokaz se, umjesto karakterizacije ...koristi

x ∈ ri C ⇔ ∀y ∈ C ∃ λ > 1 : y + λ(x− y) ∈ C. (25)

Posmatrajuci re C umjesto int C, na snazi ostaju sve teoreme 4 - 10,

riC je konveksan,

ri C = ri D ⇔ ri C ⊆ D ⊆ CriCC, riC = riCril(C = l(riC)) ri(C + D) = riC + riD

pri cemu je u posljednjoj potreban dodatni uslov ri C ∩ ri D 6= ∅, kao stopokazuje Primjer 2. Uz isti uslov je i

21

Teorema 15 ri (C ∩ D) = ri C ∩ ri DDokaz. Kao u dokazu Teoreme 10 je cl C∩ cl D ⊆ cl (ri C∩ ri D). Sada zbog ,cl (ri C∩ ri D) ⊆ cl (C ∩ D) ⊆ cl C∩ cl D, slijedi jednakost

cl (riC ∩ riD) = cl(C ∩ D).

Na osnovu ... (relativan interior jednog je podskup drugog skupa) imamo

ri (C ∩ D) ⊆ ri C∩ ri D.

Neka je x0 u presjeku relativnih interiora, i y ∈ C ∩ D. Prema (15) postojeλ > 1 i µ > 1 takvi da je y + λ(x0 − y) ∈ C i y + µ(x0 − y) ∈ D. Ako je, naprimjer, µ > λ, onda je y +λ(x0− y) = λ

µ (y +µ(x0− y))+ (1− λµ )y ∈ D. Dakle,

y + λ(x0 − y) ∈ C ∩ D, pa je x0 ∈ ri (C ∩ D). Slijedi

ri C∩ ri D ⊆ ri (C ∩ D). ¤

omotaci

Jednostavno je dokazati da vrijedi

S otvoren =⇒ co S otvoren.

Na primjer, int co S je konveksan, a podskup mu je S, posto je int S = S.Dakle, po definiciji konveksnog omotaca, imamo da je co S ⊆ int co S.S druge strane, konveksan omotac zatvorenog skupa ne mora biti zatvoren:

S = {(x, 0) : x > 0} ∪ {(0, 1)},co S = (R+ × [0, 1]) \ {(x, 1) : x > 0}.

Medutim dodajuci uslov da je posmatrani skup ogranicen dobijamo

Teorema 16 S kompaktan =⇒ co S kompaktan.

Dokaz. Posmatrajmo funkciju f datu sa

(λ1, ..., λn+1, x1, .., xn+1) 7→

n+1∑

i=1

λixi, λi ∈ R, xi ∈ Rn.

Ona je neprekidna funkcija i kompaktan preslikava u kompaktan skup. Preostajeda se vidi da je, po Karateodorijevoj teoremi,

co S = f([0, 1]× ...× [0, 1]︸ ︷︷ ︸

n+1

×S × ...× S︸ ︷︷ ︸n+1

). ¤

Sada cemo izuciti osnovna svojstva nekih posebnih konveksnih skupova. Sljedeceimamo iz prethodne teoreme, s obzirom da je konacan skup kompaktan.

Posljedica 2 Politop je kompaktan skup

22

Naravno, konacno generisan konus nije kompaktan skup, ali

Teorema 17 Konacno generisan konus je zatvoren skup.

Dokaz. Neka je K = cone {x1, ..., xm}, pri cemu je dati skup linearno nezavisan.U suprotnom se, kao u dokazu Karateodorijeve teoreme, vrsi redukcija do lin-earno nezavisnog skupa. Preslikavanje l : Rm → lin (x1, ..., xm), l(λ1, ..., λm) =λ1x

1 + ... + λmxm je linearno i bijektivno. Inverzno preslikavanje je neprekidnotako da je slika zatvorenog skupa zatvoren skup. Dakle l(Rm

+ ) = cone {x1, ..., xm}je zatvoren skup. ¤ Sada ...

Posljedica 3 Zbir politopa i konacno generisanog konusa je zatvoren skup.

Neograniceni konveksni skupovi

Teorema 18 Neka C konveksan zatvoren neogranicen. Za svaki x ∈ C postojiv 6= 0 takav da vrijedi

{x + λv : λ > 0} ⊆ C. (26)

Dokaz. Neka je x ∈ C i λ > 0. Postoji niz (xk) tacaka iz C takav da ‖xk‖ → ∞,0 6 λ

‖xk‖ 6 1 i ( xk

‖xk‖ ) konvergira, nekom v. Sada x+ λ‖xk‖ (x

k−x) ∈ C konvergiraka x + λv ∈ cl C = C. ¤

Primjedba 8 Ako konveksan skup skup nije zatvoren, onda ovo tvrdenje vaziza tacke iz ri C. Za ostale ne mora, na primjer nijedna poluprava sa vrhom u 0nije podskup skupa C = ( R×]0, 1[ ) ∪ {0}.

Primjedba 9 Navedimo jos da u (13) za svaki x mozemo uzeti isti v. Zaista,neka (13) vrijedi za x0 ∈ C i neka je x ∈ C proizvoljan. Tada, je 1

k (x0 + λkv) +(1− 1

k )x ∈ C, pa taj niz konvergira tacki x + λv ∈ cl C = C, za sve pozitivne λ.

Projekcija. Teoreme razdvajanja

Tacka y0 = a + 〈x0−a,v〉‖v‖2 v je ortogonalna projekcija tacke x0 na pravu P =

{a+ tv : t ∈ R}, zato sto je 〈x0− y0, v〉 = 0. Zbog toga,za bilo koju drugu tackuy sa prave, imamo ‖x0 − y‖ > ‖x0 − y0‖.Uopste, tacku y0 ∈ S zvacemo projekcijom tacke x0 ∈ Rn na neprazan skupS j Rn ako vrijedi

‖x0 − y0‖ 6 ‖x0 − y‖ ∀y ∈ S.

Jasno, projekcija ne mora da postoji, kao na primjer na otvorenu kuglu iztacke van nje, a ako i postoji ne mora biti jedinstvena (unija dvije zatvorenedisjunktne kugle i sredina duzi koja spaja njihove centre).

Teorema 19 Svaka tacka iz Rn ima jedinstvenu projekciju na neprazan, zatvorenkonveksan C ⊆ Rn.

23

Dokaz. Kao prvo, ako je tacka x0 u C ona je sama sebi projekcija, jer ‖x0−y0‖ =‖x0 − x0‖ = 0. Za x0 /∈ C neka je r > 0 takav broj da je C ∩ B(x0, r) neprazanskup. On je kompaktan skup (kao presjek zatvorenog C i zatvorene kugle), paneprekidna funkcija

y 7→ ‖y − x0‖dostize na njemu minimum, u nekoj tacki y0. Dakle, za sve tacke y posmatranogpresjeka vrijedi ‖y − x0‖ > ‖y0 − x0‖. Za ostale tacke skupa C (van kugle) je‖y−x0‖ > r > ‖y0−x0‖. Zakljucno, za sve y ∈ C vrijedi ‖y−x0‖ > ‖y0−x0‖.Za dokaz jedinstvenosti koristimo jednakost paralelograma

‖u + v‖2 + ‖u− v‖2 = 2(‖u‖2 + ‖v‖2),

uzimajuci da je u = x0 − y0, v = x0 − y1, gdje su y0 i y1 projekcije tacke x0.Zbog ‖x0 − y0‖ = ‖x0 − y1‖ imamo

‖y1 − y0‖2 = 4(‖x0 − y0‖2 − ‖x0 − y0 + y1

2‖2

)6 0,

buduci da je y0+y1

2 ∈ C, zbog konveksnosti datog skupa. Iz prethodne nejed-nakosti slijedi da je y0 = y1. ¤

Sada vidimo da je na ovaj nacin definisana funkcija (x0 7→ y0), koju nazivamo(metricka projekcija) i oznacavamo sa PC . Dakle, za konveksan i zatvoren skupC definisana je PC : Rn −→ C sa

y0 = PC(x0) ⇐⇒ (∀y ∈ C) ‖ x0 − y‖ > ‖x0 − y0‖.

Osnovna svojstva su data nejednakostima, pri cemu iz druge slijedi neprekidnostove funkcije.

Teorema 20 Za C 6= ∅ konveksan i zatvoren skup, x0 ∈ Rn i y0 ∈ C vrijedia) y0 = PC(x0) ako i samo

〈x0 − y0, y − y0〉 6 0 ∀y ∈ C, (27)

b)‖PC(x1)− PC(x0)‖ 6 ‖x1 − x0‖ ∀x1, x0 ∈ Rn. (28)

Dokaz. a) Kako je C konveksan i y0 ∈ C, to za svaki y ∈ C i sve λ ∈]0, 1[ imamoy0 + λ(y − y0) ∈ C, pa je

‖x0 − (y0 + λ(y− y0))‖2 > ‖x0 − y0‖2, tj. 2〈x0 − y0, y0 − y〉+ λ‖y− y0‖2 > 0.

Pri λ → 0+, dobijamo prvu nejednakost.Iz (5) imamo redom (uzimamo da je y0 6= x0, inace je nejednakost trivijalna)

〈x0−y0, x0−y0+y−x0〉 6 0, ‖x0−y0‖2 6 〈x0−y0, x0−y〉, ‖x0−y0‖ 6 ‖x0−y‖

24

i to za sve y ∈ C, sto znaci da je y0 = PC(x0).

b) Oznacavajuci projekciju tacke x1 sa y1 slijede nejednakosti: 〈x0−y0, y1−y0〉 6 0, 〈x1 − y1, y0 − y1〉 6 0, odakle je

〈y1 − y0 + x0 − x1, y1 − y0〉 6 0,

‖y1 − y0‖2 6 〈x1 − x0, y1 − y0〉.Preostaje da se opet iskoristi nejednakost Kosi-Bunjakovskog. ¤

Primjedba 10 Uzimajuci da je a = x0− y0, iz prve nejednakosti, za sve y ∈ Cvrijedi

〈a, y〉 6 〈a, y0〉.Ako je x0 6= y0, onda je a 6= 0, pa je odredena hiperravan H(a, α), α = 〈a, y0〉 iformula (5) znaci

y0 ∈ H, i C ⊆ H−.

Ovo je motivacija za sljedecu definiciju.

Definicija 2 H se naziva potporna hiperravan (hiperravan oslonca) nepraznogskupa S ⊆ Rn u tacki x ∈ bd S, ako je x ∈ H i S ⊆ H− ili S ⊆ H+

Teorema 21 Zatvoren i konveksan skup u svakoj granicnoj tacki ima potpornuhiperravan.

Dokaz. Dovoljno je dokazati da je y0 ∈ bd C projekcija neke druge tacke . Postojiniz xk ∈ Rn\C koji tezi ka y0, pri cemu mozemo uzeti da su svi xn ∈ B(y0, 1).Prema teoremi 7. imamo niz projekcija yk = PC(xk), kojem pridruzujemo nizzk ∈ S(y0, 1) takav sa je xk ∈]yk, zk[. Vrijedi

‖yk − y0‖ = ‖PC(xk)− PC(y0)‖ 6 ‖xk − y0‖,

odakle je yk → y0 pa, zbog neprekidnosti projekcije, slijedi PC(yk) → y0. Naosnovu prvog dijela prethodne teoreme je PC(zk) = yk. Niz (zk) ima konver-gentan podniz, za ciju granicnu vrijednost z0 ∈ S(y0, 1) je PC(z0) = y0. ¤

Dakle, ako je x0 ∈ bd C, onda je x0 ∈ H, dok je C ⊆ H−. Za x0 /∈ C (Napomena2) mozemo reci i vise. Naime, tada je x0 ∈ H+, zbog 〈a, y0〉 < 〈a, x0〉. Akouzmemo α = 〈a,x0〉−〈a,y0〉

2 = ‖a‖22 dobijamo za sve y ∈ C vrijedi 〈a, y〉 < α <

〈a, x0〉, odnosno x0 ∈ int H+ i C ⊆ int H−.Na osnovu ovog razmatranja, uzimajuci umjesto jednoclanog {x0} proizvoljankonveksan skup mozemo definisati pojam razdvojenih skupova.

Definicija 3 Konveksni skupovi C1, C2 ⊆ Rn su razdvojeni ako postoje tackaa ∈ Rn, a 6= 0 i realan broj α takvi da za sve x ∈ C1 i sve y ∈ C2, vrijedi

〈a, y〉 6 α 6 〈a, x〉,

25

tj. C1 ⊆ H+(a, α), C2 ⊆ H−(a, α),Kazemo da su razdvojeni skupovi potpuno razdvojeni ako nije

C1

⋃C2 ⊆ H(a, α).

Skupovi C1, C2 su strogo razdvojeni ako su u razlicitim otvorenim poluprostorima( postoje a 6= 0, α takvi da za sve x ∈ C1 i sve y ∈ C2 vrijedi

〈a, y〉 < α < 〈a, x〉.

Navedimo jos jednom da je C razdvojen od tacke koja mu ne pripada, a akotacka nije u njegovom zatvorenju onda je od nje strogo razdvojen.

Teorema 22 Neka su C1, C2 ⊆ Rn neprazni, disjunktni, konveksni i zatvoreni.Ako je jedan od njih ogranicen, onda postoji hiperravan koja ih strogo razdvaja.

Dokaz. Razlika C1 − C2 datih skupova, po pretpostavkama, je konveksan izatvoren skup. Uz ovo, uslov C1 ∩ C2 = ∅ znaci da je 0 /∈ C1 − C2. Premaprethodnoj teoremi postoji a ∈ Rn, a 6= 0 i β > 0 tako da za sve x ∈ C1 i svey ∈ C2 vrijedi

〈a, x− y〉 > β > 0,

odakle je〈a, x〉 > 〈a, y〉+ β > 〈a, y〉.

Skup {〈a, x〉 : x ∈ C1} je ogranicen odozdo sa 〈a, y〉+ β, za proizvoljan fiksirany ∈ C2. Sada je

infx∈C1

〈a, x〉 − β

gornja meda skupa {〈a, y〉 : y ∈ C2}, pa imamo

infx∈C1

〈a, x〉 > supy ∈C2

〈a, y〉+ β > supy ∈C2

〈a, y〉.

Uzimajuci α izmedu uocenog supremuma i infimuma slijede nejednakosti izdefinicije 2. ¤

Koristeci drugi dio teoreme 5, a ponavljajuci prethodni postupak, uz izbor

α ∈ [ supy∈C2

〈a, y〉, infx∈C1

〈a, x〉]

dobija se

Teorema 23 Neprazni, disjunktni i konveksni skupovi C1 i C2 su razdvojeni.

Posljedica 4 Ako je uz uslove teoreme 23, jos int C1 6= ∅, onda su C1 i C2

potpuno razdvojeni, pri cemu je int C1 u otvorenom poluprostoru.

26

Dokaz. Iz prethodne teoreme slijedi da je 〈a, x〉 6 α za sve x ∈ C1. Ako bi bilo〈a, x0〉 = α za neki x0 ∈ int C1, onda (imajuci na umu da je i x0 + ε

a

‖a‖2 ∈ C1,

pri malom ε > 0) dobijamo⟨

a, x0 + εa

‖a‖2⟩

= α + ε 6 α.

Ovo nije moguce, tako da preostaje 〈a, x0〉 < α, pa x0 /∈ H(a, α) ¤Jasno, strogo razdvojeni skupovi su i potpuno razdvojeni. Dakle, mi smo uprethodnom tvrdenju pokazali i vise od potpune razdvojenosti, tj. da je un-utrasnjost jednog skupa u otvorenom poluprostoru. Medutim pojam potpunerazdvojenosti je vazan i zbog potpune karakterizacije.

Teorema 24 Neprazni konveksni skupovi C1, C2 ⊆ Rn su potpuno razdvojeniako i samo ako vrijedi

ri C1 ∩ ri C2 = ∅.

Teorema 25 Neprazni konveksni skupovi C1, C2 ⊆ Rn su strogo razdvojeni akoi samo ako vrijedi

infx∈C1,y∈C2

‖x− y‖ > 0.

Kao primjenu Teorma separacije dokazacemo dvije vazne ...

Teorema 26 Ako su C i D konveksni, zatvoreni i ograniceni skupovi i za svevektore a ∈ Rn vrijedi

maxx∈C

〈a, x〉 = maxx∈D

〈a, x〉,

onda je C = D.

Dokaz. Ako bi postojao x0 ∈ (C\D)∪(D\C), onda se ta tacka strogo razdvaja odC ili D. Na primjer, ako je x0 ∈ D\C, onda postoji a takav da je 〈a, x0〉 > 〈a, x〉za sve x ∈ C. Uvazavajuci kompaktnost imamo

maxx∈C

〈a, x〉 < 〈a, x0〉 6 maxx∈D

〈a, x〉,

sto je suprotno uslovu teoreme. ¤

Alternativni sistemi linearnih (ne)jednacina su oni kod kojih samo jedan imarjesenje. Neka je A m × n matrica, b ∈ Rm dok su vektori 0, x i y u skladu stim.

Teorema 27 (Farkas, 1902) Samo jedan od sljedeca dva sistema ima rjesenje:

Ax = b, x > 0, (29)

A>y > 0, 〈b, y〉 < 0. (30)

27

Dokaz. Uzmimo prvo da oba imaju rjesenja i to x0 i y0. Mnozeci skalarno x0 > 0sa A>y0 > 0 dobijamo 〈x0,A>y0〉 = 〈Ax0, y0〉 = 〈b, y0〉 > 0. Pretpostavimo daprvi sistem nema rjesenje. Znaci b /∈ K = {Ax : x ∈ Rn

+}, koji je konveksan(teorema 4) i zatvoren (teorema 17). Posmatrani skup i {b} strogo razdvajaneka hiperravan H(y, α), odnosno, za sve x > 0 vrijedi

〈y, b〉 < α < 〈y, Ax〉. (31)

Specijalno, za x = 0 dobijamo 〈b, y〉 < 0. Sada, za sve x > 0, vrijedi 〈A>y, x〉 =〈y, Ax〉 > 0. Odatle je A>y > 0, tako da je vektor normale y rjesenje drugogsistema. ¤

Ekstremalne tacke

Definicija 4 Tacka x je vrh (ekstremalna tacka) nepraznog konveksnog skupaC ⊆ Rn ako je x ∈ C i ne postoje razlicite tacke x1, x2 ∈ C takve da vrijedi

x =x1 + x2

2.

Lako se vidi da je x vrh tog skupa ako i samo ako iz

x1, x2 ∈ C, λ ∈]0, 1[, x = (1− λ)x1 + λx2 slijedi x1 = x2.

Primjer 14 krug-simplex-poliedar

Vidimo da sto se tice broja vrhova situacija je razlicita. Konveksan skup nemora imati vrhove, a moze i biti neprebrojivo. Za poliedre imamo sljedece.

Primjedba 11 Neka je H = H(a, α) potporna hiperravan skupa C ⊆ H+ iC1 = C ∩H neprazan skup. Tada je ext C1 ⊆ ext C. Zaista, neka je v0 ∈ ext C1,ali nije u ext C. Postoje razliciti v1, v2 ∈ C takvi da je 2v0 = v1 + v2. S obziromna 〈a, v1〉 > α = 〈a, v0〉, dobijamo 〈a, v1−v〉 > 0, i na isti nacin 〈a, v2−v〉 > 0.No, 〈a, v1 − v〉+ 〈a, v2 − v〉 = 0, pa mora da bude v1, v2 ∈ H, te je v1, v2 ∈ C1,a to je u suprotnosti s v ∈ ext C1.

Teorema 28 Zatvoren konveksan skup C ⊆ Rn ima vrh ako i samo ako nepostoji prava P ⊆ C.

Dokaz. Neka je {x0 +λv : λ ∈ R} ⊆ C, za neku x0 ∈ C i v 6= 0. Prema Teoremi...za svaki x ∈ C je {x + λv : λ ∈ R} ⊆ C. Sada mozemo uzeti x = x+v+x−v

2 , pazbog v 6= 0 tacka x nije vrh skupa C. Obratno, koristimo indukciju po dimenzijiskupa. Za jednoclane skupove situacija je jasna. U induktivnom koraku uzmimoda je n dimenzija skupa C, a tvrdenje vrijedi za sve konveksne skupove dimenzije6 n−1, kojima nijedna prava nije podskup. Svaka prava odredena sa dvije tackeiz posmatranog skupa ima neprazan presjek sa bd C. Potporna hiperravan u tojtacki je dimenzije n− 1, pa rezultat izlazi iz prethodne napomene. ¤

Teorema 29 Poliedar ima najvise konacan broj vrhova.

28

Dokaz. Neka je x0 vrh nekog poliedra. Jasno, postoji J ⊆ {1, ..., m} takavda je 〈ai∗, x〉 = bi za indekse iz uocenog podskupa, a 〈ai∗, x〉 < bi za ostale.Za neku drugu tacku x sa istim svojstvom stavimo x1 = x0 + λ(x − x0) ix1 = x0 − λ(x − x0). Imamo 〈ai∗, x1〉 = 〈ai∗, x2〉 = bi, za i ∈ J i 〈ai∗, x1〉 <bi + λ〈ai∗, x − x0〉 < bi, i 〈ai∗, x2〉 < bi, za dovoljno malu vrijednost λ. Prematome x1 i x2 su u poliedru, uz x0 = x1+x2

2 . Ovo nije moguce, pa svakom skupuJ odgovara najvise jedan vrh, a takvih je konacan broj. ¤

Vidjeli smo da neograniceni, zatvoreni konveksni skupovi ne moraju imativrhove. Situacija je drukcija ako je skup ogranicen.

Teorema 30 Neprazan, konveksan, kompaktan skup C ⊆ Rn ima bar jedan vrh.

Dokaz...Kao jednu primjenu ove teoreme pokazimo da linearna funkcija l : Rn →

R, l(x) = 〈c, x〉 dostize minimum i maksimum na kompaktnom, konveksnomskupu C u njegovom vrhu.Prije svega, postoji x∗ ∈ C takva da je minx∈C l(x) = l(x∗). Jasno, skupC∗ = {x ∈ C : l(x) = l(x∗} je konveksan i kompaktan, pa ima vrh x0. Pokazimoda je on vrh i skupa C. Ako nije, postoje razlicite tacke x1, x2 iz C, od kojihbar jedna nije u C∗, takve da je 2x0 = x1 + x2. Posto {x1, x2} * C∗ mora bitil(x1) + l(x2) > 2l(x0), a zbog linearnosti funkcije l to je nemoguce. ¤

Ova primjedba ima poseban znacaj u linearnom programiranju. Mi cemo jeiskoristiti za precizniji opis konveksnog omotaca. Naime, u izgradnji konveksnogomotaca kompaktnog, konveksnog skupa ne sudjeluju, u sustini, sve njegovetacke, nego samo vrhovi. U narednoj teoremi ext C oznacava skup svih vrhovaskupa C.

Teorema 31 (Minkovski, 1911) Neka je C ⊂ Rn neprazan, konveksan, kom-paktan skup. Tada

C = co (ext C).

Dokaz. Zbog konveksnosti skupa C vrijedi ext C ⊆ C ⇒ co ext C ⊆ C.Obratna inkluzija se dokazuje indukcijom, po dimenziji skupa. Za n = 1 jedinineprazni konveksni kompaktni skupovi su zatvoreni intervali [α, β], α 6 β, a zanjih je [α, β] = co {α, β}.Za induktivni korak neka je dim C = n, a tvrdjenje tacno za sve konveksnekompaktne skupove manje dimenzije. Uzmimo x ∈ C i tacke x1, x2 ∈ bd Ctakve da je x ∈ [x1, x2]. Prema Teoremi 17 postoje potporne hiperravni H1 iH2, za koje je x1 ∈ H1 ∩C, x2 ∈ H2 ∩C. Ti presjeci, npr. C1 i C2, su u (n− 1)−dimenzionalnim hiperravnima, pa iz C1 ⊆ co ext C1 i C2 ⊆ co ext C2, na osnovucinjenice da su vrhovi skupova C1 i C2 ujedno vrhovi i skupa C, slijedi

x ∈ [x1, x2] ⊆ co (C1 ∪ C2) ⊆ co (co ext C1∪ co ext C2) ⊆ co ext C.Zakljucno, x ∈ C ⇒ x ∈ co ext C. ¤

29

Primjedba 12 U proizvoljnim normiranim prostorima ne vrijedi ova teoremavec njena posljedica koju su dokazali Krejn i Milman, (1940), a glasi Za neprazan,konveksan, kompaktan skup vrijedi

C = cl (co (ext C)).Ilustrujmo dokaz na inkluziji C ⊆ cl (co (ext C)). Pretpostavimo da ona nijetacna, tj. da postoji x0 ∈ C koji ne pripada skupu cl (co (ext C)). Ovaj skupje konveksan i zatvoren, pa je strogo razdvojen od x0. Postoji a 6= 0 takoda za sve x ∈ ext C vrijedi 〈a, x0〉 < 〈a, x〉. Prema tome linearna funkcija datasa l(x) = 〈a, x〉 ne dostize minimum u vrhu konveksnog kompaktnog skupa . ¤

Polarni skupovi

Vidjeli smo kako se proizvoljnom nepraznom skupu S ⊆ Rn dodjeljuje kon-veksan skup (S 7→ co S). Drugi nacin sastoji se u sljedecem... Neka je C kon-veksan, zatvoren skup u Rn u kome se nalazi 0. Tada je pomocu duzi [0, x]opisan taj skup: C = ∪x∈C [0, x]. Svakim vektorom x ∈ C odredena je hiperra-van H(x, 1). Presjek svih poluprostora H+(x, 1) je neprazan (u njemu je bar 0),naziva se polaran skup skupa C i oznacava sa C◦. Dakle,

Co = ∩x∈C{y ∈ Rn : 〈y, x〉 6 1}. (32)

SLIKA 1, slika B

Primjer 15 {0}◦ = Rn, {c}◦ = H+(c, 1)

Primjer 16 B◦ = BMozemo pisati

C◦ = {y ∈ Rn : 〈y, x〉 6 1 ∀x ∈ C} = {y : SC(y) 6 1} = lev(SC , 1).

Sada, za proizvoljan neprazan S ⊆ Rn polaran skup definisemo sa

So = {y ∈ Rn : 〈y, x〉 6 1 ∀x ∈ S}. (33)

Odmah vidimo da vrijedi

S ⊆ T =⇒ T ◦ ⊆ S◦

S ⊆ T ⇒ SS 6 ST , y ∈ T ◦ ⇒ ST (y) 6 1 ⇒ SS(y) 6 1 ⇒ y ∈ S◦.

rS◦ = (1rS)◦, r > 0.

Specijalno,

B◦[0, r] = B[0,1r].

30

Iz definicije vidimo da je polarni skup konveksan, zatvoren i da mu pripada0. Da bismo dali karakterizaciju skupova sa navedenim svojstvima definisemopolarni skup polarnog skupa (tzv. bipolarni skup)

S◦◦ = (S◦)◦ = {x ∈ Rn : 〈x, y〉 6 1 ∀y ∈ S◦}.

Sada, zbog 〈x, y〉 6 1, za sve x ∈ S i sve y ∈ S◦ zakljucujemo

S ⊆ S◦◦.

Obratno ne mora da bude uvijek, ali vrijedi sljedeca jednakost, odakle je jasnaveza izmedu skupova S i S◦◦.Teorema 32 Za svaki neprazan skup S ⊆ Rn vrijedi

S◦◦ = cl co (S ∪ {0}).Dokaz. Stavimo C = cl co (S ∪ {0}). U sustini, vec smo vidjeli da je C ⊆ S◦◦.Ako x0 /∈ C, onda (Teorema separacije 20.) postoje a 6= 0 i realan broj α tako daje 〈a, x〉 > α > 〈a, x0〉, za sve x ∈ C. Kako je 0 ∈ C slijedi α < 0, pa stavljajucida je a0 = a

α imamo 〈a0, x〉 < 1 za sve S ⊆ C i 〈a0, x0〉 > 1. To znaci da jea0 ∈ S◦ i nije 〈a0, x0〉 6 1, tako da x0 ne moze biti u S◦◦. Dakle, C = S◦◦. ¤

Posljedica 5 Skup S ⊆ Rn je zatvoren konveksan skup i 0 ∈ S ako i samo ako

S◦◦ = S

Dokaz. Uz pretpostavke imamo S◦◦ = cl co (S ∪ {0}) = cl co S = cl S = S.S druge strane ako je tacna jednakost skup preuzima svojstva odgovarajucegbipolarnog skupa. ¤

Pojam polarnosti se moze iskoristiti i za karakterizaciju ogranicenosti nekihkonveksnih skupova.

Teorema 33 Neka je skup S zatvoren i neka mu pripada 0.Tada je je taj skupogranicen ako i samo ako 0 ∈ int S◦.

Dokaz. Prvo, neka je skup ogranicen. Postoji broj r > 0 takav da je S ⊆ rB,odakle je (rB)◦ ⊆ S◦, 1

rB ⊆ S◦ sto znaci da je 0 ∈ int S◦. Na isti nacin sedokazuje da ako je 0 u unutrasnjosti nekog skupa, onda mu je polaran skupogranicen. Sada imamo, zbog Posljedice 5., da 0 ∈ int S povlaci ogranicenostskupa (S◦)◦ = S. ¤

Sada cemo dati neke formule koje povezuju...

Teorema 34(C ∪ D)o = Co ∩ Do (34)

(C +D)o = Co ¢Do (35)

31

DOKAZ. Imamo iz C, D ⊆ C∪D da je (C∪D)◦ ⊆ C◦ i (C∪D)◦ ⊆ D◦, odakle je(C∪D)◦ ⊆ C◦ ∩ D◦. Neka je sada y ∈ C◦ ∩ D◦. Za sve c ∈ C, d ∈ D, λ ∈ [0, 1]vrijedi 〈y, (1− λ)c + λd〉 6 1. Prema (19) je y ∈ (C∪D)◦.U drugoj formuli inkluzija ” ⊇ ” je trivijalna. Uzmimo da y /∈ C◦ ¢ D◦ ipokazimo da y /∈ (C + D)◦. Dakle, ako je y /∈ 1

2C◦ ∩ 12D◦, onda postoje (stroga

separacija) vektori c0, d0 6= 0 i pozitivni brojevi γ i δ takvi da za sve c ∈ C◦ isve d ∈ D◦ vrijedi

〈co, 2y〉 > γ, 〈c0, c〉 6 γ, 〈do, 2y〉 > δ, 〈do, d〉 6 δ.

odavde je co

γ ∈ Coo = C i slicno do

δ ∈ D. No, sada imamo

〈co

γ+

do

δ, y〉 > 1,

tako da y nije u skupu (C + D)◦. ¤

Primjer 17 Polarni skup konveksnog konusa K je upravo njegov polarni konus(Primjer 10.) Zaista, K◦ = {y ∈ Rn : 〈y, x〉 6 1 ∀x ∈ K}. S obziroma da zasve λ > 0 i x ∈ K imamo λx ∈ K, to za proizvoljan y ∈ K◦ vrijedi 〈y, x〉 6 1

λ ,odakle je 〈y, x〉 6 0. K◦ ⊆ {y ∈ Rn : 〈y, x〉 6 0 ∀x ∈ K}. Obratna inkluzija jeocigledna.

Formula ...(K1 + K2)∗ = K∗

! ∩K∗2 (36)

Primjer 18 Odredimo polaran konus konacno generisanog konusa K = {Ax :x > 0} (Primjer 9.) :

{Ax : x > 0}0 = {y : 〈y, Ax〉 6 0 ∀ x > 0} = {y : 〈A>y, x〉 6 0 ∀x 6 0} =

= {y : A>y 6 0}.Dakle, dobili smo homogen poliedar.

Primjer 19 Naka je X matrica sa kolonama xi, i = 1, ..., m. Vrijedi

(co{x1, ..., xm})◦ = {y : y>X 6 1>}.

Fakat, za svaki x =∑m

i=1 λixi,

∑ki=1 λi = 1, λ1 > 0, ..., λm > 0, uslov 〈y, x〉 6 1

je ispunjen ako i samo ako je 〈xi, y〉 6 1, i = 1, ..., k

Primjer 20 Polaran skup zbira politopa i konacno generisanog konusa je poliedar.

Dokaz. Prema (35)

(co {x1, ..., xm}+{Ax : x 6 0})◦ = ∪λλ{y : y>X 6 1}∩(1−λ){y : y>A 6 0} =

= {y : y>A 6 0} ∩ (∪λ{y : y>X 6 λ1}) = {y : y>A 6 0} ∩ {y : y>X 6 1}) =

= {y : y>(X|A) 6 (1,0)>}).

32

Poliedri

Ovdje cemo pokazati da ... dio toga smo mogli i ranije , no kako koristimo ipolarnost to je na jednom mjestu.

Teorema 35 Ogranicen poliedar je politop.

Dokaz. Svaki poliedar je zatvoren (primjer 5.) pa je u nasem slucaju ,zbogogranicenosti, kompaktan. Prema teoremi Minkovskog on je konveksni omotacsvojih vrhova, a taj skup je konacan (Posljedica 3). Dakle, ogranicen poliedarje politop. ¤

Teorema 36 (Minkovski) Homogeni poliedar je konacno generisan konus.

Dokaz. Presjek homogenog poliedra K i jedinicne kugle B1 je ogranicen poliedar,pa je prema vec dokazanom politop, tj. oblika je co (x1, ..., xk), x1, ...xk ∈ K.Konacno generisani konus cone (x1, ..., xk) je K. Zaista, neka je x ∈ K. Jasno,postoji λ > 0 takav da λx ∈ co (x1, ..., xk). Sada, iz λx =

∑ki=1 λix

i,∑k

i=1 λi =1, λ1 > 0, ..., λk > 0, slijedi da je x =

∑ki=1

λi

λ xi ∈ cone (x1, ..., xk). Obratno jeocigledno. ¤

Teorema 37 Poliedar je zbir politopa i konacno generisanog konusa.

Dokaz. Sistemu Ax 6 b, kojim je odreden poliedar, dodijelimo sistem ne-jednacina Ax 6 ξb, ξ > 0. Jasno,

x0 ∈ {x ∈ Rn : Ax 6 b} ⇔(

x0

1

)∈

{(xξ

):(

A −b0 −1

)(xξ

)6 0

}.

Drugi skup je homogeni poliedar u Rn+1, pa je prema teoremi Minkovskog

jednak nekom cone {( x1

ξ1 ), ..., (xm

ξm)}.

Neka su ξ1 > 0, ..., ξk > 0, a ostali ξi = 0. Sada ovaj konacno generisani konusje

cone {( v1

1 ), ..., ( vk

1 ), ( vk+1

0 ), ..., ( vm

0 )}, gdje je vi = 1ξi

xi za ξi > 0, dok

je vi = xi za ostale indekse. Prema tome, x0 pripada poliedru ako i samo akox0 =

∑ki=1 λiv

i +∑m

i=k+1 λivi, pri cemu je λ1 > 0, ..., λm > 0,

∑ki=1 λi = 1, a

odavde slijedi tvrdenje. ¤Dokazacemo da vrijede i obrati ovih teorema i time dati reprezentaciju

poliedara.

Teorema 38 Zbir politopa i konacno generisanog konusa je poliedar.

Dokaz. Neka je posmatrani zbir P + K. Tada je (P + K)◦ poliedar, premaPrimjeru 19., a prema Teoremi 33. to je zbir politopa i KGK, tako da je i(P+K)◦◦ poliedar. Ako pretpostavimo da 0 ∈ P+K, tada je zbog zatvorenosti

33

(...) i konveksnosti zbira (P+K)◦◦ = P+K (posljedica 5.). Ukoliko 0 ne pripadazbiru, onda za proizvoljnu njegovu tacku x0 je 0 ∈ P − x0 + K. S obzirom daje i P − x0 politop dobili smo poliedar, na primjer {x : Ax 6 b}, tako da jeP +K = {x : Ax 6 b + Ax0}. ¤

Teorema 39 (Vejl) Konacno generisan konus je homogen poliedar.

Dokaz. cone {...} = (cone {...})◦◦ = (hompol)◦ = (kgk)◦ = hompol

Teorema 40 Politop je ograniceni poliedar.

Dokaz. Prema Teoremi 34., politop P = P+ cone {0} je poliedar, a posto jekompakatan on je ogranicen poliedar. ¤

34

KONVEKSNE FUNKCIJE

....

1. Definicija, vrste i osnovni primjeri

Definicija 5 Funkcija f je konveksna ako je epi f konveksan skup. Funkcija jekonveksna na konveksonm skupu C ⊆ Df ako je njena restrikcija na C konveksnafunkcija.

Neka je f realna funkcija definisana na skupu D(f) ⊆ Rn, i C ⊆ D(f) neprazan,konveksan skup.

Teorema 41 Funkcija f je konveksna na C ako i samo ako za sve x1, x2 ∈ C isvaki λ ∈ [0, 1] vrijedi

f((1− λ)x1 + λx2

)6 (1− λ)f(x1) + λf(x2). (37)

Dokaz. Neka su x1, x2 ∈ C i neka je odgovarajuci nadgraf konveksan skup.

Posto mu pripadaju tacke(

x1

f(x1)

),

(x2

f(x2)

), onda za sve λ ∈ [0, 1] mora

da bude

(1− λ)(

x1

f(x1)

)+ λ

(x2

f(x2)

)=

((1− λ)x1 + λx2

(1− λ)f(x1) + λf(x2)

)∈ epi f,

a ovo znaci da vrijedi nejednakost (37).

Uzmimo sada(

x1

α1

),

(x2

α2

)∈ epi (f |C), λ ∈ [0, 1]. Kako je C konveksan i

f((1− λ)x1 + λx2)) 6 (1− λ)f(x1) + λf(x2) 6 (1− λ)α1 + λα2,

slijedi da je(

(1− λ)x1 + λx2

(1− λ)α1 + λα2

)∈ epi (f |C), te je ovaj skup konveksan. ¤

Ako je u nejednakosti (37) znak < umjesto 6, za sve x1 6= x2 i svaki λ ∈]0, 1[,kazemo da je f strogo konveksna funkcija. Funkcija f je konkavna ako je -fkonveksna, tj. ako umjesto (37) vrijedi

f((1− λ)x1 + λx2

)> (1− λ)f(x1) + λf(x2).

Primjer 21 Afina funkcija a(x) = 〈a, x〉 + α je konveksna na C = Rn. Njennadgraf je poluprostor Ona je i konkavna na tom skupu. Afine funkcije su jedinekoje su konveksne i konkavne.

Primjer 22 Ako je nadgraf funkcije h : Rn → R konveksan konus, ona jekonveksna i pozitivno homogena, sto je, prema (12) i (13), ekvivalentno sa

h(x + y) 6 h(x) + h(y), h(αx) 6 αh(x) ∀x, y ∈ Rn, α > 0.

35

Odmah vidimio da je h(0) = 0, zbog h(0) = h(0 + 0) 6 h(0) + h(0) i h(0) 6 0.Uocimo jos da je za α > 0 h(x) = h(α 1

αx) 6 1αh(αx), tj. αh(x) 6 h(αx), pa

vrijedi jednakost h(αx) = αh(x), za sve x ∈ Rn, α > 0. Isto tako lako se dobijeda je

h(−x) = −h(x)

i

h(m∑

i=1

αixi) 6

m∑

i=1

αih(hi).

Sljedeca dva su primjeri pozitivno homogenih konveksnih funkcija.

Primjer 23 (Funkcija Minkovskog) Neka je 0 ∈ C. Tada je domen funkcije

MC(x) = inf {α > 0 : x ∈ αC} (38)⋃

α>0 αC, a ako je 0 unutrasnja tacka skupa C onda je efektivni domen citavRn. Funkcija Minkovskog je konveksna pozitivno homogena funkcija. Stavise,vrijedi jednakost M(αx) = αM(x) za sve x i α > 0. Jasno M(0x) = M(0) =0 = 0M(x), a za α > 0 imamo

M(αx) = inf {β > 0 : αx ∈ βC} = α inf {β

α: x ∈ β

α∈ C} = αM(x).

Jos je, zbog 0 ∈ int C, x ∈ (M(x) + ε)C i y ∈ (M(y) + ε)C, za sve ε > 0. slijedix + y ∈ (M(x) + M(y) + 2ε)C, odakle je M(x + y) 6 M(x) + M(y) + 2ε. DakleM(x + y) 6 M(x) + M(y).

Primjer 24 Ako u prethodnom primjeru uzmemo da je C jedinicna kugla Bdobijamo da je euklidska norma x 7→ ‖x‖ konveksna na Rn, s obzirom da je‖x‖ = MB(x). Ovo slijedi i direktno iz svojstava norme i teoreme 40. Medutim,ako je int C 6= ∅, x1 ∈ int C, x2 = (1 + t)x1 (t malo, dovoljno da bude x2 ∈ C)i λ = 1

2 , onda (37) postaje jednakost. Dakle, norma nije strogo konveksna na Csa nepraznom unutrasnoscu.

Primjer 25 Posto vrijedi

‖(1− λ)x1 + λx2‖2 = (1− λ)‖x1‖2 + λ‖x2‖2 − (1− λ)λ‖x1 − x2‖2

vidimo da je f(x) = ‖x‖2 strogo konveksna na Rn.

U konveksne spadaju jako konveksne funkcije, za koje vazi jaca nejednakost od(37):

f((1− λ)x1 + λx2

)6 (1− λ)f(x1) + λf(x2)− λ(1− λ)α‖x1 − x2‖2,

za neki α > 0 i sve x1, x2 ∈ C, λ ∈ [0, 1]. Jasno, svaka jako konveksna funkcijaje i strogo konveksna. Na osnovu jednakosti iz primjera vidi se da je funkcija fjako konveksna ako i samo ako je f − α‖ ‖2 konveksna, za neki α > 0. Samimtim x 7→ ‖x‖2 je jako konveksna sa α = 1.

36

Primjer 26 Kvadratna forma q(x) = 〈Cx, x〉 + 〈c, x〉 je konveksna na svakomC ⊆ Rn, ako i samo ako je simetricna matrica C pozitivno semidefinitna. Ovoslijedi iz

(1− λ)q(x1) + λq(x2)− q((1− λ)x1 + λx2) = λ(1− λ)〈C(x1 − x2), x1 − x2〉.Kvadratna forma je jako konveksna ako i samo ako je C pozitivno definitna. Zaα mozemo uzeti njenu najmanju sopstvenu vrijednost.

2. Osnovna svojstva, neke nejednakosti

Teorema 42 Funkcija f je konveksna na C ⊆ Rn ako i samo ako je funkcija

ϕ(λ) = f(x1 + λ(x2 − x1)

)

konveksna na intervalu [0, 1], za sve x1, x2 ∈ C.Drugim rijecima f je konveksna na C ⊆ Rn ako i samo ako je konveksna njenarestrikcija na svakoj duzi iz C.

Jasno, f je konkavna ako i samo ako je hypo f konveksan skup. Posto jelev(f, α) ortogonalna projekcija na Rn skupa

epi f ∩H (en+1, α

),

imamo da je za konveksnu funkciju f svaki nivoski skup (ukljucujuci ∅) kon-veksan. I na osnovu nejednakosti (37) dokaz je trivijalan.

Jensenova nejednakost A-G nejednakostJensenova nejednakost A-Gnejednakost

Teorema 43 Neka je funkcija f konveksna na C. Tada, za svaki m ∈ N i svex1, ..., xm ∈ C, λ1 > 0, ..., λm > 0, takve da je λ1 + · · ·+ λm = 1, vrijedi

f(λ1x1 + · · ·+ λmxm) 6 λ1f(x1) + · · ·+ λmf(xm). (39)

Dokaz. Neka su m ∈ N i x1, ..., xm ∈ C proizvoljni. Tada, zbog konveksnoti

nadgrafa i formule (15) vrijedi co {( x1

f(x1) ), ..., ( xm

f(xm) )} ⊆ epi (f |C), za sve

nenegativne λ1, ..., λm ciji zbir je 1. To znaci da je(

λ1x1 + ... + λmxm

λ1f(x1) + ... + λmf(xm)

)∈ epi (f |C),

odnosno (33). ¤

Primjer 27 Funkcija jedne promjenljive f(x) = − ln x je konveksna na ]0, +∞[.Jensenova nejednakost u ovom slucaju glasi − ln

∑ni=1 λix

i 6∑n

i=1−λi ln xi.Ova nejednakost, zapisana u obliku

n∏

i=1

xλii 6

n∑

i=1

λixi, (40)

37

za sve x1, ..., xn > 0, λ1, ..., λn > 0,∑n

i=1 λi = 1 naziva se nejednakost izmeduaritmeticke i geometrijske sredine. Uzimajuci da su svi brojevi λi = 1

n , imamo

n√

x1...xn 6 x1 + ... + xn

n.

Primjer 28 (Helder) Polazeci od toga da je eksponencijalna funkcija konvek-sna, za pozitivne brojeve ξ i η i brojeve p > 1, q > 1 takve da je 1

p + 1q = 1 dobija

se, iz Jensenove nejednakosti za m = 2, nejednakost

ξη 6 e1p ln ξp+ 1

q ln ηq

6 1peln ξp

+1qeln ηq

,

odnosnoξη 6 ξp

p+

ηq

q. (41)

Stavljajuci, za sve i = 1, ..., n, ξ = xi

(∑n

i=1 xpi )

1p

i η = yi

(∑n

i=1 yqi )

1q, nakon sumiranja

dobijamo∑n

i=1xiyi

(∑n

i=1 xpi )

1p (

∑ni=1 yq

i ))1q

6 1p + 1

q = 1, tj.

〈x, y〉 6 ‖x‖p‖y‖q.

3. Prirodna svojstva konveksnih funkcija Konveksne funkcije imaju vaznosvojstvo da su neprekidne na otvorenom skupu. Preciznije, vrijedi

Teorema 44 Neka je C ⊆ Rn konveksan skup sa nepraznim interiorom i nekaje f : C → R konveksna funkcija. Tada je f neprekidna na int C.

Dokaz. Neka je g(x) = f(x + x0)− f(x0), x0 ∈ int C. Tada je g konveksna ig(0) = 0. Treba dokazati da je g neprekidna u 0. Prije svega postoji t > 0 takavda je zatvorena kugla

tB1 ⊆ C − {x0},i g je ogranicena na toj kugli. Ogranicenost slijedi iz Teoreme 27 (Minkovskog)i Jensenove nejednakosti. Neka je sada ε ∈]0, 1[. Za sve x ∈ εtB1 vrijedi

g(x) = g

((1− ε)0 + ε

(1εx

))6 (1− ε)g(0) + εg

(1εx

)6 εM.

Isto tako, iz zapisa

0 =1

1 + εx +

ε

1 + ε

(−1

εx

),

dobijamo g(x) > −εM. Dakle, za svaki ε > 0 postoji δ > 0 takav da za svex ∈ δB1 vrijedi

|g(x)− g(0)| 6 εM. ¤Situacija se mijenja ako se neprekidnost posmatra na citavom C, koji nije

otvoren skup.

38

Primjer 29 f data na [0, 1] sa f(x) ={

1, x = 00, x > 0 je konveksna, ali u 0

nije neprekidna, cak ni poluneprekidna odozdo. Uocimo da je njen nivoski skuplev( 1

2 ) =]0,+∞[ otvoren.

Postoje odozdo poluneprekidne konveksne funkcije koje nisu neprekidne.

Primjer 30 f(x1, x2) =

x1 +x2

2

x1, x1 > 0

0, (x1, x2) = (0, 0)je konveksna (nejednakost (37) pri x1 = (ξ1, η1) x2 = (ξ2, η2) svodi se na 0 6(ξ1η2 − ξ2η1)2), poluneprekidna odozdo ( nivoski skupovi su zatvoreni: ∅, {0} iB[(α

2 , 0), α2 ]), ali nije neprekidna u 0, zbog f( 1

n2 , 1n ) 9 f(0, 0).

Drugo vazno svojstvo je postojanje izvoda po pravcima.Neka su v1, v2 dopustivi pravci skupa C u tacki x0. Postoje pozitivni brojevi

t1 i t2 takvi da za i = 1, 2 vrijedi

x0 + tvi ∈ C, ∀t ∈]0, ti[.

Sada, za sve pozitivne t manje od 2 min{t1, t2} imamo

x0 + t(v1 + v2) =12

(x0 + tv1

)+

12

(x0 + tv2

) ∈ 12C +

12C = C,

tako da je i v1+v2 dopustiv pravac. Jasno, za svaki dopustivi pravac v i sve α > 0pravac αv je dopustiv. Ukljucujuci ovdje i nula vektor dobijamo konveksankonus V(x0, C). Konveksnost ne garantuje postojanje parcijalnih izvoda, stovidimo vec na primjeru euklidske norme. Medutim, ako postoje parcijalni izvodioni su neprekidni. (Zadatak ...) Mi cemo ustanoviti da konveksna funkcija f uunutrasnjoj tacki x0 domena, u svakom pravcu v, ima (jednostrani) izvod :

f ′(x0; v) = limx→0+

f(x0 + tv

)− f(x0)t

Naime, postoji ε > 0 takav da je x0+tv ∈ C za sve |t| 6 ε. Funkcija g :]0, ε] → R,

g(t) =f(x0 + tv)− f(x0)

t

je neopadajuca, jer za 0 < t1 < t2 6 ε nejednakost g(t1) 6 g(t2) glasi

f(x0 + t1v) 6(

1− t1t2

)f(x0) +

t1t2

f(x0 + t2v

),

a ova vrijedi zbog konveksnosti funkcije f . Slijedi da postoji limx→0+

g(t), koji je

konacan, buduci da je g(t0) 6 g(t) za sve t ∈]0, ε[ i fiksiran t0 ∈]− ε, 0[. Dakle,

f ′(x0; v) = limx→0+

g(t) = inf0<t6ε

g(t).

39

Specijalno, za svaki x ∈ C vektor v = x − x0 je dopustiv pravac, pri cemu jeε = 1. Sada iz prethodne formule dobijamo

f ′(x0; x− x0) = inf0<t61

g(t) 6 g(1),

odnosno vaznu nejednakost

f ′(x0; x− x0) 6 f(x)− f(x0). (42)

Neka je f konveksna na otvorenom C. Tada je funkcija

v 7→ f ′(x0; v)

konveksna, pozitivno homogena na Rn i vazi jednakost f ′(x0;−v) = −f ′(x0; v).

(f1 + f2)′(x; v) = f ′1(x; v) + f ′2(x; v)

(f1 ∨ f2)′(x; v) = max (f ′1(x; v), f ′2(x; v)) (43)

4. Operacije koje cuvaju konveksnost, primjeri

1. Prije svega zbir dvije konveksne funkcije je konveksna funkcija. Proizvodkonveksne funkcije nenegativnim realnim brojem je, opet, konveksna funkcija.Ovo se jednostavno dokazuje pa cemo samo navesti tvdenje. Prije toga recimoda je za konveksnu funkciju f funkcija −f konveksna jedino u slucaju da jefunkcija afina. Ovo znaci da skup svih konveksnih funkcija (na istom C) nijepotprostor, ali jeste konus, u prostoru realnih funcija.

Teorema 45 Neka su f1, ..., fm konveksne na C ⊆ Rn, i α1, ..., αm nenegativnirealni brojevi. Tada je f = α1f1 + · · ·+ αmfm konveksna funkcija na C.

Primjer 31 (Lagranzova funkcija) U vezi sa problemom konveksne optimizacijeposmatra se Lagranzova funkcija definisana sa L(x, u) = f(x) + 〈u, g(x)〉 naC × Rm

+ , pri cemu je g = (g1, ..., gm). Prema prethodnoj teoremi x 7→ L(x, u) jekonveksna na C, za svaki fiksiran u > 0. u 7→ ϕ(u) = inf

x∈CL(x, u) je konkavna

na Rm+ .

2. Kompozicija dvije konveksne funkcije je konveksna, ali uz dodatne uslove... Na osnovu definicije konveksne funkcije, pomocu operacija sa konveksnimskupovima dobicemo nove konveksne funkcije. To nam omogucuje

Teorema 46 Neka je C ⊆ Rn+1 konveksan skup. Funkcija f,

f(x) = inf{

ξ ∈ R :(

xξ

)∈ C

}(44)

je konveksna na skupu D ⊆ Rn tacaka x u kojima je infimum konacan.

40

Dokaz. Prvo, skup D = {x : C ∩ ({x} × R)je ogranicen odozdo} je konveksan.Neka je ε > 0 po volji. Postoje (x1, ξ1)>, (x2, ξ2)>, x1, x2 ∈ D takvi da vrijedif(x1) 6 ξ1 < f(x1) + ε

2 , i f(x2) 6 ξ2 < f(x2) + ε2 . Zbog konveksnosti skupa C

je (λ1x1 + λ2x

2, λ1ξ1 + λ2ξ2) ∈ C, odakle je f(λ1x1 + λ2x

2, λ1) 6 λ1ξ1 + λ2ξ2 6λ1f(x1) + λ2f(x2) + ε. ¤

Primjedba 13 Jedan uslov da je infimum konacan je da postoji nevertikalnahiperravan u Rn+1, H((a,−1)>, α), takva da je C ⊆ H−. Tada je ξ > 〈a, x〉−α,za fiksiran x i sve ξ uz (x, ξ) ∈ C.3. Supremum (maksimum) konveksnih funkcija. Vazan primjer ovkve funkcije jex 7→ |x| = max {−x, x}. Njen nadgraf je konus dobijen u presjeku dva polupros-tora. Za bilo koje dvije konveksne funkcije f1 i f2 definisane na C ⊆ Rn skupepi f1 ∩ epi f2 je konveksan skup u Rn+1. Jasno, to je nadgraf funkcije

C 3 x 7→ max {f1(x), f2(x)},

koja je konveksna prema prethodnoj teoremi. Oznacavamo je sa f1∨f2. Ovo vri-jedi za funkciju f datu sa f(x) = maxi=1,...,m fi(x), x ∈ C, kao i za proizvoljnokonveksnih funkcija, zahvaljujuci tome sto je presjek mnogo proizvoljno konvek-snih skupova konveksan skup. To se moze dokazati i direktno.

Teorema 47 Neka je C ⊆ Rn konveksan, S ⊆ Rm i neka je funkcija F : C×S →R konveksna na C za svaki y ∈ S i ogranicena na S za svaki x ∈ C. Tada je naskupu C konveksna funkcija f data sa

f(x) = supy∈S

F (x, y).

Dokaz.

Primjer 32 (supremum afinih minoranti) Uskladu sa Primjedbom 13. prirodnoje vidjeti sta se moze odrediti pomocu skupa svih afinih minoranti date funkcijef . Jasno, taj skup mozemo identifikovati sa

Af = {(a, α) ∈ Rn × R : 〈a, x〉 − α 6 f(x) ∀x ∈ C}.

Sada formalno mozemo definisati funkciju f na sljedeci nacin:

f(x) = sup(a,α)∈Af

(〈a, x〉 − α). (45)

Naravno, za proizvoljnu funkciju skup afinih minoranti Af moze biti prazan,kao sto se vidi na primjeru funkcije x 7→ x3, x ∈ R. Ako je taj skup neprazan,prema prethodnoj teoremi, dobijamo konveksnu funkciju. Pokazimo jos da akoje f konveksna funkcija na C onda je Af neprazan. Zaista, uzmimo prvo da jeint C 6= ∅ i da mu pripada x0.Skup

{(x, xn+1)> : x ∈ int C, xn+1 > f(x)

}je konveksan, otvoren (f je neprekidna

na int C) i ne pripada mu (x0, f(x0)>. Postoje (Posljedica 4) (a, α) 6= 0 i β,

41

takvi da za sve x ∈ int C vrijedi⟨a, x0

⟩+ αf(x0) 6 β < 〈a, x〉 + αxn+1. Za

x = x0 i xn+1 = f(x0) + 1 dobijamo α > 0, a za xn+1 = f(x) + ε (ε → 0+)je a(x) =

⟨− aα , x

⟩+ β

α 6 f(x) ∀x ∈ int C. Jasno, a(x0) = f(x0), pa za os-

tale tacke iz C, zbog [x0, x[ ⊆ int C imamo a(x0+x2 ) 6 f(x0+x

2 ) 6 f(x0)+f(x)2 ,

2a(x0+x2 )− a(x0) 6 f(x), a(x) 6 f(x).

Dakle, za sve x ∈ C vrijedi a(x) 6 f(x), odnosno H((a, α)>, αf(x0) + 〈a, x0〉)sadrzi tacku (x0, f(x0))>, a nalazi se ispod nadgrafika epi f . U slucaju da je x0

rubna tacka domena opet postoji potporna hiperravan nadgrafika, u (x0, f(x0)>),ali moze biti okomita na Rn (Primjer .., x0 = 0, H = H(e1, 0)). Ovdje, ako jeepi f zatvoren i konveksan, a x0 rubna tacka zatvorenog C, onda nakon strogograzdvajanja skupova epi f i {(x0, ξ)>}, ξ < f(x0), dobijamo afinu minorantudatu sa a(x) = 〈− a

α , x − x0〉 + ξ, za koju vrijedi a(x) 6 f(x), za sve x ∈ C, ia(x0) = ξ.

Primjer 33 (Kob-Daglasova funkcija) Funkcija f(x) = −∏ni=1 xαi

i kon-veksna je na Rn

+ za svaki (α1, ..., αn) ∈ σn−1.Stavimo da je S = {y :

∏ni=1 yαi

i = 1}, i F (x, y) = −∑ni=1 αixiyi, za x > 0, y ∈

S. Pomocu A-G nejednakosti dobijamo

f(x) = −n∏

i=1

(xiyi)αi > −n∑

i=1

αixiyi = supy∈S

F (x, y).

S jedne strane svaka od funkcija x 7→ F (x, y), y ∈ S je konveksna (linearna),a supremum se dostize na kompaktnom S, (npr. u tacki (− f(x)

x1, ...,− f(x)

xn)>).

Dakle, prema prethodnoj teoremi funkcija f je konveksna.

Primjer 34 (potporna funkcija skupa) Ako skup C ogranicen onda je sa

SC(x) = supy∈C

〈x, y〉

definisana na Rn funkcija, koja je ocigledno konveksna i pozitivno homogena(SC(αx) = αSC(x), α > 0). Uzmimo da je x0 6= 0 tacka iz Rn. Tada za konvek-san C postoje dvije potporne hiperravni H(x0, α) i H(x0, β). Za α 6 β vrijedi〈x0, x〉 6 β za sve x ∈ C, te je SC(x0) = β, pa je H(x0, SC(x0)) jedna potpornahiperravan skupa C, normalna na vektor x0 6= 0. Druga takva hiperravan jeH(−x0, SC(−x0)), zbog α = inf

x∈C〈x0, x〉 = − sup

x∈C〈−x0, x〉 = −SC(−x0). Odavde

je i izvedeno ime za ovu funkciju.

Primjer 35 (konjugovana funkcija) Svakoj funkciji f : D(f) → R dod-jeljuje se konjugovana funkcija f∗ : D(f∗) → R,

f∗(y) = supx∈D(f)

(〈y, x〉 − f(x)), (46)

gdje je D(f∗) skup tacaka za koje je supremum konacan. Svaka konjugovanafunkcija je konveksna.

42

4. Infimum konveksnih funkcija

ϕ(λ1u1 + λ2u

2) = infx

(f(x) +

⟨λ1u

1 + λ2u2, g(x)

⟩)=

= infx

(λ1f(x) + λ1〈u1, g(x)〉+ λ2f(x) + λ2〈u2, g(x)〉) >

> λ1 infx

(f(x) + 〈u1, g(x)〉) + λ2 inf

x

(f(x) + 〈u2, g(x)〉) =

= λ1ϕ(u1) + λ2ϕ(u2), za sve λ1, λ2 > 0, λ1 + λ2 = 1.

Primjer 36 (zatvorenje) Funkcija cl f, zvana zatvorenje funkcije f definisese sa

epi(cl f) := cl(epi f).

Kazemo da je neka funkcija zatvorena ako je jednaka svom zatvorenju, tj.

f = cl f.

Prema teoremi 2. f je zatvorena na zatvorenom skupu ako i samo ako je odozdopoluneprekidna funkcija. Ako je f konveksna onda je i cl f konveksna funkcija(Teorema 6.) Ovim vaznim funkcijama posveticemo vise paznje kasnije i izmeduostalog pokazacemo, u konveksnom slucaju, da je zatvorenje supremum afinihminoranti date funkcije.

5.Infimalna konvolucijaNeka su f1 i f2 konveksne funkcije na Rn, sa zajednickom afinom minorantom.Odredimo funkciju f1 ⊕ f2 primjenjujuci teoremu ... na zbir nadgrafa datihfunkcija. Dakle, podimo od problema minimizacije

inf{

α :(

xα

)∈ epi f1 + epi f2

}=

inf{α1 + α2 : α1 > f1(x1), α2 > f1(x1), x = x1 + x2

}.

Nakon eliminacije α1 i α2 imamo

(f1 ⊕ f2)(x) = infx=x1+x2

(f1(x1) + f2(x2)

), (47)

a mozemo pisati i

(f1 ⊕ f2)(x) = infy∈Rn

(f1(y) + f2(x− y)).

Prema konstrukciji je epi (f1)+epi (f2) ⊆ epi (f1⊕f2). Za (x, α)> ∈ epi (f1⊕f2),gdje je α > 0, postoje v i ε > 0 takvi da je f1(v) + f2(x− v) + ε = α i

(xα

)=

(v

f1(v) + ε2

)+

(x− v

f2(x− v) + ε2

)∈ epi f1 + epi f2.

Vidimo da vrijedi

{(x, α) : (f1 ⊕ f2)(x) < α} ⊆ epi f1 + epi f2 ⊆ {(x, α) : (f1 ⊕ f2)(x) 6 α},a dalje nece moci:

43

Primjer 37 f1(x) = ex, f2(x) = 0, (f1 ⊕ f2)(x) = 0, ...

5.

Konveksni omotac minimuma

Ovdje cemo, prvo, proizvoljnoj funkciji f dodijeliti blisku joj konveksnu funkciju,uzimajuci u Teoremi 41, da je C = co epi f . Opet pretpostavljamo da f imaafinu minorantu ... Imamo

co f := inf{

α :(

xα

)∈ co epi f

}. (48)

SLIKA

Na ovaj nacin moze se definisati operacija sa konveksnim funkcijama f1 co∨ f2 =co (f1 ∨ f2). Mi cemo krace pisati f1 M f2 za ovu operaciju.

Neka je x =∑k

i=1 λixi, konveksna kombinacija tacaka iz domena funkcije f .

Tada je (xi, f(xi)) ∈ epi f , i∑k

i=1 λi(xi, f(xi)) = (x,∑k

i=1 λif(xi)) ∈ co epi f ,

zbog epi f ⊆ co epi f . Sada je co f(x) 6k∑

i=1

λif(xi), po definiciji, i na kraju

co f(x) 6 inf

{k∑

i=1

λif(xi) : k ∈ N, xi ∈ D(f), λ ∈ σk−1, x =k∑

i=1

λixi,

}. (49)

Neka su sada x i ε > 0 proizvoljni. Postoji α takav da je (x, α) ∈ co epi f iα < co f(x) + ε. Znaci da je x =

∑ki=1 λix

i, f(xi) 6 αi,∑k

i=1 λiαi = α, zaodgovarajuce tacke xi i brojeve αi, λi. Slijedi

k∑

i=1

λif(xi) 6k∑

i=1

λiαi = α < co f(x) + ε,

pa izlazi da u (41) stoji znak jednakosti. Zbog (17)

(f1 M f2)(x) = infx=(1−λ)u+λv,λ∈[0,1]

((1− λ)f(u) + λf(v)) (50)

(f1 M f2)(x) = infx = (1− λ)u + λv

λ ∈ [0, 1]

((1− λ)f(u) + λf(v)). (51)

pojam konveksnih vektorskih funkcija. Za funkciju g : Rn → Rm, g =(g1, ..., gm) kazemo da je konveksna vektorska funkcija, ako su sve komponentnefunkcije gi konveksne. U tom slucaju prirodno, nivoski skup {x ∈ Rn : g(x) 6a}, a = (a1, ..., am) je presjek nivoskih skupova lev(gi, ai).

Poluneprekidnost i zatvorenost

44

U konveksnoj optimizaciji je vazan pojam poluneprekidnosti odozdo. Opisacemotakve funkacije pomocu afinih minoranti, a koristeci i pojam zatvorenja funkcije.

Teorema 48 Ako je funkcija f konveksna na zatvorenom konveksnom skupu Conda vrijedi

cl f(x) = sup(a,α)∈Af

(〈a, x〉 − α). (52)

Dokaz. Oznacili sa f funkciju datu supremumom afinih minoranti funkcije f .Kako je cl epi f ⊆ epi f uvijek vrijedi f 6 cl f . Neka je cl f(x0) > f(x0),za neki x0 ∈ C. Tada je i cl f(x0) > ξ = cl f(x0)+f(x0)

2 . Posto je epi cl fzatvoren skup, imamo da postoji afina minoranta a funkcije cl f takva da jea(x0) = cl f(x0)+f(x0)

2 . Medutim, to je afina minoranta i funkcije f , pa zbogf(x0) > a(x0) mora da je f(x0) > cl f(x0), sto je suprotno pretpostavci. ¤

Posljedica 6 Funkcija f je konveksna i odozdo poluneprekidna na konveksnomskupu C ako i samo ako je supremum svojih afinih minoranti zatvorena.

DOKAZ. Neka je vrijedi formula f(x) = sup(a,α)∈Af(〈a, x〉 − α) Prema teo-

remi 47 i primjeru 21 f je konveksna. Pokazimo da je i poluneprekidna odozdo.Za to je dovoljna zatvorenost nivoskih skupova (Teorema 2). Neka je xk ∈ lev(f, α) i xk → x0. Skup C je zatvoren tako da je x0 ∈ C. Dalje, imamo redom,za sve prirodne brojeve k f(xk) = f(xk) 6 α, sup

a∈Af

a(xk) 6 α, a(xk) 6 α.

Slijedi a(x0) 6 α, i x0 ∈ lev (f, α). Obratno, poluneprekidna odozdo funkcija jezatvorena, pa se u (53) pise f umjesto cl f . ¤

Konveksnost diferencijabilnih funkcija

Sljedece dvije teoreme sadrze kriterijume konveksnosti diferencijabilnih funkcija.Uzimajuci u prethodnoj nejednakosti da je x = x2 i x1 umjesto x0 dobijamo(53). Stavise uslov x1 ∈ int C je suvisan.

Teorema 49 Nejednakosti

f(x2) > f(x1) +⟨∇f(x1), x2 − x1

⟩, (53)

⟨∇f(x2)−∇f(x1), x2 − x1⟩

> 0 (54)

vrijede, za sve x1, x2 ∈ C, ako i samo ako je f je konveksna na C.Dokaz. Neka je f diferencijabilna konveksna funkcija, x1, x2 ∈ C i λ ∈]0, 1].

Tada iz (37) dobijamo f(x1+λ(x2−x1))−f(x1)λ 6 f(x2), odakle pri λ → 0+ izlazi

(53). U drugom smjeru imamo

f(x1)− f((1− λ)x1 + λx2)) >⟨∇f((1− λ)x1 + λx2), λ(x1 − x2)

⟩,

45

f(x2)− f((1− λ)x1 + λx2)) > 〈∇f((1− λ)x1 + λx2), (1− λ)(x2 − x1)〉,pa mnozenjem prve nejednakosti sa 1 − λ, a druge sa λ i sabiranjem izlazidefiniciona nejednakost (37). Sabiranjem odgovarajucih strana nejednakosti(53) i nejednakosti 〈∇f(x2), x1− x2〉 6 f(x1)− f(x2) dobija se (54). Na krajupokazimo da tacnost nejednakosti (54) na C povlaci (53). Zaista, na osnovuformule za srednju vrijednost, za neki θ ∈]0, 1[ vrijedi

f(x2)− f(x1) = 〈∇f(x1 + θ(x2 − x1)), x2 − x1〉.

Ako vrijedi (54) imamo 〈∇f(x1+θ(x2−x1))−∇f(x1), θ(x2−x1)〉 > 0, odnosno

〈∇f(x1 + θ(x2 − x1)), x2 − x1〉 > 〈∇f(x1), (x2 − x1)〉,

sto uz prethodnu jednakost znaci (53). ¤Inace ova teorema moze se dokazati pomocu Teoreme ?. i cinjenica da je

grafik konveksne funkcije jedne promjenljive iznad tangente, odnosno da je izvodneopadajuca funkcija. Navedenu teoremu iskoristimo za dokaz kriterijuma kon-veksnosti drugog reda.

Teorema 50 Neka je f neprekidna na C i dva puta neprekidno diferencijabilnana int C 6= ∅. Tada, f je konveksna na C ako i samo ako za sve x ∈ int C, v ∈ Rn

〈∇2f(x)v, v〉 > 0. (55)

Dokaz. Neka je x ∈ int C, v ∈ Rn i t > 0 takav da je x + tv ∈ C. Stavljajuci u(14) da je x1 = x i x2 = x + tv, dobija se

ϕ′′(t) = t2〈∇2f(x)v, v〉.

Konveksnost funkcije f povlaci konveksnost ϕ odakle izlazi ϕ′′(t) > 0, odnosno(18), za x ∈ int C, v ∈ Rn. Obratno, za svaki x1, x2 ∈ C i neki θ ∈]0, 1[

〈∇f(x2)−∇f(x1), x2 − x1〉 = 〈∇2f(x2 + θ(x2 − x1))(x2 − x1), x2 − x1〉

pa vidimo da (54) povlaci (55), tj. konveksnost funkcije f na int C. Sada zbogneprekidnosti slijedi da je ta funkcija na konveksna i na C. ¤

Primjer 38 f(x) = x11 − x2

2 je konveksna na C = {x ∈ R2 : x2 = 0}, ali zav = e2 je 〈∇2f(x)v, v〉 = −2. Ovdje je int C = ∅.

Primjer 39 Kob-Daglasova funkcija

f(x) = α0 xα11 · · · xαn

n , x ∈ Rn+, α0 < 0, α1 > 0, ..., αn > 0

je konveksna zan∑

i=1

αi 6 1.

46

Zaista,

⟨∇2f(x)v, v⟩

= f(x)

(n∑

i=1

αivi

xi

)2

−n∑

i=1

αiv2

i

x2i

,

tako da iz nejednakosti Kosi-Bunjakovskog je 〈∇2f(x) v, v 〉 > 0.

Ako jen∑

i=1

αi > 1, f nije konveksna, jer stavljajuci 1 = (1, ..., 1) imamo

f

(0 + 1

2

)= α0 2

−n∑

i=1

αi

> α0 2−1 =f(0) + f(1)

2. ¤

f(0+1

2

)= α02−

∑ni=1 αi > α02−1 = f(0)+f(1)

2 .

f(0+1

2

)= α0

2∑n

i=1 αi> α0

2 = f(0)+f(1)2 .

Subdiferencijali

Imamo, prema nejednakosti (53), da za diferencijabilnu konveksnu funkciju, zafiksiran x0 ∈ C i sve x ∈ C vrijedi

f(x)− f(x0) >⟨∇f(x0), x− x0

⟩.

Ovo daje mogucnost uopstavanja pojma gradijenta.

Definicija 6 Subgradijent funkcije f : S → R, S ⊆ Rn u tacki x0 ∈ S je vektory0 ∈ Rn takav da za sve x ∈ S vrijedi

f(x)− f(x0) > 〈y0, x− x0〉. (56)

Skup svih subgradijenata funkcije f u x0 naziva se subdiferencijal i oznacava sa∂f(x0). Dakle,

∂f(x0) ={y0 : f(x)− f(x0) >

⟨y0, x− x0

⟩ ∀x ∈ S}.

Za pozitivno homogene konveksne funkcije izdvaja se subdiferencijal u 0 :

∂h = {y ∈ Rn : 〈y, x〉 6 h(x) ∀x}.Primjedba 14 Geometrijski, hiperravan u Rn+1 data sa

xn+1 = 〈y0, x− x0〉+ f(x0)

je hiperrvan oslonca za epi f u tacki (x0, f(x0)). Kako je njen vektor nor-

male a =(

y0

−1

)ta hiperravan nije ortogonalna na Rn. Jasno je i obratno,

ako je hiperravan H(a, f(x0) − 〈y0, x0〉) potporna za epi f u (x0, f(x0)) i nev-ertikalna, onda je y0 subgradijent funkcije f u x0. Tada je an+1 6= 0 i y0 =

− 1an+1

a1

...an

∈ ∂f(x0).

47

slika

Na datoj slici je grafik konveksne funkcije date sa

f(x) ={

1−√1− x2, −1 6 x 6 0x

1−x , 0 6 x < 1

Primjer 40 Za funkciju f datu sa f(x) = −√x, x > 0 jedina potporna pravana nadgrafik, u (0, 0) je vertikalna, pa je subdiferencijal prazan. Ovo se vidi iiz definicije: y ∈ ∂f(0), povlaci

√x− (−√0) > y(x− 0), za sve x > 0. Odavde

je − 1√x

> y za sve x > 0, sto nije moguce, pa je ∂f(0) = ∅. Funkcija f jekonveksna i diferencijabilna za x > 0, pa na osnovu nejednakosti (56) imamo∂f(x) = {− 1

2√

x}.

slika

Uslov ∂f(x) 6= ∅ je vazan pa cemo ga posebno istaknuti.

Definicija 7 Funkcija f je subdiferencijabilna u x0 ∈ D(f) ako je ∂f(x0) 6= ∅.

Izlozicemo osnovna svojstva subdiferencijala, kao i neke formule subdiferenci-jalnog racuna.

Teorema 51 Subdiferencijal je zatvoren i konveksan skup.

Dokaz. Neka je ∂f(x0) 6= ∅. Prvi dio tvrdnje slijedi iz neprekidnosti skalarnogproizvoda u nejednakosti iz definicije. Dalje, uzmimo y0, y1 ∈ ∂f(x0) i λ ∈ [0, 1].Kako za sve x ∈ D(f), i za i = 0, 1 imamo f(x)−f(x0) >

⟨yi, x− x0

⟩, to nakon

mnozenja sa 1− λ (za i = 0), a sa λ (za i = 1), te sabiranja dobijamo

f(x)− f(x0) >⟨(1− λ)y0 + λy1, x− x0

⟩.

Dakle, (1− λ)y0 + λy1 ∈ ∂f(x0). ¤

Vidjeli smo da ni konveksna funkcija ne mora biti subdiferencijabilna u svimtackama (npr. iz bd C). Za ostale tacke situacija je drukcija.

Teorema 52 Neka je f konveksna funkcija i x0 ∈ int C. Tada je ∂f(x0)neprazan kompaktan skup.

Dokaz. Za v 6= 0 postoji t0 > 0 takav da je x0+tv ∈ C, za sve t ∈ [0, t0]. Skupovi

C1 =int epi f i C2 = {( xξ

) : x = x0 + tv, ξ = f(x0) + tf ′(x0, v), t ∈ [0, t0]}su konveksni kao interior nadgrafa konveksne funkcije, dok je C2 duz u Rn+1.Prema nejednakosti (42) ovi skupovi su disjunktni. Sada po Posljedici 4. postoje

vektor (aα

) 6= 0 i broj β, takvi da vrijedi

⟨(aα

),

(xξ

)⟩< β 6

⟨(aα

),

(x0 + tv

f(x0) + tf ′(x0, v)

)⟩,

48

za sve x ∈ int C, ξ > f(x) i t ∈ [0, t0]. Uzimajuci da je x = x0, ξ = f(x0)+1 i t =0 dobijamo da je α < 0. Dijeljenjem sa α, uz granicni proces ξ = f(x)+ε, ε → 0+izlazi nejednakost

f(x)− f(x0) + t⟨− a

α, v

⟩>

⟨− a

α, x− x0

⟩+ tf ′(x0, v). (57)

Na kraju, pri t = 0, dobijamo da je − aα ∈ ∂f(x0). Neka je sada y0 subgradijent

i v proizvoljan pravac. Tada, za sve t ∈]0, t0[ imamo f(x0 + tv

) − f(x0

)>⟨

y0, tv⟩, odakle je f ′

(x0; v

)>

⟨y0, v

⟩. Dalje slijedi

supy∈∂(x0)

〈y, v〉 6 f ′(x0; v).

Kako je x0 ∈ int C, onda je funkcija v 7→ f ′(x0; v) konveksna na Rn. Zbogneprekidnosti ona je ogranicena na jedinicnoj kugli, pa za sve subgradijentey ∈ ∂f(x0), y 6= 0 vrijedi 〈y, y

‖y‖ 〉 6 f ′(x0; y‖y‖ ) 6 M, tj. ‖y‖ 6 M. Znaci,

∂f(x0) je ogranicen skup, a vec smo vidjeli da je zatvoren . ¤

Ustanovimo vezu izmedu subdiferencijala i jednostranih izvoda.

Teorema 53 Neka je f konveksna na C ⊆ Rn, x0 ∈ int C. Tada vrijedi

maxy∈∂f(x0)

〈y, v〉 = f ′(x0; v). (58)

Dokaz. Prethodna nejednakost postaje maxy∈∂f(x0)

〈y, v〉 6 f ′(x0; v). Iz (57) za

x = x0 vidimo da se maksimum dostize u − aα . ¤

Primjedba 15f ′(x; v) = S∂f(x)(v), (59)

Specijalno, za pozitivno homogene funkcije imamo

h(v) = h′(0; v) = S∂h(0)(v),

kraceh = S∂h.

Teorema 54 Konveksna funkcija f je diferencijabilna u x0 ∈ int C ako i samoako je ∂f(x0) jednoclan skup.

Dokaz. Ako je ∂f(x0) = {y0}, onda je prema (58) f ′(x0; v) = 〈y0, v〉, za svev ∈ Rn. Funkcija v 7→ f ′(x0, v) je linearna, sto uz Lipsic neprekidnost f u x0

povlaci diferencijabilnost. Obratno, neka postoji ∇f(x0), i neka je y0 subgradi-jent funkcije f u tacki x0. Za sve vektore v mora biti 〈y0, v〉 6 〈∇f(x0), v〉,odakle je 〈∇f(x0)− y0, v〉 > 0, pa je ∇f(x0) = y0. ¤

Za racunanje subdiferencijala vazna su naredna tvrdenja.

49

Teorema 55 (Moro-Rokafelar) Neka su f1, f2 konveksne funkcije na skupuC sa nepraznim interiorom. Tada za sve x0 ∈ C vrijedi

∂(f1 + f2)(x0) = ∂f1(x0) + ∂f2(x0). (60)

Dokaz.Iz

(f1 + f2)′(x0; v) = f ′1(x0; v) + f ′2(x

0; v)

i ...slijedi

maxa∈∂(f1+f2)(x0)

〈a, v〉 = maxa∈(∂f1(x0)+∂f2x0)

〈a, v〉

Primjedba 16 Za α > 0 imamo

∂(αf)(x) = α∂f(x),

posto je αf(x) − αf(x0) >⟨y0, x− x0

⟩isto sto i y0 = αz0 i f(x) − f(x0) >⟨

z0, x− x0⟩.

Poznato je da iz diferencijabilnosti konveksnih funkcija f1 i f2 ne slijedidiferencijabilnost konveksne funkcije f1 ∨ f2 u tackama x0 za koje je

f1(x0) = f2(x0).

Zato je, u tom slucaju, potrebno odrediti, njen subdiferencijal.

Teorema 56 (Dubovicki - Miljutin) Neka su f1 i f2 konveksne funkcije nakonveksnom skupu C ⊆ Rn i neka je f1(x0) = f2(x0), x0 ∈ int C. Tada vrijedi

∂(f1 ∨ f2)(x0) = ∂f1(x0) ∪ ∂f2(x0). (61)

Dokaz

(f1 ∨ f2)′(x0, v) = max (f ′1(x0, v), f ′2(x

0, v)) = max06λ61

(λf ′1(x0, v) + (1−

λ)f ′2(x0, v)) = max

06λ61(λ max

a∈∂f1(x0)〈a, v〉) + (1− λ) max

b∈∂f2(x0)〈b, v〉) =

max06λ61

maxa∈∂f1(x0),b∈∂f2(x0))

〈λa + (1− λ)b, v〉 = maxc∈∂f1(x0)∪∂f2(x0)

〈c, v〉.

S druge strane

(f1 ∨ f2)′(x0, v) = maxc∈∂(f1∨f2)(x0)

〈c, v〉,

pa na osnovu...¤

Primjer 41 Odredimo ∂h(x), ako je h(x) = |x|, x ∈ R, i ∂‖ · ‖

50

Za x 6= 0 funkcija f je diferencijabilna, pa je stvar jasna. Stavimo h1(x) =−x, h2(x) = x. Sada je h = h1 ∨ h2, h1(0) = h2(0), tako da imamo

∂(h1 ∨ h2)(0) = ∂h1(0) ∪ ∂h2(0) = {−1} ∪ {1} = [−1, 1].

U opstem slucaju za h(x) = ‖x‖, x ∈ Rn vrijedi ∂h = B.Zaista, y ∈ B, x ∈ Rn povlaci 〈y, x〉 6 ‖x‖ ‖y‖ 6 ‖x‖, odnosno nejednakost〈y, x− 0〉 6 ‖x‖ − ‖0‖, pa je y ∈ ∂h.Na drugu stranu imamo y ∈ ∂h ⇒ y ∈ B, buduci da iz ‖x‖ > 〈y, x〉, za svex ∈ Rn, pri x = y slijedi 1 > ‖y‖.

Konjugovane funkcije

Konjugovane funkcije smo vec definisali (primjer ), a ovdje cemo ukazati nanjihov znacaj. Problem minimizacije

min f(x), x ∈ S ⊆ Rn

je ekvivalentan sa−max (−f(x)), x ∈ S.

U vezi s njima korisno je razmotriti skup problema

max {〈y, x〉 − f(x) : x ∈ S}, y ∈ Rn.

Vidimo da se ovdje javlja nova funkcija vezana za f :

y 7→ maxx∈C

(〈y, x〉 − f(x)).

koja nije nista drigo do njena konjugovana funkcija. Navedimo jos da ako znamofunkciju f∗, onda je vrijednost −f∗(0) optimalna za dati problem minimizacije.S druge strane, u teoretskim razmatranjima, linearan dodatak 〈y, x〉 ne nameceposebne zahtjeve.Do istog pojma se dolazi ako nas zanima najmanja realna vrijednost koju uzimaα takvo da je x 7→ 〈y0, x〉 − α afina minoranta funkcije f na Df , odnosno da zasve x ∈ Df vrijedi 〈y0, x〉 − f(x) 6 α. Jasno, to je

α0 = supx∈Df

(〈y0, x〉 − f(x)).

tako da dobijamo preslikavanje y0 7→ α0, koje je f∗.na kraju odredimo potpornu funkciju za nadgraf funkcije f . Imamo

Sepi f ( yη

) = sup

(xξ

)∈epif

(〈x, y〉+ ξη).

51

Jasno, ako je η > 0, onda (yη

) /∈ D(Sepif ). Uzmimo da je η = −1. Sada je

Sepi f (y−1 ) = sup

x ∈ D(f)ξ > f(x)

(〈x, y〉 − ξ) = supx∈D(f)

(〈x, y〉 − f(x)) = f∗(y).

.

Primjedba 17 Situcija u kojoj je D(f∗) = ∅ nije iskljucena, sto pokazujeprimjer funkcije f(x) = x3,Df = R. Ovdje je sup

x∈R(yx − x3) = +∞, za sve

y ∈ R.

Primjer 42 Ako je f diferencijabilna konveksna funkcija jedne promjenljive,ciji izvod je invertibilan, onda vrijedi

f∗(y) = y(f ′)−1(y)− f((f ′)−1(y)

).

Dovoljno je uociti da je y 7→ xy − f(x) konkavna funkcija, pa se maksimumnalazi medju tackama za koje vrijedi x = f ′(y). Specijalno za funkcijuf(x) = ex, x ∈ R imamo f∗(y) = y ln y − y, y > 0.Naravno, treba vidjeti i sljedece: f∗(0) = sup

x(0 · x − ex) = 0, a za y < 0 je

supx

(y · x− ex) = +∞. Znaci Df∗ = [0,+∞[.

Primjer 43 Za afinu funkciju f(x) = 〈a, x〉 − β vrijedi

Df∗ = {a}, f∗(a) = β.

Zaista, supx∈Rn (〈y, x〉 − 〈a, x〉+ β) = supx∈Rn〈y − a, x〉 + β je konacan samoza y = a, dok za x = t(y−a) 6= 0 imamo supx∈Rn〈y−a, x〉 > supt>0 t‖y−a‖2 =+∞.

Primjer 44 Neka je h pozitivno homogena funkcija na Rn. Vrijedi

Dh∗ = {y ∈ Rn : 〈y, x〉 6 h(x) ∀x ∈ Rn} = ∂h, h∗(y) = 0.

Uzmimo da je 〈y, x0〉 > h(x0), za neki x0 ∈ Rn. Slijedi

supx∈Rn

(〈y, x〉 − h(x)) > supα>0

(〈y, αx0〉 − h(αx0)) > supα>0

α(〈y, x0〉 − h(x0)) = +∞,

tako da y nije u Dh∗ . Neka je sada 〈y, x〉 6 h(x), za sve x ∈ Rn Imamo

0 > supx∈Rn

(〈y, x〉 − h(x)) > 〈y,0〉 − f(0) = 0.

Uzmimo specijalno ga je h = ‖ · ‖. Tada je, prema primjeru 41, domen konjugo-vane ∂h = B, pa mozemo pisati

‖ · ‖∗ = IB. (62)

¤Ako je domen konjugovane funkcije neprazan mozemo odmah ustanoviti neka

njena bitna svojstva.

52

Teorema 57 Neka je f proizvoljna funkcija za koju je Df∗ 6= ∅. Tada je Df∗

konveksan skup, a f∗ zatvorena konveksna funkcija.

Dokaz. Za y1, y2 ∈ D(f∗), λ ∈ [0, 1] vrijedi supx∈Df

(〈(1− λ)y1 + λy2, x〉 − f(x)) 6

6 (1−λ) supx∈Df

(〈y1, x〉−f(x))+λ supx∈Df

(〈y2, x〉−f(x)) < +∞, te je (1−λ)y1 +

λy2 ∈ D(f∗), i f∗((1−λ)y1+λy2) 6 (1−λ)f∗(y1)+λf∗(y2). Uostalom, nadgrafepi f∗ je zatvoren i konveksan skup (Primjer 29.). ¤

Iz definicije direktno slijedi da za sve x ∈ D(f) i sve y ∈ D(f∗) vrijedi

f(x) + f∗(y) > 〈x, y〉. (63)

Ova nejednakost se zove Fenhelova ili Jang-Fenhelova.

Teorema 58 Ako je f proizvoljna, α > 0 i l invertibilno linerno preslikavanjena Rn, onda funkcije definisane izrazima zdesna su konjugovane onima cijeformule su slijeva.

αf(x) + 〈a, x〉+ β αf∗(y−aα )− β

f ◦ l f∗ ◦ (l−1)∗

f(x− x0) f∗(y) + 〈y, x0〉.

DOKAZ.

Teorema 59(inf

ifi))∗ = sup f∗i (64)

Prirodno je definisati konjugovanu funkciju funkcije f∗, i ustanoviti njenu vezusa f . Umjesto (f∗)∗ pisemo f∗∗, i to je bikonjugovana funkcija funkcije f . Dakle

f∗∗(x) = supy∈Df∗

(〈x, y〉 − f∗(y)). (65)

Koristeci Fenhelovu nejednakost

f(x) > 〈y, x〉 − f∗(y)

na osnovu (65) dobijamo da za sve x ∈ D(f) vrijedi

f(x) > f∗∗(x). (66)

slike f...

53

Neka je D(f∗) 6= ∅. Iz Fenhelove nejednakosti slijedi da f ima afinu minorantux 7→ 〈a, x〉 − α. Dalje je, redom, 〈a, x〉 − f(x) 6 α, a ∈ D(f∗), f∗(a) 6 α,〈a, x〉 − α 6 〈a, x〉 − fc(a), odakle je

supa∈Af

(〈a, x〉 − α) 6 supa∈D(f)

(〈a, x〉 − f∗(a)),

cl f(x) 6 f∗∗(x). (67)

Odgovor na pitanje kada su funkcija i njena bikonjugovana funkcija jednakedirektno izlazi iz nejednakosti (66) i (67)

Teorema 60 (Fenhel-Moro) Funkcija f je odozdo poluneprekidna i kon-veksna na zatvorenom C ako i samo ako je

f = f∗∗. (68)

Dokaz. Iz jednakosti slijedi da je f konveksna, i poluneprekidna odozdo (f∗∗ jekonveksna i zatvorena). Obratno, iz konveksnosti i poluneprekidnosti je f = clf. Kako jos imamo cl f 6 f∗∗ 6 f, slijedi f = f∗∗. ¤

Veza izmedu subdiferencijala funkcije f i njene konjugovane funkcije data jesljedecim tvrdenjima.

Teorema 61 Neka je f proizvoljna funkcija i x0 ∈ Df . Tada vrijedi

y0 ∈ ∂f(x0) ⇐⇒ f∗(y0) + f(x0) =⟨y0, x0

⟩, (69)

y0 ∈ ∂f(x0) =⇒ x0 ∈ ∂f∗(y0

). (70)

Ako je f konveksna i zatvorena u x0, onda vrijedi i obratna imp-likacija.

Dokaz. y0 ∈ ∂f(x0) povlaci f(x)− f(x0) >⟨y0, x− x0

⟩, odnosno

⟨y0, x0

⟩− f(x0) >⟨y0, x

⟩− f(x),

za sve x ∈ Df , sto znaci da je y0 ∈ D(f∗) i⟨y0, x0

⟩− f(x0) > f∗(y0).Pomocu Fenhelove nejednakosti dobijamo

⟨y0, x0

⟩= f(x0) + f∗

(y0

).

Na drugu stranu, iz ove jednakosti imamo

〈y0, x0〉 − f(x0) = f∗(y0) > 〈y0, x〉 − f(x),

tj. za sve x ∈ Df vrijedi 〈y0, x− x0〉 6 f(x)− f(x0), i y0 ∈ ∂f(x0).

U dokazu druge formule podimo od y0 ∈ ∂f(x0). Prema vec dokazanom je

f∗(y0)− 〈x0, y0 − y〉 = 〈y, x0〉 − f(x0) 6 f∗(y).

Znaci, za sve y ∈ Df∗ imamo f∗(y)− f∗(y0) > 〈x0, y − y0〉, tj. x0 ∈ f∗(y0).Obratno, iz prve ekvivalencije i Moro-Fenhelove teoreme (tj. f(x0) = f∗∗(x0))slijedi

x0 ∈ f∗(y0) =⇒ f∗∗(x0) + f∗(y0) = 〈x0, y0〉 =⇒f(x0) + f∗(y0) = 〈x0, y0〉 =⇒ y0 ∈ ∂f(x0). ¤

54

Primjer 45 Funkcija f(x) ={

1, x = 00, x ∈]0, 1] , je konveksna, i ∂f(0) = ∅.

Njena konjugovana funkcija je f c(y) ={

0, y 6 0y, y > 0 , dok je ∂f c(0) = [0, 1].

Uocimo da f nije zatvorena u 0. Ako modifikujemo f tako da je f(x) = 0 zax > 0, onda je isto ∂f(0) = ∅, dok je domen konjugovane ]−∞, 0], f∗(y) = 0,a ∂f∗(0) = [0,+∞[

Primjer 46 Pomocu formule (69) mozemo da odredujemo konjugovane funkcije.Tako za diferencijabilne konveksne funkcije vise promjenljivih vrijedi

f∗(∇f(x)) = 〈∇f(x), x〉 − f(x).

Sada, ako je C simetricna PsemiD matrica reda n, q(x) = 12 〈Cx, x〉, x ∈ Rn,

onda je konjugovana funkcija q∗ data sa

q∗(Cx) = 12 〈Cx, x〉, x ∈ Rn.

U slucaju da je C PD matrica, iz ∇q(x) = Cx = y dobijamo x = C−1y, i

q∗(y) = 〈y, C−1y〉 − 12 〈y, C−1y, 〉 = 1

2 〈C−1y, y〉, y ∈ Rn.

Pokazimo da je Dq∗ = {Cx : x ∈ Rn} ako C jeste PsemiD, ali ne i PD matrica.Zaista, iz y ∈ Dq∗ slijedi

q∗(y) = supx∈Rn

(〈y, x〉 − f(x)) > supα∈R

(〈y, αx0〉 − α2

2〈Cx0, x0〉

),

za fiksiran x0 6= 0, koji cemo izabrati tako da bude 〈Cx0, x0〉 = 0. Sada jeq∗(y) > sup

α∈Rα〈y, x0〉, odakle proizilazi jednakost 〈y, x0〉 = 0. Znaci da je y or-

togonalan na {x : Cx = 0}, pa se nalazi u {Cx : x ∈ Rn}.Inace, po samoj definiciji, za y = Cx imamo

q∗(Cx) = supv∈Rn

(〈Cx, v〉 − 1

2〈Cv, v〉

)=

12〈Cx, x〉 − 1

2inf

v∈Rn〈C(v − x), v − x〉 =

=12〈Cx, x〉.

Specijalno, za C = I dobija se rezultat za euklidsku normu. ¤

55

Konveksne funkcije sa vrijednostima u

Posmatracemo sada funkcije f : Rn → R. Kazemo da je takva funkcijakonveksna ako je njen nadgrafik konveksan skup, sto je ekvivalentno sa

f((1− λ)x1 + λx2

)6 (1− λ)α + λβ,

za sve x1, x2 ∈ Rn, α > f(x1), β > f(x2) i sve λ ∈ [0, 1]. Konveksnost funkcijesa konveksnog skupa C prenosi se na Rn tako sto se na Rn \C dodefinise sa +∞.Efektivni domen dom (f) = {x ∈ Rn : f(x) < +∞} konveksne funkcije f jekonveksan skup.

Ako konveksna funkcija nije svojstvena, tj. ako nije ispunjen uslov (9) (domf 6= ∅,−∞ /∈ f(Rn), onda moze biti konacna jedino na rubu svog efektivnogdomena. Zaista, ako je x ∈ int dom(f), f(x1) = −∞, postoje x2 ∈ dom(f), λ ∈]0, 1[, za koje je x = (1− λ)x1 + λx2, i pri tome vrijedi

f(x) 6 (1− λ)f(x1) + λf(x2) = −∞.

Primjer jedne takve funkcije je f = sgn ·I{0}, odnosno

f(x) =

−∞, x < 00, x = 0

+∞, x > 0.

Primjer 47 Indikatorna funkcija nepraznog konveksnog skupa C

IC(x) ={

0, x ∈ C+∞, x /∈ C

je konveksna. Vrijedi i obratno, a to je jasno s obzirom da je epi IC = C × R.Za operacije sa (konveksnim) funkcijama imamo da vrijedi

IS + IT = IS∩T , IS ∨ IT = IS∩T , IS ⊕ IT = IS+T , IS M IT = IS∪T (71)

Na primjer jednakost (S ×R)+(T ×R) = (S+T )×R je ekvivalentna trecojformuli.

Vektor y0 ∈ Rn je subgradijent funkcije f u x0 ako za sve x ∈ Rn vrijedi

f(x) > f(x0) + 〈y0, x− x0〉.

Neposredno slijedi da f(x0) = −∞ povlaci ∂f(x0) = Rn, kao i da je f ≡ −∞.U suprotnom imamo vazno tvrdenje, koje se dokazuje kao teorema 26.

Teorema 62 Ako je konveksna funkcija f konacna u tacki x0 onda vrijedi

∂f(x0) = {y0 : f ′(x0; v) > 〈y0, v〉 ∀v}.

56

S druge strane imamo da, ako je f(x0) konacan i ∂f(x0) 6= ∅, onda je fkonveksna i vrijedi (34).Konjugovana funkcija za f : Rn →]−∞, +∞ ] definise se sa

f∗(y) = supx∈domf

(〈y, x〉 − f(x)).

Pri tome, ako f(x) 6= +∞, za neki x ∈ Rn onda je f∗(x) > −∞, za sve x.S druge strane, ako f ima afinu minorantu na Rn, onda je dom f∗ 6= ∅.Drugim rijecima f∗ je sopstvena funkcija. Mi cemo redovno posmatrati konvek-sne funkcije uz navedena dva uslova. Imajuci ovo u vidu, kao i ...

Teorema 63 Funkcija f koja nije identicki +∞ i ima afinu minorantu je sop-stvena, zatvorena i konveksna.

Teorema 64 f∗(y) = Sepif (y,−1).

Primjer 48 Prema primjeru 43. za linearnu funkciju l(x) = 〈a, x〉, a 6= 0, naRn imamo

l∗ = I{a}.

Primjer 49I∗C = SC . (72)

Rezultat slijedi direktno iz definicije.

Primjenjujuci Fenhel-Moroovu teoremu, iz prethodne formule, buduci da usustini u Primjeru 44. imamo

h∗ = I∂h, (73)

dobijamo (opet) da je svaka ...

h = S∂h.

Primjer 50 Za zatvoren konveksan skup C vrijedi.

S∗C = IC . (74)

Zaista, S∗C = I∗∗C = IC .

Pri tome je domen ove homogene funkcije ∂SC = C, zbog (75) i (76).

Primjer 51 Za funkciju Minkovskog vrijedi

M∗C = IC◦ . (75)

Posto je i ovo konveksna pozitivno homogena funkcija potrebno je odrediti samodomen njene konjugovane funkcije tj. skup ∂MC . Neka prvo y /∈ C◦. Tada postojix ∈ C takav da je 〈x, y〉 > 1. Posto je MC(x) 6 1, dobijamo

M∗C (y) > sup

α>0(〈αx, y〉 −MC(αx)) = sup

α>0α(〈x, y〉 −MC(x)) = ∞.

Ako je y ∈ C◦ onda za sve x ∈ dom MC i sve α ∈ Sx imamo 〈 xα , y〉 6 1, odakle

je 〈x, y〉 −MC(x) 6 0, pa je M∗C (y) 6 0. Dakle, ∂MC = C◦.

57

Teorema 65(f1 ⊕ f2)∗ = f∗1 + f∗2 (76)

(f1 M f2)∗ = f∗1 ∨ f∗2 (77)

DOKAZ.

Primjer 52D∗C = IB + SC . (78)

Uocimo da je DC = f1 ⊕ f2, gdje je f1(x) = ‖x‖, a f2(x) = IC(x). Sada je,prema prethodnoj teoremi

D∗C(y) = f∗1 (y) + f∗2 (y) = IB(y) + I∗C(y) = IB(y) + SC(y).

SS + ST = SS+T , SS ∨ ST = SS∪T ,

SC ⊕ SD = SS M ST = SC∩D

MS ∨MT = MS∩T , MS M MT = MS∪T

MS + MT = MS¢T , MS ⊕MT = MS∪T ,

NEKE PRIMJENEDokazimo neke poznate ali vazne cinjenice. Ako je C konveksan, zatvoren

skup i 0 ∈ C tadaIC◦◦ = M∗

C◦ = S∗C = IC .

Iz jednakosti indikatornih funkcija slijedi jednakost skupova C i C◦◦.

K1 i K2 zatvoren konvekni konusi, int K1 ∩K2 6= ∅ tada vrijedi formula...

I(K1∩K2)◦ = SK1∩K2 = SK1 ⊕ SK2 = IK◦1 ⊕ IK◦2

= IK◦1 +K◦

2.

Dakle, (K1∩K2)∗ = −(K1∩K2)◦ = −(K◦1 +K◦

2 ) = −K◦1 +(−K◦

2 )) = K∗1 +K∗

2 .

KONVEKSNE FUNKCIJE I EKSTREMI

Konveksne funkcije imaju niz svojstava koja olaksavaju odredivanje ekstrema:

Svaki lokalni minimum je globalni minimum.

Skup tacaka minimuma je konveksan skup, a ako je f strogo konveksna, tajskup je najvise jednoclan.

58

40. Neka je f diferencijabilna jako konveksna funkcija. Pokazati da je svakiskup L(x0) = {x : f(x) 6 f(x0)} ogranicen, i da f ima jedinstvenu tacku

minimuma. 11. Izf

((1− λ)x1 + λx2

)6 (1− λ)f(x1) + λf(x2)− α(1− λ)λ‖x1 − x2‖2 slijedi

f((x0+λ(x−x0))−f(x0)

λ 6 f(x)− f(x0)− α(1− λ)‖x0 − x‖2, i

〈∇f(x0), x0 − x〉 > f(x0)− f(x) + α‖x0 − x‖2.Na osnovu nejednakosti Kosi-Bunjakovskog, za x, za koje je f(x) 6 f(x0)

dobijamo

‖x− x0‖ 6 1α‖∇f(x0)‖.

Ta funkcija je neprekidna na kompaktnom skupu L(x0), pa ima minimum (cakglobalan), koji je jedinstven zbog stroge konveksnosti.

Tacka strogog maksimuma konveksne funkcije nije u skupu int Df .

x∗ je tacka globalnog minimuma diferencijabilne konveksne funkcije f na kon-veksnom skupu C ako i samo ako vrijedi

〈∇f(x∗), x− x∗〉 > 0 za sve x ∈ C. (79)

Ako f nije diferencijabilna prethodna nejednakost se zamjenjuje sa

0 ∈ ∂f(x∗). (80)

Dokazimo prvo tvrdenje. Neka je f(x∗) minimum funkcije f na Df ∩ B(x∗, ε)i neka je x ∈ Df . Postoji broj λ takav da je λx + (1 − λ)x∗ ∈ B(x∗, ε) ( npr.ako je x van te kugle, dovoljno je uzeti neki λ ∈] 0, ε

‖x−x∗‖ [.) Sada je, zbogkonveksnosti funkcije f , f(x∗) 6 f((1 − λ)x∗ + λx) 6 (1 − λ)f(x∗) + λf(x),odakle je f(x∗) 6 f(x) za sve x ∈ Df .

Ako bi konveksna funkcija imala strogi maksimum u x∗ ∈ int Df , za neke tackex1, x2 ∈ B(x∗, ε) ⊆ int Df bilo bi

2x∗ = x1 + x2, i f(x∗) = f

(x1 + x2

2

)6 f(x1) + f(x2)

2< f(x∗).

U vezi sa maksimumom konveksne funkcije navedimo sljedece. Ako je C ⊂ intDf

kompaktan skup, onda postoji x∗ ∈ C, tacka globalnog maksimuma, posto jef neprekidna. Kompaktan, konveksan C je konveksni omotac svojih vrhova,

pa je x∗ =s∑

i=1

λivi,

s∑

i=1

λi = 1, λi > 0. Dalje je f(x∗) = f

(s∑

i=1

λivi

)6

s∑

i=1

λif(vi) 6s∑

i=1

λi maxi∈{1,...,s}

f(vi) = maxi∈{1,...,s}

f(vi) 6 f(x∗). Dakle, vrijedi

maxi∈{1,...,s}

f(vi) = f(x∗),

59

tako da postoji vrh skupa C u kojem f dostize maksimum na C. Posljednjetvrdenje slijedi direktno iz nejednakosti (53), odnosno (56). Inace uslov (79)mozemo zamijeniti sa

〈∇f(x∗), v〉 > 0 za sve dopustive pravce v u x∗. (81)

Zaista, iz x∗, x ∈ C slijedi x∗ + λ(x− x∗) ∈ C, za sve λ ∈]0, 1[, tako da je x− x∗

dopustiv pravac, za sve x ∈ C. Obratna implikacija je jasna.

Kun - Takerova teorema

Mi cemo problemu konveksnog programiranja (3)da dodijelimo Lagranzovu funkciju

L(x, y) = f(x) + 〈y, g(x)〉

na skupu D × Rm+ .

Teorema 66 (Kun, Taker) Neka su funkcije f , gi(i ∈ J ) konveksne i nekaje skup G regularan po Slejteru. Tada je dopustiva tacka x∗ rjesenje problema(KP) ako i samo ako postoji y∗ > 0 takav da vrijedi

L(x, y∗) > L(x∗, y∗) ∀x ∈ C (82)

〈y∗, g(x∗)〉 = 0. (83)

Dokaz. ” ⇔ ”. Neka je x ∈ G. Tada je 〈y∗, g(x∗)〉 6 0, pa imamo f(x) > f(x)+〈y∗, g(x)〉 = L(x, y∗). Odavde je, zbog uslova (82) i (83), f(x) > L(x∗, y∗) =f(x∗). Dakle, f(x) > f(x∗) za sve x ∈ G.” ⇒ ” Oznacimo sa Gi nivoske skupove lev (gi, 0) i definisimo funkciju

F1 = f + IC + IG1 + ... + IGm .

Prema () x∗ je rjesenje problema (KP) ako i samo ako je 0 ∈ ∂F1(x∗). Za tackux0 iz Slejterovog uslova vrijedi i x0 ∈ int dom f , ∈ int dom IGi , pa na osnovuMoro - Rokafelarove teoreme i Primjera dobijamo

0 ∈ ∂f(x∗) + ∂IC +∑

i∈J (x∗)

y∗i yi, yi ∈ ∂gi(x∗).

Neka je vektor y∗ takav da za preostale koordinate, tj. y∗i za i /∈ J ∗, imavrijednost 0. Samim tim je ispunjen uslov (83). Pokazimo da je ispunjen i prviuslov. U tom cilju definisimo funkciju F2 : C → R,

F2(x) = L(x, y∗) + IC(x).

Sada je∂F (x∗) = ∂f(x∗) + ∂IC +

∑

i∈J (x∗)

y∗i ∂gi(x∗),

60

pa vidimo da je i 0 ∈ ∂F2(x∗). Dakle, x∗ je tacka minimuma funkcije x 7→F (x, y∗), na skupu C. Prema tome vrijedi (82). Drugi uslov je ocgledan, sobzirom da je po konstrukciji

y∗i gi(x∗) = 0, i = 1, ..., m. (84)

¤

Ako su f i g diferencijabilne, onda imamo uslov (82) postaje

∇xL(x∗, y∗) := ∇f(x∗) + 〈y∗,∇g(x∗)〉 = 0.

Primjer 53 Naci potreban i dovoljan uslov za postojanje rjesenja zadatka lin-earnog programiranja min {〈c, x〉 : Ax = b, x > 0},

Definicija 8 Tacka (x∗, y∗) ∈ C × R+ naziva se sedlasta tacka Lagranzovefunkcije ako za sve (x, y) ∈ C × R+ vrijedi

L(x∗, y) 6 L(x∗, y∗) 6 L(x, y∗). (85)

Primjedba 18 (x∗, y∗) ∈ C × R+ je sedlasta tacka funkcije L ako i samo akoje x∗ ∈ G i vrijede (82) i (83). Neka je (x∗, y∗) sedlasta tacka funkcije L. Postovrijedi (82) preostaje da se ustanovi drugi uslov. Prije svega, uzimajuci u lijevojnejednakosti

f(x∗) + 〈y, g(x∗)〉 6 f(x∗) + 〈y∗, g(x∗)〉da je y = y∗ + ei, redom za sve i ∈ J , dobijamo 〈ei, g(x∗)〉 6 0, odakle jeg(x∗) 6 0, tj. x∗ ∈ G. Sada je 〈y∗, g(x∗)〉 6 0, a pri y = 0 imamo 〈y∗, g(x∗)〉 >0. Slijedi 〈y∗, g(x∗)〉 = 0.Neka sada za neki par (x∗, y∗) ∈ C ×R+ vrijede tri navedena uslova. Pokazimoda je ta tacka sedlasta. Za proizvoljan y > 0 imamo

〈y∗ − y, g(x∗)〉 = −〈y, g(x∗)〉 > 0,

odnosno 〈y, g(x∗)〉 6 〈y, g(x∗)〉. Dodajuci na obje strane f(x∗) dobija se lijevanejednakost u (85).

Sada ...

Teorema 67 Neka su f i gi, i ∈ J konveksne funkcije, skup G regularan poSlejteru. Tada je x∗ tacka minimuma funkije f na G ako i samo ako postojiy∗ > 0 takva da je (x∗, y∗) sedlastu tacka funkcije L na C × Rm

+ .

Primjedba 19 Bez ikakvih posebnih uslova, iz postojanja sedlaste tacke slijedirjesivost problema minimizacije, tj. ako Lagranzova funkcija L ima sedlastutacku (x∗, y∗) na skupu C ×Rm

+ , onda je x∗ tacka globalnog minimuma funkcijef na G. tako da desna nejednakost u (69) postaje

f(x∗) 6 f(x) + 〈y∗, g(x)〉.

61

Kako je y∗ > 0, g(x) 6 0 na skupu G, to je na njemu i f(x∗) 6 f(x). ¤

Sedlaste tacke i minimaks

Postojanje sedlaste tacke funkcije F neposredno povlaci jednakost

minx∈X

F (x, y0) = maxy∈Y

F (x0, y), (86)

pri cemu su te vrijednosti jednake F (x0, y0). Obratno, iz ove jednakosti izlazida za sve (x, y) ∈ X × Y vrijedi

F (x0, y) 6 maxy

F (x0, y) = minx

F (x, y0) 6 F (x, y0),

odakle, uzimajuci x = x0, y = y0 slijedi F (x0, y0) = maxy

F (x0, y). Tako dobi-

jamo nejednakosti (63) iz definicije sedlaste tacke.Jednakost (65) navodi nas na pomisao da tada vazi i jednakost

minx∈X

maxy∈Y

F (x, y) = maxy∈Y

minx∈X

F (x, y),

a da je zaista tako vidimo iz sljedece teoreme.

Teorema 68 Funkcija F : X × Y → R, X ⊆ Rn, Y ⊆ Rm ima sedlastu tackuna skupu X × Y, ako i samo ako vrijedi

minx∈X

maxy∈Y

F (x, y) = maxy∈Y

minx∈X

F (x, y). (87)

Dokaz. Za sve (x, y), (x0, y0) ∈ X × Y vrijede nejednakosti

supy ∈ Y

F (x, y) > F (x, y) > infx∈X

F (x, y),

infx

supy

F (x, y) > supy

infx

F (x, y),

supy

F (x0, y) > infx

supy

F (x, y) > supy

infx

F (x, y) > infx

F (x, y0).

Ako F ima u (x0, y0) sedlastu tacku posljednje nejednakosti, uz (65), povlace

infx

supy

F (x, y) = supy

infx

F (x, y) (= F (x0, y0)),

tj, (66). Neka su sada, x0 i y0 tacke minimuma, odnosno maksimuma odgo-varajucih funkcija iz (66). Vrijedi max

yF (x0, y) = min

xF (x, y0), a to je (65). ¤

Uslovi koji obezbjeduju jednakost (66) sadrzani su u teoremama o minimaksu.Prvu od njih, za standardne simplekse i bilinearnu funkciju F (x, y) = x>Ay,dokazao je von Nojman (1928), a potom je dao i njeno uopstenje 1937.

62

Teorema 69 Neka je neprekidna funkcija (x, y) 7→ F (x, y) konveksna po x ∈X, konkavna po y ∈ Y, pri cemu su ovi skupovi konveksni i kompaktni. Tadavrijedi

minx∈X

maxy∈Y

F (x, y) = maxy∈Y

minx∈X

F (x, y).

Dokaz. Oznacimo lijevu stranu minimaks jednakosti sa α, a desnu sa β. Zbogneprekidnosti i kompaktnosti ove vrijednosti postoje. Pokazimo da je α = β.Jasno, iz F (x, y) > min

x∈XF (x, y), za sve y ∈ Y, slijedi

maxy∈Y

F (x, y) > maxy∈Y

minx∈X

F (x, y) = β,

za sve x ∈ X, pa jeα = min

x∈Xmaxy∈Y

F (x, y) > β.

Pretpostavimo da je α > β, i definisimo funkcije

Fy : x 7→ F (x, y),

za svaki y ∈ Y. Tada, zbog maxy∈Y

F (x, y) > α za sve x ∈ X, presjek svih nivoskih

skupova lev (Fy, α+β2 ) je prazan. Zbog kompaktnosti skupa X i zatvorenosti

nivoskih skupova postoji konacno vektora y1, ..., ym tako da je

m⋂

i=1

lev(Fyi ,

α + β

2)

= ∅.

Samim tim, uz oznaku G = (Fy1 − α+β2 , ..., Fym − α+β

2 )> vrijedi

{x ∈ X : G(x) < 0} = ∅.

Sve komponentne funkcije su konveksne po pretpostavci, tako da po Fan Gliks-berg Hofmanovoj teoremi postoji p = (p1, ..., pm) 0 takav da za sve x ∈ Xje

m∑

i=1

pi

(F

(x, yi

)− α + β

2

)> 0.

Stavljajuci da je λi = pi

p1+...+pm, iz konkavnosti polazne funkcije po y, za sve

x ∈ X slijediα + β

26

m∑

i=1

λiF (x, yi) 6 F

(x,

m∑

i=1

λiyi

).

Odavde je

α + β

26 min

x∈XF

(x,

m∑

i=1

λiyi

)6 max

y∈Yminx∈X

F (x, y) = β,

odnosno α 6 β. To je u suprotnosti sa pretpostavkom α > β, pa nam preostajejednakost. ¤

63

ZADACI

1. Razdvojiti skupove :

C1 = {x ∈ Rn :n∑

i=1

x2i 6 1}, C2 = {x ∈ Rn :

n−1∑

i=1

x2i + 1 6 xn}.

2. Odrediti sve konveksne zatvorene skup C ⊆ Rn takave da vrijedi SC = ‖ · ‖3. Pokazati da skup ext C, gdje je C = co (S ∪ {e1 + e3, e1 − e3}),

S =

x1

x2

0

: x2

1 + x22 = 1

nije zatvoren u R3.

4. Naci projekciju tacke x na C = {x ∈ Rn : Ax = b}.5. Pokazati da je x ∈ C je vrh konveksnog skupa C ako i samo ako C \ {x} je

konveksan.

6. Polaran skup potprostora V ⊆ Rn je njegova ortogonalna dopuna.

7. Pomocu polarnih skupova dokazati Farkasevu teoremu.

8. Skup{

(x, y) ∈ [13 ,+∞[× [

12 , +∞[

: x2 + y3 > x3 + y4

}je konveksan.

9. Svaki nivoski skup funkcije f : C −→ R C ⊆ Rn je konveksan ako i samo akoza sve x1, x2 ∈ C i sve λ ∈ [0, 1] vrijedi

f((1− λ)x1 + λx2) 6 max{f(x1), f(x2)}.

99 [Fan, Gliksberg, Hofman] Neka je g = (g1, ..., gm) konveksna vektorska

funkcija na konveksnom skupu C ⊆m⋂

i=1

D(gi). Tada vrijedi

{x ∈ C : g(x) < 0} = ∅⇐⇒ (∃u 0)(∀x ∈ C) 〈u, g(x)〉 > 0.

10. Neka su A,G, H aritmeticka, geometrijska i harmonijska sredina koordinatatacke x ∈ Rn. Pokazati da su x 7→ A(x), G(x),H(x) konkavne funkcije,na skupovima Rn,Rn

+, int Rn+, redom.

11. Pokazati da je funkcija Rn 3 x → f(x) = (1 + ‖x‖2)p

2 konveksna za p > 1.

64

12. Pokazati da je, za ai ∈ int Rn+, funkcija Rn

+ \ {0} 3 x 7→ f(x) =m∑

i=1

1〈ai, x〉

konveksna .

13. Neka je f pozitivna i konkavna na konveksnom skupu C ⊆ Rn. Dokazati da

je reciprocna funkcija1f

konveksna. Mogu li konveksnost i konkavnost da

zamjene uloge?

14. Ako je f konveksna na Rm, a g konveksna na Rn, onda su konveksne ifunkcije (fA)(x) := f(Ax), (Ag)(y) := infAx=y g(x).

15. Naci potporne funkcije skupova: x0 + B, B1, {x > 0 :∑n

i=1 xi = 1} i

{(x1, x2) : x1 + x222 6 0}.

16. Naci f1 ⊕ f2, f1(x) = 12 〈A1x, x〉, f2(x) = 1

2 〈A2x, x〉, matrice A1, A2 supozitivno definitne.

17. Ako konveksna funkcija ima parcijalne izvode, oni su neprekidni.

18. Odrediti f∗ ako je

f(x) =

−x

2, −2 6 x < 0

x(2− x), 0 6 x 6 2x− 2, 2 6 x

19. Za funkciju

f(x) ={ −√1 + x, −1 6 x 6 0

x2 − 1, 0 6 x 6 1,

odrediti konjugovanu funkciju. Uporediti njihovu diferencijabilnost i kon-veksnost.

20. Pokazati da je funkcija x 7→ f(x) = −√x1x2 konveksna na R2+, i naci njenu

konjugovanu funkciju.

21. Odrediti f∗ za funkciju f : [1, +∞[×[0, +∞[−→ R,

65

f(x1, x2) = x22 −

√x2

1 − 1.

22. Neka je C = H(1; 1)∩ int Rn+. Naci f∗ za C 3 x 7→ f(x) =

∑ni=1 xi ln xi.

23. Naci f∗ funkcije f(x) = 1p

n∑

i=1

|xi|p, p > 1.

24. Odrediti konjugovanu funkciju za f : Rn → R, f(x) = max {0, 〈a, x〉+α}.

25. Naci konjugovanu funkciju za Rn 3 x 7→ f(x) = maxi=1...m

‖x − ai‖, gdje su

a1, ..., am ∈ Rn.

26. Neka je f = f∗ na Rn. Tada je f(x) = 12‖x‖2.

27. Neka gradijent konveksne funkcije f ispunjava Lipsicov uslov na Rn. Pokazatida je f∗ jako konveksna funkcija na skupu C ⊆ {x ∈ Rn : ∂f∗(x) 6= ∅}.

28. Konveksna funkcija je subdiferencijabilna u x0 ∈ C ako i samo ako postojis > 0 takav da za sve x ∈ C vrijedi f(x0) 6 f(x) + s‖x− x0‖.

29. Dokazati da je funkcija data sa

f(x1, ..., xn) =√

x21 + ... + x2

k + x4k+1 + ... + x4

n

konveksna na Rn, klase C1 na Rn \ {0} i odrediti ∂f(0).

30. Naci subdiferencijale funkcija n promjenljivih datih izrazima :

max {xi : i = 1, ..., n},

max {|xi| : i = 1, ..., n}.

31. f konveksna h : v → f ′(x0, v). Tada ∂f(x0) = ∂h(0).

66

32. Za funkcijuf(x) = ||x| − 1|, x ∈ R

naci f∗, f∗∗, ∂f, ∂f∗.

33. Neka je f diferencijabilna i konveksna funkcija na Rn. Moze li da budeinfx>0

f(x) = −∞?

34. Neka je f konveksna funkcija i ∇f(x0) > 0 za neki x0 ∈ Rn. Pomocu tihvektora odrediti donju granicu vrijednosti π u problemu

min f(x), 〈1, x〉 6 1, x > 0.

35. Neka je f diferencijabilna na Rn. Tada je x∗ tacka njenog globalnog mini-muma ako i samo ako

∇f(x∗) = 0, f(x∗) = f∗∗(x∗).

36. Naci min f(x), x ∈ R, f(x) =∑n

i=1 |x − ai|, pri cemu ai su dati realnibrojevi (a1 < ... < an).

37. Za date vektore v1, ..., vm ∈ Rn, na kugli x ∈ B1, naci minimum funkcije

f(x) =m∑

i=1

‖x− vi‖ 2.

38. Naci projekciju tacke T (0, 1) na poliedar dat sistemom nejednacina:

x1 + 3x2 > 3, 3x1 + 2x2 > 6, −x1 + x2 6 1.

39. Naci min

(n∑

i=1

|xi − ai|)

, ako je x ∈ Rn in∑

i=1

xi = 0.

” RJESENJA”

1. Hiperravan H(en; 1) razdvaja date skupove, posto za sve x ∈ C1 vrijedi

〈en, x〉 6 ‖en‖‖x‖ 6 1,

dok za sve x ∈ C2 imamo

〈en, x〉 = xn > 1 + x21 + · · ·+ x2

n−1 > 1.

Ovdje je C1 ∩ C2 6= ∅, ali (int C1) ∩ C2 = ∅.

67

2. Iz supc∈C 〈c, x〉 = ‖x‖. slijedi 〈c, x〉 6 ‖x‖, za proizvoljan c ∈ C i sve x,pa uzimajuci c = x imamo 〈x, x〉 6 ‖x‖, sto znaci da je tacno c ∈ C ⇒ ‖c‖ 6 1,odnosno C ⊆ K(0, 1).Pokazimo da je tacna i suprotna inkluzija. Ako postoji c0 /∈ C, ‖c0‖ 6 1, onda(stroga separacija) postoje i vektor a 6= 0 i broj α takvi da vrijedi 〈a, c0〉 > α >〈a, c〉, za sve c ∈ C. Tada je supc∈C〈a, c〉 6 α < 〈a, c0〉 6 ‖a‖‖c0‖ 6 ‖a‖. ZnaciSC(a) < ‖a‖, sto ne moze po uslovima zadatka, tako da je C ⊇ K(0, 1).

3. ext C = {e1 + e3, e1 − e3} ∪ (S \ {e1}) nije zatvoren skup.

4. PC(x) = x−A>(AA>)−1(Ax− b)

5. x ∈ C je vrh konveksnog skupa C ako i samo ako C \ {x} je konveksan.Zaista, neka su x1, x2 u C \ {x}, koji je konveksan. Tada je [x1, x2] ⊆ C \ {x} pax /∈ [x1, x2], i x nije vrh. Ako x jeste vrh, a x1, x2 ∈ C \ {x} su proizvoljni, tadax /∈ [x1, x2] ⊆ C. Stoga je [x1, x2] ⊆ C \ {x}.

6. Kao i ...〈y, x〉 6 0, ali i 〈y,−x〉 6 0 za sve x ∈ V, tako da je V◦ = V⊥.

7. Koristimo uz K◦◦ = K i teoreme 2. i 15.

{x : Ax = b, x > 0} 6= ∅ ⇔ b ∈ {Ax : x > 0} = {Ax : x > 0}◦◦

⇔ 〈b, u〉 6 0 ∀ u ∈ {Ax : x > 0}◦

⇔ 〈b, u〉 6 0 ∀ u ∈ {y : A>y > 0}⇔ A>y > 0 ⇒ 〈b, y〉 6 0.

Uocimo da smo u sustini koristili cinjenicu da je polaran konus konacno gener-isanog konusa homogen konus.

8. Za funkciju f : R2 → R, f(x, y) = −x2 + x3 − y3 + y4 vrijedi

⟨∇2f(x)v, v⟩

= 2⟨(

3x− 1 00 6y2 − 3y

)v, v

⟩= 2(3x− 1)v2

1 + 6(2y2 − y)v22 .

Matrica ∇2f je PsemiD na[13 , +∞[ × [

12 ,+∞[

. Znaci f je konveksna, pa jenjen nivoski skup

{(x, y) ∈ [

13 ,+∞[× [

12 , +∞[

: f(x, y) 6 0}

, odnosno datiskup, konveksan.

9...

68

99. Skup C1 = {y ∈ Rm : g(x) < y, za neki x ∈ C} je konveksan ineprazan. Ako je skup {x ∈ C : g(x) < 0} prazan, onda 0 ne pripadaskupu C1. Prema Teoremi separacije . postoji u ∈ Rm \ {0}, takav da vri-jedi 〈u, y〉 > 0. Kako za svaki fiksiran x ∈ C, i svaki realan broj ε > 0 imamog(x) + εe ∈ C1, to je 〈u, g(x) + εe〉 > 0. Sada, pri ε → 0, dobijamo nejed-nakost 〈u, g(x)〉 > 0, za svaki x ∈ C. Pokazimo jos da je u > 0. Ako bismoimali da je neki uj < 0, uzimajuci yk = g(x) + εe + kej , k ∈ N dobili bismolimk 〈u, yk〉 = −∞. Obratno tvrdjenje imamo kontrapozicijom na osnovu imp-likacije g(x0) < 0, u 0 ⇒ 〈u, g(x0)〉 < 0.

10. A(x) =1n〈1, x〉 je na Rn je linearna funkcija. x 7→ G(x) je Kob -

Daglasova funkcija, pri α = 1, αi = 1n , i = 1, n, a ona je tada konkavna. Za

int Rn+ 3 x 7→ H(x) = n

1x1

+···+ 1xn

vrijedi

∇2H(x) =2n2

H3(x)

x−21...

x−2n

(x−2

1 , ..., x−2n

)− 2n

H2(x)Diag(x−31 , ..., x−3

n ).

Nejednakost 〈∇2H(x)v, v〉 6 0, za sve v ∈ Rn, x ∈ int Rn+ ekvivalentna je sa(∑n

i=1vi

x2i

)2

6∑n

i=11xi

∑ni=1

v2i

x3i, a ovo je najednakost Kosi-Bunjakovskog za

(1√x1

, ..., 1√xn

),

(v1√x31

, ..., vn√x3

n

).

11. Za Heseovu matricu date funkcije f vrijedi, za sve x, v ∈ Rn.

⟨∇2f(x)v, v⟩

= p(1 + ‖x‖2)

p−22

(1 + (p− 1)‖x‖2) ‖v‖2 > 0,

Konveksnost slijedi i iz cinjenice da je kompozicija konveksne funkcije sa rastucomkonveksnom funkcijom takode konveksna. Ovdje je prva funkcija norma, a drugat 7→ (1 + t2)

p2 .

12. Buduci da je t 7→ 1t , t > 0 konveksna funkcija, imamo da za sve αi, βi >

0, λ ∈ [0, 1] vrijedi1

(1− λ)αi + λβi6 1− λ

αi+

λ

βi,

pa uz αi = 〈ai, x〉, βi = 〈ai, y〉, i = 1, ...,m, nakon sumiranja, dobijamo

m∑

i=1

1〈ai, (1− λ)x + λy〉 6 (1− λ)

m∑

i=1

1〈ai, x〉 + λ

m∑

i=1

1〈ai, y〉 ,

sto znaci da je f konveksna.

69

13. Koristi se ista nejednakost kao u ... Konveksnost i konkavnost ne moguda zamjene uloge. Npr. f(x) = x2 + 1 je konveksna funkcija na R, ali 1

f nijekonkavna.

14...

15...

16. (A−11 + A−1

2 )−1

17...

18. Za y > 1 vrijedi supx∈R

(xy− f(x)) > supx>2

(xy− f(x)) = supx>2

(2 + x(y− 1)) =

+∞. Za y 6 1. maksimum izraza 2 + x(y − 1) je 2y.Preostale mogucnosti za xy−f(x) su xy+

x

2, za−2 6 x < 0, sa maksimumom 0,

ili−2(y+ 12 ), i xy−x(2−x), pri 0 6 x < 2. Za posljednji izraz, p(x) = x2+(y−2)x

vrijedi p(0) = 0, p(2) = 2y. Poredeci ove vrijednosti zakljucujemo

f c(y) =

−2y − 1, y 6 − 1

20, − 1

2 6 y 6 02y, 0 6 y 6 1

19.

f∗(y) =

−y − 14y

, y 6 − 12

1, − 12 6 y 6 0

1 +y2

4, 0 6 y 6 2

y, y > 2 .

f je strogo konveksna funkcija, ali nije diferencijabilna. Njena konjugovanafunkcija je diferencijabilna, ali nije strogo konveksna. Uopste, stroga konvek-snostfunkcije f povlaci diferencijabilnost funkcije f c.

20. Za konveksnost ove funkcije vidjeti zadatak 10., uz α = −1, n = 2, α1 =α2 = 1

2 . f je pozitivno homogena funkcija pa je

f c(y) = 0 na D(fc).

Odredimo D(f c) = {y ∈ R2 : 〈y, x〉 6 f(x) ∀x ∈ R2+}. Za sve (x1, x2) ∈ R2

+ iy = (y1, y2) treba da vrijedi y1x1 + y2x2 6 −√x1x2. Mora biti y1 < 0, y2 < 0,

70

pa uzimajuci y1 = y2 = −x1, x1 = x2 izlazi −2y21 6 y1, tj. −2y1 > 1. Isto je i

za drugu koordinatu, pa slijedi y1y2 > 14 .

Neka su y1, y2 < 0 i y1y2 > 14 . Imamo 2 (−y1)x1+(−y2)x2

2 > 2√

(−y1)(−y2)x1x2 >√x1x2, tj. y1x1 + y2x2 6 −√x1x2.

f∗(y) ={

0, y1 < 0, y2 < 0, 4y1y2 > 1+∞, inace

21. Za f(x1, x2) = f1(x1) + f2(x2), je f c(y1, y2) = fc1(y1) + f c

2(y2). Zadatakse svodi na odredivanje konjugovane funkcije za funkciju jedne promjenljive (uzupotrebu diferencijalnog racuna). Za funkciju f1(x1) = −

√x2

1 − 1, x1 > 1,

dobija se f c1(y1) = −

√y21 − 1, y1 6 −1, dok je fc

2(y2) =

{0, y2 < 0y224 , y2 > 0 .

za

f2(x2) = x22, x2 > 0.

f c(y1, y2) =

y224 −

√y21 − 1, y1 6 −1, y2 > 0,

−√

y21 − 1, y1 6 −1, y2 6 0 .

22...

23...

24. Za a = 0 f je konstantna, pa je D(fc) = {0}, i f c(0) = −max{0, α}.Uzmimo da je a 6= 0, i npr. a1 6= 0. Za y ∈ [0, a], tj. y = λa, 0 6 λ 6 1 vrijedi

supx{〈λa, x〉 − f(x)} 6 max{ sup

〈a,x〉6−α

λ〈a, x〉, sup〈a,x〉>−α

(λ− 1)〈a, x〉 − α} = −λα.

Dakle, [0, a] ⊆ D(fc),a kako za x1 =−α

a1e1 vrijedi 〈λa, x1〉 − f(x1) = −λα, to

jef c(λa) = −λα.

Dokazimo jos da jeD(f c) = [0, a].

Neka y ∈ dom(fc)\[0, a]. Tacka y moze se strogo razdvojiti od intervala. Postojic 6= 0 takav da je 〈c, y〉 > 〈c, λa〉 za sve λ ∈ [0, 1]. Uzimajuci λ = 0, pa λ = 1 do-bijamo 〈c, y〉 > 0, i 〈c, y〉 > 〈c, a〉+ α

t, za sve vrijednosti t vece od nekog t0. Sada

je supx

(〈y, x〉−f(x)) > supt>0

(〈y, tc〉−f(tc)) > supt>t0

t(〈y, c〉 −max

{0, 〈a, c〉+

α

t

})=

+∞. Zakljucnof c(y) = −y, y ∈ [0, a].

71

25...

26...

27. Neka su y, y0 ∈ C, i neka je x0 ∈ ∂f∗(y0). Tada y0 ∈ ∂f(x0), tj.y0 =∇f(x0). Za f vrijedi f(x) 6 f(x0) +

⟨∇f(x0), x− x0⟩

+ L2 ‖x − x0‖2. Zbog

f(x0) + fc(y0) = 〈x0, y0〉 dobijamo 〈y, x〉 − f(x) > f c(y0) + 〈y− y0, x〉 − L2 ‖x−

x0‖2. Dalje je

supx{〈y, x〉 − f(x)} > f c(y0) + sup

x

{⟨y − y0, x

⟩− L

2‖x− x0‖2

}.

Stavljajuci q(x) = L2 ‖x− x0‖2, imamo f c(y) > f c(y0) + qc(y − y0). Kako je

qc(y) =1

2L‖ y ‖2 + 〈y, x0〉,

izlazi f c(y) > fc(y0)+⟨x0, y − y0

⟩+ 1

2L‖y−y0‖2. za sve y ∈ C. Ova nejednakostje isto sto i

f c(y)− 12L‖y‖2 > f c(y0)− 1

2L‖y0‖2 +

⟨x0 − 1

Ly0, y − y0

⟩,

tako da posmatrana funkcija ima subgradijent u tacki y0 (i to x0 − 1Ly0) Subd-

iferencijabilnost funkcije u svakoj tacki skupa povlaci njenu konveksnost.

28...

29. Funkcija je konveksna ako i samo ako je njena restrikcija na svaku duziz domena konveksna. Zbog neprekidnosti date funkcije dovoljno je ustanovitikonveksnost na svakom otvorenom poluprostoru.

∇2(f · f)(x) = 2f(x)∇2f(x) + 2(∇f(x))>∇f(x)

f3(x)⟨∇2f(x)v, v

⟩= (x2

1 + ...+x2k +x4

k+1 + ...+x4n)(v2

1 + ...+ v2k +6x2

k+1v2k+1 +

... + 6x2nv2

n)− (x1v1 + ... + xkvk + 2x3k+1vk+1 + ... + 2x3

nvn)2 > 2(x21 + ... + x2

k +x4

k+1 + ... + x4n)(x2

k+1v2k+1 + ... + x2

nv2n) > 0, za sve v ∈ Rn. ∇2f je pozitivno

definitna na pomenutim poluprostorima.Odredimo jednostrani izvod funkcije f u 0, u pravcu v:

f+(0; v) = limt→0+

f(0 + tv)− f(0)t

=√

v21 + ... + v2

k.

72

Pomocu formule y0 ∈ ∂f(0) ⇔ f+(0; v) >⟨y0v

⟩ ∀ v, dobija se

∂f(0) ={x ∈ Rn : x2

1 + ... + x2k 6 1, xk+1 = ... = xn = 0

}.

30. Za f(x) = maxi=1,...,n

fi(x), gdje su fi konveksne, vrijedi

∂f(x) = co⋃

i∈J (x)

∂fi(x), J (x) = {i : fi(x) = f(x)}.

U prvom slucaju je fi(x) = xi, ∇fi(x) = ei, ∂fi(x) = {∇fi(x)},∂f(0) = co {e1, ..., en} = σn.

Za f(x) = ‖x‖∞ vrijedi ∂f(0) = con⋃

i=1

[−ei, ei] = B1(0, 1).

31...

32. Funkcija f∗ moze se dobiti direktno. Medutim, uocimo da je f = f1∧f2,f1(x) = |x− 1|, f2(x) = |x + 1|. Pri tome je

D(f∗1 ) = D(f∗2 ) = [−1, 1], f∗1 (y) = y, f∗2 (y) = −y.

Sada, zbog (f1 ∧ f2)∗ = f∗1 ∨ f∗2 , imamo

f∗(y) = max{−y, y} = |y|, y ∈ [−1, 1].

Dalje, f∗∗(x) = 0na intervalu [−1, 1], a za ostale vrijednosti je f cc = f .Funkcija f je diferencijabilna, osim u tackama: -1, 0, 1. Na primjer, ∂f(1) =[f ′−(1), f ′+(1)] = [0, 1], ∂f(0) = ∅.

33...

34. Zbog ∇f(x0) > 0, imamo da je

minx∈σn

⟨∇f(x0), x⟩

=⟨∇f(x0),0

⟩= 0.

Iz konveksnosti funkcije f na Rn slijedi f(x)−f(x0) >⟨∇f(x0), x

⟩−⟨∇f(x0), x0⟩,

pa za sve x ∈ σn vazi nejednakost f(x)− f(x0) > 0− ⟨∇f(x0), x0⟩, odnosno

f(x) > f(x0)− ⟨∇f(x0), x0⟩,

35. Neka je x∗ tacka minimuma funkcije f , koja je u njoj diferencijabilna.Uslov ∇f(x∗) = 0 je poznat. Dalje, kako je uvijek f cc = f 6 f , to je i

f cc(x∗) 6 f(x∗).

73

Konstantna funkcijaa : x 7→ f(x∗)

je afina minoranta funkcije f , pa je a 6 f , i specijalno vrijedi

f(x∗) 6 f(x∗),

odnosnof(x∗) 6 f cc(x∗).

Pretpostavimo sada da je

∇f(x∗) = 0, i f(x∗) = f cc(x∗),

pa dokazimo da je x∗ tacka minimuma funkcije f cc. Tada ce zbog

f(x∗) = fcc(x∗) 6 f cc(x) 6 f(x) ∀x ∈ Rn,

x∗ da bude tacka minimuma funkcije f . Dalje, posto je f cc konveksna funkcijadosta je dokazati da je njen gradijent u x∗ nula vektor. Dakle, za t > 0 vrijedi

f cc(x∗ + tek)− f cc(x∗)t

6 f(x∗ + tek)− f(x∗)t

.

Odavde , na osnovu pretpostavke ∇ f(x∗) = 0 dobijamo

(fcc)′+(x∗, ek) 6 0.

Isto je i za pravac −ek, te za sve k=1,...,n vrijedi

0 6 (−f cc)′+(x∗,−ek) 6 (fcc)′+(x∗, ek) 6 0,

odakle slijedi∇f cc(x∗) = 0.

Primjedba. Ovo je uopstenje Fermaove teoreme. Primjetimo da za funkcijekonveksne i diferencijabilne na Rn drugi uslov je ispunjen, tako da je tada

f(x∗) = minf(x) ⇔ ∇f(x∗) = 0.

36. Data funkcija je konveksna, ali nije diferencijabilna pa cemo koristitisljedece:

f(x∗) = minf(x) ⇔ 0 ∈ ∂ f(x∗)

Uzmimo: f(x) =n∑

k=1

fk(x), fk(x) = |x− ak|. Tada je ∂f(x) =n∑

k=1

∂fk(x), gdje

je

∂fk(x) =

{−1}, x < ak

[−1, 1] , x = ak

{1}, x > ak.

74

Slijedi ∂f(ak) = [2k − n − 2, 2k − n], i ∂f(x) = {2k − n}, za ak < x < ak+1.U slucaju da je n neparan vrijedi ∂f(an+1

2) = [−1, 1], dok pri parnom n imamo

∂f(an2) = [−2, 0], ∂f(an

2 +1) = [0, 2], i ∂f(x) = {0}, za sve x ∈ (an2, an

2 +1). Usvim ostalim slucajevima 0 nije u subdiferencijalu. Dakle, za neparan n je

x∗ = an+12

,

a za parne vrijednosti skup tacaka minimuma je[an

2, an

2 +1

].

37. G = {x ∈ Rn 〈x, x〉 6 1}, L(x, α) =m∑

i=1

‖x − vi‖2 + α(〈x, x〉 − 1). KKT

uslovi su:m∑

i=1

(x− vi) + αx = 0, α(‖x‖2 − 1) = 0, α > 0, ‖x‖ 6 1.

Stavljajuci v0 =v1 + · · ·+ vm

m, dobijamo za prvu jednacinu (m+α)x = mv0.

U slucaju da je ‖v0‖ 6 1, KKT tacka je(v0, 0

)uz α = 0. Ako je ‖v0‖ > 1,

onda mora biti α > 0, ‖x‖ = 1 (druga jednacina) i ‖v0‖ =α + m

m, tako da je

(v0

‖v0‖ ,m(‖v0‖ − 1))

odgovarajuca KKT tacka.

Zadatak je konveksne optimizacije pa je njegovo optimalno rjesenje

x∗ =

v0, ‖v0‖ 6 1v0

‖v0‖ , ‖v0‖ > 1.

38. Neka je P dati poliedar. Za trazenu projekciju x∗ = PP(e2) vrijedi

‖e2 − x∗‖ = minx∈P

√x2

1 + (x2 − 1)2.

Korjena funkcija strogo raste pa dovoljno je rijesiti problem kvadratne mini-mizacije:

min x21 + (x2 − 1)2, x ∈ P.

x∗ =(

1213

,2113

), y∗ =

(0,

813

, 0, 0, 0)

, PP(e2) =(

1213

,2113

).

39...

75

LITERATURA

[1 ] V.M. Alekseev, E.M. Galeev, V.M. Tihomirov. Sbornik zadac po opti-mizacii. Nauka, Moskva, 1984.

[2 ] J.M. Borwein, A.S. Lewis. Convex Analysis and Nonlinear Optimization.Springer, New York, 2000.

Borwein J., Vanderwerff J. Convex functions: Constructions, characteri-zations and counterexamples CUP, 2010

[3 ] S. Boyd, L. Vanderberghe. Convex Optimization. Cambridge UniversityPress, 2004.

[4 ] K-H. Elster, R. Reinhardt, M. Schauble, G. Donath. Einfuhrung in dienichtlineare optimierung. Teubner, Leipzig, 1977.

[5 ] P.M. Gruber. Convex and Discrete Geometry. Springer-Verlag, Berlin-Heidelberg, 2007.

[6 ] J-B. Hiriart-Urruty; C. Lemarchal. Fundamentals of convex analysis. Springer-Verlag, Berlin, 2001.

[7 ] L. Hermander. Notions of convexity. Birkhauser, 1994

[8 ] M. Jovanovic. Diferencijalni racun na Rn, Konveksne funkcije, Ekstremi.Prirodno-matematicki fakultet, Banja Luka, 2001.

Magaril-Il’yaev G.G., Tikhomirov V.M. Convex analysis: theory and ap-plications TMM222, AMS, 2003

[9 ] M. Moszynska, Selected Topics in Convex Geometry. Birkhauser, boston,2006.

Niculescu C.P., Persson L.-E. Convex functions and their applications: Acontemporary approach Springer, 2006

10. A. W. Roberts, D.E. Varberg. Convex functions. Academic Press, NewYork and London, 1973.

11. R. T. Rockafellar. Convex Analysis. Princeton, New Yersey, PrincetonUniversity Press, 1997.

. Stoer Witzgal Convexity

12. A. G. Suharev, A.V. Timohov, V.V. Fedorov. Kurs metodov optimizaciji.Nauka, Moskva, 1986.

[.] J. van Tiel.

[.] F. Valentine.

13. F. P. Vasilev. Metodi Optimizacii. Faktorial Press, Moskva, 2002.

14. S. Vrecica. Konveksna Analiza. Mat. fak. , Beograd, 1993

76

15. W. Weil. A Course on Convex Geometry. University of Karlsruhe, 2005.

16. R. Webster. Convexity. University Oxford Press Inc., New York, 1994.

77