Operaciona Istraivanjaskripta sa predavanja prof Katarine Surle 2002/2003.Nadj Danijel, 2003.Skripta je namenjena da olaka praenje nastave i pripremu usmenog ispita. Unapred seizvinjavam na svim grekama u tekstu, kojih i pored najbolje volje mora biti (u nekimdelovima fale yu slova). Razjanjenja za neke eventualne nejasnoe predlaem da sepotrae u zbirci zadataka iz Operacionih istraivanja. Posebnu zahvalnost dugujemTamari Doroti, koja je uredno pratila i beleila sve na predavanjima, a zatim te beleke isredila, to je ovu skriptu uinilo moguom.Ne ohrabruju se bilo kakve malverzacije ili zloupotrebe u smislu prepisivanja na ispitu itd,jer je u ovu skriptu uloeno puno truda i sa mnogo manje truda ispit moe da se spremi.Ujedno pozivam sve koji raspolau znanjem i vremenom, da trae ovu skriptu od mene utex obliku i da rade na njenom poboljanju, tj ispravljanje greaka, crtanje slika itd.danijel@uns.ns.ac.yu1Konveksni skupoviDefinitionVektorski prostor Rno, [ R, x, y Rn1. o(x + y) = ax + ay2. (o + [)x = ox + [x3. o([x) = (o[)x4. 1x = xDefinition Neka je xi Rn, i = 1, . . . , m, oi R. Suma _i=1moixi se naziva linearnakombinacija. Linearna kombinacija _i=1moixi = 0 je linearno zavisna ako_i=1m|oi| > 0, a linearno nezavisna ako je _i=1m|oi| = 0.Definition Preslikavanje A : X Y je linearno ako za x, y X o, [ R vaiA(ox + [y) = oAx + [AySkup svih linearnih preslikavanja (funkcionala) Rn R se obeleava Rn-predstavlja linearni vektorski prostor.Za f, g Rn-(f, x) oznaava f primenjeno na x.(f + g, x) = (f, x) + (g, x) sabiranje(of, x) = o(f, x) mnoenje skalaromNeka je Xn linearni vektorski prostor sa bazom ei, i = 1, . . . , n, a Ym linearni vektorskiprostor sa bazom qj, j = 1, . . . , m. Preslikavanje Xn Ym je linearno (moe se zadatimatricom) A = aij)i=1,...,n;j=1,...,mAej = _i=1maijqix Xn x = _j=1nxjejAx = A_j=1nxjej = _j=1nxjAej = _j=1nxj _i=1maijqi 1Definition Skup K Rnje konveksan ako je prazan ili ako za svaka dva elementaa, b K vaioa + (1 o)b K, o, 0 _ o _ 1Ceo Rnje konveksan kao i svaki njegov interval. Presek odrava konveksnost, a unijane. Mnoenje skalarom i sabiranje skupova odravaju konveksnost.Definition Linearna kombinacija _i=1maioi se naziva konveksna kombinacija za ai Rn,oi R, i = 1, . . . , m, ako vai _i=1moi = 1, o _ 0.Definition X Rnje potprostor prostora Rnako za x, y X i o, [ R vaiox + [y X.2U slucaju m=2 moe se zapisati:oa + (1 o)b, 0 _ o _ 1; o1a1 + o2a2, o1,o2 _ 0, o1 + o2 = 1DefinitionKonveksna obvojnica skupa S Rnje skup svih konveksnih kombinacijaelemenata iz S:Co(S) = _i=1noiai, n N, ai S, oi _ 0, i = 1, . . . , n,_i=1noi = 1)Definition Neka je Ym . Xn. Linearna mnogostrukost dimenzije m je skup M = a + Ym,a Xn. Maksimalne linearne mnogostrukosti dimenzije u prostoru dimenzije n sudimenzije n-1 i nazivaju se hiperravni.Dat je vektorski prostor Xn sa bazom ej, i=1,...,n, i skup svih funkcionala Xn- sa bazom ej-,j=1,...,n. Tada vai:(ej-, ek ) = ojk =1, j = k0, j = kTheoremNeka je h- = 0- linearni funkcional u prostoru Xn-, c R. Tada skupH = x Xn, (h-, x) = c) predstavlja hiperravan u prostoru Xn.H+ = x Xn, (h-, x) _ c) i H = x Xn, (h-, x) _ c)su potprostori prostora Xn ikonveksni su skupovi.H+ H = Xn; H+ , H = H; Svaka hiperravan deli prostor na dva potprostora.Definition Neka su Hi, i=1,...,m hiperravni u prostoru Xn. Ako je skup K = ,i=1mHi = onse naziva konveksan poliedar, m _ n.DefinitionVrh poliedra je v = ,i=1nHil, ako postoji, gde su Hil, hiperravni koje definiupoliedar.Svakom Hi moe se pridruiti funkcional na sledeci nacin: Hi = x Xn: (hi-, x) _ bi).Tada se definie aij = (hi-, ej ), a onda je Hi = x Xn: _j=1naijxj _ bi). Dakle svakipoluprostor Hi, i=1,...,m je definisan linearnim nejednainama. Zato je K reenje sistemalinearnih nejednaina _j=1naijxj _ bi, i=1,...,m.Konveksni poliedri mogu biti ogranieni i neogranieni. Ogranien poliedar je onaj kodkoga postoji lopta konanog poluprenika, takva da ceo poliedar lei u njoj.Osnovne karakteristike poliedra su to ima vrhove i ivice.Neka je (hi-, x) = bi hiperravan, x Rn.x Rn x = _j=1nxjej , gde je ej, j=1,...,n baza vektorskog prostora Rn.(hi-, x) = hi-,_j=1nxjej== _j=1nxj(hi-, ej ) == _j=1nxjaij = bi 2Vrh se dobija kao reenje sistema jednaina _j=1nxjaij = bi, i=1,...,m.Vrhova moe bitimn( ), sto je konaan broj, a ne mora biti ni jedan.Definition Neka je K = ,i=1mHi = poliedar i neka je l = ,i=1n1Hi, gde je n dimenzijaprostora. Tada se l , K naziva ivica poliedra, a l je prava na kojoj ivica lei. Ivica3poliedra moe biti prava, poluprava ili du.TheoremNeka je K ogranien konveksan poliedar i neka su vi, i=1,...,l svi njegovi vrhovi.Tada je K konveksna obvojnica skupa vrhova, K = Co(v1, . . . , vl)), tj za x Kvai x = _i=1lzivi, _i=1lzi = 1, zi _ 0, i=1,...,lProof (skica dokaza)Lemma Presek ogranienog konveksnog poliedra sa bilo kojom hiperravni koja jenjegova stranica je poliedar u prostoru dimenzije n-1.n=1Ogranien poliedar u R1je du sa vrhovima v1 i v2. Parametrizacija:ov1 + (1 o)v2, 0 _ o _ 1, sto je konveksna kombinacija vrhovaIH pretpostavimo da vai za n-1 (Rn1)n: Proizvoljna taka x K se spoji sa vrhom v1 i time je odredjena prava.Presek te prave i poliedra je du v1y, gde se taka y nalazi na stranici poliedra, kojaje poliedar dim n-1 i po IH, vai da je y konveksna kombinacija vrhova poliedra un-1y = _i=1pziwi,_i=1pzi = 1, zi _ 0, wi v1, . . . , vl), i = 1, . . . , p3Po sluaju za 1 dim, vai da je x konveksna kombinacija v1 i yx = zy + (1 z)v1, 0 _ z _ 14Zameni se y iz (3) u (4) i time se dobija x predstavljeno kao konveksnukombinacija vrhova poliedra.4Linearno programiranjeZadatak je najcee da se optimizuje funkcija cilja nad zadatim skupom. Ukoliko je tazadata funkcija cilja linearna, kao i ogranienja kojima je zadat skup, radi se o problemulinearnog programiranja.J(u) minu U, U RnJ(u) funkcija cilja, U dopustiv skup, u U dopustivo reenje;J(u) = (c, u) min za linearnu funkciju cilja se uzima skalarni proizvod vektora,(c, u) = _i=1nciui, c, u Rn.Posmatra se J(u) min, ako je potreban max onda J(u) max J(u) min.U = u Rn: Au _ b, u _ 0), A Rmn, b Rm; skup U je konveksni poliedar.Oblici problema linearnog programiranja:1. Osnovni oblikJ(u) = (c, u) minAu _ bu _ 0sva ogranienja su u obliku nejednakostiJ(u) = (c, u) minu UU = u Rn: Au _ b, u _ 0)drugi nain zapisivanja istog oblika2. Standardni oblikJ(u) = (c, u) minAu = bu _ 0Ogranienja su u obliku jednakostiAu = b _j=1naijuj = bi _j=1naijuj _ bi_j=1naijuj _ bi3. Kanoniki oblikAko je u standardnom obliku matrica A=(C|E), gde je Emm jedinina matrica,onda je problem u kanonskoj formi. Neka je rang(A) = r. Poto je A=(C|E),rang(E) = m r = m.Svaki problem se moe prebaciti iz jednog oblika u drugi.Ako se nejednaine prebacuju u jednaine proiruje se dimenzija problema:_j=1naijuj + di = bi, i=1,...,m; dodaje se i di _ 0, i=1,...,m.Od sada se pretpostavlja da je problem linearnog programiranja dat u standardnomobliku.Au = bRaspisan sistem:5a11u1 + a12u2 +. . . +a1nun = b1. . .am1u1 + am2u2 +. . . +amnun = bmSa Ai se obeleavaju vektori matrice A:A1 =a11a21. . .am1. . . Ai =a1ia2i. . .ami. . . Am =a1na2n. . .amn, pa A moe da se zapie:A = |A1A2. . . An]Au = b A1u1 + A2u2 +. . . +Anun = bDefinition Za svaku taku v U sa komponentama v = (v1, v2, . . . , vn) i osobinomAj1vj1 + Aj2vj2 +. . . +Ajrvjr = b1gde su vektori kolona Aj1, . . . , Ajr linearno nezavisni, kae se da je vrh skupa U,ako je rang(A) = r i vj = 0 za j = jl, l = 1, . . . , r.Vektori baze vrha v su vektori kolona koji se javljaju u (1),B = Aj1, Aj2, . . . , Ajr).Matrica baze vrha v B = |Aj1Aj2. . . Ajr].Komponente vj1, vj2, . . . , vjr vrha v se nazivaju bazine. Ostale komponente sunula i one su nebazine.Ako su sve bazine komponente vij > 0, i=1,...,r, onda je taj vrhnedegenerisan. Ako medju bazinim komponentama postoji neka tako davjk = 0, 1 _ k _ r, taj vrh je degenerisan. Degenerisan vrh ima vie baza.Simpleks metodAko postoji reenje problema linearnog programiranja, onda postoji vrh dopustivogskupa u kome funkcija cilja dostie optimalnu vrednost (minimum ili maksimum).Reenje ne mora da bude jedinstveno. Sutina simpleks metoda je da pronadje vrhove,obilazi jedan po jedan i rauna vrednosti funkcije cilja za svaki vrh. Onda se traiminimalna vrednost. Ipak, to je neupotrebljivo u praksi ako su problemi veih dimenzija.Simpleks metod odbacuje neke vrhove, pa je raunanje lake. Ovom metodom sereavaju realni problemi.Sekundarni simpleks metodReava se problem:J(u) = (c, u) minAu = bu _ 06b Rm, rang(A) = r, r = m ArnPolazi se od poznatog vrha v. Pravi se metod koji proverava da li je v optimalno reenje,a ako nije, daje put do vrha w, tako da je J(w) 0, i = 1, . . . , r. Zato vai:A1v1 + A2v2 +. . . +Arvr = b odnosno:Bv = b v = B1b1Osnosno za bilo koje u U vai:BA1u1 + A2u2 +. . . +Arur +Ar+1ur+1 +. . . +Anun = bB + Ar+1ur+1 +. . . +Anun = b2det B = 0, jer su A1, . . . , Ar linearno nezavisni JB1 + _k=r+1nB1Akuk = B1b = v3B1Ak je vektor, (B1Ak)s = ,sk je s-ta komponenta tog vektora. Raspie se sistempomou nove oznake:u1 + + ,1r+1ur+1 +. . . +,1nun = v1u2 + + ,2r+1ur+1 +. . . +,2nun = v2.ur + ,rr+1ur+1 +. . . +,rnun = vr 4Ovaj sistem izraava bazine promenljive preko nebazinih. Isto se uradi i za funkcijucilja:J(u) = (c, u) = (c, ) +_i=r+1nciui = v _k=r+1nB1Akuk iz (3)J(u) = (c, v ) c,_i=r+1nB1Aiui+_i=r+1nciui= (c, v ) _i=r+1n(Ai(c, B1Ai ) ci)ui= J(v) _i=r+1nAiui 57Ai = (c, B1Ai ) ci = _s=1rcs,si ciSad je (5) funkcija cilja izraena preko nebazinih komponenti. Vrhu v pridruuje sesimpleks tabela:u1u2 urur+1ur+2 unvu11 00 ,1r+1,1r+2,1nv1u20 10 ,2r+1,2r+2,2nv2. . . `. . . . .ur0 01 ,rr+1,rr+2,rnvr0 00 Ar+1Ar+2AnJ(v) tabela 1Ai = 0, i = 1, . . . , r zato to Ai = _s=1rcs,si ci = ci ci = 0 jer je jedino ,ii = 1, u prvomdelu tabele, a ostali su 0.Na osnovu tabele vidi se da li je vrh v reenje ili treba traiti novi vrh w tako da jeJ(w) 0 i ,ik _ 0, i = 1, . . . , r.Postoji kolona tako da je Ak > 0, a iznad nje nema pozitivnog broja. Tadazadatak nema reenja. Pokazuje se da je funkcija cilja tada neograniena sadonje strane, tj da nema minimum.U sistemu (6) svi ,ik su manji od nule, a uk _ 0 po definiciji. Poto je Ak > 0, a,ik _ 0, i = 1, . . . , r, uk se moe pustiti da tei ka beskonano, a da jo uvekostane u U, tj da vai Au=b. Kada se to ubaci u (7) dobija se J(u) , u U,odnosno funkcija je neograniena sa donje strane.3. Jk, r + 1 _ k _ n, tako da Ak > 0 i Ji, 1 _ i _ r, ,ik > 0.Postoji kolona u kojoj je Ak > 0 i u toj koloni postoji element koji je pozitivan.Dakle postoji skup Ik = i : 1 _ i _ r, ,ik > 0) = Tada je J(u) = J(v) Akuk < J(v), odnosno nova taka ima manju vrednostfunkcije cilja. Da bi ta taka pripadala U, mora u (6) svako ui da budenenegativno. Kada je ,ik < 0 nema problema, ali za ,ik > 0 mogu se javitiproblemi, tada treba da vai:vi _ ,ikuk vi,ik _ uk, ,ik > 0Da bi sve jednaine u (6) bile nenegativne treba da vaiiIkminvi,ik _ uk, pa se zauk uzima baiIkminvi,ik , oznaava savs,sk i ,sk se naziva pivot. Tada je ui _ 0,dakle u U.Taka definisana sistemom (6) oznaava se w = (w1, . . . , wn), gde je:w1 = v1 ,1kvs,sk. . .ws = vs ,skvs,sk = 0. . .wk =vs,sk. . .wi = 0, i = r + 1, . . . k 1, k + 1, . . . , n ova komp izlazi iz ulazi u bazu nebazicne kompSada se moe odrediti baza vrha w i sistem Au=b zapisati preko te baze.Na osnovu s-te jednaine sistema (4) vai:9,skuk = vs us _i=r+1i=kn,siui/,sk1uk =vs,sk us,sk _i=r+1i=kn,si,sk ui 9U ostale jednaine zameni se uk:ui = vi _j=r+1n,ijuj = vi _j=r+1j=kn,ijuj ,ikvs,sk us,sk _j=r+1j=kn,sj,sk ujPo wi = vi ,ikvs,sk , sledi:ui = wi ,is' ,ik,skus _j=r+1j=kn,ij',ij ,sj,sk ,ikujOva formula vai za i = 1, . . . , s 1, s + 1, . . . , rus i uk menjaju mesta u tabeliPri prelasku na novu bazu vae nove vrednosti za ,:0 ,is'= ,ik,sk , i = 1, . . . , s 1, s + 1, . . . , r0 ,ij'= ,ij ,sj,sk ,ik, i = 1, . . . , s 1, s + 1, . . . , r; j = r + 1, . . . k 1, k + 1, . . . , n;pravilo pravougaonika0 ,ks'=1,sk0 ,kj'=,sj,sk , j = r + 1, . . . k 1, k + 1, . . . , nPoslednja vrsta se transformie:0 J(u) = J(v) Aivs,sk0 As'= Ak,sk0 Aj'= Aj Ak,sj,sk , j = r + 1, . . . k 1, k + 1, . . . , nNa osnovu ovih jednaina dobija se postupak za transformaciju tabele:0 pivot prelazi u svoj inverzni broj0 elementi kolone u kojoj je pivot se podele sa pivotom i pomnoe sa -1 (osimpivota)0 elementi reda u kome je pivot se podele sa pivotom0 ostali elementi tabele se transformiu na osnovu pravila pravougaonika0 us i uk zamene mestaNa ovaj nain je dobijena tabela za vrh w i ponovo se razmatraju sluaji 1,2 i 3. Akozadatak ima reenje, onda postoji vrh u kome funkcija dostie minimum. Do reenja sestie u konano mnogo koraka jer ima konano mnogo vrhova.Definisani simpleks metod primenjuje se za problem u standardnom obliku. Za problemkoji je dat u osnovnom obliku uvode se sledee promene:10J(u) = (c, u) minAu _ bu _ 0 10Prvo se ovaj sistem transformie u standardni oblika11u1 + a12u2 +. . . +a1nun + d1 + 0 - d2 +. . . +0 - dm = b1a21u1 + a22u2 +. . . +a2nun + 0 - d1 + d2 +. . . +0 - dm = b2. . .am1u1 + am2u2 +. . . +amnun + 0 - d1 + 0 - d2 +. . . +dm = bm 11Promenljive di _ 0, i=1,...,m, se nazivaju dopunske promenljive. Uvodi se nova oznakax = (u1, u2, . . . , un, d1, . . . , dm) = (u, d). Sa C se oznaava matrica novog sistema,C = (AE)m(m+n).rang(C)=m, jer je rang(E)=m.c = c1, c2, . . . , cn,m0, . . . , 0x _ 0, za ui _ 0 vai po zahtevima za U, a za di po definiciji.Dobijen je novi sistem:J(u) = (c, x) minCu = bx _ 0 12Svako reenje sistema (12) je ujedno i reenje sistema (10) i obrnuto.Za problem (12) je ispunjeno rang(C)=m i vai pretpostavka da je problemnedegenerisan. Jo je potrebno odrediti neki vrh. Uzima se vektorv = (0, . . . , 0, b1, . . . , bm) X;X = x Rn+m, Cx = b, x _ 0)Vektor v je vrh jer uz pozitivne komponente vrha v stoje linearno nezavisni vektori kolonematrice C (uz bi stoji jedinini vektor ei). Matrica vrha v je B = |e1e2. . . em].Sledi da kada je b>0 vrh je automatski poznat, jer je tada lako utvrditi da su vektorilinearno nezavisni. Ovde su ve nebazine komponente izraene preko bazinih i sadase moe primeniti simpleks metoda. Sistem (11) odgovara proirenoj simpleks tabeli.ee se koristi njen skraen oblik, bez E:u1u2. . . und1a11a12a1nb1d2a21a22a2nb2. . . . . .dmam1am2amnbmc1c2. . . cnJ(v) tabela 2Poslednja vrsta je vektor c iz J(u), ali suprotnog znaka.Ova tabela se razmatra na isti nain kao tabela 1, ispituju se 1,2 i 3. sluaj.Primarni simpleks metod11Sekundarni simpleks metod je primenjiv na standardni i opti oblik problema linearnogprogramiranja, medjutim ako se posmatra neki drugi oblik, javljaju se sledei problemi:0 kako utvrditi da li je rang(A) = m? Kako eliminisati zavisne jednaine iz sistema?0 kako utvrditi da li je U = ? Ako je U = onda sistem nema reenje.0 ako je U = kako pronai vrh v?Ovaj metod daje odgovor na sva tri pitanja. Ideja je da se formira vetaki problem kojizadovoljava uslove sekundarnog simpleks metoda i da se reavajui taj problemdobijaju odgovori na prethodna pitanja.Polazi se od problema:J(u) = (c, u) minAu = bu _ 0 1sa sistemom:a11u1 + a12u2 +. . . +a1nun = b1. . .am1u1 + am2u2 +. . . +amnun = bm 2uvode se vetake promenljive un+i, i = 1, . . . , m i dobija se sistem:a11u1 + a12u2 +. . . +a1nun + un+1= b1a21u1 + a22u2 +. . . +a2nun + un+2= b2. . .am1u1 + am2u2 +. . . +amnun + un+m = bm 3Sistemi (2) i (3) su ekvivalentni kada je un+1 = un+2 =. . . = un+m = 0Problemu (1) se pridruuje nov problem:J1(z) = un+1 +. . . +un+m minz Z = z : z = (u, w) Rn+m, z _ 0, Cz = Au + Ew = b) 4gde je z = (u, w) = (u1, . . . , un, un+1, . . . , un+m);w = (un+1, . . . , un+m) vektor vetakihpromenljivih.0 Ako je w = 0 onda Cz = b Au = b, tada moe da se primeni sekundarnisimpleks na problem (1), jer su ispunjeni uslovi.0 Ako je w = 0 onda se sekundarni simpleks primenjuje na (4) jer su ispunjeniuslovi:- rang(C) = m- poznat vrh z0 = (0, b) Z, jer je baza vrha z0 B = (e1, e2, . . . , em)- Z = , jer z0 ZNeka je z- reenje problema (4), dobijeno sekundarnim simpleksom. Vai jedno odsledeeg:a) J1(z-) > 0 U = i problem (1) nema reenje. Dokaz:z- = (v1, w1), J1 > 0 w1= 0Pretpostavi se suprotno, tj U = Ju U potencijalno reenje. Toj taki upridruuje se z = (u, 0) Z, jer je Au=b. Medjutim tada je J1(z) = 0 < J1(z-) i toje kontradikcija jer je z- minimum (reenje (4)). Sledi U = .b) J1(z-) = 0 wn+11+ wn+21+. . . +wn+m1= 0 w1= 0 z- = (v1, 0)12Treba pokazati da je tada v1 vrh skupa U, tj reenje (1):Cz- = b Av1= b v1 U U = . Da je v1vrh se pokazuje po definicijiDefinition v U je vrh skupa U ako se moe prikazati u oblikuv = ov1 + (1 o)v2, v1, v2 U, 0 < o < 1, jedino ako jev = v1 = v2.Neka su u1, u2 U tako da vai v1= ou1 + (1 o)u2, 0 < o < 1. Takama u1, u2pridruuje se z1 = (u1, 0) i z2 = (u2, 0), u skladu sa definicijom skupa Z,z1, z2 Z. Oigledno:v1= ou1 + (1 o)u2 z- = oz1 + (1 o)z2Poto je z- vrh skupa Z sledi da je z1 = z2 u1 = u2 v1je vrh skupa U v1je reenje (1).TheoremAko je U = tada on ima bar 1 vrh. Taj vrh se moe nai primenom primarnogsimpleks metoda.Proof Dokazano sluajem pod b)Do sada su nadjeni naini da se odgovori na pitanja da li je U prazan i kako nai poetnivrh. Jo je ostalo pitanje ranga matrice, da bi mogla da se formira simpleks tabela zavektor v1.z- je reenje (4) vektori baze su A1, . . . , Ar, e1, . . . , emr , ima ih m rang(C) = m r = rang(A) _ mOptimalna tabela za z-Bazine Nebazine Vestakeu1u2.urur+1. unun+1.un+mrun+mr+1. un+mBau11 0 . 0 ,1r+1. ,1n0 . 0 ,1n+mr+1. ,1n+mv11i

zu20 1 . 0 ,2r+1. ,2n0 . 0 ,2n+mr+1. ,2n+mv21en. . . ` . . . . . . . .ur0 0 1 ,rr+1. ,2n0 . 0 ,rn+mr+1. ,2n+mvr1Veun+10 0 . 0 ,n+1r+1. ,n+1n1 . 0 ,n+1n+mr+1. ,n+1n=0-vn+11ta. . . . . . . ` . . . .ke

un+mr0 0 . 0 ,n+mrr+1.,n+mrn0 . 1 ,n+mrn+mr+1.,n+mrn+m=0-vn+m1J1(z-)U zavisnosti od tabele javljaju se sledei sluajevi:1. r = m z- = (v1, w1), baza z- je A1, . . . , Ar, e1, . . . , emr, vektori A1, . . . , Ar inebazu v1, sledi da nema vetakih promenljivih. Vai: + _k=r+1n+mB1Akuk = v, (B1Ak)s = ,sk, pa se jednaine sistema zapisuju:uj + ,jr+1ur+1 +. . . +,jnun +. . . +,jn+mun+m = vj1, j = 1, . . . , r5Posto nema vetakih promenljivih sledi un+1 =. . . = un+m = 0. Zato vai(5) Au = b Cz = b, odnosno vektori u i z su isti jer nema vetakih13promenljivih. U tabelu treba dodati jo poslednju vrstu Aj:A1 =. . . = Ar = 0Ai = _s=1rcs,si ci, i = r + 1, . . . , nTako je dobijena tabela za v1. Nastavlja se sa sekundarnim simpleksom.2. r < m i J,n+i,k > 0, 1 _ i _ m r, r + 1 _ k _ n, odnosno postoji pozitivan broj uobeleenom delu tabele. Formira se skup:Ik = j : r + 1 _ k _ n, n + 1 _ i _ n + m r, ,jk _ 0)Ik = minjIkvj1,jk =vn+i1,n+i,k = 0 jer su vetake promenljive jednake 0.Ako se izvri transformacija po pivotu (koji je 0) funkcija cilja se neepromeniti; promenie se samo baza vrha, pri emu vetaka promenljiva un+iizlazi iz baze, a u bazu se uvodi promenljiva uk. Ujedno se brie kolonavetake promenljive un+i, koja je izala iz baze. Opet se proveravaju sluajevi1, 2, 3.J(u) = J(v) Akuk = J(v) Akvs,sk = J(v), vs = 03. r < m i u uokvirenom delu tabele nema pozitivnih elemenata. Jednaine togsistema se tada mogu zapisati:uj + ,jr+1ur+1 +. . . +,jnun = vj1, j = 1, . . . , r,n+i,r+1ur+1 +. . . +,n+i,nun = 0, i = 1, . . . , m r6U jednainama (6) ,n+1,j, i = 1, . . . , m r, j = r + 1, . . . , n, mogu biti nula ilinegativni. Negativni se izdvoje u novi sistem: 0, Ik = i : 1 _ i _ r, ,ik > 0) = 0posmatra se miniIkvi,ik =vs,sk , gde je ,sk pivot.0 kod nedegenerisanih problema, indeks s je jedinstveno odredjen. Kada se prelazisa vrha v na w, nove bazine komponente vrha wi su:wi = vi ,ikvs,sk _ 0Mora biti wi > 0 za i Ik, i = s, zato je minimum jedinstven.0 kod degenerisanih problema, wi moe biti 0, pa se minimum dostie na viemesta, sledi da minimum nije jedinstven, pa ni pivot nije jedistveno odredjen.Vai: J(w) = J(v) Akvs,sk J(w) _ J(v)Kod degenerisanih vrhova neka bazina komponenta je vi = 0. Poto su svi ostalikolinici vei od nule, ako je ta komponenta iz Ik onda je i minimum nula, slediJ(w) = J(v).Ako je za pivot izabran ,sk, takav da je vs = 0, tada As izlazi iz baze, a Ak ulazi ubazu. Medjutim i ta nova baza je baza istog vrha v i ovim nije promenjenafunkcija cilja.Algoritam anticiklinPosmatra se vrh i njegova tabela. Na tu tabelu se dopisuje jedinina matrica D, iji suelementi obelezeni sa dij. Nad simpleks tabelom vre se uobiajene transformacije.Elementi matrice D transformiu se po pravilu pravougaonika:dij'= dij ,ik,sk dsj, i = 1, . . . , s 1, s + 1, . . . , rdkj'=dsjdsk, i = k s izlazi iz baze k ulazi u bazuNa osnovu poslednje vrste posmatraju se sluajevi 1, 2, i 3, pri emu se 1 i 2 reava istokao sekundarni simpleks bez degeneracije.U 3. sluaju, JAk > 0, ,ik > 0, formira se skup Ik = i : 1 _ i _ r, ,ik > 0) = 0.Ako je miniIkvi,ik =vs,skjedinstven, uzima se za pivot i nastavlja se po standardnomalgoritmo, kao za nedegenerisan vrh. Minimum moe biti jedinstven jer degeneracijamoe doi do izraaja u nekom drugom koraku. Ako minimum nije jedinstven, formira seskup: Ik1 = s Ik: miniIkvi,ik =vs,sk.Po prethodnom razmatranju, ovaj skup nije jednolan, pa se formira skup Ik2 tako to seelementi prve kolone dopisane matrice dele elementima kolone u kojoj je Ak > 0.Ik2 = s Ik1: miniIk1di1,ik =ds1,sk, ako je skup jednolan ,sk je pivot, inae se uzimadruga kolona, deli k-tom i analogno formira novi skup Ik3. Postupak se ponavlja dok sene stigne do jednolanog skupa i tada je ,sk pivot. Opti sluaj:Ikn nije jednolan, formira se Ikn+1 = s Ikn: miniIkndin,ik =dsn,skTabela se razreava na osnovu dobijenog pivota, pri emu se i dodatna tabela15transformie.Teorijska pozadina algoritma anticiklinaUporedo sa problemom (1) posmatra se i problem:J(U) = (c, u) minu Uc = u Rn: Au = b(c) = b + _i=1rciRi 2Ri su vektori kolone regularne matrice R.Kod sekundarnog simpleksa se trai da b>0. Ako je neka komponenta bi = 0 problem jedegenerisan. Ovde je dozvoljeno b _ 0, ali je b(c) > 0, pa je time problem sveden naregularan.TheoremNeka je R regularna matrica i neka je Uc = . Tada postoji c1, tako da je zasvako c, 0 < c < c1 problem (2) regularan i ako je v(,) = (v1(,), . . . , vn(,)) vrhskupa U, za neko 0 < , < c1 i ako je baza tog vrha (Aj1, . . . , Ajr) tada jednaine:Aj1vj1 + Aj2vj2 +. . . +Ajrvjr = b(c); vi = 0, i = jl, l = 1, . . . r,definiu vrh v(c) skupa Uc za 0 < c < c1. Takodje kada je c = 0 ove jednainedefinisu vrh v(0) koji je vrh skupa U.Umesto (1) reava se problem (2). Kad se pronadje reenje za (2), postavi se c = 0 itako se dobija reenje za (1). Primenom sekundarnog simpleksa za resavanje (2) dobijase: + _k=r+1nB1Akuk = B1b(c)= B1(b +_j=1rcjRj)= B1b +_j=1rcj(B1Rj)B je baza vrha v(c) , zato se uzme R = B B1Rj = Ej jedinini vektor; (B1Rj)i = dij.Sada se ispiu jednaine za simpleks tabelu:u1 + + ,1r+1ur+1 +. . . +,1nun = v1 + d11c + d12c2+. . . +d1rcru2 + + ,2r+1ur+1 +. . . +,2nun = v2 + d21c + d22c2+. . . +d2rcr.ur + ,rr+1ur+1 +. . . +,rnun = vr + dr1c + dr2c2+. . . +drrcr 3J(u) = J(v(c)) _i=r+1nAiui, Ai = (c, B1Ai ) ciPosmatra se kolona iznad Ak > 0, trazi se miniIkvi(c),ik=vs,sk . Ovaj minimum je jedinstven,zato je problem regularan i ,sk je pivot.Da bi se naao minimum kolinikavi(c),iktreba porediti polinome po c :vi(c),ik= pi(c) = ci0 + ci1c + ci2c2+. . . +circrvm(c),im= pm(c) = fm0 + fm1c + fm2c2+. . . +fmrcrPoto c moe biti proizvoljno malo, manji je polinom koji ima manji slobodan lan, tj:ci0 < fm0 pi(c) < pm(c). Ako je ci0 = fm0 porede se sledei lanovi, a ako su i onijednaki, onda sledei itd. Moraju se nai neki cik i fmk koji su razliiti, inae bi dve vrste16matrice D bile proporcionalne, to je kontradikcija sa pretpostavkom da je matricaregularna.Matrica D se ne mora dopisati odmah na poetku, ve ju je mogue dopisati tek kada jepotrebna, tj kad se javi problem sa degeneracijom. Ako se matrica dopisuje kada su veuradjene neke transformacije u tabeli, ne dopisuje se jedinina matrica, ve se, namestima onih vektora kolona koji su izali iz baze, dopisuje kolona koja im trenutnoodgovara. Za komponente koje su jo uvek u bazi dopisuje se jedinini vektor.U praksi se ne dopisuje matrica D, ve B1koja se nalazi na osnovu tekue i polaznetabele.Dualnost u lineranom programiranjuSvakom problemu linearnog programiranja moe se dodeliti dualan problem.J(u) = (c, u) minAu _ b, b _ 0u _ 0 1 primalOdmah je poznat jedan vrh, nula vektor. Formira se tabela:xd A b-c 0x = (u1, . . . , un) U RnVektori x i d se razdvoje na dva dela:x1 = (u1, . . . , uk), x2 = (uk+1, . . . , un)d1 = (d1, . . . , dk), d2 = (dk+1, . . . , dm)x1x2d1A11A12b1d2A21A22b2c1c20Pretpostavi se da se vre transformacije tabele tako da je prvih k komponenti vektora d(d1) prelo gore, tj izalo iz baze, a prvih k komponenti vektora x (x1) prelo dole, tj ulou bazu. Nastaje sledea tabela:d1x2x1A111A111A12A111b1d2A21A111A22 A21A111A12b2 A21A111b1c1A111c2 + c1A111A12c1A111b1Za k=1 ovo bi bila transformacija sa pivotom, zato ovo vai bez dokaza. Tabela jeoptimalna ako je poslednja vrsta (c) negativna, a poslednja kolona pozitivna (b). Vektor bostaje pozitivan, jer se tako vre transformacije, tj trai se da vai A111b1 _ 0 ib2 A21A111b1 _ 0.Sada se definie dualni problem:17(d, b) maxdA _ cd _ 0 2 dualPod predpostavkom da vai:A111b1 _ 0b2 A21A111b1 _ 0c1A111_ 0c2 + c1A111A12 _ 0 3Prethodna tabela je optimalnaTheoremNeka vae uslovi pod (3). Tada je:a x0 =A111b10optimalno reenje primalad0 = |c1A111, 0] optimalno reenje dualab Vrednost funkcije cilja u optimalnim takama primala i duala je ista tj:c1A111b1 = (c, x0 ) = (d0, b)c Prvih k ogranienja u optimalnoj taki su zadovoljena u obliku jednakosti, aostala u obliku nejednakosti. Pri tome b2 A21A111b1 kod primala pokazuje zakoliko je leva strana manja od desne, a kod duala (c2 c1A111A12) pokazuje zakoliko je leva strana vea od desne u nejednakostima.d Vrednost funkcije cilja primala u bilo kojoj taki dopustivog skupa je vea odvrednosti funkcije cilja duala u bilo kojoj taki dopustivog skupa:(c, x) _ (d, b), x U = u Rn: u _ 0, Au _ b),d D = d Rm: d _ 0, dA _ c)Proof a) Dopustivost reenja: x0 _ 0 zbog uslova (3), proverava se Ax0 _ bAx0 =A11A12A21A22A111b10=b1A12A111b1(3)_b1b2Iz gornjeg sledi da je prvih k ogranienja zadovoljeno sa jednakou, a uostalima nejednakost i da b2 A12A111b1 pokazuje za koliko je desna strana vea odleve.Optimalnost reenja: m =m1m2 U, proizvoljna taka iz U.Jp(m) = c1m1 + c2m2(3)_c1m1 +_c2c1A111A12m2 ==_0c1A111_b1, po Au_b(A11m1 + A12m2)_ c1A111b1 = Jp(x0)Dakle x0 je optimalno reenje primala. Analogno za d0:Dopustivost:d0 _ 0 iz (3).d0A = |c1A111, 0]A11A12A21A22= |c1, c1A111A12] _ |c1, c2]Optimalnost:n = |n1n2] D proizvoljno18Jd(n) = (n1b1 + n2b2) (3)_ n1b1 n2A21A111b1 == (_c1, po dA_cn1A11 + n2A12)A111b1 _ c1A111b1 = JD(d0)b) sledi iz podvuenih delova prethodnih jednaina, c) je dokazanod) JD(d) _ JD(d0) = JP(x0) _ JP(x); d D, x UResurs je potroen tamo gde su dopunske promenljive nula. Ako dualna promenljiva nijenula, onda ona govori o promeni dobiti. Dualnost se koristi ako je tabela ovakva:d1x2x1A111A111A12 0 _j=1naijuj- = bi, ako je dualna vea od nule, dopunska je jednakanuli0 _j=1naijuj- < bi di- = 0, ako je dopunska vea od nule, onda je dualnajednaka nuli0 uj- > 0 _i=1maijdi- = cj0 _i=1maijdi- > cj uj- = 0Tada su u- i d- i optimalna reenja.Kod linearnog programiranja vai da je dual duala primal!Theorem (jake komplementarnosti) Ako oba problema (4) i (5) imaju bar po jednodopustivo reenje, onda postoji par optimalnih reenja u- i d- tako da:(b Au-) + d- > 0 i (d-A c) + u- > 0Transportni problemTransportni problem je problem linearnog programiranja sa karakteristinomstrukturom matrice sistema. Ime ovog problema potie od tipa problema koji se ovommetodom najee reava u praksi, tj ovim metodom se optimizuje transport robeizmedju skladita i mesta za prodaju.Posmatraju se skladitaS1, . . . , Sk i punktovi prodaje P1, . . . , Ph, roba iz svakog Si moeda se prenese u svako Pj. Sa si se oznaava koliina robe u skladitu Si, a sa pipotrebna koliina robe u Pj.xij je koliina robe koja se prenosi iz Si u Pj. Pretpostavlja se da vai da je_j=1hxij = si,_i=1kxij = pj 1ime se obezbedjuje da je ponuda jednaka potranji, pa se ovo naziva zatvorentransportni problem.Uvodi se jos cena transporta iz si u pj, obeleava se sa tij. Ukupna cena transporta zatakav problem je onda _i=1k_j=1hxijtij min._j=1hxij = si_i=1kxij = pj_j=1hpj = _i=1ksi = Uxij _ 0, i, jT(x) = _i=1k_j=1htijxij min problem transportaOvo je problem linearnog programiranja, pa se moe reiti simpleks metodom. Potoovaj problem ima karakteristinu strukturu (matrica sistema se sastoji samo od 0 i 1), zanjega e se formirati poseban, jednostavniji, simpleks metod.Problem transporta kod koga ne vai ogranicenje (1) je otvoreni problem transporta.Zatvoren problem transporta uvek ima reenje. Takodje se pretpostavlja da je si > 0 ipj > 0, to je i logino.Poto je cij _ 0 i xij _ 0 T(x) _ 0, gde je x = xij)i=1,..,kj=1,...,h. Dakle funkcija cilja T(x) je20ograniena sa donje strane. Poto je si > 0 i pj > 0 sledi da je U > 0. Dakle dopustivskup nije prazan, jer postoji trivijalno reenje:xij =sipjU> 0 zadovoljava sva ogranienja:_i=1kxij = _i=1k sipjU=pjU _i=1ksi =pjU U = pjx11 + x12 +. . . +x1h + +0. . . = s1+x21 + x22 + x2h + +0 = s2. . .xk1 + xk2 +. . . +xkh= skx11 + +x21 +. . . xk1= p1x12 + + x22 +. . . + xk2= p2. . .x1h + + x2h + . . . +xkh= phMatrica sistema je:A(k+h)kh =h1 1 ... 10 0 ... 0. . .0 0 ... 0h0 0 ... 01 1 ... 1. . .0 0 ... 0...0 0 ... 00 0 ... 0. . .1 1 ... 1k1 0 ... 00 1 ... 0. . .0 0 ... 11 0 ... 00 1 ... 0. . .0 0 ... 1...1 0 ... 00 1 ... 0. . .0 0 ... 1h, b =s1. . .skp1. . .pkJasno je da je rang(A) _ k + h. Pokazuje se da je rang(A) = k + h 1. Matrica A nemamaksimalni rang, jer postoji linearna veza izmedju si i pj: _j=1hpj = _i=1ksi, to znai dabar jedan vektor moe da se izrazi kao linearna kombinacija svih ostalih.Iz matrice A se izdvaja podmatrica ranga k+h-1, za koju se pokazuje da je regularna.Matica se formira od h., 2h., ...,kh. kolone matrice A i bez poslednje vrste matrice, uzdopisanih h-1 prvih kolona prvog bloka matrice A:h. 2h. kh.1 0 ... 00 1 ... 0... ... ...0 0 ... 1h11 1 ... 10 0 ... 0... ... ...0 0 ... 001 0 ... 00 1 ... 0... ... ...0 0 ... 121Matrica je donja trougaona, pa je njena determinanta 1, zato je ona regularna, sledirang(A)=k+h-1.Ovim je pokazano da svako reenje moe da ima najvie k+h-1 bazinu komponentu.Bazino reenje je ono reenje za koje vai da su vektori Ai1, . . . , Air linearno nezavisni,gde je u = (u1, . . . , un) reenje, Amn, rang(A)=r, b Rm, Ai1ui1 +. . . +Airuir = b, uil = 0, zal = j, j = 1, . . . , r.Poto je dokazano rang(A)=k+h-1, sledi da bazino reenje ima najvie k+h-1 pozitivnihkomponenti, zato trivijalno reenje nije bazino (sve komponente su pozitivne).Metoda severozapadnog uglaOvom metodom se odredjuje jedno dopustivo reenje transportnog problema. Dobijenoreenje je uvek bazino.0 formira se tabela k h polja, u nju se upisuju vrednosti xij0 uoi se severozapadni ugao tabele i ispituje:M s1s2. . .skp1p2. . . phx110= minp1, s1)U zavisnosti od prvog elementa, javljaju se dva sluaja:minp1, s1) = p1minp1, s1) = s1p1M s1 p10 s20 . . .0 sk0 p2. . . phs10 0 0 0M s2. . .skp1 s1p2. . . ph0 Za nastavak algoritma posmatra se tabela bez vrste ili kolone koja je popunjena,odredi se severozapadni ugao i opet se trai minimum.0 Algoritam se nastavlja dok se ne popuni tabelaTransportna mreaDefinition Neka je zadat konaan skup Q = Q1, . . . , Ql) i neka je t skup neuredjenihparova (Qi, Qj) koji se nazivaju lukovi. Skup Q t se naziva transportna mrea,gde su Qi punktovi (vorovi) transportne mree, a t njeni lukovi.Definition Proizvoljan niz Qi0, Qi1, . . . , Qik, gde Qir Q, r = 0, . . . , r naziva se marutaako se svaki par (Qir, Qir+1) u nizu pojavljuje najvie jednom.Definition Maruta oblika Qi0, Qi1, . . . , Qik, Qi0 se naziva kruni put ili cikl.Definition Transportna mrea (Q, t) je povezana ako se bilo koja dva punkta mogu spojitimarutom.Lemma Ako iz svakog punkta polaze ne manje od 2 luka, transportna mrea sadrikruni put.22Lemma Ako je transportna mrea povezana i ako iz svakog punkta polaze tano dvaluka, tada je cela transportna mrea kruni put.Lemma Ako je Qio vezan marutom za Qir, a Qir vezan marutom za Qjo, onda su i Qio iQjo povezani marutom.Lemma Ako transportna mrea ne sadri krune puteve, onda je svaka marutajednoznano odredjena krajnjim takama.Lemma Ako je l broj punktova u skupu Q, a skup t sadri manje od l-1 luk, transportnamrea je nepovezana.Lemma Ako je transportna mrea (Q, t) povezana i ne sadri kruzne puteve, skup t imatano l-1 luk.Sad se svakom bazinom reenju pridruuje transportna mrea:P = P1, . . . , Pn), S = S1, . . . , Sk)Uvodi se Q = P S punktovi, t = (Si, Pj), Si S, Pj P) lukoviZa konkretno reenje (Si, Pj) t akko xij > 0Posto vai pretpostavka da si, pj > 0, onda iz svakog punkta izlazi ili ulazi jedan luk.Za reenje X = xij) transportna mrea je (P S, t). Transportnoj mrei reenja Xdodeljen je i skup vektora A(x). Vektori iz A(x) su vektori kolona matrice A, izabrani nasledei nain: aijje vektor koji ima sve nule, osim jedinica na poziciji i i na poziciji k + j ivai aij A(x) xij > 0.TheoremDopustivo reenje je bazino akko odgovarajua transportna mrea ne sadrikrune puteveProof ) Reenje je bazino, dokazuje se da transportna mrea ne sadri kruneputeve.Pretpostavi se suprotno: reenje je bazino i transportna mrea sadrzi kruzniput.Uzima se reenje X takvo da njegova transporta mrea sadri kruni putSi1Pj1Si2Pj2. . . SikPjkSi1. Luku Si1Pj1 odgovara komponenta xi1j1 > 0, a njojodgovara vektor ai1j1. Dakle celom krunom putu odgovaraju vektoriai1j1, ai2j1, ai2j2, . . . , aikjk, ai1jk. Formira se sledea linearna kombinacija ovih vektora:ai1j1 ai2j1+ ai2j2. . . +aikjk ai1jk= 0Ocigledno su ovi vektori linearno zavisni. To je kontradikcija sa osnovnompretpostavkom da je reenje bazino i pretpostavka ne vai. Dakle transportnamrea ne sadri krune puteve.) Transportna mrea ne sadri kruni put, dokazuje se da je reenje baino.Pretpostavi se suprotno: Transportna mrea ne sadri kruni put i reenje nijebazino.Neka su vektori iz A(x) linearno zavisni: _[ijaij= 0; J[ij = 0Posmatra se transportna mrea (S P, t), gde je t definisano sa(Si, Pj) t [ij = 0. Tada je t t.Posmatra se jedno [ij = 0. Tada mora Jaip A(x), p = j, [ip = 0, jer akotakav vektor ne postoji, i-ta komponenta zbira _[ijaijbi bila razliita od nule, pasledi da iz Si polaze dva luka.Dalje se moe pokazati da i iz Pj, Pp, . . polaze dva luka, pa i iz svakog punktapolaze dva luka iz ega sledi da mrea ima kruni put, to je kontradikcija saosnovnom pretpostavkom. Dakle pretpostavka ne vai i reenje je bazino.Do sada je vaila pretpostavka da reenje nije degenerisano. Ako bi bilo s1 = p1, onda biproblem bio degenerisan. U takvim sluajevima se na jedno mesto u tabeli mora23postaviti 0- (bazina komponenta koja ima vrednost 0) da bi bilo k+h-1 razliitihkomponenti. Kod metode severozapadnog ugla 0- se stavlja ili na prvo mesto sa desnestrane od polja popunjenog sa s1 = p1 ili na prvo mesto ispod.TheoremReenje transportnog problema je degenerisano akko postoje skupoviG . M = 1, . . . , k) i H . N = 1, . . . , h) tako da je _iG si = _jH pj. Tadareenje ima manje od k+h-1 pozitivnu komponentu.TheoremReenje dobijeno metodom severozapadnog ugla je bazicno reenje.Proof Neka je X0reenje dobijeno metodom severozapadnog ugla. Formira se njegovatransportna mrea. Pretpostavi se da mrea sadri kruni put Si1Pj1Si2Pj2. . . SikPjkSi1gde za indekse vai i1 0 tij (vj ui) = 0 bazine komponenteb) xij = 0 g z = 0 nebazine komponenteZbog ogranienja (1) za nebazine komponente vai tij (vj ui) _ 0.Za bazina mesta formira se sistem jednaina tij (vj ui) = 0 i odatle izrauna vj, ui.Za nebazina mesta te promenljive (vj i uj) se uvrste u tij (vj ui) i to izrauna. Ako sedobije broj koji je nenegativan, onda je X0optimalno reenje i postupak je zavren. Akoje neki od dobijenih brojeva negativan, to reenje nije optimalno. Problem pravi broj kojije manji od nule, jer vai Aij = tij (vj ui), a ne treba da A bude pozitivno. Problem jeto tada ne vai (1). Ako postoje indeksi i0j0 takvi da je Ai0j0 < 0 vri se transformacijatabele.MetodaNeka je X0= xij0) bazino reenje. Za one komponente gde je xij0> 0 formiraju sejednaine vj ui = tij. Ako su bazine komponente xi1j00xi1j10xi2j10. . . . onda je maruta kojaodgovara bazinom reenju: Pj0Si1Pj1Si2. . . SikPjkSi0. Zato sistem jednaina ima oblik:vj00 ui10= ti1j0vj10 ui10= ti1j1. . .vjk0 uik0= tikjkvjk0 ui00= ti0jk 2Ovaj sistem ima k+h-1 jednaina, a k+h nepoznatih. Zato se fiksira jedna promenljiva(npr ui00= 0), pa se onda reava sistem. Na osnovu dobijenih podataka za u i v formirase tabela:v1v2... vk-u1-u2...-ukTabela se pounjava na sledei nain: Ako je vj ui _ 0 pie se taj broj. Ako je vj ui < 0na to mesto se unosi Aij. Tabela je optimalna ako nema negativnih elemenata.Ako negativni element postoji, onda se vri transformacija tabele:Pretpostavka Ji0j0, takvi da -Ai0j0 < 0Tada se odgovarajua nebazina komponenta xi0j00ubacuje u bazu, a neka druga,bazina izbacuje.Reenju X0odgovara A(X0) sistem linearno nezavisnih vektora. Pretpostavlja se da suproblem i reenje nedegenerisani. Sistemu A(X0) dodaje se vektor ai0j0 (koji odgovara25komponenti xi0j0 koja se ubacuje). Tada je skup A(X0) ai0j0 linearno zavisan, pa muodgovara kruni put, transportne mree za X0: Si0Pj0Si1Pj1Si2. . . SikPjkSi0. Na osnovukomponenti krunog puta formira se novo reenje:xi0j01= xi0j00+ 0xi1j01= xi1j00 0xi1j11= xi1j11+ 0. . .xi0jk1= xi0jk0 0 3Poto je ponuda jednaka potranji, mora se oduzeti i dodati isti broj 0.0 = min0_r_kxir+1r0), tj 0 je najmanja od onih bazinih komponenti koje se u sledeojiteraciji smanjuju. Kada se 0 odredi, jedna od ovih jednaina postaje xil+1jl1= 0. Zbogtoga se iz krunog puta izbacuje luk Sl+1Pl i tako se dobija nov put za reenje x1Novo reenje se definie na sledei nain:0 promenljive na krunom putu se transformiu po (3)0 one koje nisu na krunom putu se ne menjaju, tj xij1= xij0Maruta za reenje X1nije kruni put, tako da je to reenje bazino. Jo je potrebnopokazati T(X1) < T(X0).Ako se svaka druga jednaina sistema (2) pomnoi sa -1 i onda se saberu svejednaine, dobija se:ui00 vj00= _i,jtij = A4T(X1) T(X0) = _i,jtij0(xij1 xij0)== _i,ji=i0,j=j0tij(xij1 xij0) + ti0j0(xi0j01 xi0j00)= _i,ji=i0,j=j0tij0 + 0ti0j0= 0(A + ti0j0) = 0(Ai0j0ui00 vj00+ ti0j0)< 0Dakle, metoda potencijala u novom koraku daje reenje ija je vrednost funkcije ciljamanja od stare.26Nelinearno programiranjeMinimizacija funkcija jedne promenljive bez ogranicenjaJ(u) minu UU =R1= u : < u < )Definition Taka u- jeminimum funckije J(u) na skupu U ako vai J(u-) _ J(u), u U.Skup taaka u- koji zadovoljava uslov J(u-) _ J(u) oznaava se sa U-.Definition Funkcija J(u) je ograniena sa donje strane na skupu U ako vaiJ(U) _ M, u U, M=const. Funkcija J(u) je neograniena sa donje strane akopostoji niz uk) U tako da limkJ(uk) = .Definition Neka je funkcija J(u) ograniena sa donje strane. Tada je J- = J(u-) donjamedja ili infimum funkcije J(u) na skupu U.Definition Niz uk) U je minimizirajui niz za J(u) ako vailimkJ(uk) = infuUJ(u) = J-.Definition Taka u- je taka lokalnog minimuma funkcije J(u) ako JL > 0, tako da jeJ(u-) _ J(u), u U , u : ]u u-] < L) = OL(u-). Ako se jednakostJ(u-) = J(u) dotie samo za u=u- tada je u- strogi lokalni minimum funkcije J(u).TheoremNeka je U zatvoren i ogranien skup u R1. Tada je funkcija J(u) ograniena sadonje strane na U, skup U- je neprazan, zatvoren i bilo koji minimizirajui nizuk) U tei ka u-.Definition Niz uk) konvergira ka skupu U- ako vai: limk(uk, U-) = 0, gde je(uk, U-) = infu-U-]uk u-]Metode uporedjivanja vrednosti1. Metoda polovljenjaDefinition Funkcija F(u) je unimodalna na skupu U = u : a _ u _ b), ako jeneprekidna na intervalu |a, b] i ako postoje o i [ tako da jea _ o _ [ _ b i vai:1) J(u) je opadajua na |a, o]2) J(u) je rastua na |[, b]3) J(u) = J-, o _ u _ [, tj U- = |o, []Ako je o = [ funkcija J(u) je strogo unimodalna.Metoda polovljenja pripada klasi metoda uporedjivanja:u1 =a+bo2; u2 =a+b+o2; 0 < o < b aKada se formiraju ove dve take, raunaju se J(u1) i J(u2).0 Ako je J(u1) _ J(u2) u- |a, u2], postavi se a1 = a, b1 = u20 Ako je J(u1) _ J(u2) u- |u1, b], postavi se a1 = u1, b1 = b27Sada u- |a1, b1], duina intervala |a1, b1] je b1 a1 =ba+o2. Biraju se takeu3 =a1+b1o2i u4 =a1+b1+o2, pa se raunaju J(u3) i J(u4).Ovim postupkom se dobija u- |ak1, bk1];u2k1 =ak1+bk1o2i u2k =ak1+bk1+o2.Postupak se nastavlja dok ne bude |bk ak| _ c, gde je c unapred zadat broj.Sad vai da je u- ~ak+bk2.U svakom koraku se rade po 2 izraunavanja. Broj raunanja vrednostifunkcije J(un) je n = 2k. Tada je tanost reenja (b a)21 n2 .2. Metoda zlatnog presekaPostie istu tanost, sa upola manje raunanja.babu1=bu1u1a u1 = a + (3 5 )ba2u1 deli [a,b] po principu zlatnog presekabau2a =u2abu2 u2 = a + ( 5 1)ba2Takodje vaiu2au2u1 =u2u1u1a. Raunaju se J(u1) i J(u2).0 Ako je J(u1) _ J(u2) u- |a, u2], postavi se a1 = a, b1 = u2u1 deli |a1, b1] po principu zlatnog preseka, i prenese se simetrino, tjodredi se druga taka:b1 a1 = (a + ( 5 1)ba2 ) a = ( 5 1)ba20 Ako je J(u1) _ J(u2) u- |u1, b], postavi se a1 = u1, b1 = bb1 a1 = b (a + (3 5 )ba2 ))= ( 5 1)ba2Postupak se nastavlja dok se ne dodje do intervala |ak, bk], za koji vai|bk ak| _ c, gde je c zadata tanost bk ak = (5 12)k(b a)Prednost metode zlatnog preseka ima jedno izraunavanje u svakom koraku.Mana je to poinje sa iracionalnim brojem 5 , a to u startu unosi greku. San izruaunavanja funkcije postie se red tanosti kao i sa metodom polovljenjasa 2n raunanja.3. Metoda FibonaijaLn = b a; Ln: Ln1 = Fn: Fn1Ln = Ln1 + Ln2; L0 = 1, L1 = 1;Posmatra se vrednost funkcije u u1 i u2:0 Ako je J(u1) _ J(u2) u- |a, u2], postavi se a1 = a, b1 = u20 Ako je J(u1) _ J(u2) u- |u1, b], postavi se a1 = u1, b1 = bu- |a1, b1]Fn =1+ 52n1 52n5d-duina poslednjeg intervala, tj tanost:Fn: 1 = (b a) : d d =baFn- odredjuje se nbau1a =FnFn2 u1 =(ba)Fn2Fn+ aMinimizacija funkcija vie promenljivihPosmatra se funkcija J(u), u RnEpsilon okolina take u obleava se sa: Oc(u) = v : v Rn, ]v u] < c), c > 0Definition Funkcija J(u) je diferencijabilna u taki u ako postoji vektor J'(u) Rntakavda je:28AJ(u) = J(u + h) J(u) = J'(u), h + o(h, u)Gde jeo(h,u)]h] 0, h 0.Vektor J'(u) je gradijent funkcije J(u) u taki u.J'(u) =cJ(u)cu1cJ(u)cu2. . . cJ(u)cuncJ(u)cui= limo0J(u+oei)J(u)o, gde je eijedinini vektorDefinition Funkcija J(u) je dvostruko diferencijabilna u taki u ako postoji matrica J''(u),takva da se prirataj funkcije moe izraziti u obliku:AJ(u) = J'(u), h +12J''(u)h, h + o(h, u)pri emu jeo(h,u)]h] 0, h 0.Matrica J''(u) je hesijan:J''(u) =c2J(u)c2u1c2J(u)cu1cu2. . .c2J(u)cu1cunc2J(u)cu2cu1c2J(u)c2u2. . .c2J(u)cu2cun. . . . . . . . .c2J(u)cuncu1c2J(u)cuncu2. . .c2J(u)c2unDefinition Taka v za koju vai J'(v) = 0 naziva se stacionarna taka funkcije J(u).Stacionarne take su potencijalni ekstremi. Da bi se utvrdilo da je stacionarna taka vekstrem funkcije J(u) posmatra se kvadratna forma J''(v)h, h :0 Ako je J''(v)h, h > 0 za h = 0, tj pozitivno definitna q, taka v je takalokalnog minimuma.0 Ako je J''(v)h, h < 0 za h = 0, tj negativno definitna , taka v je takalokalnog maksimuma.0 Ako kvadratna forma menja znak, onda u toj taki nema ekstrema.0 Ako je kvadratna forma jednaka nuli u taki v, onda se za ispitivanje koriste izvodivieg reda. Medjutim, izvod 3. reda je matrica u 3 dim, matrica 4. reda u 4 dimitd, pa se ovo ne koristi u praksi, nego se minimum odredjuje priblino.Problem minimizacije funkcije vie promenljivih moe biti bez ogranienja (1) ili saogranienjima (2):(1)J(u) minu Rn(2)J(u) minu UU RnOdredjivanje vezanog ekstremaPosmatra se problem sa ogranienjima:J(u) minu UU = u Rn: g1(u) = 0, . . . , gs(u) = 0) 3Ako bi se skup U zapisao u drugaijem obliku, tj da se prvih s promenljivih izrazi preko29ostalih:u1 = a1(us+1, . . . , un)u2 = a2(us+1, . . . , un). . .us = as(us+1, . . . , un)Problem se svodi na problem minimizacije bez ogranienja. Tada:(x) = J(a1(us+1, . . . , un), a2(us+1, . . . , un), . . . , as(us+1, . . . , un), us+1, . . . , un)gde je x = (us+1, . . . , un) Rns, bez ogranienja. Medjutim to nije uvek mogue uraditi,zato se ee koristi sledea metoda:Metoda Lagranovih mnoziteljaProblemu (3) dodeljuje se funkcija Lagrana:L(u, z) = z0J(u) +_j=1szjgj(u)z = (z0, z1, . . . , zs) Rs+1Ako postoji reenje problema (3) i ako je taj minimum vektor u-, tada postoje mnoiteljiLagrana z- = (z0-, z1-, . . . , zs-) = 0, takvi da je:z0- cJ(u-)cui+_j=1szj- cgj(u-)cui= 0, i = 1, . . . , n4odnosno vektori J'(u), g1'(u), . . . , gs'(u) su linearno zavisni u taki u-.Ako se sistemu jednaina (4) doda sistemgj(u-) = 0, j = 1, . . . , s5dobija se sistem od n+s jednaina sa n+s+1 nepoznatom (postoji 1 stepen slobode).Odatle sledi da ako je neki par (v, z) reenje sistema, onda je i par (v, oz) reenje togsistema, gde je o skalar.Najcesce se prethodnom sistemu doda i jednaina _i=1szi = 1, pa je to onda sistem saistim brojem nepoznatih i jednacina.Ako je z0 = 0 problem je regularan. Tada se uzima z0 = 1 i funkcija Lagrana postaje:L(u, z) = J(u) +_j=1szjgj(u)Ako su reeni sistemi (4) i (5)), da li je to reenje minimum funkcije J(u)?Pretpostavlja se da sistemi (4) i (5) imaju reenje i da je z0 = 1.Ako je kvadratna forma (Lnn(u-, z-)h, h) > 0, tj pozitivno definitna, za h = 0 za koje vai igi'(u-), h = 0, gde je (u-, z-) reenje sistema (4) i (5), tada je u- minimum funkcijeJ(u), tj reenje problema (3).Uglavnom e se posmatrati minimizacija konveksnih funkcija, tj problemi oblika:J(u) minu Ugde je J(u) konveksna funkcija, U konveksni skup. Tada se problem (7) naziva problemkonveksnog programiranja.30Konveksne funkcijeDefinition Funkcija J(u) koja je definisana na konveksnom skupu U, je konveksna na tomskupu ako je:J(ou + (1 o)v) _ oJ(u) + (1 o)J(v), u, v U, 0 _ o _ 11Ako je u (1) jednakost mogua samo za o = 0 ili o = 1, onda je funckija strogokonveksna.Funkcija J(u) je konkavna ako je -J(u) konveksna. Stroga konkavnost sedefinie analogno strogoj konveksnosti.Geometrijska interpretcija:M(u,J(u)); N(v,J(v));Posmatraju se take definisane sa: [ = ou + (1 o)v; , = oJ(u) + (1 o)J(v)[ je parametrizacija dui (u,v), tj intervala. ([, ,) opisuje seicu.U R2grafiki posmatrano, konveksna funkcija je ona kod koje grafik lei ispod seice.0 Za konveksan skup U vai:ui U, i = 1, . . . , m _i=1moiui U, _i=1moi = 1, oi _ 0, i = 1, . . . , m.0 Za konveksnu funkciju J(u) vai analogno:J(_i=1moiui) _ _i=1moiJ(ui)TheoremNeka je U konveksan skup, J(u) C1(U). Potreban i dovoljan uslov da je Jkonveksna na U je da vai:J(u) _ J(v) + J'(v), u v , u, v U2Proof ) J(u) je konveksna funkcija. Na osnovu definicije:J(ou + (1 o)v) _ oJ(u) + (1 o)J(v)teorema o sr. vredJ(ou + (1 o)v) J(v) _ o(J(u) J(v))Teorema o srednjoj vrednosti: f(x) f(y) = f'()(x y), (x, y), sledi:J'(v + 0o(u v)), o(u v) _ o(J(u) J(v)) / : oJ'(v + 0o(u v)), (u v) _ (J(u) J(v)) /o 0J'(v), (u v) _ (J(u) J(v))to je ba (2).) pretpostavka da vai (2); u, v U, 0 _ o _ 1Formira se taka uo = ou + (1 o)v U (U je konveksan skup)(J(u) J(ua))_ J'(ua), u uo/o(J(v) J(ua))_ J'(ua), v uo/(1 o)+o(J(u) J(ua)) + (1 o)(J(v) J(ua))_ oJ'(ua), u uo+ (1 o) J'(ua), v uooJ(u) + (1 o)J(v) J(uo) _ J'(ua),=uoou + (1 o)v ua= 0oJ(u) + (1 o)J(v) _ J(uo) = J(ou + (1 o)v)to je definicija konveksnosti funkcije.31TheoremAko je U konveksni skup i J(u) C1(U), funkcija J(U) je konveksna na U akko:J'(u) J'(v), u v _ 0, u, v U3TheoremNeka je U konveksan skup,= unutranjost skupa, J(u) C2(U), funkcijaJ(u) je konveksna na U akko:J''(u), _ 0, Rn, u U Rn 4Proof ) Funkcija je konveksna.0 u , Rn, Jc0 < 0, tako da u + c U za |c| _ c0Za konveksne funkcije vai (3), pa se primenjuje:J'(u + c) J'(u), cte o sr vred= J''(u + 0c), c2(3)_0, 0 _ 0 _ 1J''(u + 0c), _ 0, c 0J''(u), _ 0to je (4)0 u je rubna takaPo definiciji adherentnih taaka postoji niz um), um tako dalimmum = u.Za unutranje take vai J''(um), _ 0, RnlimJ''(um), = J''(u), _ 0, jer J(u) C2(U).) vai relacija (4)Na osnovu teoreme o srednjoj vrednosti:J'(u) J'(v), u v = J''(Uv + 0(u v))(-u v),-u v(4)_0sto znaci da vai relacija (3) i sledi da je funkcija konveksna.TheoremNeka je U konveksan skup i J(u) C1(u). Neka je J(u) konveksna na U i neka jeU- skup taaka minimuma funkcije J(u) na skupu U. Potreban i dovoljan uslov daneka taka u- pripada skupu U- je da vai:J'(u-), u u-_ 0, u U5Ako je u- unutranja taka onda se ovaj uslov svodi na J'(u-) = 0. Ako jeU = Rn, uslov (5) se takodje svodi na J'(u-) = 0.Proof ) u- je minimumPosmatra se funkcija g = J(u- o(u u-)) J(u-)g _ 0 jer je u- o(u u-) U, a vrednost funkcije u proizvoljnoj taki je veaili jednaka od vrednosti funkcije u minimumu, tj u-.g se razvija u Tejlorov red:g = oJ'(u-), u u-+ o(o) _ 0 / : oJ'(u-), u u-+o(o)o_ 0,J'(u-), u u-_ 0 za o 0 , to je (5).0 Za u- , Jc0 > 0, e Rn, u- + c0e , kad se ovo uvrsti u (5):cJ'(u-), e _ 0, |c| _ c0, e RnPoto c moe biti i pozitivno i negativno, kao i e, ova relacija moe bititana, samo kada je J'(u-) = 0, tj kada je J'(u-) normalan na svakivektor e.0 Ako je U = Rntada u u- generie ceo prostor Rn. Uslov (5) jezadovoljen sa jednakou.32J'(u-), u u-= 0 moe biti jedino ako je J'(u-) = 0, tj ako je J'(u-)normalno na svaku razliku u-u-.) vai relacija (5)J(u) je konveksna, zato vai relacija (2):J(u) J(u-) (2)_ J'(u-), u u-(5)_0Dakle u U, J(u) _ J(u-) u- je minimum.Metode gradijentaReava se problem:J(u) minu Rnbez dodatnih ogranienja.Princip: Uzima se poetna taka u0, nekim sistemom dolazi se do take m- koja jeminimum. Sistem se bira tako da se od u0 do u1 prolazi pravcem u kome ta funkcijanajbre opada. Pokazuje se da je taj pravac, pravac antigradijenta (J'(u)). Pravacnajbreg rasta je pravac gradijenta (J'(u)).Prirataj u taki u, iz Tejlorovog razvoja je:J(u + h) J(u) = J'(u), h + o(h)Koristi se nejednakost Koi-Bunjakovskog:a = (a1, . . . , an); b = (b1, . . . , bn);_k=1nakbk2_ _k=1nak2_k=1nbk2sledi: ]a]]b] _ _k=1nakbk _ ]a]]b]Primenom na prirataj dobija se: ]J'(u)]]h]2._ J'(u), h1._ ]J'(u)]]h]Trai se h tako da vai jednakost. Neka je o > 0.0 Ako je h = oJ'(u) onda 2. prelazi u jednakost, i to je pravac najbreg pada.0 Ako je h = oJ'(u) onda 1. prelazi jednakost, i to je pravac najbreg rasta.Od take uk do take uk+1 pomera se u pravcu antigradijenta tako to se formira sledeiniz:uk+1 = uk okJ'(uk), k = 0, 1, . . .1Prvo se bira u0, onda se formira niz uk). Duinu koraka du antigradijenta odredjuje o.Pokazuje se da postoje uslovi koji obezbedjuju da limkuk = u- U.Sve metode gradijenta imaju formulu (1), a razlikuju se po nainu biranja koeficijenta ok.Posmatra se prirataj:J(uk+1) J(uk) = J'(uk), uk+1 uk+ o(uk+1 uk)J(uk+1) J(uk) = ok(J'(uk))2+ o(ok), ok > 02U dovoljno maloj okolini uk moe se izabrati ok tako da ceo izraz (2) bude negativan, tjda se postupak kree ka minimumu.33Algoritamski: izabere se neko ok i izrauna uk+1. Proveri se da li je prirataj negativan.Ako nije smanji se ok i ponovo vri izraunavanje i provera. Tako se smanjuje vrednostJ(uk) i ide ka minimumu.Ako je u nekoj tacki J'(uk) = 0, metoda otkazuje. Ova metoda je gruba, ali se dolazi dotake koja se nalazi u blizini minimuma, a onda se moe nekim preciznijim postupkom,npr Njutnovim, doi do tanog reenja.Metoda najbrzeg pada (Koijeva metoda)Posmatra se niz:uk+1 = uk okJ'(uk), k = 0, 1, . . .J'(uk) = 0, u0 Rn 1ok se bira na sledei nain:Posmatra se funkcija fk(o) = J(uk oJ'(uk)). Trai se infimum ove funkcije:fk(ok) = info_0fk(o) = fk- 2Proverava se da li je ok = 0fk'(o) = J'(uk oJ'(uk)), J'(uk)fk'(0) = J'(uk)2= 0, jer je J'(uk) = 0, sledi da je ok > 0 i metod ima smisla.0 Ako je J(u) =12 (Au, u) (b, u) kvadratna forma, gde je A matrica, u i b su vektori.Metoda najbreg pada za ovu funkciju bi bila:uk+1 = uk ok(Auk b)3jer je J'(u) = Au b. Izraz (3) opisuje relaksacioni metod za reavanje jednaineAu=b.Za ovakvu funkciju J(u), ok se moe eksplicitno izraziti:fk(o) = J(uk) o]J'(uk)]2+o22AJ'(uk), J'(uk) , o _ 0fk'(o) = ]J'(uk)]2+ oAJ'(uk), J'(uk) = 0 stacionarna takaok =J'(uk)2(A(Aukb),Aukb) , i sad uk+1 = uk okJ'(uk)0 Ako funkcija nije tako jednostavna, ok se ne moe nai egzaktno. Poto je fk(o)funkcija jedne promenljive na nju moe da se primeni neka od metoda zaminimizaciju funkcija jedne promenljive. Medjutim, tako dolazi do greke, pa seuslov za ok oslabljuje:fk- _ fk(ok) _ fk- + ok, ok > 0, _k=1ok = o < 4fk- _ fk(ok) _ (1 zk)fk(0) + zkfk-, 0 < zk < 150 ok moe da se odredi i tako da vai sledece:J(uk) J(uk ok(J'(uk))_ cok]J'(uk)]2, c > 06Pomou c se regulie da drugi lanovi ovog Tejlorovog razvoja ne kvarenejednakost.TheoremAko je niz uk) odredjen sa (1), ok odredjeno sa (6) i J(u) C1(Rn), tada jesvaka taka nagomilavanja niza uk), stacionarna taka funkcije J'(u).TheoremNeka je niz uk) dobijen postupkom (1), ok odredjeno sa (2), J'(uk) = 0, J(u)konveksna funkcija, J(u) C1(Rn). Tada je svaka taka nagomilavanja niza uk)globalni minimum funkcije J(u) na skupu Rn.34TheoremNeka je J- = infuRn J(u) > , J(u) C1(Rn) i ]J'(u) J'(v)] _ L]u v],gde je L>0 Lipicova konstanta, u, v Rn(oznakom J(u) C1,1(Rn)). Neka je nizuk) dobijen postupkom (1) i ok sa (4). Tada za proizvoljno u0 RnvailimkJ'(uk) = 0. Ako je jo skup no(u0) = u Rn: J(u) _ J(u0) + o), gde je ogreka iz (4), ogranien, tada je svaka taka nagomilavanja niza uk) stacionarnataka funkcije J'(u).TheoremNeka je J(u) C1(Rn) i J(u) konveksna funkcija. Tada za niz uk) dobijenpostupkom (1) i ok sa (4) vai limkJ(uk) = J- i limk(uk, u-) = 0. Ako je u (4)ok = o(k2) tada vai 0 _ J(uk) J- _ c0k1, c0 > 0.Prethodna teorema govori da za minimizaciju funkcije jedne promenljive, ok, trebakoristiti minimizaciju reda veeg za jedan od eljene tanosti za u-.Definition Funkcija J(u) je jako konveksna na skupu U ako postoji _ > 0 tako daJ(ou + (1 o)v) _ oJ(u) + (1 o)J(v) o(1 o)_]u v]2za u, v UTheorem (Jake konveksnosti) Potreban i dovoljan uslov da funkcija J(u) bude jakokonveksna je:J'(u) J'(v), u v _ j]u v]2, u, v U, j > 0Ekvivalentan uslov je: J''(u), _ j]]2.Geometrijska interpretacijaPrimenom metode najbreg pada na funkciju J(u) dobija se niz taaka ui) koji sesputa do minimuma. Ta figura se presee ravnima paralelnim xy ravni u takama niza ite linije se projektuju na xy ravan. Dobijene linije lie na nivoe u geografskim kartamaJ(u) = J(uk) jedna jednaina linije nivoaGk = u Rn: J(u) = J(uk)) linija nivoaLk = u Rn: u = uk oJ'(uk), o _ 0 uk+1 Lk pravacPravac Lk je skup svih taaka prave koja prolazi kroz tacku uk i ima pravac J'(uk). Da sulinije nivoa krunice, do reenja (minimuma) bi se dolo u jednom koraku. Zato trebasmenom promenljivih dobiti linije to blie krunici.Dokaz da su pravci normalni na linije nivoa:u(t) je parametarska jednaina linije Gk. Tada vaiJ(u(t))= J(uk) = const , a _ t _ b, u(t0) = uk 7Izvod leve i desne strane ove relacije po parametru t je:J'(uk), u(t) = 0, za t=t0:J'(uk), u(t0) = 0 Lk Gk / Lk ] J'(uk) J'(uk) GkIz definicije koeficijenta ok:fk'(o) = J'(uk oJ'(uk)), J'(uk) |okfk'(ok) = 0 = J'(uk+1), J'(uk) J'(uk+1) J'(uk)Iz J'(uk) Gki J'(uk+1) J'(uk) sledi Gk+1 ] J'(uk). Znaci sa istim indeksima Gi i Li sunormalni, a sa uzastopnim indeksom su paralelni.Ova metoda se primenjuje na jako konveksne funkcije, za koje vai J(u) C1,1(U). Tadavae ocene:0 Ocena po vrednosti funkcije:0 _ J(uk) J- _ (J(u0) J-)qkGde je35q = 1 jL 8gde je j konstanta iz teoreme jake konveksnosti, a L Lipicova konstanta.0 Ocena po argumentima funkcije:]J'(u) J'(v)] _ L]u v]]uk u-]2_2j (J(u0) J-)qk, 0 _ q < 1Ako su linije nivoa kruznice tada vai:J'(u) J'(v) = u v9Kada se (9) ubaci u Lipicov uslov, sledi da je L=1, onda iz teoreme sledi j = 1. To seiskoristi u (8) i dobija se q=0, pa sledi da se minimum dobija u prvom koraku.Ova metoda daje loe rezultate kod funkcija koje imaju oblik "erpe" (jaruge), zato toortogonalni pavci uvek ostaju na obodu i ne sputaju se do minimuma. Takve funkcije seprepoznaju tako to se za male promene argumenta vrednost funkcije jako menja. Zatakve funkcije se koriste druge metode, npr metoda ravnine, koja ima popravke uodnosu na metodu najbreg spusta.Metodom gradijenta se zapravo minimizuje Tejlorov razvoj funkcije. Za kvadratnufunkciju metoda najbreg pada ne daje tano reenje, jer Tejlorov red daje tanu ocenujedino za linearne funkcije, a kod kvadratnih priblinu.Gradijentni postupak se moe ubrzati uvodjenjem jedne regularne pozitivno definitnematrice Ak:uk+1 = uk okAkJ'(uk)ok > 0Ako je ta matrica Ak = (J''(uk))1, onda se dobija Njutnova metoda i ona je bra odgradijente. Ako se Ak pogodno izabere, linije nivoa se mogu transformisati da budu bliekrunicama.Metoda konjugovanih pravacaOva metoda daje minimum kvadratne forme u konano mnogo koraka. Zato je bolja odmetode najbreg pada. Zasniva se na poznavanju prvog izvoda.J(u) C1(Rn)Hiperravan: I = I(c, ,) = u Rn: (c, u) = ,)c- vektor normale hiperravni, c = 0u0 I (c, u0 ) = ,u I (c, u) = ,kombinacijom ovoga dobija se drugaije izraena hiperravan:I = I(c, u0) = u Rn: (c, u u0 ) = 0)c (u u0), c = 0Minimizirae se funkcija J(u) data kao:J(u) =12 (Au, u) (b, u) inf, gde je A>0 pozitivno definitna i simetrina matrica.Funkcija J(u) je jako konveksna i dostie svoj minimum u u- Rnkoja je jedinstvenataka i vai:J'(u) = Au bJ''(u) = Aza u=u- slediJ'(u-) = Au- b = 0 u- = A1bAlgoritamOdabere se u0 Rnkao poetna taka i pravac p0 = J'(u0)36Ako je J'(u0) = 0 u0 = u-, inae ako je J'(u0) = 0 rauna se nova taka:u1 = u0 o0p0, gde je o0 _ 0, f0(o) = J(u0 op0) i to se minimizira: f0(o0) = mino>0f0(o),na isti nain kao kod metode najbreg pada. Proverava se da li je o0 > 0 :f0'(o) = J'(u0 op0),=J'(u0)p0f0'(0) = J'(u0), J'(u0) = ]J'(u0)] < 0 o0 > 0f0'(o0) = J'(u0 o0p0), p0= J'(u1), p0= 01sledi J'(u1) p0, p0 = J'(u0), p0 = 0 Ap0 = 0Zato se moe definisati hiperravan I1 = u Rn: (Ap0, u u1 ) = 0)Pokazuje se da minimum lei u I1. Hiperravan je linearna kombinacija vektora iz Rn1.Time je ve smanjen stepen prostora, na ovaj nain se stepen moe smanjiti do R0, toje taka.(Ap0, u- u1 ) = (Ap0, A1b u1 ) = (A1Ap0, b Au1 ) = p0, J'(u1) = 0 zbog (1)sledi u- I1Nastavlja se dalje, rauna se J'(u1).0 ako je J'(u1) = 0 u- = u10 ako je J'(u1) = 0 formira se pravac p1 = J'(u1) [0p0, gde je [0 takvo da vai:p1 ] I1, p1 Ap0 2Zato treba da vai:(Ap0, p1 ) = 0(Ap0, p1 ) = Ap0, J'(u1) [0p0= Ap0, J'(u1) (Ap0, [0p0 ) = 0[0 =Ap0,J'(u1)(Ap0,p0 ), (Ap0, p0 ) = 0 jer je A>0 i p0 = 0 iz pretpostavke.Sada se definise taka u2:u2 = u1 o1p1 3gde je o1 odredjeno na isti nain kao i o0:f1(o) = J(u1 op1); f1(o1) = mino_0f1(o)f1'(0) = J'(u1), p1= J'(u1), J'(u1) + [0p0= ]J'(u1)]2< 0, jer jeJ'(u1), [0p0= 0 iz (1) o1 > 0 pa je u2 dobro definisano.f1'(o1) = 0 jer treba da bude minimumf1'(o1) = J'(u1 o1p1), p1= J'(u2), p1= 0J'(u2) p1 4J'(u1) J'(u2) = Au1 b (Au2 b) = A(u1 u2) (3)=Ao1p1, slediJ'(u2) = J'(u1) o1Ap1 5J'(u2), J'(u0)(5)= J'(u1) o1Ap1, J'(u0) ==0(1)J'(u1), p0+=0(2)(o1Ap1, p0 )= 0 slediJ'(u2) J'(u0) = p0 6J'(u2), J'(u1) = J'(u2), p1 + [0p0==0(4)J'(u2), p1+=0(6)J'(u2), [0p0slediJ'(u2) J'(u1)Zakljuak: svi pravci su medjusobno ortogonalni.Proverava se linearna nezavisnost Ap0 i Ap1,0Ap0 + ,1Ap1 = 0 / - p0 ,0(Apo, p0 ) = 0 ,0 = 037,0Ap0 + ,1Ap1 = 0 / - p1 ,1(Ap1, p1 ) = 0 ,1 = 0Sledi da su linearno nezavisni.Pretpostavi se da je formiran niz taaka u0, u1, . . . , uk po formulama:0 ui+1 = ui oipi0 fi(o) = J(ui opi); fi(oi) = mino_0fi(o)0 pi = J'(ui) [i1pi1 = 00 [i1 =Api1,J'(ui)(Api1,pi1 )Pretpostavlja se jo da vae normalnosti:0 (Api, pj ) = 0, i = j, 0 _ i, j _ k 10 J'(ui), pj= 0, 0 _ j < i _ k0 J'(ui), J'(uj) = 0, i = j, 0 _ i, j _ k0 J'(ui) = 0, i = 0, 1, . . . , kUz ove pretpostavke trvdi se da uslovi normalnosti vae i za i=k. Dokaz je analogandokazu kad se prelazi sa u1 na u2, pa je izostavljen.Ovakvim postupkom se generiu hiperravni:Ii+1 = u Rn: (Api, u ui+1 ) = 0), i = 1, . . . , k 1Hiperravni Ik predstavljaju linearne mnogostrukosti dimenzije n-k u prostoru Rn.Za svaku Ik vai: u- Ik . U najvie n koraka dolazi se do n-k=0, a ta linearnamnogostrukost je taka.Drugim reima: Vektori J'(u0), J'(u1), . . . , J'(uk) su svi medjusobno ortogonalni, a uprostoru Rnmoe postojati najvie n takvih vektora. Zato mora postojati k N tako daJ'(uk) = 0 u- = uk i do njega se dolazi u najvie n koraka.Do sada je razmatran metod konjugovanih gradijenata za funkciju J(u) u oblikukvadratne forme, tj za problem:J(u) =12 (Au, u) (b, u) infu RnAlgoritam je sledei:1. izabere se u0 Rn2. uk+1 = uk okpk3. fk(ok) = mino_0fk(o), fk(o) = J(uk opk)4. pk = J'(uk) [kpk1[i =Api1,J'(ui)(Api1,pi1 )p0 = J'(u0)Tada vai da je J'(uk+1), pk= 0, J'(u) = Au b(Auk+1 b, pk ) = (A(uk okpk) b, pk )= (Auk b okApk, pk )= J'(uk) okApk, pk= J'(uk), pk ok(Apk, pk ) = 0sledi:ok =J'(uk), pk(Apk, pk )Vai jo da su pravci pi medjusobno ortogonalni i konjugovani u odnosu na matricu A, tj:(Api, pi ) = 0 i (Api, pj ) = 0, i = j. I gradijenti J'(u0), . . . , J'(uk) su ortogonalni i konjugovani38na A.Posmatra se primena ovog metoda na problem u optem oblikuJ(u) minu Rn 7J(u) C1(Rn)Kree se od koeficijenta [k i iz njegove formule, gde treba eliminisati A:brojilac:Apk1, J'(uk)(5)= ok11(J'(uk) + J'(uk1)), J'(uk)= ok11J'(uk), J'(uk) + ok11=0ort.J'(uk1), J'(uk)= ok11]J'(uk)]2imenilac:(Apk1, pk1 ) = ok11(J'(uk) + J'(uk1)), pk1= ok11J'(uk1), pk1, J'(uk), pk1= ok11J'(uk1), pk1= ok11J'(uk1), J'(uk1) [k2ort.pk2= ok11J'(uk1), J'(uk1)= ok11]J'(uk1)]2Ove jednakosti vae samo za kvadratne forme, jer su odatle dobijene. Za primenumetoda konjugovanih pravaca za problem (7), algoritam je sledei:1. izabere se u0 Rn2. uk+1 = uk okpk3. fk(o) = J(uk opk), fk(ok) = mino_0fk(o)4. pk = J'(uk) [kpk1p0 = J'(u0)gde se [k odredjuje na jedan od sledeih naina:[k =J'(uk), J'(uk1) J'(uk)]J'(uk1)]2 8[k = ]J'(uk)]2]J'(uk1)]2 9[k =J''(uk)pk1, J'(uk)J''(uk)pk1, pk1, akoJ(u) C2(Rn)10Jednakosti (8),(9) i (10) su ekvivalentne za kvadratnu formu. Metod zasnovan najednakosti (10) se retko koristi, samo kada se matrica J''(uk) lako izraunava.Ako se metod primenjuje dugo, moe se desiti da zbog greaka zaokruivanja pravci pkzalutaju. Tada se postavi [k = 0 i time se vraa na gradijent. Broj k za koji se uzima[k = 0 se naziva momenat obnavljanja metode. k I0 = n, 2n, 3n. . . ) n-dimenzijaprostora.39TheoremNeka je J(u) jako konveksna funkcija na Rn. Neka je J(u) C1,1(Rn) i neka je zareavanje problema (7) primenjen metod konjugovanih pravaca sa [k koje jeodredjeno sa (8). Tada za bilo koji izbor skupa I0 i bilo koje u0 Rnniz ukkonvergira ka u-i pri tome vai ocena:0 _ ak = J'(uk) J- _ qka0- konvergencija po vrednosti funkcije]uk u-]2_2j qka0, k = 0, 1, . . . - konvergencija po vrednosti argumenatagde je q = 1 j3L(j2L2) , 0 < q < 1, j je konstanta iz uslova jake konveksnosti,J'(u) J'(v), u v _ j]u v]2, a L je Lipicova konstanta.Metod konjugovanih pravaca konvergira i po vrednostima funkcije i po vrednostimaargumenata.Njutnova metodaReava se problem minimizacije:J(u) minu U Rnsa ogranienjima, a moe i bez.Vea glatkost obezbedjuje bru konvergenciju. Ova metoda se sastoji u minimizacijikvadratnog dela Tejlorovog razvoja funkcije J(u), zato je tanost vea od prethodnemetode. Ona daje minimum kvadratne forme u jednom koraku (u emu se ogledabrzina), ali zahteva raunanje hesijana. Potrebno je da bude J(u) C2(U), U Rn.Neka je u0 U i neka se bilo kojom metodom dodje do priblinog reenja uk. Vairazvoj:J(u) J(uk) = J'(uk), u uk+12J''(uk)(u uk), u uk+ o(]u uk]2)Zanemari se ostatak i definie funkcija:Jk(u) = J'(uk), u uk+12J''(uk)(u uk), u uk 1Neka je k reenje (minimum) ove funkcije, tj: Jk(k) = minuUJk(u)Formira se niz:uk+1 = uk + ok(k uk), o _ ok _ 1to predstavlja opti oblik Njutnove metode. U zavisnosti od naina na koji se bira okpostoji vie varijanti Njutnovog metoda:1. ok = 1, k = 0, 1, . . .Tada je uk+1 = k Jk(uk+1) = minuUJk(u)Specijalno kada je U = Rnonda je Jk'(uk+1) = 0, iz (1) sledi:Jk'(uk+1) = J'(uk) + J''(uk+1)(uk1 uk) = 02Ako se pretpostavi da je J''(uk) regularna matrica, tada iz (2) reavanjem pouk+1 sledi:uk+1 = uk (J''(uk))1J'(uk)3"obian Njutn". Ranije je radjeno f(u) = 0, reava se: uk+1 = uk f'(uk)f''(uk)2. ok = zi0, io je najmanji i>0 za koje vai:40J(uk) J(uk zi(k uk))_ czi]J'(k)], 0 < z, c < 13. fk(ok) = min1_o_0fk(o), fk(o) = J(uk + o(k uk))Ako je Jk(u) jako konveksna i ako je U = Rnmoe se primeniti npr metod konjugovanihpravaca i dobiti reenje u n koraka. Njutnov metod se koristi kada se gradijent i hesijanmogu relativno lako izraunati. Metode gradijenta nemaju uslov za pocetnu taku, dokNjutnova metoda ima. Najee se gradijentnom metodom dodje u neku okolinu reenjai tu ponu oscilacije. Zato se u toj taki primeni Njutnov metod i bre dodje do reenja.Teoreme o konvergenciji Njutnove metode:TheoremNeka je J(u) jako konveksna funkcija na U = Rn. Neka je J(u) C2(Rn) i]J''(u) J''(v)] _ L]u v], u, v Rn. Neka je u0 izabrano tako da vai:L]J'(u0)] _ 2j2q4J''(u), _ j]]2i 0 0 ai _ gi(u) > 0 ali bi < 0 a BAnalogno se dokazuje da za b B b A.0 KonveksnostPrvo za skup A. A je konveksan ako i samo akoa, c A ao = oa + (1 o)c Aa, c A Ju, v U0: a0 _ J(u), ai _ gi(u), i = 1, . . . , m;c0 _ J(v), ci _ gi(v), i = 1, . . . , mFormira se taka uo = ou + (1 o)v U0 jer je konveksan.J(uo)konv_ oJ(u) + (1 o)J(v) _prva komp aooa0 + (1 o)c0gi(uo)konv_ ogi(u) + (1 o)gi(v) _i-ta komp aooai + (1 o)ci45ao A Juo U0, ao0_ J(uo), aoi_ gi(uo)Dakle ao = oa + (1 o)c A, jer takva taka ua postoji, pa je Akonveksan. Analogno se pokazuje da je i B konveksan skup.Za diskujnktne konveksne skupove vai da postoji hiperravan koja ih razdvaja,neka je toHip = u : (c, u) = ,)c = (z0-, . . . , zm- ) = 0 fiksiran vektorOva hiperravan razdvaja i A i B (zatvorenje skupa B) - bez dokaza.B = b = (b0, b1, . . . , bm) Rm+1: b0 _ J-, bi _ 0, i = 1, . . . , m)(c, b) _ , _ (c, a)a A, b B._i=0mzi-bi _ , _ _i=0mzi-aiZato je vektor preseka y = (J-, 0, . . . , 0) A , B , = (c, y) = z0-J-z0-b0 +_i=1mzi-bi _ z0-J- _ z0-a0 +_i=1mzi-ai 8posmatra se vektor b = (J- 1, 0, . . . , 0) B i uvrsti u (8):z0-(J- 1) _ z0-J- z0- _ 0za b = (J-, 0, . . . , 0,i poz1, 0, . . . , 0) B opet se uvrsti u (8):z0-J- zi- _ z0-J- zi- _ 0, i = 1, . . . , mPokazuje se da su ovakvi zi-Lagranovi mnoitelji, tj da je (u-, z-) sedlastataka, odnosno da su zadovoljene relacije (5) i (6).Uzima se a = (J-, 0, . . . , 0, gi(u-), 0, . . . , 0) A , B i u- U- i uvrsti u (8) saobe strane:z0-J- + zi-gi(u-) _ z0-J- _ z0-J- + zi-gi(u-)zi-gi(u-) _ 0 _ zi-gi(u-) zi-gi(u-) = 0, u- U a to je (6).Jedna od pretpostavki teoreme je da je U regularan skup, tj da vai Slaterovuslov. Neka jeSlaterova taka. Pokazuje se da kod regularnih problema vaiz0- > 0.Uzima se a = (J(), g1(), . . . , gm()) A i uvrsti u (8)z0- _ z0-J() +_i=1mzi-gi()Pretpostavi se suprotno, tj z0- = 0, tada0 _ 0 +_i=1mzi-gi()to je kontradikcija jer vai Slaterov uslov, pa je _i=1mzi-gi() < 0. Ni preostale zi-ne smeju biti jednaki nuli, jer je vektor c = 0, a pretpostavljeno je da je z0- = 0, toje kontradikcija. Dakle z0- > 0.Bez umanjenja oposti se uzima z0- = 1.Uzima se a = (J(u), g1(u), . . . , gm(u)) A, u U0, i uvrsti u (8)46J- _ J(u) +_i=1mzi-gi(u) = L(u, z-)u ovo se zameni u = u-, u- U-:J- _ J(u-) +=0 po (6)_i=1mzi-gi(u-)= L(u-, z-) J- = J(u-) = L(u-, z-) L(u-, z-) _ L(u, z-), a to je (5).Poto vae (5) i (6) dokazano je da je (u-, z-) sedlasta taka funkcije Lagrana.Theorem (KT3) Neka je dat problem nelinearnog programiranja kakav je opisan u teoremiKT2. Potreban i dovoljan uslov da u- bude reenje takvog problema je da postojiz- _ 0 tako da je (u-, z-) sedlasta taka funkcije Lagrana dodeljene tomproblemu.Dualnost u nelinearnom programiranjuKod linearnog programiranja je vailo Jp(u-) = Jd(d-), kod nelineranog programiranja tone vai.Posmatra se sledei problem:J(u) infu UU = u Rn: u U0, gi(u) _ 0, i = 1, . . , m, gi(u) = 0, i = m + 1, . . . , s) 1gi(u) = (ai, u) bi, i = m + 1, . . . , sZadatku (1) se pridruuje funkcija Lagrana:L(u, z) = J(u) +_i=1szigi(u), u U0z A0 = z Rs: zi _ 0, i = 1, . . . , m)Definie se funkcija x :x(u) =supzA0L(u, z), u U0x(u) = L(u, 0), u U0 x(u) =J(u), u U, u U0/Usledi:infuU0x(u) =infuUJ(u) = J-Iz ovoga sledi da se problem (1) moe ekvivaletno zapisati kao:x(u) infu U0 1p (primal)Pretpostavi se da (1) ima reenje, tj da U- = i J- > Neka je U- = u- U0: x(u-) = J-)Definie se funkcija47(z) =infuU0L(u, z), z A0Formira se problem:(z) supz A0 1d (dual)Problem (1p) je primal, a problem (1d) koji mu je pridruen je dual.supzA0(z) = -A- = z A0: (z) = -) skup reenja.Lemma Za probleme (1p) i (1d) vai relacija:(z) (2)_ - (3)_J- (4)_ x(u) , u U0, z A0 5Proof (2) sledi iz definicije supremuma.(4) sledi iz definicije infimumaDokaz za (3):(z) = infuU0L(u, z) _ L(u, z), u U0, z A0 6supzA0(z) = - _supzA0L(u, z) = x(u)7infuU0- = - _ infuU0x(u) = J-to je traena relacija.Posebno ce se razmatrati pod kakvim uslovima vai:A- = , U- = i - = J- 8TheoremRelacije (8) vae ako i samo ako funkcija Lagrana L(u, z), u U0, z A0imasedlastu taku na skupu U0 A0. Skup sedlastih taaka funkcije Lagrana na skupuU0 A0poklapa se sa skupom. U- A-.Proof ) pretpostavi se da vai (8)Poznato je da uvek vai- = (z-) = infuU0L(u, z-) _ L(u-, z-) _supzA0L(u-, z) = x(u-) = J-posto vai (8), vai i:infuU0L(u, z-) = L(u-, z-) =supzA0L(u-, z)Kad se izbace inf i sup, dobija se:L(u-, z) _ L(u-, z-) _ L(u, z-)to je definicija sedlaste tacke funkcije Lagrana. Dakle ako postoji z- i u- onda je(u-, z-) sedlasta taka.) pretpostavi se da je (u-, z-) U- A- sedlasta taka.Poznato jeL(u-, z) _ L(u-, z-) ,z A0, jer je sedlasta takasupzA0 L(u-, z) = x(u-) = L(u-, z-)L(u-, z-) _ L(u, z-), u U0, jer je sedlasta taka iinfuU0 L(u, z-) = (z-) = L(u-, z-)Ove relacije se ubace u (5):L(u-, z-) _ (z-) _ - _ J- _ x(u-) _ L(u-, z-)48svi _ prelaze u = i zato:- = (z-) A- = J- = x(u-) U- = - = J-esto je lake reiti dual, nego primal. Dual je uvek konveksna funkcija ak i kada primalnije. Ogranienja za z su uvek linearna i funkcija (z) je linearna po z. Konveksnostostaje ouvana. Zato je oigledno da dual duala nije primal kod nelinearnogprogramiranja.Metoda Lagranovih mnozilacaPosmatra se problem:J(u) infu UU = u Rn: u U0, gi(u) _ 0, i = 1, . . , m, gi(u) = 0, i = m + 1, . . . , s) 1pretpostavi se da inf J(u) = J- > tj da problem ima reenje.Pridruzuje se funkcija Lagrana:L(u, z) = J(u) +_i=1szigi(u), u U0, z A0Za probleme konveksnog programiranja koji zadovoljavaju slaterov uslov poznato je daje potreban i dovoljan uslov za postojanje resenja egzistencija sedlaste tacke funkcijeLagrana, odnosno postojanje mnozitelja Lagrana:z- A0, A0= z Rs: zi _ 0, i = 1, . . . , m)L(u-, z-) _ L(u, z-), u U0zi-gi(u-) = 0, i = 1, . . . , s, u- U- 2 3 4Uslovi (3) i (4) su uslovi koji odredjuju sedlastu tacku. Na ovaj nacin je postavljenproblem za n+s nepoznatih. Ako se nadje vektor z- Rstako da vai (2),(3),(4), onda je(u-, z-) sedlasta taka, a to znaci da je u- reenje problema (1).0 Ako je J(u), gi(u) C1(U0), onda se uslov (3) svodi naLu'(u-, z-), u u-_ 0, u U0 30 Ako je U0 = Rnonda je uslov (3) ekvivalentan saLu'(u-, z-) = 03Ju'(u-) +_i=1szi-gi'(u-) = 55Metod mnozitelja Lagrana se sastoji u tome da se iz (4) i (5), koji zajedno cine sistemn+s jednacina sa n+s nepoznatih, izracuna sedlasta taka.Ako se dobije zi- _ 0, i = 1, . . . , m (uslov (2)), onda je (u-, z-) sedlasta taka, odnosnou- je reenje.Metoda dopustivih smerovaOvom metodom se resava problem:J(u) minP = 1, . . . , m)u U = u Rn: gi(u) _ 0, i = 1, . . . , m) 149Definition Za proizvoljno U skup aktivnih ogranicenja oznacava se saP()=i P, gi() = 0). Ogranicenje gi(u) je aktivno u tackiako je gi() = 0.Pravac je dopustiv ako vodi u unutrasnost oblasti UDefinition Pravac d je dopustiv smer u tackiako postoji o > 0 tako da +od U, za o,0_ o _ o .Theorem (Fritz-John-ovi uslovi optimalnosti) Neka ogranicenja u problemu konveksnogprogramiranja datog sa (1) zadovoljavaju Slaterov uslov. Neka je u- U dopustivoreenje i P(u-) skup aktivnih ogranicenja u u-. reenje u- je optimalno ako sledecisistem nema reenje d.J'(u-), d < 0gi'(u-), d < 0, i P(u-) 2Ako reenje d postoji, ono je dopustiv smer.Sistem (2) je ekvivalentan Kun-Takerovim uslovima. Metoda dopustivih smerova koristiovu teoremu.Izabere se pocetna iteracija u0 U. Formira se niz uk+1 = uk + okdk, k = 0, 1, . . . , gde suok koraci, a dk dopustivi smerovi iz tacke uk. Korak ok se odredjuje jednodimenzionalnonelinearnom optimizacijom iz uslova:J(uk + odk) mino _ 0 3reenje problema (3) je ok.Smer dk se racuna iz uslova (2). Posto je pretpostavljeno da gi(u) zadovoljavaju Slaterovuslov, potreban i dovoljan uslov da u- bude reenje problema (1) je da problem (2)nema reenje. Na osnovu toga se formira sledeci problem:o max, o _ 0J'(u-), d + o _ 0gi'(u-), d + o _ 0, i P(u-)|di| _ 1, i = 1, . . . , n 4Ogranicenja |di| _ 1, i = 1, . . . , n predstavljaju uslov normalnosti. Dodata su zbogstabilnosti metode, a mogu se izostaviti.Problem (4) ima trivijanlo reenje d=0,o = 0. Zato se stavlja o _ 0.Ako problem (4) i dalje ima reenje, onda (2) ima reenje i tada u- nije reenje problema(1).0 Ako ne postoji takav o, onda je u- reenje za (1).0 Ako je o > 0 reenje, onda je d dopustiv smer iz u-Resavanje problema (1) se zamenjuje resavanjem problema (3) i (4), gde (3) daje korak,a (4) smer kretanja.Algoritam1. Izabere se u0 U i definise izlazni kriterijum ]uk+1 uk] _ c, c > 02. U tacki uk odredi se skup aktivnih ogranicenja P(uk) i resi problem50o max, o _ 0J'(uk), d + o _ 0gi'(uk), d + o _ 0, i P(u-)|di| _ 1, i = 1, . . . , n 4Resenja problema (4) se oznace sa ok i dk.Ako je ok = 0 postupak se prekida i uk je reenje problema (1).Inace za ok > 0, vektor dk je dopustiv smer iz uk, i prelazi se na korak 3.3. Resava se problemJ(uk + odk) mingi(uk + odk) _ 0, i = 1, . . . , mo _ 0 3reenje ovog problema oznacava se sa ok.4. Formira se niz uk+1 = uk + okdk5. Vraca se na 1. i proverava izlazni kriterijum. Ako je zadovoljen u- ~ uk+1 iprekida se postupak. Ako nije zadovoljan, k postaje k+1 i algoritam senastavljaIzlazak iz ovog algoritma moe nastupiti ako je nadjeno tacno reenje ili ako jezadovoljen izlazni kriterijum.Problem ove metode moe biti zaokruzivanje pri racunanju. Uvodi se oslabljenje, pa seumesto skupa P(), posmatra skup:P(, c) = i P, c _ gi() _ 0)Jos jedno oslabljenje je da se u problemu (4) i (4) mogu zanemariti uslovi o max, imoe se traziti bilo kakvo reenje tog problema. To je moguce jer vec egzistenzijaresenja o govori o postojanju dopustivog smera d.Kaznene funkcijeIme ovih funkcija ima istorijski znacaj. Ovakvi problemi su se prvo resavali, pa je tekonda razvijena teorija. Ovakve funkcije se primenjuju u slucajevima kada neka takau U "bezi" iz skupa. Tada se takvoj tacki nametne kazna.Metoda spoljasnih kaznenih funkcijaResava se problem sa ogranicenjimaJ(u) infu U 1Ovaj problem moe da se linearizuje, ali time se dobija reenje koje jako odstupa odtacnog. Drugi nacin da se ovaj problem uprosti je da se predje na minimizaciju bezogranicenja:k(u) inf, k = 0, 1, . . .u U0 2U. U0, U0 moe biti Rnali je pozeljno da to bude neki relativno velik skup za koji je lakoodrediti da li mu taka pripada.reenje problema (2) za fiksirano k oznaci se sa uk. Cilj je da niz resenja problema (2)uk) konvergira ka resenju problema (1), tj uk u-, J(uk) J-. Zato se funkcije k(u)formiraju tako da na skupu U imaju iste vrednosti kao funkcija J(u), a van skupa U da idu51u beskonacnost. Sto vece k funkcija k(u) bi trebala da bude bliza funkciji J(u).Da bi se kontrolisale takve funkcije uvode se kaznene funkcije Pk.Definition Niz funkcija Pk(u)), k = 1, 2, . . . , u U0 . U, nazivaju se kaznene funkcijeskupa U na skupu U0 ako vai:limkPk(u) =0, u U, u U0\UKada u napusta skup U, kaznena funkcija mu daje beskonacno veliku kaznu.Postoji vise nacina za zadavanje ovakvih funkcija. Neka je U0 = Rn, Ak > 0 niz izR+, limkAk = . Tada kaznene funkcije mogu biti:1 Pk(u) = Ak(u, U), u U0 = Rn, (u, U) = infvU]u v]2 Pk(u) =0, u UAk]u ], u U, UFunkcije k se formiraju na sledeci nacin:k(u) = J(u) + Pk(u), u U0 3Ako je u zadatku (2) funkcija k definisana sa (3), onda za u U k(u) = J(u), a za u Uk(u) . Infimum funkcije k(u) je iz skupa U. k(uk) je optimalna vrednost funkcije kk(uk) = k- =infuU0k(u) > 4Realnije bi bilo posmatrati uk kao priblizno reenje, tada se definise i ovako:k(uk) _ k- + ck, ck _ 0, limk= 05Ako je ck = 0, onda su (4) i (5) ekvivalentne.Cilj je da vai:limkk(uk) = limkk- = limkJ(uk) = J-Posmatra se problem (1), sa skupom U definisanimU = u U0 = Rn: gi(u) _ 0, i = 1, . . . m, gi(u) = 0, i = m + 1, . . . , s)Kaznena funkcija za skup se definise:Pk(u) = AkP(u)P(u) = _i=1m(maxgi(u), 0))p+ _i=m+1s]gi(u)]p, u U0, p _ 1Ak > 0, limkAk = 6Pokazuje se da je ovo dobro definisana kaznena funkcija:0 u U P(u) = 0 Pk(u) = 00 u U Jj, gj(u) > 0, 1 _ j _ m ili Jj, gj(u) = 0, m + 1 _ j _ sZnaci da u bar jednoj sumi postoji neki pozitivan broj, pa je P(u)>0 Pk(u)k Ako su funkcije J(u),gi(u) Cr(U0), onda je za p>r iz definicije (6) i funkcijaP(u) Cr(U0). Ako je r=1 iz neprekidnosti gi(u) sledi neprekidnost P(u), ali nemaglatkosti.Ako su funkcije gi(u) _ 0 konveksne, a gi(u) = 0 linearne funkcije, onda je funkcija Pk(u)isto konveksna funkcija.52Uvode se oznake: gi+ =maxgi(u), 0), i = 1, . . . , m]gi(u)], i = m + 1, . . . , sP(u) = _i=1s(gi+(u))p 6Dakle kaznene funkcije se mogu definisati ovako:4 Pk(u) = _i=1sAki(gi+(u))pi, pi > 1, u U0, Aki > 0, limkiAki = 5 Pk(u) = _i=1sAkii(gi+(u)), u U0, g(u) _ 0, (0) = 0, (g) > 0 za g>06 Pk(u) = (1 + _i=1s(gi+(u))pi)Ak 1, pi _ 07 Pk(u) =1Ak_i=1meAkgi(u) + _i=m+1seAkgi2(u), u U0u U limkPk(u) =S = 0u U e Teoreme o konvergenciji kaznenih funkcijaTheoremNeka su funkcije J(u) i gi(u), i = 1, . . , s, definisane na skupu U0 i neka je nizuk) definisan sa (3),(5) i (6). Tada vai:limkJ(uk) _ limkk(uk) = limkk- _ J-Pored toga, ako je J-- = infuU0 J(u) > , vai:P(uk) = _i=1s(gi+(uk))p= O(Ak1)limkgi(uk) _ 0, i = 1, . . . , mlimkgi(uk) = 0, i = m + 1, . . . , sMetoda kaznenih funkcija jako zavisi od izbora oganicenja. Ko se jedna oblast U0 moedobiti na vise nacina, moe se desiti da na jedan nacin taj metod konvergira, a na drugine konvergira.Definition Ogranicenja gi(u) _ 0, i = 1, . . . , m i gi(u) = 0, i = m + 1, . . . , s su saglasna safunkcijom cilja J(u) na skupu U. U0, ako za bilo koji niz uk) U0, kojizadovoljava uslove:limkgi(uk) _ 0, i = 1, . . . , mlimkgi(uk) = 0, i = m + 1, . . . , svai da je limkJ(uk) _ J- = infuUJ(u)TheoremNeka je k(u) definisano sa (3), Pu sa (6), k- sa k- = inf k(u), u U0.Potreban uslov da vailimkk- = J- 7je da su ogranicenja sagrlasna sa funkcijom cilja na skupu U. Ako jeJ-- = infuU0 J(u) > , tada je saglasnost i dovoljan uslov da vai (7)Ova metoda je univerzalna, ali gruba. Koristise kada se vidi da funkcija cilja opada zauk. Cim se primeti da funkcija slabo opada bolje je izabrati neku drugu metodu. Za velikok, dobija se oblik jaruge, pa minimizacija postaje otezana. Ova metoda lici na metoduLagrana.53Metoda unutrasnjih kaznenih funkcijaJ(u) infu U 1Neka je , . U fiksan podskup skupa U. Nekada je potrebno posmatrati tacke van ,, akoje , zadato komplikovanim izrazima. Ovom metodom se omogucava "preskakanje"barijere.Definition Neka je , . U. Funkcija B(u) naziva se barijera (ili barijerna funkcija) skupa ,,ako je ona definisana, konacna i nenegativna, nad svim takama u U\, = i akoza svaki niz tacaka vr) U\,, za koji je limrvr = v , vai limrB(vr) = .Neka je funkcija g(u) definisana i neprekidna na U.0 , = u Rn: u U, g(u) = 0), U\, = Tada su barijerne funkcije za ovaj skup:B(u)=]g(u)]1B(u)=maxln]g(u)], 0)0 , = u Rn: u U, g(u) _ 0), U\, = Tada su barijerne funkcije za ovaj skup:B(u)=(maxg(u), 0))p, p > 0B(u)=]lng(u)], u U\,U svim slucajevima vai da kada se u priblizava granici, B(u) , ne dozvoljava da segranica predje.Formiraju se funkcijeFk(u) = J(u) + akB(u), u U\,, k = 0, 1, . . .ak) je niz pozitivnih brojeva, tako da limkak = 0. Tako izabran niz umanjuje efekatkoji namece B(u) kada se u priblizava granici.MetodaUmesto problema (1) resava se sledeci niz problema:Fk(u) inf, k = 0, 1, . . .u U\, = 2Neka je uk reenje problema (2) za fiksirano k.Fk- = infuU\,Fk(u) optimalna vrednost funkcije Fk(u)Ako vai Fk(uk) = Fk-, reenje uk je tacno (egzaktno). Cesce se uzima da je uk priblizno:Fk(uk) _ Fk- + ck, ck > 0, limkck = 03reenje problema (2) ne moe biti blizu , jer za tacke blizu ,, B . Za veliko kakk0, barijera se moe preskociti, ako za takav niz vai da ak 0 brze nego stoB . Na taj nacin se dobija reenje iz ,. To ima smisla samo ako unutrasnjost , nijeprazna.Problemi (2) se mogu resavati gradijetnom metodom:ukr+1 = ukr orFk'(ukr), r = 0, 1, . . .gde je r iteracija.uk0 = uk1Pocetna iteracija se bira u00 = U\,. Postoji neka okolina te tacke u , tako da zaneko o0 u01 . Ako u01 , smanji se o0 i proverava da li u01 .Ovim postupkom za dovoljno malo or ukr+1 .54Formira se niz u00, u01, . . . , u0r dok ne bude zadovoljen izlazni kriterijum ]u0r+1 u0r] _ c.Tada je u0r+1 reenje nultog problema, tj u0r+1 = u0.Za pocetnu iteraciju problema k=1, uzima se reenje problema k=0, onda se resavaproblem za k=1:F1(u) infu Opet se formira niz u10, u11, . . . , u1r dok nije zadovoljeno ]u1r+1u1r] _ c u1r+1 = u1.Tako nastaje niz u0, u1, . . . i on treba da konvergira ka resenju problema (1).Theorem (O konvergenciji barijernih funkcija) Neka je dat problem (1),, . U, U\, = , J- = J-- > , pri cemu je J- = infuUJ(u), J-- = infuU\,J(u),B(u) barijerna funkcija skupa ,, niz uk) odredjen sa (3). Tada vai:limkFk- = limkFk(uk) = limkJ(uk) = J-(konvergencija po vrednosti funkcije)limkakB(uk) = 0Ako je jos U ogranicen i zatvoren, a J(u) neprekidna, onda vai uk U-, tjlimk(uk, U-) = 0 (konvergencija po argumentima).Neka je U=u U0: gi(u) _ 0, i = 1, . . . , m), U0 Rn. Neka su gi(u) neprekidne na U0 izadovoljavaju Slaterov uslov.Definise se , = u U : gi(u) = 0, za bar jedno i 1, . . . , m)=u U0: gi(u) < 0, i = 1, . . . , m) = zbog Slaterovog uslovaTada se moe definisati klasa barijernih funkcija:B(u) = _i=1mi(gi(u)), u = U\,gde je i(t) neprekinda nenegativna funkcija za t>0 i vai limt+0i(t) = Dokazuje se da je B(u) klasa barijernih funkcija. Neka je niz vr) U\, takav dalimrvr = v ,.Tada postoji j, 1_ j _ m, takvo da gj(v) = 0. Posto je vr) U\, vai gj(vr) < 0.Sve gi su neprekidne, zato vai:limr gj(vr) = gj(v) = 0B(vr) _ j(gj(vr)) jer je to jedan sabirak, a i su nenegativne,limrB(vr) _ limrj(gj(vr))= B(u) je barijerna funkcija za ,.Za funkciju i(t) se moe izabrati:0 i(t) =1tB(u)=_i=1m1gi(u) , u U\,0 i(t) = (maxlnt, 0))p, p _ 0B(u)=_i=1m(maxln(gi(u), 0))p, u U\,Ako je U0 konveksan skup i gi(u) konveksne funkcije, tada je i skup U\, konveksan, kaoi funkcije i, B. To omogucava da se koriste metode konveksnog programiranja zaresavanje (2).Ako je p>r, gde je r stepen glatkosti funkcija gi onda i B(u) ima glatkost stepena r. Tadase mogu primenjivati metode koje zahtevaju veci stepen glatkosti.55Za ogranicenja koja su samo oblika jednakosti mogu se primeniti spoljasnje kaznenefunkcije, jer za unutrasnje mora postojati unutrasnjost.Postoje mesovite kaznene funksije: za ogranicenja oblika jednakosti upotrebljavaju sespoljasnje, a za ogranicenja oblika nejednakosti unutrasnje kaznene funkcije.Kvadratno programiranjeKvadratno programiranje spada u metode nelinearnog programiranja koje se realizujupomocu linearnog programiranja.Nelinearne probleme je skoro uvek moguce prevesti u linearne, tako sto se funkcija ciljarazvije u Tejlorov red i od razvoja uzme samo prvi clan. Medjutim tada moe doci doveliki gresaka, npr moguce je da se resenja ta dva problema ne poklapaju ili da cak noviproblem nema reenje. Zato se ovakav postupak ne primenju u praksi.Ako je funkcija nelinearnog programiranja "zgodna", problem moe da se prevede naneki drugi koji lako moe da se resi simpleksom. Ako je funkcija sledeceg oblika, onda jerec o kvadratnom programiranju:J(u) =12 (u, Qu) + (c, u) minAu _ bu _ 0 1Qnn simetricna, pozitivno definitna matrica, Amn, u, c Rn, b RmTheoremtaka u- je optimalno reenje problema (1) akko postoje vektori z- Rmij- Rn, z _ 0, j _ 0, y Rm, y_ 0 takvi da vai:Qu- ATz- + j- c = 0Au- + y = b(y, z-) = 0(j-, u-) = 0 2Proof Koriste se Kun-Takerovi uslovi optimalnosti.Neka jegi(u) = aiu bi _ 0, i = 1, . . . , mfi(u) = ui _ 0, i = 1, . . . , n (Au_ b) (u_ 0)Formira se funkcija Lagrana za problem (1):L(u, z, j) = J(u) +_i=1mzigi(u) +_i=1njifi(u)Kun-Takerovi uslovi optimalnosti:cL(u-, z-, j-)cu= 0zi-gi(u-) = 0, ji-fi(u-) = 0Primenjeno na ovu funkciju dobija se:J'(u) + _i=1mzigi'(u) + _i=1njifi'(u)zigi(u) = 0, zi _ 0, i = 1, . . . , mjifi(u) = 0, ji _ 0, i = 1, . . . , n 3Sistem (3) mora imati reenje da bi bili zadovoljeni uslovi Kun-Takera. Kad se56ovaj sistem zapise pomocu vektora i matrica dobija se:J'(u)Qu + c +ATz j = 0zi(b Au)i = 0, zi _ 0, i = 1, . . . , mjiui = 0, ji _ 0, i = 1, . . . , n 4Uvodi se smena y=b-Au Au + y = bQu AT+ j = cAu + y = bziyi = 0, i = 1, . . . , m (z, y) = 0jiui = 0, i = 1, . . . , n (j, u) = 0z _ 0, j _ 0, y _ 0, u _ 0Dakle ono sto je dato sistemom (2) su Kun-Takerovi uslovi. Posto je ovolinearan problem, to su potrebni i dovoljni uslov (ne treba Slaterov uslov).Uvode se oznake:M =0 AATQ, q =bc, w =yj, z =zu;Pomocu ovih oznaka problem se zapisuje:w Mz = q(w, z) = 0w _ 0z _ 0 6(w, z) = 0 wizi = 0, i = 1, . . . , m + nwi i zi ne mogu biti 0 u isto vreme (samo jedna od njih moe biti u bazi)Definition Problem (6) predstavlja linearni komplementarni problem problema (1).Problem (6) se resava pomocu specificnog simpleksa. Kada se pronadje w- i z- oji sureenje problema (6), tada ce poslednjih n komponenti vektora z- biti reenje problema(1), tj u-.z i j su Lagranovi mnozitelji koji odgovaraju ogranicenjima.Resava se (6):0 q_ 0 trivijalno reenje w=q, z=0 u = 00 Ji qi < 0 tada je linearni komplementarni problem sledeceg oblika:Ew Mz z0e = qwizi = 0, i = 1, . . . , m + nwi _ 0, zi _ 0, i = 1, . . . , m + n, z0 _ 0 7gde je z0 nova promenljiva, e=(1,...,1).Ako je z0=0, problem (7) se svodi na (6), i to je optimalno reenje za (7). Zato setabele transformisu sve dok z0 ne izadje iz baze pri cemu se transformacije vrsetako da bude q_ 0. Kada z0 izadje iz baze, dobijeno je resenej za (6).Razlomljeno (hiperbolicno) programiranje57J(u) =(c,u)+o(d,u)+[ minAu _ bu _ 0 1Ogranicenja su linearna (Au_ b), skup U ogranicen. moe jos da se pretpostavi da je(d, u) + [ > 0, sto ne utice na opstost.Uz sve ove pretpostavke moe se problem (1) prevesti u problem linearnogprogramiranja. Uvode se smene:z =1(d, u) + [ , u =yz(c,yz ) + o(d,yz ) + [ =1z (c, y) + o1z (d, y) + [ = (c, y) + zo(d, y) + z[ minPretpostavi se da je imenilac jednak 1. Tada se problem (1) svodi na:J1(y, z) = (c, u) + zd minAy bz _ 0[z + (d, y) = 1y _ 0, z _ 0 2Problem (2) je linearan i resava se poznatim metodama.Neka je optimalno reenje problema (2) y-, z-. Tada je reenje problema (1) u- =y-z-(tose moe pokazati). Zato cazi da ako postoji reenje problema (2), onda postoji i reenjeproblema (1).Problem (2) ima jednu promenljivu vise, tj povecana je dimenzija zadatka. Ono sto jedobijeno ovom transformacijom, je ipak vrednije - problem je sveden na linearnoprogramiranje.Theorem (Zadatak 2.30) Dat je problem hiperbolicnog programiranjaJ(u) =(c,u)+o(d,u)+[ minAu _ bu _ 0gde je (d, u) + [ = 0 i skup U=u Rn, Au _ b, u _ 0) ogranicen. Pokazati da seminimum funkcije J(u) na U dostize u vrhu konveksnog poliedra U.Proof Neka poliedar U ima k vrhova v1, . . . , vk. Bez ogranicenja opstosti pretpostavi seda je (d, u) + [ > 0. Svako u U moe se predtaviti u obliku:u = _i=1kzivi, _i=1kzi = 1, zi _ 0, i = 1, . . . , kNeka je vj vrh u kome funkcija cilja dostize najmanju vrednost u odnosu napreostale vrhove, tj J(vj) _ J(vi), i = 1, . . . , k, i = j. Ova nejednakost se moezapisati kao:(c, vj ) + o(d, vj ) + [ _ (c, vi ) + o(d, vi ) + [odnosno((c, vj ) + o)((d, vi ) + [) _ ((c, vi ) + o)((d, vj ) + [)Mnozenjem ove nejednacine sa zi i sabiranjem desnih i levih strana dobijenih za58svako i, dobija se:((c, vj ) + o)( d,_i=1kzivi+ [) _ ( c,_i=1kzivi+ o)((d, vj ) + [)((c, vj ) + o)((d, u) + [) _ ((c, u) + o)((d, vj ) + [)DakleJ(vj) = (c, vj ) + o(d, vj ) + [ _ (c, u) + o(d, u) + [ = J(u)za svako u U, sto znaci da funkcija J(u) dostize minimum u vrhu vj.59