m. `. andramonow
metody globalxnoj minimizacii dlq nekotoryh klassow obob}enno wypuklyh funkcij mONOGRAFIQ
kAZANX { 20...
4 downloads
159 Views
824KB Size
Report
This content was uploaded by our users and we assume good faith they have the permission to share this book. If you own the copyright to this book and it is wrongfully on our website, we offer a simple DMCA procedure to remove your content from our site. Start by pressing the button below!
Report copyright / DMCA form
m. `. andramonow
metody globalxnoj minimizacii dlq nekotoryh klassow obob}enno wypuklyh funkcij mONOGRAFIQ
kAZANX { 2001
bbk 22.18 udk 519.6 pE^ATAETSQ PO POSTANOWLENI@ rEDAKCIONNO-IZDATELXSKOGO SOWETA kAZANSKOGO MATEMATI^ESKOGO OB]ESTWA
aNDRAMONOW m ` mETODY GLOBALXNOJ MINIMIZACII DLQ NEKOTORYH KLAS SOW OBOB]ENNO WYPUKLYH FUNKCIJ { kAZANX: iZDATELXSTWO kAZANSKOGO MATEMATI.
.
^ESKOGO OB]ESTWA, 2001 G. { 190 S.
-
.
w RABOTE POSTROEN RQD METODOW MINIMIZACII OBOB]ENNO WYPUKLYH FUNKCIJ, WKL@^AQ KWAZIWYPUKLYE, WOZRASTA@]IE WYPUKLYE PO LU^AM, ZWEZDNYE OTNOSITELXNO BESKONE^NOSTI I LIPICEWY FUNKCII. rAZRABOTANA SHEMA DWOJSTWENNOSTI, OSNOWANNAQ NA WOZRASTA@]IH FUNKCIQH. dLQ REENIQ ZADA^I O GAMILXTONOWOM CIKLE PREDLOVENA SHEMA, OSNOWANNAQ NA MARKOWSKIH CEPQH I FUNKCIQH TIPA MINIMUMA. kNIGA PREDNAZNA^ENA DLQ SPECIALISTOW W OBLASTI WY^ISLITELXNOJ MATEMATIKI, DOSTUPNA ASPIRANTAM I STUDENTAM STARIH KURSOW. tABL. 6. bIBLIOGR. 101 NAZW. nAU^NYJ REDAKTOR { PROFESSOR a.m.eLIZAROW. rECENZENTY { PROFESSOR a.w. lAPIN, DOCENT w.p. ~UEW.
c c c
kAZANSKOE MATEMATI^ESKOE OB]ESTWO aNDRAMONOW m. `. iZDATELXSTWO das
oGLAWLENIE wWEDENIE
7
1 aBSTRAKTNAQ WYPUKLOSTX I METOD SEKU]IH UGLOW 1.1 aBSTRAKTNO WYPUKLYE FUNKCII I SUBDIFFERENCIALY . . . . . . . . . . . . 1.2 sHEMA OBOB]ENNOGO GRADIENTNOGO SPUSKA 1.3 wOZRASTA@]IE WYPUKLYE PO LU^AM FUNKCII . . . . . . . . . . . . . . . . . . . 1.4 pRIMERY wwl FUNKCIJ . . . . . . . . . . 1.5 mINIMIZACIQ wwl FUNKCIJ . . . . . . . 1.6 rEENIE PODZADA^I DLQ wwl FUNKCIJ .
16
. . . . . . . . . . . . 16 . . . . . . . . . . . . 17 . . . .
. . . .
. . . .
. . . .
. . . .
. . . .
. . . .
. . . .
. . . .
. . . .
. . . .
. . . .
25 27 29 31
2 mINIMIZACIQ WOZRASTA@]IH ZWEZDNYH I LIPICEWYH FUNKCIJ 35 wz FUNKCII I wpo FUNKCII . . . . . . . . sUBDIFFERENCIALY wz FUNKCIJ . . . . . . aLGORITM . . . . . . . . . . . . . . . . . . . rEENIE PODZADA^I DLQ wz FUNKCIJ . . . lIPICEWO PROGRAMMIROWANIE ^EREZ wwl FUNKCII . . . . . . . . . . . . . . . . . . . . 2.6 sWEDENIE ZADA^I LIPICEWA PROGRAMMIROWANIQ K MINIMIZACII wwl FUNKCII . . . . . . . . . . . . . . . . . 2.7 pREOBRAZOWANIE DOPUSTIMOGO MNOVESTWA ZADA^I LIPICEWA PROGRAMMIROWANIQ . . . 2.1 2.2 2.3 2.4 2.5
. . . .
. . . .
. . . .
. . . .
. . . .
. . . .
. . . .
. . . .
. . . .
. . . .
. . . .
38 44 45 47
. . . . . . . . . . . 48 . . . . . . . . . . . 49 . . . . . . . . . . . 53
4
2.8 sHEMA METODA SEKU]IH UGLOW 2.9 2.10 2.11 2.12
DLQ MINIMIZACII LIPICEWYH FUNKCIJ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 54 sIMPLICIALXNYJ METOD DLQ MAKSIMIZACII WOZRASTA@]IH FUNKCIJ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 55 sIMPLICIALXNYJ ALGORITM . . . . . . . . . . . . . . . . . . . . 58 mETOD WETWLENIQ I RAZBIENIQ . . . . . . . . . . . . . . . . . . 62 mETODY WETWEJ I GRANIC DLQ MINIMIZACII ABSTRAKTNO WYPUKLYH FUNKCIJ . . . . . . . . . . . . . . . . . . . . . . . . 65
3 kWAZIWYPUKLOE PROGRAMMIROWANIE S KONI^ESKIM PROEKTIROWANIEM 70
3.1 oSNOWNYE PONQTIQ I OPREDELENIQ . . . . . . . . . . . . . . . . 70 3.2 sWEDENIE ZADA^I KWAZIWYPUKLOGO
PROGRAMMIROWANIQ K ZADA^E BEZUSLOWNOJ MINIMIZACII METODOM KONI^ESKOGO PROEKTIROWANIQ . . . . . . . . . . . . . . . . . . . . . . . . . . 72 3.3 sWOJSTWA MARGINALXNYH FUNKCIJ . . . . . . . . . . . . . . . . 76 3.4 mETOD MINIMIZACII FUNKCII KONI^ESKOGO PROEKTIROWANIQ . 80
4 rEENIE ZADA^I O GAMILXTONOWOM CIKLE ^EREZ MARKOWSKIE CEPI I FUNKCII TIPA MINIMUMA 84
4.1 fORMULIROWKA . . . . . . . . . . . . . . . . . . . . . . . . . . . 84 4.2 wKL@^ENIE zgc W MARKOWSKIJ PROCESS REENIQ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 88 4.3 ~ISLENNYE \KSPERIMENTY . . . . . . . . . . . . . . . . . . . . . 93
5 pODHOD K POSTROENI@ OBOB]ENNYH TRAFNYH FUNKCIJ
98
5.1 oBOB]ENNYE TRAFNYE FUNKCII DLQ OGRANI^ENIJ W FORME NERAWENSTW . . . . . . . . . . . . . . . . 98 5.2 oGRANI^ENIQ-RAWENSTWA . . . . . . . . . . . . . . . . . . . . . . 102
5
5.3 pOSTROENIE MODIFICIROWANNYH FUNKCIJ
lAGRANVA S POMO]X@ WOZRASTA@]IH FUNKCIJ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 105
6 pARAMETRI^ESKIJ PODHOD K ZADA^AM GLOBALXNOJ OPTIMIZACII SPECIALXNOGO WIDA 110 6.1 fORMULIROWKA ZADA^I . . . . . . . . . . . . . . . . 6.2 aLGORITMY . . . . . . . . . . . . . . . . . . . . . . 6.3 sLU^AJ NEOGRANI^ENNOGO DOPUSTIMOGO MNOVESTWA . . . . . . . . . . . . . . . . . . . . . . 6.4 aLGORITM S WOZMOVNOSTX@ WOZWRA]ENIQ . . . . . 6.5 sLU^AJ BESKONE^NOGO ^ISLA STACIONARNYH TO^EK 6.6 wOZMOVNOE OBOB]ENIE . . . . . . . . . . . . . . . . 6.7 pRIBLIVENNYE STACIONARNYE TO^KI . . . . . . . .
7 rEZULXTATY ^ISLENNYH \KSPERIMENTOW
. . . . . . . 110 . . . . . . . 112 . . . . .
. . . . .
. . . . .
. . . . .
. . . . .
. . . . .
. . . . .
7.1 rEZULXTATY DLQ METODA SEKU]IH UGLOW . . . . . . . . . . . . . 7.2 rEZULXTATY DLQ ZWEZDNYH FUNKCIJ . . . . . . . . . . . . . . . 7.3 rEZULXTATY ^ISLENNYH \KSPERIMENTOW DLQ LIPICEWYH FUNKCIJ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7.4 ~ISLENNYE REZULXTATY DLQ SIMPLICIALXNOGO METODA . . . . . . . . . . . . . . . . . . . . . 7.5 rEZULXTATY DLQ KWAZIWYPUKLYH FUNKCIJ . . . . . . . . . . .
zAKL@^ENIE lITERATURA
123 125 127 129 130
133
133 137 142 145 147
151 152
6
sPISOK OBOZNA^ENIJ IRn { n-MERNOE EWKLIDOWO PROSTRANSTWO IRn+ { KONUS WEKTOROW IZ IRn S NEOTRICATELXNYMI KOORDINATAMI IRn++ { MNOVESTWO WEKTOROW IZ IRn SO STROGO POLOVITELXNYMI KOORDINATAMI
qPn 2 kxk = i=1 xi kxk = Pn jx j 1
i=1
i
x y] = Pni=1 xiyi x y] { OTREZOK S KONCAMI x I y
B" { AR RADIUSA " W IRn S CENTROM W NULE B (z ") { AR RADIUSA " W IRn S CENTROM W z hx yi = mini2T (y) xiyi T (y) = fi : yi > 0g:
1 = (u ) 1 DLQ i 2 T (x) i i=1:::n S ui = x xi
ui = 0 DLQ i 62 T (x): @Lf (x) { L-SUBDIFFERENCIAL FUNKCII f W TO^KE x.
wWEDENIE w POSLEDNEE WREMQ BOLXOE WNIMANIE PRIWLEKA@T ZADA^I GLOBALXNOJ OPTIMIZACII OBOB]ENNO WYPUKLYH FUNKCIJ. sU]ESTWUET RQD KLASSOW TAKIH FUNKCIJ, NAPRIMER, KWAZIWYPUKLYE, PSEWDOWYPUKLYE I T. D. 32, 33, 73, 4, 5, 6]. tEORIQ \TIH ZADA^ HOROO RAZRABOTANA, I W BOLXINSTWE SLU^AEW ZADA^I KWAZIWYPUKLOGO PROGRAMMIROWANIQ MOGUT BYTX REENY \FFEKTIWNO. oNI REA@TSQ METODAMI SUBGRADIENTNOGO TIPA, KOTORYE DOSTATO^NO IZU^ENY. oDNAKO S PRIMENENIEM ABSTRAKTNOGO WYPUKLOGO ANALIZA SFERA OBOB]ENNOJ WYPUKLOSTI ZNA^ITELXNO RASIRILASX. tEPERX TAKIE FUNKCII, KAK LIPICEWY, WOZRASTA@]IE WYPUKLYE PO LU^AM, WOZRASTA@]IE ZWEZDNYE, MOGUT TAKVE BYTX NAZWANY OBOB]ENNO WYPUKLYMI. pODOBNYE FUNKCII GORAZDO TRUDNEE MINIMIZIROWATX W SILU MNOGO\KSTREMALXNOSTI. bYL PREDLOVEN RQD ALGORITMOW LIPICEWA PROGRAMMIROWANIQ, W ^ASTNOSTI, METODY WETWEJ I GRANIC I METODY SLU^AJNOGO POISKA (SM. 74] DLQ PODROBNOGO IZLOVENIQ, A TAKVE 53, 97]). iZWESTNYE METODY PRIWELI K REENI@ ZADA^ S SOTNQMI PEREMENNYH, NO IH \FFEKTIWNOSTX ZAWISIT OT SPECIALXNOJ STRUKTURY ZADA^I. gLOBALXNAQ OPTIMIZACIQ, KAK TEORIQ, TAK I METODY, STANOWITSQ WSE BOLEE WAVNOJ OBLASTX@ IZU^ENIQ. sU]ESTWUET PRIZNANNAQ PRAKTI^ESKAQ NEOBHODIMOSTX W METODAH, \FFEKTIWNO REA@]IH ZADA^I GLOBALXNOJ OPTIMIZACII (SM. 54]). oDNAKO, WOOB]E GOWORQ, PO SWOEJ PRIRODE TAKIE ZADA^I ^REZWY^AJNO SLOVNY DLQ REENIQ. oDNOJ IZ PRI^IN QWLQETSQ NEOBHODIMOSTX W SREDSTWAH, PREDOSTAWLQ@]IH GLOBALXNU@ INFORMACI@ OB IZU^AEMYH OB_EKTAH (FUNKCIQH I MNOVESTWAH). sLEDUET OTMETITX, ^TO STANDARTNYE METODY NELINEJNOGO PROGRAMMIROWANIQ NEPRIMENIMY W SILU MNOGO\KSTREMALXNOSTI ZADA^ GLOBALXNOJ OPTIMIZACII. nAKONEC, WY^ISLITELXNYE SLOVNOSTI GLOBALXNOJ OPTIMIZACII W SILU EE KOMBINATORNOGO HARAKTERA
8
DELA@T RAZRABOTKU \FFEKTIWNYH OB]IH METODOW MALOWEROQTNOJ. tEM NE MENEE, NESMOTRQ NA \TI TRUDNOSTI, MOVNO POSTROITX METODY DLQ NEKOTORYH SPECIALXNYH SILXNO STRUKTURIROWANNYH ZADA^, ISPOLXZUQ ABSTRAKTNU@ WYPUKLOSTX. w DANNOJ MONOGRAFII OPISANY NOWYE OBOB]ENIQ KLASSI^ESKOGO METODA SEKU]IH PLOSKOSTEJ WYPUKLOJ OPTIMIZACII, PRIMENIMYE K IROKOMU SPEKTRU NEWYPUKLYH OPTIMIZACIONNYH ZADA^. pREDLOVEN TAKVE NOWYJ \FFEKTIWNYJ METOD REENIQ ZADA^I KWAZIWYPUKLOGO PROGRAMMIROWANIQ. pROSTEJIM PRIMEROM ZADA^I GLOBALXNOJ OPTIMIZACII QWLQETSQ MINIMIZACIQ WYPUKLOJ FUNKCII NA WYPUKLOM MNOVESTWE. sU]ESTWUET RQD METODOW REENIQ TAKOJ ZADA^I, OSNOWANNYH NA GLOBALXNYH ILI NA LOKALXNYH PODHODAH, TAK KAK LOKALXNYE \KSTREMUMY SOWPADA@T S GLOBALXNYMI. lOKALXNYE PODHODY PO SUTI QWLQ@TSQ GRADIENTNYMI ILI SUBGRADIENTNYMI ALGORITMAMI, W KOTORYH ISPOLXZUETSQ LOKALXNAQ APPROKSIMACIQ FUNKCII, OSU]ESTWLQEMAQ SUBDIFFERENCIALOM. rAZWITIE METODOW DLQ OB]IH NEGLADKIH ZADA^ ^ASTO OSNOWANO NA OBOB]ENII SUBGRADIENTNOGO METODA. sU]ESTWU@T, ODNAKO, METODY WYPUKLOJ OPTIMIZACII, GLOBALXNYE PO SWOEJ PRIRODE. pERWYM TAKIM PRIMEROM QWLQETSQ METOD SEKU]IH PLOSKOSTEJ, OSNOWANNYJ NA PREDSTAWLENII WYPUKLOJ FUNKCII W WIDE WERHNEJ GRANI AFFINNYH MINORANT. mETODY PU^KOW (SM., NAPRIMER 51]), TAKVE GLOBALXNY PO SWOEJ PRIRODE. w PERWOJ GLAWE RASSMATRIWAETSQ OBOB]ENNYJ METOD SEKU]IH PLOSKOSTEJ, PRIMENENNYJ K NEKOTORYM STRUKTURIROWANNYM ZADA^AM GLOBALXNOJ OPTIMIZACII, W KOTORYH CELEWAQ FUNKCIQ OBLADAET OBOB]ENNYMI AFFINNYMI MINORANTAMI. |TI OBOB]ENNYE AFFINNYE FUNKCII QWLQ@TSQ OPORNYMI FUNKCIQMI W ABSTRAKTNOM WYPUKLOM ANALIZE. aBSTRAKTNAQ WYPUKLOSTX POQWILASX NEDAWNO KAK OBLASTX ISSLEDOWANIJ S POTENCIALXNO BOLXIMI PRILOVENIQMI K GLOBALXNOJ OPTIMIZACII (SM.
11, 95, 84, 70]).
pUSTX IMEETSQ SEMEJSTWO FUNKCIJ NA MNOVESTWE X: bUDEM GOWORITX, ^TO FUNKCIQ f : X ! IRn+ ABSTRAKTNO WYPUKLA PO OTNOENI@ K MNOVESTWU H ESLI SU]ESTWUET MNOVESTWO U H TAKOE, ^TO f (x) = supfh(x) : h 2 U g:
9
|TO SOOTNOENIE OBOB]AET PREDSTAWLENIE WYPUKLOJ FUNKCII KAK WERHNEJ GRANI AFFINNYH MINORANT. w \TOM SLU^AE H PREDSTAWLQET SOBOJ MNOVESTWO OBOB]ENNO AFFINNYH FUNKCIJ (W BOLXINSTWE PRAKTI^ESKIH NEWYPUKLYH ZADA^ ONI NELINEJNY, I, WOZMOVNO, RAZRYWNY). wAVNOE SREDSTWO, KOTOROE MY BUDEM ISPOLXZOWATX IZ ABSTRAKTNOGO WYPUKLOGO ANALIZA { \TO OBOB]ENNYJ SUBDIFFERENCIAL. oDNAKO W OTLI^IE OT SUBDIFFERENCIALA kLARKA IZ NEWYPUKLOGO ANALIZA ON NESET GLOBALXNU@, A NE LOKALXNU@ INFORMACI@ O FUNKCII. kONE^NO, NEWOZMOVNO OBSUVDATX OB]IE ZADA^I ABSTRAKTNOGO WYPUKLOGO PROGRAMMIROWANIQ S NADEVDOJ POLU^ENIQ \FFEKTIWNYH WY^ISLITELXNYH METODOW. sLEDUET OTMETITX, ^TO NESKOLXKO ALGORITMOW BYLI PREDLOVENY DLQ REENIQ SPECIALXNYH KLASSOW ZADA^ GLOBALXNOJ OPTIMIZACII. wO MNOGIH SLU^AQH MOVET BYTX POKAZANO, ^TO DANNYE ALGORITMY UKLADYWA@TSQ W OB]U@ SHEMU OBOB]ENNOGO METODA SEKU]IH PLOSKOSTEJ, IZLOVENNOGO NIVE. w ^ASTNOSTI, K NIM OTNOSQTSQ ALGORITMY mLADINEO 68], wUDA 99, 100, 101], pIQWSKOGO-{UBERTA 14, 94]. w PERWOJ GLAWE RASSMOTREN SPECIALXNYJ SILXNO STRUKTURIROWANNYJ, NO TEM NE MENEE IROKIJ KLASS ABSTRAKTNO WYPUKLYH FUNKCIJ: TAK NAZYWAEMYE wwl FUNKCII (WOZRASTA@]IE WYPUKLYE PO LU^AM), OPREDELENNYE NA NEOTRICATELXNOM ORTANTE. zDESX FUNKCIQ QWLQETSQ WOZRASTA@]EJ PO OTNOENI@ K OBY^NOMU OTNOENI@ PORQDKA W IRn: hOROO IZWESTNO (SM. 81]), ^TO wwl FUNKCIQ ABSTRAKTNO WYPUKLA PO OTNOENI@ K SLEDU@]EMU SEMEJSTWU FUNKCIJ: n c 2 IR x 2 IRn g H = fh(x) = imin ` x ; c : ` 2 IR i i + + 2T (`)
GDE T (`) = fi : `i > 0g. dANNYJ KLASS FUNKCIJ WESXMA IROK, ^TO PODTWERVDAETSQ TEM, ^TO L@BAQ POLUNEPRERYWNAQ SNIZU NA EDINI^NOM SIMPLEKSE FUNKCIQ MOVET BYTX PRODOLVENA DO wwl FUNKCII. mY PREDSTAWLQEM NESKOLXKO PRIMEROW, ^TOBY POKAZATX IROTU DANNOGO KLASSA FUNKCIJ. sPECIALXNAQ STRUKTURA MNOVESTWA H PRIWELA K RASSMOTRENI@ SEKU]IH UGLOW KAK ESTESTWENNOGO OBOB]ENIQ PONQTIQ SEKU]EJ PLOSKOSTI WYPUKLOJ OPTIMIZACII. mETOD SEKU]IH UGLOW, PREDLOVENNYJ NAMI, ^ISLENNO REALIZOWAN, I NA^ALXNYE REZULXTATY PRIWEDENY W GLAWE 7. mNOGIE ZADA^I GLOBALXNOJ OPTIMIZACII S CELEWOJ FUNKCIEJ, OPREDELENNOJ NA NEOTRICA-
10
TELXNOM ORTANTE IRn+, MOGUT BYTX USPENO REENY PRIMENENIEM METODOW ABSTRAKTNOJ WYPUKLOSTI, OSNOWANNYH NA FUNKCIQH TIPA x ! mini2T (l) lixi S T (l) = fi : li > 0g (81, 21, 79]). w OTLI^IE OT KWADRATI^NYH FUNKCIJ FUNKCII TIPA MINIMUMA NEGLADKIE, NO, PO-WIDIMOMU, \TO OBSTOQTELXSTWO NE O^ENX WAVNO DLQ GLOBALXNOJ OPTIMIZACII. w TO VE WREMQ FUNKCIQ MINIMUMA ESTX KONE^NAQ KOMBINACIQ KOORDINATNYH FUNKCIJ I SOHRANQET NEKOTORYE SWOJSTWA \TIH LINEJNYH FUNKCIJ. tAKIE FUNKCII LEGKO STROITX. oPTIMIZACIONNYE ZADA^I S FUNKCIQMI TIPA MINIMUMA MOGUT BYTX LEGKO PEREFORMULIROWANY KAK SPECIALXNYE ZADA^I ^ASTI^NO CELO^ISLENNOGO PROGRAMMIROWANIQ 26], DLQ KOTORYH ESTX RQD PROGRAMMNYH PAKETOW (CPLEX, LPsolve, LINsolve I T.D.). kAK OTME^ENO WYE, OSNOWNAQ PROBLEMA DETERMINISTSKIH METODOW W GLOBALXNOJ OPTIMIZACII { \TO EE KOMBINATORNYJ HARAKTER. kAK UKAZANO W 53], ZADA^I GLOBALXNOJ OPTIMIZACII PO SWOEMU SU]ESTWU SLOVNY DLQ REENIQ I DOLVNY BYTX WY^ISLITELXNO TRUDOEMKIMI. nAE NA^ALXNOE TESTIROWANIE BYLO OGRANI^ENO ZADA^AMI MALOGO RAZMERA, ODNAKO REZULXTATY QWLQ@TSQ OBE]A@]IMI I UKAZYWA@T NA GLOBALXNYJ HARAKTER ALGORITMA (I KOMBINATORNYE SWOJSTWA GLAWNOJ PODZADA^I). mY WKL@^ILI PRIMERY ZADA^ SO MNOGIMI LOKALXNYMI \KSTREMUMAMI, W KOTORYH ALGORITM USPENO SHODITSQ, DAVE STARTUQ IZ LOKALXNOGO, NO NE GLOBALXNOGO \KSTREMUMA. bOLXEE ^ISLENNOE TESTIROWANIE TREBUET BOLEE MO]NOGO KOMPX@TERNOGO OBESPE^ENIQ. sLEDUET OTMETITX, ^TO ISPOLXZUQ METOD IZ 21, 22], MOVNO POLU^ITX WERHNIE I NIVNIE OCENKI OPTIMALXNOGO ZNA^ENIQ, ^TO POLEZNO DLQ ^ISLENNOJ REALIZACII. w GLAWE 2 RASSMATRIWAETSQ KLASS CELEWYH FUNKCIJ, KOTORYE WOZRASTA@T I IME@T ZWEZDNYE PO OTNOENI@ K +1 MNOVESTWA UROWNQ (MY IH NAZYWAEM wz FUNKCIQMI). tAKIE FUNKCII OBRAZU@T REETKU I IME@T RQD HOROIH SWOJSTW, OBLEG^A@]IH IH MINIMIZACI@. zADA^I MATEMATI^ESKOGO PROGRAMMIROWANIQ S wz FUNKCIQMI IME@T RAZLI^NYE PRILOVENIQ NA PRAKTIKE, W ^ASTNOSTI, W MATEMATI^ESKOJ \KONOMIKE, ^TO DELAET IH O^ENX WAVNYMI. w ^ASTNOSTI, iNTRILIGATOR 57] S^ITAET FUNKCII S DANNYM SWOJSTWOM OSNOWNYM WIDOM PROIZWODSTWENNYH FUNKCIJ. w OB]EM SLU^AE wz FUNKCIQ IMEET LOKALXNYE \KSTREMUMY I NE QWLQ-
11
ETSQ NI WYPUKLOJ, NI WOGNUTOJ. pO\TOMU K EE MINIMIZACII NELXZQ PRIMENITX METODY LOKALXNOGO POISKA I METODY WOGNUTOJ OPTIMIZACII. pOSKOLXKU wz FUNKCIQ MOVET BYTX PRIBLIVENA FUNKCIQMI TIPA MINIMUMA W SILU EE SWOJSTW ABSTRAKTNOJ WYPUKLOSTI, ZADA^A MINIMIZACII wz FUNKCII MOVET BYTX SWEDENA K POSLEDOWATELXNOSTI MINIMAKSNYH ZADA^ ILI K POSLEDOWATELXNOSTI ZADA^ ^ASTI^NO CELO^ISLENNOGO PROGRAMMIROWANIQ. kONE^NO, KAVDAQ TAKAQ ZADA^A TRUDNA DLQ REENIQ, I SLOVNOSTX BYSTRO RASTET PO OTNOENI@ K RAZMERNOSTI NA^ALXNOJ ZADA^I. oDNAKO, ISPOLXZUQ SPECIALXNU@ TEHNIKU SOKRA]ENIQ RAZMERNOSTI, MOVNO POLU^ITX HOROIE ^ISLENNYE REZULXTATY, ESLI ^ISLO PEREMENNYH NEWELIKO. mOVET BYTX WYGODNYM KOMBINIROWATX METODY, OSNOWANNYE NA ABSTRAKTNOJ WYPUKLOSTI, S LOKALXNYM POISKOM, POLU^AQ GIBRIDNYE METODY. w \TOM SLU^AE ABSTRAKTNOE WYPUKLOE PROGRAMMIROWANIE SLUVIT DLQ NAHOVDENIQ PRIBLIVENNOGO REENIQ, A LOKALXNYJ POISK ULU^AET EGO. sLEDUET OTMETITX, ^TO MNOGIE OPTIMIZACIONNYE ZADA^I MOGUT BYTX SWEDENY K ZADA^AM S wz CELEWYMI FUNKCIQMI ZAMENOJ PEREMENNYH. w GLAWE 2 TAKVE POKAZANO, ^TO WO MNOGIH SLU^AQH ZADA^A OPTIMIZACII S PROIZWOLXNOJ LIPICEWOJ CELEWOJ FUNKCIEJ MOVET BYTX SWEDENA K MINIMIZACII wwl FUNKCII. |TO PRIWODIT K PRIMENENI@ METODA SEKU]IH UGLOW K ZADA^AM LIPICEWA PROGRAMMIROWANIQ. bEZUSLOWNO, RQD WY^ISLITELXNYH TRUDNOSTEJ POQWLQETSQ PRI DANNOM PODHODE, W ^ASTNOSTI, MOVNO POLU^ITX PLOHO OBUSLOWLENNU@ CELEWU@ FUNKCI@. tEM NE MENEE, WO MNOGIH SLU^AQH PRIMENENIE NAEGO PODHODA BYLO USPENYM, POSKOLXKU BYLI NAJDENY GLOBALXNYE OPTIMALXNYE REENIQ DLQ RQDA ZADA^ NEWYPUKLOGO PROGRAMMIROWANIQ. w GLAWE 3 PREDLOVEN \FFEKTIWNYJ METOD MINIMIZACII KWAZIWYPUKLOJ FUNKCII, OSNOWANNYJ NA KONI^ESKOM PROEKTIROWANII. nA^ALXNAQ ZADA^A S OGRANI^ENIQMI SWODITSQ K ZADA^E BEZUSLOWNOJ MINIMIZACII, ^TO OBLEG^AET NAHOVDENIE OPTIMALXNOGO REENIQ. pREDLOVENNYJ ALGORITM WESXMA \FFEKTIWEN DLQ MINIMIZACII LINEJNOJ FUNKCII NA WYPUKLOM MNOVESTWE. ~ISLENNYE \KSPERIMENTY POKAZALI, ^TO METOD KONI^ESKOGO PROEKTIROWANIQ PREWOSHODIT PO \FFEKTIWNOSTI IZWESTNYE GRADIENTNYE METODY. w GLAWE 4 RASSMOTRENA HOROO IZWESTNAQ ZADA^A O GAMILXTONOWOM CIKLE
12
(SOKRA]ENNO zgc), KOTORAQ MOVET BYTX OPISANA SLEDU@]IM OBRAZOM: zgc: w ORIENTIROWANNOM GRAFE NAJTI PUTX, PROHODQ]IJ ^EREZ KAVDU@ WERINU ROWNO ODIN RAZ PERED WOZWRA]ENIEM W NA^ALXNU@ WERINU, ILI OPREDELITX, ^TO TAKOGO PUTI NE SU]ESTWUET. zgc, KAK PRAWILO, RASSMATRIWAETSQ KAK O^ENX SLOVNAQ ZADA^A S ALGORITMI^ESKOJ TO^KI ZRENIQ. hOROO IZWESTNO, ^TO OBNARUVENIE POLINOMIALXNOGO ALGORITMA OPROWERGNET GIPOTEZU P 6= NP , KOTORAQ S^ITAETSQ SPRAWEDLIWOJ. oDNAKO ESTX HOROIE \WRISTI^ESKIE ALGORITMY DLQ REENIQ MNOGIH RAZNOWIDNOSTEJ zgc, BOLXINSTWO IZ \TIH \WRISTIK OSNOWANO NA KOMBINATORNYH PODHODAH. w DANNOJ MONOGRAFII MY ISPOLXZUEM REZULXTATY NEORTODOKSALXNOGO PODHODA K zgc, RAZRABOTANNOGO W STATXQH ~ENA I fILARA 41] I fILARA I kRASSA 40]. tAKOJ PODHOD WKL@^AET W SEBQ WLOVENIE PROBLEMY W KONTROLIRUEMU@ MARKOWSKU@ CEPX I ISSLEDOWANIE INDUCIROWANNOJ \RGODI^ESKOJ STRUKTURY. w ITOGE POLU^AETSQ ZADA^A MINIMIZACII NEOPREDELENNOJ KWADRATI^NOJ FORMY S IZWESTNYM OPTIMALXNYM ZNA^ENIEM, RAWNYM NUL@. k SOVALENI@, NET \FFEKTIWNYH ALGORITMOW REENIQ TAKOJ ZADA^I DLQ DOSTATO^NO BOLXOGO ^ISLA PEREMENNYH. w DANNOJ MONOGRAFII PRIMENQETSQ PODHOD K REENI@ zgc S POMO]X@ MARKOWSKIH CEPEJ I FUNKCIJ TIPA MINIMUMA. mY PREDSTAWLQEM REZULXTATY ^ISLENNYH \KSPERIMENTOW DLQ GRAFOW UMERENNOGO RAZMERA. pREDWARITELXNOE TESTIROWANIE POKAZALO \FFEKTIWNOSTX PODHODA DLQ RAZLI^NYH KLASSOW GRAFOW. w GLAWE 5 MY RASSMATRIWAEM SHEMU DWOJSTWENNOSTI, OSNOWANNU@ NA WOZRASTA@]IH FUNKCIQH. oDNA IZ WAVNEJIH ZADA^ OPTIMIZACII { MINIMIZACIQ NELINEJNOJ FUNKCII NA DOPUSTIMOM MNOVESTWE, ZADANNOM KONE^NYM ^ISLOM LINEJNYH I NELINEJNYH OGRANI^ENIJ. sU]ESTWUET RQD ALGORITMOW REENIQ TAKOJ ZADA^I. iH MOVNO RAZDELITX NA DWE BOLXIE GRUPPY METODOW. pERWAQ GRUPPA SOSTOIT IZ PRQMYH METODOW, W KOTORYH NA KAVDOJ ITERACII NAHODITSQ WOZMOVNOE NAPRAWLENIE I DELAETSQ AG WDOLX NEGO. |TI METODY WKL@^A@T W SEBQ METOD USLOWNOGO GRADIENTA, METODY PRIWEDENNYH GRADIENTOW, METOD zOJTENDEJKA, METOD PROEKCII GRADIENTA I DR. (SM. 67, 2] I BIBLIOGRAFI@). oDNAKO ONI IME@T RQD NEDOSTATKOW, KASA@]IHSQ SHODIMOSTI I TRUDNOSTI WYBORA PARAMETROW. pO\TOMU WO MNOGIH SLU^AQH PREDPO^TITELXNO PRIMENQTX DWOJSTWENNYE METODY, OBRAZU@]IE WTORU@
13
GRUPPU. pOSLEDNQQ WKL@^AET W SEBQ METODY TRAFNYH FUNKCIJ (SM. 39]), METOD CENTROW (56, 8]) I METODY MODIFICIROWANNYH FUNKCIJ lAGRANVA (SM. 67, 47] I SSYLKI W NIH). oNI DA@T INFORMACI@ O DWOJSTWENNOJ ZADA^E I WOZMOVNOSTX NAJTI NIVNIE OCENKI OPTIMALXNOGO ZNA^ENIQ CELEWOJ FUNKCII NA DOPUSTIMOM MNOVESTWE, ^TO O^ENX WAVNO DLQ MINIMIZACII NEWYPUKLYH FUNKCIJ. ~ASTO \TI ALGORITMY NAZYWA@T METODAMI POSLEDOWATELXNOJ BEZUSLOWNOJ OPTIMIZACII, TAK KAK ONI OSNOWANY NA SWEDENII ISHODNOJ ZADA^I S OGRANI^ENIQMI K POSLEDOWATELXNOSTI ZADA^ BEZUSLOWNOJ OPTIMIZACII. iNOGDA NEOBHODIMO MNOGO RAZ REATX WSPOMOGATELXNYE ZADA^I BEZ OGRANI^ENIJ. oDNAKO SU]ESTWU@T METODY TO^NYH TRAFNYH FUNKCIJ, W KOTORYH DOSTATO^NO ODIN RAZ REITX WSPOMOGATELXNU@ ZADA^U DLQ POLU^ENIQ OPTIMALXNOGO REENIQ ISHODNOJ ZADA^I. w DANNOJ RABOTE PREDLAGAETSQ PODHOD K POSTROENI@ WSPOMOGATELXNYH FUNKCIJ DLQ DWOJSTWENNYH METODOW, OSNOWANNYJ NA WOZRASTA@]IH FUNKCIQH. mY DOKAZYWAEM \KWIWALENTNOSTX ISHODNOJ I WSPOMOGATELXNOJ ZADA^, ^TO WEDET K POSTROENI@ SEMEJSTWA METODOW POSLEDOWATELXNOJ BEZUSLOWNOJ OPTIMIZACII. mY POKAZYWAEM, ^TO MNOGIE IZWESTNYE KONKRETNYE PRIMERY TRAFNYH FUNKCIJ ILI MODIFICIROWANNYH FUNKCIJ lAGRANVA UKLADYWA@TSQ W NAU OB]U@ SHEMU. pRI POSTROENII TRAFNYH FUNKCIJ DLQ OGRANI^ENIJ W FORME NERAWENSTW POKAZANO, ^TO KOGDA ZNA^ENIQ TRAFNYH PARAMETROW DOSTATO^NO WELIKI, MOVNO POLU^ITX REENIE ZADA^I S OGRANI^ENIQMI S L@BOJ ZARANEE ZADANNOJ TO^NOSTX@. zATEM MY RAZWIWAEM TOT VE PODHOD DLQ OGRANI^ENIJRAWENSTW. oBY^NO PREDPO^TITELXNO ISPOLXZOWATX MODIFICIROWANNYE FUNKCII lAGRANVA, A NE TRAFNYE FUNKCII, TAK KAK WSPOMOGATELXNAQ ZADA^A MOVET BYTX PLOHO OBUSLOWLENA DLQ BOLXIH ZNA^ENIJ TRAFNYH PARAMETROW (DLQ OBSUVDENIQ MODIFICIROWANNYH FUNKCIJ lAGRANVA SM. 30, 67] I BIBLIOGRAFI@). mY PREDLAGAEM SHEMU POSTROENIQ MODIFICIROWANNYH FUNKCIJ lAGRANVA, KOTORAQ POZWOLQET NAJTI PRIBLIVENNOE OPTIMALXNOE REENIE ISHODNOJ ZADA^I, DAVE ESLI U KLASSI^ESKOJ FUNKCII lAGRANVA NET SEDLOWYH TO^EK. oDNA IZ WOZMOVNOSTEJ { KOMBINIROWATX PODHOD, OSNOWANNYJ NA MODIFICIROWANNYH FUNKCIQH lAGRANVA, S METODOM CENTROW I PRIMENITX
14
IZWESTNYE METODY NEGLADKOJ OPTIMIZACII DLQ REENIQ WSPOMOGATELXNOJ ZADA^I. w GLAWE 6 MY PREDLAGAEM PARAMETRI^ESKIJ PODHOD K ZADA^AM GLOBALXNOJ OPTIMIZACII SPECIALXNOGO WIDA. o^EWIDNO, NEOBHODIMO RASSMATRIWATX SPECIALXNYE KLASSY ZADA^, DLQ KOTORYH MOVNO POSTROITX ^ISLENNYE ALGORITMY, USPENO ISPOLXZU@]IE STRUKTURU CELEWOJ FUNKCII I/ILI OGRANI^ENIJ. zADA^I NAHOVDENIQ \KONOMI^ESKOGO RAWNOWESIQ (SM. 85, 96, 45]) I REENIQ NELINEJNYH URAWNENIJ (SM. 35, 74]) DA@T NAM DWA WAVNYH KLASSA, DLQ KOTORYH MOVNO RAZRABOTATX SHEMY, POZWOLQ@]IE NAJTI GLOBALXNYJ OPTIMUM ZA KOROTKIJ OTREZOK WREMENI. dLQ REENIQ TAKIH ZADA^ MY ISPOLXZUEM PARAMETRI^ESKIJ PODHOD. oN OTLI^AETSQ OT METODOW PRODOLVENIQ PO PARAMETRU 53, 20], TUNNELXNYH METODOW 65] I METODOW GOMOTOPII (SM. 53, 96] I SSYLKI W NIH), KOTORYE NAIBOLEE ^ASTO ISPOLXZU@TSQ DLQ REENIQ TAKIH ZADA^. mY PREDLAGAEM ISKATX GLOBALXNYJ OPTIMUM, NADLEVA]IM OBRAZOM PODBIRAQ WESA (PARAMETRY) W ZADA^E. kAK ZADA^A REENIQ NELINEJNYH URAWNENIJ, TAK I ZADA^A NAHOVDENIQ \KONOMI^ESKOGO RAWNOWESIQ OBLADA@T WAVNYM SWOJSTWOM. eSLI MY WWEDEM RAZLI^NYE WESA DLQ FUNKCIJ ZADA^I, GLOBALXNOE REENIE NE IZMENITSQ. oDNAKO DRUGIE STACIONARNYE TO^KI IZMENQTSQ, ^TO POZWOLQET PREODOLETX GLAWNOE PREPQTSTWIE GLOBALXNOJ OPTIMIZACII { WYJTI IZ STACIONARNOJ TO^KI, NE QWLQ@]EJSQ GLOBALXNYM OPTIMUMOM. wESA MOVNO IZMENQTX DETERMINISTSKIM ILI STOHASTI^ESKIM SPOSOBAMI. pROSTEJIJ SPOSOB { PRIMENITX SLU^AJNYJ POISK W PROSTRANSTWE WESOW, DLQ ^EGO IMEETSQ BOLXOE ^ISLO ALGORITMOW (SM. 97, 76, 91] I SSYLKI W NIH), ILI MOVNO PRIMENITX KOMBINATORNYJ PODHOD. w DANNOJ RABOTE PREDLAGAETSQ RQD KONCEPTUALXNYH SHEM DLQ REENIQ ZADA^ GLOBALXNOJ OPTIMIZACII SPECIALXNOGO WIDA, WKL@^AQ MINIMIZACI@ WZWEENNOJ SUMMY KWADRATOW I POISK \KONOMI^ESKOGO RAWNOWESIQ W MODELI, PREDLOVENNOJ W 85], I PREDSTAWLENY ^ISLENNYE REZULXTATY. sHODIMOSTX ZAWISIT OT SWOJSTW ISPOLXZUEMOGO METODA LOKALXNOGO POISKA I MER OBLASTEJ PRITQVENIQ GLOBALXNOGO I LOKALXNYH MINIMUMOW (SM.
15
OBSUVDENIE W 97]). mY OBSUVDAEM RQD PROBLEM, WOZNIKA@]IH W NAEM PODHODE. oDNA IZ NIH { NALI^IE STACIONARNYH NEOPTIMALXNYH TO^EK DLQ WSEH WESOW. dLQ DANNOJ SITUACII NAMI PREDLAGAETSQ ALGORITM WOZMU]ENIJ, PREODOLEWA@]IJ \TO PREPQTSTWIE WO MNOGIH SLU^AQH. pRI \TOM RAZRABOTANY MODIFIKACII ALGORITMOW DLQ NEOGRANI^ENNOGO DOPUSTIMOGO MNOVESTWA, KOGDA ITERACIONNAQ POSLEDOWATELXNOSTX MOVET UHODITX NA BESKONE^NOSTX. nA PODHOD MOVET RASSMATRIWATXSQ W OB]EJ SHEME TRAEKTORNYH METODOW, RQD KOTORYH BYL PREDLOVEN DLQ REENIQ ZADA^ NELINEJNOGO PROGRAMMIROWANIQ I SISTEM NELINEJNYH URAWNENIJ (SM. 97, 37]). mY PREDPOLAGAEM, ^TO IMEETSQ LOKALXNYJ ALGORITM, POZWOLQ@]IJ NAJTI STACIONARNU@ TO^KU (\TO MOVET BYTX METOD NAISKOREJEGO SPUSKA, METOD PU^KOW ILI L@BOJ DRUGOJ ALGORITM). pRI IZMENENII WESOW OSU]ESTWLQETSQ PEREHOD OT ODNOJ STACIONARNOJ TO^KI K DRUGOJ, I PRI NEKOTORYH PREDPOLOVENIQH SHODIMOSTX K GLOBALXNOMU OPTIMUMU MOVET BYTX DOKAZANA. w GLAWE 7 MY RASSMATRIWAEM REZULXTATY ^ISLENNYH \KSPERIMENTOW DLQ RAZLI^NYH ZADA^ GLOBALXNOJ OPTIMIZACII. aWTOR WYRAVAET BLAGODARNOSTX NAU^NOMU REDAKTORU a.m. eLIZAROWU ZA POMO]X W PODGOTOWKE MONOGRAFII, RECENZENTAM a.w. lAPINU I w.p. ~UEWU ZA POLEZNYE ZAME^ANIQ, A TAKVE a.m. rUBINOWU ZA RQD CENNYH SOWETOW. mONOGRAFIQ NAPISANA PRI PODDERVKE GRANTOW rOSSIJSKOGO FONDA FUNDAMENTALXNYH ISSLEDOWANIJ, KOTORAQ OSU]ESTWLQLASX PO PROEKTAM N 99-0100173, N 01-01-06199. aWTOR BLAGODARIT rffi ZA OKAZANNU@ PODDERVKU.
gLAWA 1 aBSTRAKTNAQ WYPUKLOSTX I METOD SEKU]IH UGLOW w DANNOJ GLAWE MY PREDLAGAEM OBOB]ENIE METODA SEKU]IH PLOSKOSTEJ WYPUKLOJ OPTIMIZACII, PRIMENIMOE K O^ENX IROKIM KLASSAM NEWYPUKLYH ZADA^ GLOBALXNOJ OPTIMIZACII. pOSTROENIQ OSNOWANY NA ABSTRAKTNOJ WYPUKLOSTI. 1.1
aBSTRAKTNO WYPUKLYE FUNKCII I SUBDIFFERENCIALY
nAMI RASSMATRIWA@TSQ ZADA^I GLOBALXNOJ OPTIMIZACII NEKOTORYH OBOB]ENNO WYPUKLYH FUNKCIJ. pREVDE WSEGO, MY PRIWEDEM IZWESTNYE OPREDELENIQ I REZULXTATY TEORII ABSTRAKTNOGO WYPUKLOGO ANALIZA (SM. 95, 84, 11, 70]), KOTORYE BUDUT NEOBHODIMY DLQ POSTROENIQ ^ISLENNYH ALGORITMOW. pUSTX L { MNOVESTWO WE]ESTWENNOZNA^NYH FUNKCIJ h(x), OPREDELENNYH NA MNOVESTWE X , SO SLEDU@]IM SWOJSTWOM (A): FUNKCIQ h(x) = `(x) ; c x 2 X (1.1) NE PRINADLEVIT L DLQ WSEH ` 2 L I WSEH NENULEWYH c 2 IR: dALEE MY BUDEM ISPOLXZOWATX SLEDU@]IE OPREDELENIQ (SM. 81, 84, 11, 95, 70]). oPREDELENIE 1.1.1 pUSTX L { MNOVESTWO FUNKCIJ, UDOWLETWORQ@]IH USLOWI@ (a). fUNKCIQ h WIDA (1.1) S ` 2 L I c 2 IR NAZYWAETSQ LAFFINNOJ FUNKCIEJ. mY BUDEM OBOZNA^ATX MNOVESTWO L-AFFINNYH FUNKCIJ HL.
17
oPREDELENIE 1.1.2 pUSTX H ESTX MNOVESTWO KONE^NYH FUNKCIJ, OPRE-
DELENNYH NA MNOVESTWE X . fUNKCIQ f : X ! IR f+1g, OPREDELENNAQ NA MNOVESTWE X , NAZYWAETSQ ABSTRAKTNO WYPUKLOJ PO OTNOENI@ K H (ILI H -WYPUKLOJ), ESLI ESTX MNOVESTWO U TAKOE, ^TO DLQ WSEH x 2 X IMEEM f (x) = supfh(x) : h 2 U g:
mY BUDEM RASSMATRIWATX TOLXKO KONE^NYE ABSTRAKTNO WYPUKLYE FUNKCII. oPREDELENIE 1.1.3 pUSTX f { KONE^NAQ FUNKCIQ, OPREDELENNAQ NA MNOVESTWE X . mNOVESTWO s(f H ) WSEH L-AFFINNYH MINORANT f NAZYWAETSQ OPORNYM MNOVESTWOM. tAK, s(f H ) = fh 2 H : (8x 2 X ) h(x) f (x)g: tOGDA DLQ H -WYPUKLOJ FUNKCII IMEEM f (x) = supfh(x) : h 2 s(f H )g. nAS INTERESU@T TO^KI x, W KOTORYH DOSTIGAETSQ SUPREMUM. oPREDELENIE 1.1.4 pUSTX L { MNOVESTWO FUNKCIJ, OPREDELENNYH NA X , SO SWOJSTWOM (a), I f { HL-WYPUKLAQ FUNKCIQ. pUSTX x0 2 X . tOGDA MNOVESTWO @Lf (x0) = f` 2 L : (8x 2 X ) `(x) ; `(x0) f (x) ; f (x0)g NAZYWAETSQ L-SUBDIFFERENCIALOM FUNKCII f W TO^KE x0. sLEDU@]EE PROSTOE PREDLOVENIE USTANAWLIWAET SWQZX MEVDU SUBDIFFERENCIALAMI I OPORNYMI MNOVESTWAMI. pREDLOVENIE 1.1 pUSTX f { HL-WYPUKLAQ FUNKCIQ, x0 2 X I ` 2 L. pUSTX h(x) = `(x) ; (`(x0) ; f (x0)): tOGDA ` 2 @Lf (x0) TOGDA I TOLXKO TOGDA, KOGDA h 2 s(f HL). 1.2
sHEMA OBOB]ENNOGO GRADIENTNOGO SPUSKA
pUSTX L { MNOVESTWO FUNKCIJ, OPREDELENNYH NA OTKRYTOM MNOVESTWE, WKL@^A@]EM KOMPAKTNOE WYPUKLOE MNOVESTWO X IZ GILXBERTOWA PROSTRANSTWA.
18
pUSTX L OBLADAET SWOJSTWOM (A). mY BUDEM RASSMATRIWATX HL-WYPUKLU@ FUNKCI@ f , OPREDELENNU@ NA X . pREDPOLOVIM, ^TO f L-SUBDIFFERENCIRUEMA W L@BOJ TO^KE x 2 X , T. E. @L(x) 6= DLQ WSEH x 2 X . iZ pREDLOVENIQ 1.1 SLEDUET, ^TO DLQ WSEH x 2 X MNOVESTWO M (x) = fh 2 s(f HL) : h(x) = f (x)g
(1.2)
NEPUSTO. rASSMOTRIM SLEDU@]IJ WARIANT OBOB]ENNOGO METODA SEKU]IH PLOSKOSTEJ DLQ ZADA^I (SM. 60, 51, 75]) f (x) ! min x 2 X
(1.3)
oBOB]ENNYJ METOD SEKU]IH PLOSKOSTEJ {AG 0. pUSTX k := 0. wYBRATX PROIZWOLXNO xo 2 X . {AG 1. nAJTI `k 2 @Lf (xk ) I POLOVITX hk 2 M (xk ), GDE hk (x) = `k (x) ; (`k (xk ) ; f (xk )). {AG 2. nAJTI GLOBALXNYJ OPTIMUM ZADA^I max h (x) ! min 0ik i
x 2 X:
(1.4)
pUSTX y { REENIE DANNOJ ZADA^I. {AG 3. pOLOVITX k := k + 1 xk = y I WERNUTXSQ K {AGU 1. sHODIMOSTX METODA BYLA USTANOWLENA pALLQKE I rOLEWI^EM 70] W O^ENX OB]EM SLU^AE. iH DOKAZATELXSTWO O^ENX SLOVNOE, PO\TOMU DA@TSQ BOLEE PROSTYE DOKAZATELXSTWA DLQ INTERESU@]IH NAS SLU^AEW. ~TOBY IZU^ITX SHODIMOSTX ALGORITMA, WWEDEM SLEDU@]IE WELI^INY (ONI BYLI RASSMOTRENY W 16] DLQ WYPUKLOGO SLU^AQ): fk (x) = 0max h (x) DLQ x 2 X ik i k = fk (xk ) (k = 0 1 2 : : :) k = fk;1(xk ) (k = 1 2 : : :): uKAVEM NEKOTORYE SWOJSTWA FUNKCIJ fk I ^ISEL k I k : 1) fo(x) f1(x) : : : fk (x) : : : f (x) DLQ WSEH x 2 X . 2) k = f (xk ) = hk (xk ).
(1.5)
19
w SAMOM DELE, fk (xk ) f (xk) = hk (xk ) 0max h (x ) = fk (xk ): ik i k tAKIM OBRAZOM, k = fk (xk ) = f (xk) = hk (xk ). 3) nERAWENSTWO k k+1 WYPOLNQETSQ DLQ WSEH k. dEJSTWITELXNO, k = fk;1(xk ) = min f (x) = min max h (x) x2X k;1 x2X 0ik;1 i min max h (x) = min f (x) = k+1: x2X 0ik i x2X k 4) iZ MONOTONNOSTI POSLEDOWATELXNOSTI fk g SLEDUET, ^TO limk!+1 k SU]ESTWUET.
5) k minx2X f (x) k DLQ WSEH k = 1 2 : : :. dEJSTWITELXNO, DLQ REENIQ u ZADA^I (1.3) IMEEM min f (x) = f (u) fk;1(u) min f (x) = k : x2X x2X k;1
s DRUGOJ STORONY, k = f (xk) minx2X f (x). nEPOSREDSTWENNO IZ \TIH SWOJSTW SLEDUET, ^TO ESLI DLQ NEKOTOROGO k MY IMEEM xk = xk+1, TO xk { REENIE ZADA^I (1.3). dEJSTWITELXNO, MY MOVEM WZQTX `k = `k+1 W \TOM SLU^AE. tOGDA k+1 = fk (xk+1) = 0max h (x ) = 0max h (x ) = ik i k+1 ik+1 i k+1 = fk+1(xk+1) = k+1: iZ SWOJSTWA 5) SLEDUET, ^TO f (xk ) = minx2X f (x). mY OPIEM DWA NABORA USLOWIJ, OBESPE^IWA@]IH SHODIMOSTX ALGORITMA. tEOREMA 1.1 pUSTX MNOVESTWO L SOSTOIT IZ WOGNUTYH FUNKCIJ. pUSTX POSLEDOWATELXNOSTX fxk g, GENERIRUEMAQ ALGORITMOM, BESKONE^NA. pREDPOLOVIM, ^TO PROIZWODNYE PO NAPRAWLENI@ h0k (x) WOGNUTYH FUNKCIJ hk RAWNOMERNO OGRANI^ENY NA MNOVESTWE X : kh0k (x)k = kmax jh0 (x u)j r < +1 DLQ WSEH x 2 X k = 0 1 : : : (1.6) uk1 k
20
tOGDA KAVDAQ PREDELXNAQ TO^KA x POSLEDOWATELXNOSTI (xk ) ESTX REENIE ZADA^I (1.3). dOKAZATELXSTWO. pUSTX x = limj!1 xkj . dLQ KAVDOGO j RASSMOTRIM WOGNUTU@ FUNKCI@ hi S i kj;1 I NAJDEM SUPERGRADIENT ai \TOJ FUNKCII W TO^KE xkj . pUSTX bi(x) = hi(xkj ) + ai x ; xkj ]. tOGDA bi(x) hi(x) DLQ WSEH x 2 X I bi(xkj ) = hi(xkj ). mY IMEEM kj; = fkj; (xkj; ) = 0max h (x ) 0max b (x ) ikj; i kj; ikj; i kj; = 0max h (x ) + ai xkj; ; xkj ] ikj; i kj 0max h (x ) + 0max ka kkxkj; ; xkj k: ikj ;1 i kj ikj; i 1
1
1
1
1
1
1
1
1
1
1
iZ USLOWIJ TEOREMY LEGKO SLEDUET, ^TO kaik r. pUSTX = limk!1 k . pOSKOLXKU kxkj; ; xkj k ! 0, IMEEM lim sup kj . s DRUGOJ STORONY, IZ NERAWENSTWA kj kj ;1 SLEDUET lim inf kj . tAKIM OBRAZOM, kj = f (xkj ) ! . o^EWIDNO, ^TO = minff (x0) : x0 2 X g. 2 zDESX I DALEE 2 OZNA^AET ZAWERENIE DOKAZATELXSTWA. 1
zAME^ANIE 1.1 pUSTX k = minik i. pOSLEDOWATELXNOSTX k UBYWAET,
I MY IMEEM
k = min max = k : ik i ik i tAKIM OBRAZOM, ALGORITM GENERIRUET TAKIE UBYWA@]U@ POSLEDOWATELXNOSTX ( k ) I WOZRASTA@]U@ POSLEDOWATELXNOSTX (k ), ^TO
k min f (x) k I klim
= min f (x) = hlim : x2X x2X !1 k !1 k
dOKAVEM E]E ODNU TEOREMU SHODIMOSTI.
tEOREMA 1.2 dOPUSTIM, ^TO: 1) MNOVESTWO L SOSTOIT IZ FUNKCIJ, NEPRERYWNYH NA X 2) MNOVESTWO M (X ) = x2X M (x), GDE M (x) OPREDELENO (1.2), RAWNOMERNO SEKWENCIALXNO KOMPAKTNO (DLQ L@BOJ POSLEDOWATELXNOSTI hk 2 M (X ) SU]ESTWUET RAWNOMERNO SHODQ]AQSQ PODPOSLEDOWATELXNOSTX hki )
21
3) SUBDIFFERENCIALXNOE OTOBRAVENIE x ! @Lf (x) ZAMKNUTO. tOGDA ESLI POSLEDOWATELXNOSTX fxk g, POSTROENNAQ ALGORITMOM, BESKONE^NA, TO KAVDAQ EE PREDELXNAQ TO^KA QWLQETSQ REENIEM ZADA^I (1.3). dOKAZATELXSTWO. pUSTX hk 2 M (xk ) { POSLEDOWATELXNOSTX L - AFFINNYH FUNKCIJ, ISPOLXZUEMYH DLQ POSTROENIQ POSLEDOWATELXNOSTI xk . pUSTX x { PREDELXNAQ TO^KA \TOJ POSLEDOWATELXNOSTI. iZ USLOWIJ 2) I 3) SLEDUET, ^TO SU]ESTWUET PODPOSLEDOWATELXNOSTX kj TAKAQ ^TO xkj ! x I hkj RAWNOMERNO SHODITSQ K FUNKCII h 2 M (x). pUSTX " { PROIZWOLXNOE POLOVITELXNOE ^ISLO. pOSKOLXKU h { NEPRERYWNAQ FUNKCIQ, MY IMEEM DLQ DOSTATO^NO BOLXIH j:
h(x) h(xkj ) + 2" hkj; (xkj ) + " omax h (x ) + " = kj + " ikj ;1 i kj 1
(1.7)
GDE (k ) OPREDELENO (1.5). iZ (1.7) I SWOJSTW POSLEDOWATELXNOSTI fk g SLEDUET, ^TO h(x) minx02X f (x0). tAK KAK x 2 X , IMEEM h(x) minx02X f (x0). 2 zAME^ANIE 1.2 w RQDE SLU^AEW SUBDIFFERENCIAL MOVET BYTX O^ENX BOLXIM. w TAKIH SLU^AQH MOVNO ISPOLXZOWATX SPECIALXNOE PODMNOVESTWO m(x) MNOVESTWA @Lf (x) DLQ POSTROENIQ POSLEDOWATELXNOSTI fxk g. w \TOM SLU^AE MY TREBUEM ZAMKNUTOSTX OTOBRAVENIQ m WMESTO @Lf: zAME^ANIE 1.3 mOVNO PRIMENITX SHEMU OBOB]ENNOGO METODA SEKU]IH PLOSKOSTEJ DLQ NEKOTORYH KLASSOW RAZRYWNYH FUNKCIJ. nAPRIMER, MY MOVEM WZQTX KAK L KLASS DWUHSTUPEN^ATYH FUNKCIJ (SM. 83]) WIDA: 8 > < `(x) = >: 0 v(x) a c v(x) > a GDE v { LINEJNAQ FUNKCIQ, a { WE]ESTWENNOE ^ISLO, c 0. hOROO IZWESTNO (SM., NAPRIMER 95, 83]), ^TO FUNKCIQ f HL-WYPUKLA TOGDA I TOLXKO TOGDA, KOGDA ONA POLUNEPRERYWNA SNIZU I KWAZIWYPUKLA. w DANNOJ SITUACII MY MOVEM PRIMENITX SHEMU OBOB]ENNOGO METODA SEKU]IH PLOSKOSTEJ. pOSKOLXKU DWUHSTUPEN^ATYE FUNKCII RAZRYWNY, USLOWIQ TEOREMY SHODIMOSTI NE WYPOLNQ@TSQ. eSLI MY DOBAWIM DOPOLNITELXNYE PREDPOLOVENIQ (NAPRIMER, ^TO ITERACIONNAQ TO^KA LEVIT DOSTATO^NO GLUBOKO WNUTRI NEKOTOROGO WSPOMOGATELXNOGO MNOVESTWA), TO ALGORITMY SHODQTSQ, I MY POLU^AEM
22
HOROO IZWESTNYE METODY TIPA SEKU]IH PLOSKOSTEJ DLQ KWAZIWYPUKLOGO PROGRAMMIROWANIQ (SM., NAPRIMER, 46]). pRI ^ISLENNOJ REALIZACII OPISANNYH ALGORITMOW IME@TSQ DWE OSNOWNYE TRUDNOSTI. pERWAQ IZ NIH { WY^ISLENIE \LEMENTA `k IZ @Lf (xk): w OB]EM SLU^AE O^ENX TRUDNO NAJTI ^ISLENNO \LEMENT L-SUBDIFFERENCIALA, ODNAKO \TO WOZMOVNO DLQ RQDA WAVNYH ^ASTNYH SLU^AEW. nAPRIMER, ZNANIE KONSTANTY lIPICA DLQ LIPICEWOJ FUNKCII POZWOLQET NAJTI \LEMENT IZ @Lf (xk ), GDE L { MNOVESTWO MINIMUMOW LINEJNYH FUNKCIJ. w SLEDU@]EJ ^ASTI MY RASSMATRIWAEM IROKIJ KLASS FUNKCIJ, A IMENNO, WOZRASTA@]IE WYPUKLYE PO LU^AM FUNKCII, DLQ KOTORYH LEGKO NAJTI \LEMENT L;SUBDIFFERENCIALA. wTORAQ SLOVNOSTX { REENIE PODZADA^I NA {AGE 2. oNO LEGKO REALIZUETSQ DLQ LINEJNYH ILI WYPUKLYH FUNKCIJ hi ODNAKO ESLI hi { MINIMUMY AFFINNYH FUNKCIJ ILI NEWYPUKLYE KWADRATI^NYE FUNKCII, PODZADA^A IMEET KOMBINATORNU@ PRIRODU I REAETSQ LEGKO TOLXKO DLQ MALYH RAZMERNOSTEJ. sU]ESTWUET RQD IZWESTNYH ALGORITMOW, KOTORYE MOGUT RASSMATRIWATXSQ KAK ^ASTNYE SLU^AI OBOB]ENNOGO METODA SEKU]IH PLOSKOSTEJ. pREVDE WSEGO, \TO METOD SEKU]IH PLOSKOSTEJ WYPUKLOJ OPTIMIZACII (SM. 60]). oDNAKO ESTX METODY GLOBALXNOJ OPTIMIZACII, UKLADYWA@]IESQ W NAU OB]U@ SHEMU. w 68] RASSMOTREN SPECIALXNYJ SLU^AJ, W KOTOROM (ESLI MY IMEEM ZADA^U MINIMIZACII, A NE MAKSIMIZACII) FUNKCIQ fk (x) = 1max ff (xi) ; K kx ; xikg ik MINIMIZIRUETSQ, GDE K { KONSTANTA lIPICA CELEWOJ FUNKCII. o^EWIDNO, ESLI f LIPICEWA, ONA HL-WYPUKLA I L-SUBDIFFERENCIRUEMA PO OTNOENI@ K MNOVESTWU FUNKCIJ WIDA `(x) = ;K kx ; xk x 2 IRn: sLEDOWATELXNO, ALGORITM r.mLADINEO 68] ESTX OBOB]ENNYJ METOD SEKU]IH PLOSKOSTEJ DLQ SOOTWETSTWU@]IH FUNKCIJ h(x) `(x) + c c = const: aLGORITMY, POSTROENNYE W 99, 100, 101], OSNOWANY NA APPROKSIMACII PODGRAFIKA FUNKCII f (x) OB_EDINENIEM SIMPLICIALXNYH KONUSOW. w DEJSTWITELXNOSTI ONI ISPOLXZU@T ABSTRAKTNU@ WYPUKLOSTX S MNOVESTWOM H , QWLQ@]IMSQ PODMNOVESTWOM MNOVESTWA MINIMUMOW AFFINNYH FUNKCIJ.
23
mNOGIE METODY MINIMIZACII FUNKCII ODNOJ PEREMENNOJ, NAPRIMER, METOD pIQWSKOGO-{UBERTA I METODY, NA NEM OSNOWANNYE (SM.14, 94, 48, 49, 74]), TAKVE QWLQ@TSQ SPECIALXNYMI SLU^AQMI OB]EGO METODA, PREDSTAWLENNOGO WYE. pO\TOMU MOVNO DOKAZATX SHODIMOSTX UKAZANNYH ALGORITMOW PO ODNOJ I TOJ VE TEHNIKE. zAME^ANIE 1.4 mY MOVEM RASSMATRIWATX NA PODHOD W RAMKAH METODOW POSLEDOWATELXNOGO OCENIWANIQ SNIZU, IZU^ENNYH W 54]. mETOD SWQZAN S ALGORITMAMI WNENIH APPROKSIMACIJ. tEOREMA 1.2 POHOVA NA TEOREMU SHODIMOSTI METODOW WNENEJ APPROKSIMACII, RASSMOTRENNYH W 55], NO NEZAWISIMA OT NEE. ~TOBY USKORITX SHODIMOSTX OBOB]ENNOGO METODA SEKU]IH PLOSKOSTEJ, MOVET BYTX O^ENX POLEZNO WWODITX GIBRIDIZACI@, TO ESTX ISPOLXZOWATX LOKALXNYJ POISK DLQ NAHOVDENIQ LOKALXNOGO MINIMUMA, A ZATEM PYTATXSQ NAJTI OBOB]ENNYM METODOM SEKU]IH PLOSKOSTEJ LOKALXNYJ MINIMUM S MENXIM ZNA^ENIEM CELEWOJ FUNKCII. tAKVE, ESLI TEKU]AQ ITERACIONNAQ TO^KA DOSTATO^NO BLIZKA K GLOBALXNOMU MINIMUMU, LOKALXNYJ POISK W BOLXINSTWE SLU^AEW NAJDET EGO S HOROEJ TO^NOSTX@. tAKIM OBRAZOM, CELX OBOB]ENNOGO METODA SEKU]IH PLOSKOSTEJ { NAJTI TO^KU, DOSTATO^NO BLIZKU@ K GLOBALXNOMU MINIMUMU.
gIBRIDNYJ METOD I
{AG 0. pUSTX k := 0 x0 2 X: pOLOVITX fr := f (x0) xr := x0: {AG 1. wY^ISLITX \LEMENT `k 2 @Lf (xk) I WZQTX hk 2 M (xk ), GDE hk (x) = `k (x) ; (`k (xk ) ; f (xk)). {AG 2. rEITX ZADA^U: maxfh0(y) : : : hk (y)g ! min y2X pUSTX y { EE REENIE. {AG 3. eSLI f (y) < fr , TO WERNUTXSQ K {AGU 4. iNA^E PEREJTI K {AGU 5. {AG 4. nAJTI LOKALXNYJ MINIMUM y L@BYM RELAKSACIONNYM METODOM, STARTUQ IZ y: pOLOVITX fr := f (y) xr := y: pOLOVITX k := k + 1 xk := y I PEREJTI K {AGU 1.
24
{AG 5. pOLOVITX k := k + 1 xk := y fr := fr xr := xr I PEREJTI K {AGU 1.
tEOREMA 1.3 pUSTX WYPOLNQ@TSQ USLOWIQ tEOREMY 1.1 ILI tEOREMY 1.2.
oBOZNA^IM ^EREZ X~ MNOVESTWO WSEH LOKALXNYH MINIMUMOW f NA X , I PUSTX MNOVESTWO F = fz : z = f (y) DLQ NEKOTOROGO y 2 X~ g
KONE^NO. tOGDA GLOBALXNYJ MINIMUM BUDET NAJDEN ZA KONE^NOE ^ISLO ITERACIJ. dOKAZATELXSTWO. tAK KAK F { KONE^NOE MNOVESTWO I f = min f (x) x2X
PRINADLEVIT F , MY MOVEM OTSORTIROWATX EGO \LEMENTY: f1 f2 : : : fm = f : eSLI USLOWIE NA {AGE 3 NIKOGDA NE WYPOLNQETSQ POSLE KONE^NOGO ^ISLA AGOW, TO ESTX f (y) fr MY PROSTO WYPOLNQEM ITERACII OBOB]ENNOGO METODA SEKU]IH PLOSKOSTEJ I IMEEM f maxfh0(xs+q ) h1(xs+q ) : : : hs+q;1(xs+q)g maxfhs+1(xs+q ) : : : hs+q;1(xs+q )g q = 1 2 ::: zDESX s { ^ISLO RANEE DOBAWLENNYH OGRANI^ENIJ. pOWTORQQ DOKAZATELXSTWO DLQ OBOB]ENNOGO METODA SEKU]IH PLOSKOSTEJ, POLU^AEM, ^TO L@BAQ SHODQ]AQSQ PODPOSLEDOWATELXNOSTX fxs+q g STREMITSQ K GLOBALXNOMU MINIMUMU. nO \TO OZNA^AET, ^TO NA NEKOTOROJ ITERACII USLOWIE NA {AGE 3 BUDET WYPOLNENO I MY NAJDEM LOKALXNYJ MINIMUM SO ZNA^ENIEM, MENXIM fr : tAK, ESLI fr BYLO RAWNO fp DLQ NEKOTOROGO p m NA NEKOTOROJ ITERACII ONO BUDET MENXE ILI RAWNO fp+1: tAK KAK F { KONE^NOE MNOVESTWO, ^EREZ KONE^NOE ^ISLO ITERACIJ POLU^AEM fr = f : 2 eSLI MY HOTIM PRIMENITX NERELAKSACIONNYJ METOD LOKALXNOGO POISKA (NAPRIMER, METOD {ORA 92]), MOVNO ISPOLXZOWATX SLEDU@]IJ
gIBRIDNYJ METOD II
25
{AG 0. pUSTX k := 0 x0 2 X: pOLOVITX S = : {AGI 1-2. kAK W gIBRIDNOM METODE I. {AG 3. nAJTI LOKALXNYJ MINIMUM y L@BYM METODOM, STARTUQ S y: {AG 4. eSLI y 62 S , TO k := k +1 xk := y S := S fyg I PEREJTI K {AGU 1. {AG 5. pOLOVITX k := k + 1 xk := y S := S I WERNUTXSQ K {AGU 1.
tEOREMA 1.4 pUSTX WYPOLNQ@TSQ USLOWIQ tEOREMY 1.1 ILI tEOREMY 1.2.
dLQ " > 0 POLOVIM
Lf (") = fx 2 X jf (x) f + "g:
pUSTX ^ISLO LOKALXNYH MINIMUMOW KONE^NO I SU]ESTWUET TAKOE " > 0, ^TO LOKALXNYJ METOD SHODITSQ K GLOBALXNOMU REENI@. eSLI NA^ALXNAQ TO^KA PRINADLEVIT Lf (") TO GLOBALXNYJ MINIMUM BUDET NAJDEN ZA KONE^NOE ^ISLO ITERACIJ. dOKAZATELXSTWO. pUSTX N = jX~ j: pREDPOLOVIM, ^TO MY ZNAEM r (0 r < N ) LOKALXNYH MINIMUMOW, NO NE GLOBALXNYJ MINIMUM. tOGDA ZA KONE^NOE ^ISLO ITERACIJ MY LIBO NAJDEM NOWYJ LOKALXNYJ MINIMUM, LIBO NAJDEM "-OPTIMALXNU@ TO^KU (DOKAZATELXSTWO ANALOGI^NO tEOREME 1.3). ~ISLO LOKALXNYH MINIMUMOW KONE^NO, TAK ^TO KOGDA " STANOWITSQ DOSTATO^NO MALO, MY POPADAEM W GLOBALXNYJ OPTIMUM. 2 1.3
wOZRASTA@]IE WYPUKLYE PO LU^AM FUNKCII
pUSTX IRn+ { KONUS WSEH n-MERNYH WEKTOROW S NEOTRICATELXNYMI KOORDINATAMI. rASSMOTRIM MNOVESTWO L FUNKCIJ, OPREDELENNYH NA MNOVESTWE X = IRn+ FORMULOJ `(x) = imin `ixi (1.8) 2T (`) GDE (`1 : : : `n) 2 IRn+ I T (`) = fi : `i > 0g: pREDPOLOVIM, ^TO MINIMUM PO PUSTOMU MNOVESTWU RAWEN NUL@. bUDEM OBOZNA^ATX WEKTOR (`1 : : : `n) TEM VE SIMWOLOM `, ^TO I FUNKCI@, GENERIRUEMU@ \TIM WEKTOROM PO FORMULE (1.8). mY BUDEM OBOZNA^ATX TAKVE MINIMUM W (1.8) h` xi, TAK ^TO `(x) = h` xi.
26
oBY^NOE SKALQRNOE PROIZWEDENIE WEKTOROW x I y IZ IRn BUDET OBOZNA^ATXSQ x y]. dLQ x 2 IRn+ MY BUDEM ISPOLXZOWATX SLEDU@]IE OBOZNA^ENIQ :
1 = (u ) 1 DLQ i 2 T (x) i i=1:::n S ui = x xi ui = 0 DLQ i 62 T (x): pREDPOLOVIM, ^TO W PROSTRANSTWE IRn WWEDENO OBY^NOE OTNOENIE PORQDKA: ESLI x = (x1 : : : xn) 2 IRn , y = (y1 ::: yn) 2 IRn, TO x y TOGDA I TOLXKO TOGDA, KOGDA xi yi DLQ WSEH i. nAM PONADOBQTSQ SLEDU@]IE OPREDELENIQ.
oPREDELENIE 1.3.1 fUNKCIQ f , OPREDELENNAQ NA IRn+, NAZYWAETSQ WOZ-
RAST@]EJ, ESLI IZ x y SLEDUET f (x) f (y). fUNKCIQ f STROGO WOZRASTAET W TO^KE y 2 IRn+, ESLI x < y (TO ESTX x y I x 6= y) OZNA^AET f (x) < f (y).
oPREDELENIE 1.3.2 kONE^NAQ FUNKCIQ f , OPREDELENNAQ NA IRn+ NAZY-
WAETSQ WYPUKLOJ PO LU^AM (wl), ESLI FUNKCIQ fx() = f (x) WYPUKLA NA OTKRYTOM LU^E (0 +1) DLQ WSEH x 2 IRn+. fUNKCIQ f NAZYWAETSQ WOGNUTOJ PO LU^AM (wgl), ESLI fx WOGNUTA NA (0 +1).
sLEDU@]IE REZULXTATY DOKAZANY W 81]. tEOREMA 1.5 fUNKCIQ f : IRn+ ! IR QWLQETSQ HL-WYPUKLOJ TOGDA I TOLXKO TOGDA, KOGDA f WOZRASTAET I WYPUKLA PO LU^AM (wwl).
tEOREMA 1.6 pUSTX f { wwl FUNKCIQ I x 6= 0: tOGDA (v
)
@Lf (x) x : v 2 @fx(1) : eSLI, KROME TOGO, f STROGO WOZRASTAET W TO^KE x, TO (v ) @Lf (x) = x : v 2 @fx(1) GDE fx() = f (x) DLQ > 0: w ^ASTNOSTI, f 0(x x)=x 2 @Lf (x) GDE 1 f (x + x) ; f (x)] f 0(x x) = !lim +1 { PROIZWODNAQ FUNKCII f W TO^KE x PO NAPRAWLENI@ x:
27
1.4
pRIMERY wwl FUNKCIJ
oBOZNA^IM ^EREZ Y KLASS wwl FUNKCIJ, OPREDELENNYH NA IRn+: |TOT KLASS WESXMA IROK. iZWESTNO (SM. 1]), ^TO KAVDAQ POLUNEPRERYWNAQ SNIZU FUNKCIQ, OPREDELENNAQ NA EDINI^NOM SIMPLEKSE, MOVET BYTX PRODOLVENA DO FUNKCII IZ KLASSA Y: oPIEM NEKOTORYE SWOJSTWA KLASSA Y: 1) eSLI f1 f2 2 Y , TO f1 + f2 2 Y: 2) eSLI f 2 Y I > 0, TO f 2 Y: 3) eSLI f1 f2 2 Y I f1 f2 0, TO f1 f2 2 Y: 4) pUSTX (f) 2 Y ( 2 A) GDE A { PROIZWOLXNOE MNOVESTWO INDEKSOW. eSLI f (x) sup2A f(x) < +1 DLQ WSEH x 2 IRn+, TO f 2 Y: 5) pUSTX fk 2 Y I fk (x) ! f (x) DLQ WSEH x 2 IRn+: eSLI f (x) < +1 DLQ WSEH x, TO f 2 Y: bUDEM OBOZNA^ATX ^EREZ Y (x) KLASS wwl FUNKCIJ, STROGO WOZRASTA@]IH W TO^KE x: o^EWIDNO, SWOJSTWA 1) I 2) SPRAWEDLIWY I DLQ KLASSA Y (x). bOLEE TOGO, ESLI HOTQ BY ODNA IZ FUNKCIJ f1 f2 STROGO WOZRASTAET, TO I IH SUMMA STROGO WOZRASTAET. sWOJSTWO 3) WYPOLNQETSQ, TOLXKO ESLI f1 > 0 f2 > 0, A SWOJSTWO 4) WYPOLNQETSQ, ESLI MNOVESTWO INDEKSOW A KONE^NO. pRIWEDEM TEPERX PRIMERY wwl FUNKCIJ I STROGO WOZRASTA@]IH wl FUNKCIJ. pROSTEJIJ PRIMER { WOZRASTA@]IE POLOVITELXNO ODNORODNYE STEPENI k 1 FUNKCII. pRIWEDEM NESKOLXKO SPECIFI^ESKIH PRIMEROW. pRIMER 1. lINEJNAQ FUNKCIQ f (x) = Pni=1 ixi S i 0 DLQ WSEH i 2 I = f1 2 ::: ng ESTX wwl FUNKCIQ. eSLI i > 0 DLQ WSEH i 2 I , TO f STROGO WOZRASTAET W KAVDOJ TO^KE x 6= 0:
pRIMER 2. fUNKCIQ kOBBA-dUGLASA f (x) = Cx1 x2 : : : xnn 1
2
S i > 0 I Pni=1 i 1 QWLQETSQ wwl FUNKCIEJ. qSNO, ^TO \TA FUNKCIQ STROGO WOZRASTAET W KAVDOJ TO^KE x 2 int IRn+ I NE WOZRASTAET STROGO W L@BOJ TO^KE x 62 int IRn+:
28
zAMETIM, ^TO PRI Pni=1 i = 1 FUNKCIQ f WOGNUTA. fUNKCII TAKOGO TIPA IME@T MNOGO^ISLENNYE PRIMENENIQ W MATEMATI^ESKOJ \KONOMIKE I ISPOLXZU@TSQ WO MNOGIH \KONOMIKO-MATEMATI^ESKIH MODELQH, PO\TOMU ZADA^A MAKSIMIZACII TAKOJ FUNKCII NA OGRANI^ENNOM MNOVESTWE WAVNA S PRAKTI^ESKOJ TO^KI ZRENIQ.
pRIMER 3. rASSMOTRIM FUNKCI@ WIDA s
f (x) = (1xp1 + 2xp2 + : : : nxpn) p
GDE p > 0 s 1 i 0 DLQ WSEH i 2 I: o^EWIDNO, f WOZRASTAET I POLOVITELXNO ODNORODNA STEPENI s TAK ^TO ONA QWLQETSQ wwl FUNKCIEJ. eSLI i > 0 DLQ WSEH i 2 I , TO f STROGO WOZRASTAET DLQ WSEH x 6= 0: eSLI s = 1 I p < 1, TO f { WOGNUTAQ FUNKCIQ. mY MOVEM POSTROITX BOLEE SLOVNYE PRIMERY wwl FUNKCIJ, ISPOLXZOWAW SWOJSTWA KLASSA Y:
pRIMER 4. pOLINOM f (x) = o +
X
i2I
ixi +
X
i1 i2 2I
i i xi xi + : : : + 1 2
1
2
X i1i2 :::im2I
i i :::im xi xi : : : xim 1 2
1
2
S NEOTRICATELXNYMI KO\FFICIENTAMI (KROME o KOTORYJ MOVET BYTX OTRICATELXNYM) { wwl FUNKCIQ NA IRn+: lEGKO UKAZATX USLOWIQ, KOGDA DANNYJ POLINOM STROGO WOZRASTAET. nAPRIMER, ESLI WSE KO\FFICIENTY, KROME o, POLOVITELXNY, TO f STROGO WOZRASTAET W KAVDOJ TO^KE x 6= 0: w ^ASTNOSTI, KWADRATI^NAQ FUNKCIQ f (x) =
X
ij 2I
ij xixj
S ij 0 ESTX wwl FUNKCIQ NA IRn+:
pRIMER 5. pUSTX f (x) = sup
X
z 2Z ij 2I
ij (z)xixj (x 2 IRn+)
S ij (z) 0: zDESX Z { PROIZWOLXNOE MNOVESTWO INDEKSOW. eSLI f (x) KONE^NA DLQ WSEH x 2 IRn+, TO f ESTX wwl FUNKCIQ.
29
pRIMER 6. pUSTX f { PROIZWEDENIE NEOTRICATELXNYH LINEJNYH FORM,
TO ESTX
f (x) =
m Y
(1px1 + 2px2 + : : : + npxn)
p=1
S ip 0 (i = 1 ::: n p = 1 ::: m): tOGDA f { wwl FUNKCIQ. tAKIM OBRAZOM, ZADA^A MULXTIPLIKATIWNOGO LINEJNOGO PROGRAMMIROWANIQ (SM. 61]) S NEOTRICATELXNYMI KO\FFICIENTAMI MOVET RASSMATRIWATXSQ KAK SPECIALXNYJ SLU^AJ ZADA^I MINIMIZACII wwl FUNKCII. 1.5
mINIMIZACIQ wwl FUNKCIJ
pRIMENIM SHEMU OBOB]ENNOGO METODA SEKU]IH PLOSKOSTEJ K MINIMIZACII wwl FUNKCIJ. pUSTX L { MNOVESTWO WSEH FUNKCIJ TIPA MINIMUMA WIDA (1.1). dLQ wwl FUNKCII f BUDEM NAHODITX \LEMENT ` IZ L-SUBDIFFERENCIALA W TO^KE x, PRIMENQQ tEOREMU 1.6. a IMENNO, BUDEM BRATX ` W FORME `(y) = f 0(x x) i2T min(x) xyi : i o^EWIDNO, `(x) = f 0(x x): tOGDA MY MOVEM PREDSTAWITX OBOB]ENNYJ METOD SEKU]IH PLOSKOSTEJ W SLEDU@]EM WIDE (BUDEM NAZYWATX POLU^A@]IJSQ ALGORITM METODOM SEKU]IH UGLOW, SM. 22, 78]).
mETOD SEKU]IH UGLOW {AG 0. pUSTX k := 0: wYBIRAEM PROIZWOLXNO x0 2 X: {AG 1. wY^ISLQEM WEKTOR `k S KOORDINATAMI `ki : 0(x x ) f `ki = xk k ESLI xki 6= 0 `ki = 0 ESLI xki = 0 ki GDE xki { i-Q KOORDINATA WEKTORA xk : {AG 2. oPREDELQEM FUNKCI@ hk : hk (x) = i2T min(x) `kixi ; ((f 0(xk xk ) ; f (xk ))
GDE `ki - i-Q KOORDINATA WEKTORA `k :
30
{AG 3. nAHODIM GLOBALXNYJ OPTIMUM y ZADA^I max h (x) ! min (1.9) 0ik i x 2 X: {AG 4. pOLAGAEM k := k + 1 xk := y I WOZWRA]AEMSQ K {AGU 1. sHODIMOSTX METODA USTANAWLIWAET tEOREMA 1.7 pUSTX KOMPAKTNOE PODMNOVESTWO X KONUSA IRn+ OBLADAET SLEDU@]IMI SWOJSTWAMI: 1) SU]ESTWUET TAKOE ^ISLO r1, ^TO DLQ WSEH x = (x1 x2 : : : xn) NERAWENSTWO xi r1 WYPOLNQETSQ DLQ WSEH i 2) supx2X f 0(x x) = r2 < +1 : tOGDA KAVDAQ PREDELXNAQ TO^KA POSLEDOWATELXNOSTI, POSTROENNOJ METODOM SEKU]IH UGLOW, ESTX GLOBALXNYJ MINIMUM FUNKCII f NA MNOVESTWE X: dOKAZATELXSTWO. wYTEKAET NEPOSREDSTWENNO IZ tEOREMY 1.1. 2 zAME^ANIE 1.5 mY MOVEM POSTROITX RAZNOWIDNOSTX METODA SEKU]IH UGLOW, ^TOBY REITX SLEDU@]U@ ZADA^U: f (x) ! max (1.10) x 2 X GDE X { KOMPAKTNOE MNOVESTWO I f { FUNKCIQ, PREDSTAWIMAQ KAK INFIMUM SEMEJSTWA L-AFFINNYH FUNKCIJ. zDESX L { MNOVESTWO FUNKCIJ TIPA MAKSIMUMA WIDA `(x) = maxi=12:::n `ixi S NEOTRICATELXNYMI WEKTORAMI `: fUNKCIQ f TAKOGO WIDA WOZRASTAET I WOGNUTA PO LU^AM (wwgl). pODZADA^A W \TOM SLU^AE IMEET WID: min ( max ` x + bi) ! max i=0:::k j =1:::n ij j x 2 X: mY MOVEM PRIMENITX PODHOD, PREDLOVENNYJ WYE, DLQ REENIQ \TOJ ZADA^I, ESLI X { NORMALXNOE KOMPAKTNOE MNOVESTWO, TO ESTX IZ x 2 X 0 x0 x SLEDUET x0 2 X:
31
1.6
rEENIE PODZADA^I DLQ wwl FUNKCIJ
rASSMOTRIM PODHOD, KOTORYJ POZWOLQET POSTROITX ^ISLENNYJ METOD DLQ REENIQ PODZADA^I, KOTORAQ WOZNIKAET W METODE SEKU]IH UGLOW DLQ MINIMIZACII WOZRASTA@]IH WYPUKLYH PO LU^AM FUNKCIJ. nAPOMNIM FORMULIROWKU PODZADA^I: maxfh`i xi + big ! min i=0k
(1.11)
x 2 X: mY MOVEM PEREPISATX EE W SLEDU@]EJ \KWIWALENTNOJ FORME: t ! min
(1.12)
h`i xi + bi t i = 0 k x 2 X:
eSLI OBOZNA^IM KOORDINATY KAVDOGO WEKTORA li KAK lij PODZADA^A TAKVE MOVET BYTX PREDSTAWLENA W SLEDU@]EM WIDE: t ! min
(1.13)
min `ij xj + bi t i = 0 k
j =1n
x 2 X: pREDPOLOVIM DLQ PROSTOTY, ^TO WSE ZNA^ENIQ lij POLOVITELXNY. eSLI MY MOVEM NAJTI DOPUSTIMU@ TO^KU ZADA^I (1:12), OPTIMALXNOE t MOVET BYTX NAJDENO PROSTYM METODOM DELENIQ OTREZKA POPOLAM. tAKIM OBRAZOM, DOSTATO^NO REITX SISTEMU ILI OPREDELITX, ^TO U NEE NET REENIJ. rASSMOTRIM DWA SLU^AQ DLQ DOPUSTIMOGO MNOVESTWA: 1) X WYPUKLO 2) X = fx 2 IRn+ : g(x) 0 0 xi c i = 1 :: ng GDE g { WOZRASTA@]AQ FUNKCIQ I c { POLOVITELXNAQ KONSTANTA.
w PERWOM SLU^AE, ESLI X { MNOGOGRANNIK, POLU^AEM POSLEDOWATELXNOSTX ZADA^ REENIQ SISTEM LINEJNYH NERAWENSTW. dLQ PROIZWOLXNOGO WYPUKLOGO
32
MNOVESTWA MY POLU^AEM POSLEDOWATELXNOSTX ZADA^ REENIQ SISTEM LINEJNYH I WYPUKLYH NELINEJNYH NERAWENSTW. rASSMOTRIM SISTEMU W POLNOJ FORME: minf`11x1 `12x2 ::: `1nxng t ; b1 minf`21x1 `22x2 ::: `2nxng t ; b2 ::::::::::::::: minf`k1x1 `k2x2 ::: `knxng t ; bk x 2 X:
pRIMENIM K EE REENI@ METOD, POHOVIJ NA DINAMI^ESKOE PROGRAMMIROWANIE. zAMETIM, ^TO ESLI X { MNOGOGRANNIK, MY IMEEM SPECIALXNU@ ZADA^U DIZ_@NKTIWNOGO PROGRAMMIROWANIQ, DLQ KOTOROJ ESTX OB]IE REZULXTATY I METODY (SM. 26, 27, 29]). pREDPOLOVIM, ^TO k > 1 I n > 1: bUDEM NAZYWATX ZADA^U NAHOVDENIQ REENIQ SISTEMY (1.12) S n PEREMENNYMI I k FUNKCIQMI TIPA MINIMUMA ZADA^EJ P (k n): pOKAVEM, KAK MOVNO SWESTI P (k n) K POSLEDOWATELXNOSTI ZADA^ MENXEJ RAZMERNOSTI. rASSMOTRIM WELI^INY b1 = t ; b2 : : : = t ; bk :
1 = t ; n `11 2 `21 `k1 oTSORTIRUEM IH W WOZRASTA@]EM PORQDKE (TAK KAK t TEPERX FIKSIROWANO, \TO MOVNO SDELATX):
i i : : : ik : pREDPOLOVIM, ^TO is < x1 is : dLQ ODNORODNOSTI POLOVIM i = 0 ik = c GDE c { WERHNQQ GRANICA DLQ PEREMENNYH (ESLI MNOVESTWO X WYPUKLO I ZAMKNUTO, MY MOVEM NAJTI EE METODAMI WYPUKLOGO PROGRAMMIROWANIQ). wSE OGRANI^ENIQ S NOMERAMI is+1 ::: ik UDOWLETWORENY, A OSTALXNYE NARUENY. tOGDA MY POLU^AEM POSLEDOWATELXNOSTX SEMEJSTW PODZADA^: 1
2
+1
+1
minf`i12x2 `i13x3 : : : `i1nxng t ; bi1 ::::::::::::::: minf`is2x2 `is3x3 : : : `isnxng t ; bis
0
33
is < x1 is x 2 X: +1
tAKIM OBRAZOM, ^ISLO PEREMENNYH W FUNKCIQH TIPA MINIMUMA UBYWAET HOTQ BY NA EDINICU W KAVDOM SLU^AE. ~ISLO FUNKCIJ TIPA MINIMUMA NE WOZRASTAET. pO\TOMU, PRIMENIW PROCEDURU POSLEDOWATELXNO DLQ x2 x3 ::: xn, MY MOVEM W KONCE PRIJTI K ODNOJ IZ TREH SITUACIJ: P (1 q) P (0 q) ILI P (s 0): rASSMOTRIM WSE TRI SLU^AQ (1 q n 1 s k). a) P (1 q): \TO ZADA^A WIDA minf`1x1 ::: `q xq g t ; b ~ x 2 X
GDE X~ POLU^AETSQ IZ X DOBAWLENIEM NOWYH WERHNIH I NIVNIH GRANIC DLQ n ; q PEREMENNYH. mY PROSTO RASSMATRIWAEM WSE SLU^AI: `j xj t ; b ~ x 2 X
DLQ j = 1 q ILI MINIMIZIRUEM WOGNUTU@ FUNKCI@ minj `j xj ISPOLXZUQ L@BOJ STANDARTNYJ METOD (SM. 54]). b) P(0,q): \TO ZADA^A WIDA ai xi bi i = 1 n x 2 X:
eSLI X WYPUKLO, MY MOVEM PRIMENITX L@BOJ METOD NAHOVDENIQ DOPUSTIMOJ TO^KI WYPUKLOGO MNOVESTWA 10]. eSLI X { MNOVESTWO WIDA X = fx 2 IRn : g(x) 0g
GDE g { WOZRASTA@]AQ FUNKCIQ, PROSTO BEREM xi = bi i = 1 n: eSLI \TA TO^KA NE PRINADLEVIT X , TO U SISTEMY NET REENIJ. c) P(s,0): ZDESX MY IMEEM `i sxs t ; bi 1
1
34
`i sxs t ; bi ::::::::: `ipsxs t ; bip ~ x 2 X: 2
tAKIM OBRAZOM,
2
t ; bir xs rmin =1p ` s ir
I MY DOLVNY ISKATX TO^KU IZ X S DOPOLNITELXNYMI WERHNIMI I NIVNIMI GRANICAMI PEREMENNYH. eSLI X = fx 2 IRn+ : g(x) 0 0 xi c i = 1 ng, GDE g { WOZRASTA@]AQ FUNKCIQ, WSE PODZADA^I IME@T WID g(x) 0 0 i xi i c i = 1 n: ~TOBY REITX PODZADA^U, POLOVIM
xi = i 8 i = 1 n:
eSLI g(1 2 ::: n) 0 TO REENIE SU]ESTWUET, W PROTIWNOM SLU^AE REENIQ NET. dLQ DANNOGO SLU^AQ MOVNO LEGKO NAJTI WERHNIE I NIVNIE GRANICY DLQ OPTIMALXNOGO t TAK KAK MOVNO PROSTO WZQTX W LEWOJ ^ASTI SISTEMY xi = 0 i = 1 n DLQ NIVNEJ GRANICY I xi = c i = 1 n DLQ WERHNEJ GRANICY.
zAME^ANIE 1.6 eSLI NEKOTORYE `ij RAWNY NUL@, SITUACIQ SILXNO NE IZ-
MENITTSQ. w \TOM SLU^AE SOOTWETSTWU@]EE RAWNO PL@S BESKONE^NOSTI, I MY RASSMATRIWAEM SOOTWETSTWU@]EE OGRANI^ENIE KAK WYPOLNENNOE. nA SLEDU@]EM AGE RAZMERNOSTX PODZADA^I UBYWAET W L@BOM SLU^AE, I PROCEDURA, UKAZANNAQ WYE, PO SU]ESTWU NE MENQETSQ.
gLAWA 2 mINIMIZACIQ WOZRASTA@]IH ZWEZDNYH I LIPICEWYH FUNKCIJ rASSMOTRIM IROKIJ KLASS WOZRASTA@]IH NEWYPUKLYH FUNKCIJ, MNOVESTWA UROWNQ KOTORYH ZWEZDNY PO OTNOENI@ K BESKONE^NOSTI. pOKAVEM, ^TO \TI FUNKCII (MY IH NAZYWAEM wz FUNKCIQMI) ABSTRAKTNO WYPUKLY PO OTNOENI@ K MNOVESTWU FUNKCIJ TIPA MINIMUMA, I ISPOLXZUEM \TOT FAKT DLQ IH MINIMIZACII. zADA^I MATEMATI^ESKOGO PROGRAMMIROWANIQ S TAKIMI CELEWYMI FUNKCIQMI IME@T RAZLI^NYE PRIMENENIQ NA PRAKTIKE, OSOBENNO W MATEMATI^ESKOJ \KONOMIKE, ^TO DELAET IH O^ENX WAVNYMI. wz FUNKCII ^ASTO ISPOLXZU@TSQ W KA^ESTWE PROIZWODSTWENNYH FUNKCIJ. w DALXNEJEM NAM PONADOBQTSQ SLEDU@]IE OPREDELENIQ. wE]ESTWENNOZNA^NAQ FUNKCIQ f , OPREDELENNAQ NA KONUSE K n-MERNOGO PROSTRANSTWA IRn, NAZYWAETSQ 0-ZWEZDNOJ (ILI ZWEZDNOJ OTNOSITELXNO NULQ), ESLI f (x) f (x) 8x 2 K 8 1: |TOT TERMIN BYL WWEDEN W NESKOLXKO DRUGOJ SITUACII pALLQKE I rOLEWI^EM (70]). eSLI f { 0-ZWEZDNAQ, TO EE LEBEGOWY MNOVESTWA fx : f (x) cg ZWEZDNY OTNOSITELXNO NULQ DLQ WSEH c > 0. nAPOMNIM, ^TO MNOVESTWO A ZWEZDNO OTNOSITELXNO NULQ, ESLI x 2 A 2 0 1] =) x 2 A:
kONE^NO, SU]ESTWU@T NE 0-ZWEZDNYE FUNKCII SO ZWEZDNYMI OTNOSITELXNO NULQ LEBEGOWYMI MNOVESTWAMI. pOLNOE OPISANIE TAKIH FUNKCIJ DANO W 87]
36
(DLQ SLU^AQ, KOGDA KONUS K SOWPADAET SO WSEM PROSTRANSTWOM). dOPOLNENIE K ZWEZDNOMU OTNOSITELXNO NULQ { TAK NAZYWAEMOE ZWEZDNOE OTNOSITELXNO BESKONE^NOSTI MNOVESTWO (SM. 86]), TO ESTX MNOVESTWO B SO
SWOJSTWOM
x 2 B 1 =) x 2 B: wYPUKLYE ZWEZDNYE PO OTNOENI@ K BESKONE^NOSTI MNOVESTWA IZU^ALISX RQDOM AWTOROW (SM., NAPRIMER, RABOTY 72, 28, 12] I SSYLKI W NIH). iMEQ W WIDU \TU TERMINOLOGI@, MY WWEDEM SLEDU@]IE OPREDELENIQ: WE]ESTWENNOZNA^NAQ FUNKCIQ f , OPREDELENNAQ NA KONUSE K , NAZYWAETSQ ZWEZDNOJ PO OTNOENI@ K +1, ESLI f (x) f (x) DLQ WSEH x 2 K 2 0 1]: (2.1) zAMETIM, ^TO f (0) 0 DLQ TAKOJ FUNKCII. lEGKO PROWERITX, ^TO f { ZWEZDNAQ PO OTNOENI@ K BESKONE^NOSTI TOGDA I TOLXKO TOGDA, KOGDA f (x) f (x) DLQ WSEH x 2 K 1: (2.2) dEJSTWITELXNO, PUSTX f { ZWEZDNAQ OTNOSITELXNO +1. pUSTX 1 x 2 K I x = x0. pOSKOLXKU x = x0 S = 1= 1, IMEEM f (x) f (x0). mY DOKAZALI, ^TO IZ (2.1) SLEDUET (2.2). tO VE RASSUVDENIE POKAZYWAET, ^TO IZ (2.2) SLEDUET (2.1). nIVE MY BUDEM RASSMATRIWATX WOZRASTA@]IE ZWEZDNYE OTNOSITELXNO +1 FUNKCII (SOKRA]ENNO wz FUNKCII), OPREDELENNYE NA KONUSE IRn+ WSEH n-MERNYH WEKTOROW S NEOTRICATELXNYMI KOORDINATAMI. iNOGDA MY BUDEM RASSMATRIWATX SUVENIE TAKIH FUNKCIJ NA KONUS IRn++ WSEH WEKTOROW S POLOVITELXNYMI KOORDINATAMI. pOSKOLXKU wz FUNKCIQ f WOZRASTAET I f (0) 0, IMEEM f (x) 0 DLQ WSEH x 2 IRn+. pROWERIM, ^TO wz FUNKCIQ f NEPRERYWNA NA KONUSE IRn++. dEJSTWITELXNO, PUSTX x 0 I xk ! x. pUSTX " > 0. tOGDA DLQ DOSTATO^NO BOLXOGO k IMEEM (1 ; ")x xk (1 + ")x. iSPOLXZOWAW SWOJSTWA FUNKCII f I (2.1), (2.2), POLU^IM (1 ; ")f (x) f ((1 ; ")x) f (xk ) f ((1 + ")x) (1 + ")f (x): nEPRERYWNOSTX DOKAZANA. mNOVESTWO f(wz) wz FUNKCIJ IMEET RQD POLEZNYH SWOJSTW:
37
1) f(wz) { WYPUKLYJ KONUS: ESLI f g { wz FUNKCII I { POLOVITELXNYE ^ISLA, TO f + g { wz FUNKCIQ 2) f(wz) { USLOWNO POLNAQ REETKA TO^NEE, DLQ L@BOGO SEMEJSTWA (f)2A wz FUNKCIJ POTO^E^NYJ INFIMUM inf 2A f TAKVE ESTX wz FUNKCIQ. eSLI SEMEJSTWO (f)2A OGRANI^ENO SWERHU, TO ESTX SU]ESTWUET wz FUNKCIQ f , TAKAQ, ^TO f f DLQ WSEH 2 A, TO POTO^E^NYJ SUPREMUM sup2A f TAKVE QWLQETSQ wz FUNKCIEJ. 3) eSLI SEMEJSTWO fk wz FUNKCIJ POTO^E^NO SHODITSQ K KONE^NOJ FUNKCII f , TO f TAKVE ESTX wz FUNKCIQ.
lEGKO PROWERITX, ^TO WOZRASTA@]AQ WOGNUTAQ PO LU^AM (wwgl) FUNKCIQ f , TAKAQ, ^TO f (0) 0, QWLQETSQ wz FUNKCIEJ. dEJSTWITELXNO, IMEEM DLQ KAVDOGO x 2 IRn+ I 2 0 1]: f (x) = fx() = fx( + (1 ; )0) fx(1) + (1 ; )f (0) f (x): dADIM NEKOTORYE PRIMERY wz FUNKCIJ. pRIMER 3.1 wOZRASTA@]AQ POLOVITELXNO ODNORODNAQ STEPENI 0 < 1 FUNKCIQ f { wz FUNKCIQ. dEJSTWITELXNO, ONA wwgl (ESLI 1, TO f { wwl FUNKCIQ). w ^ASTNOSTI, FUNKCIQ kOBBA-dUGLASA X f (x) = Cx1 xnn S i 0 i 1 (2.3) 1
i
ESTX wz FUNKCIQ. zAMETIM, ^TO ESLI Pi i 1, TO FUNKCIQ kOBBA-dUGLASA wwl. fUNKCIQ fp(x) = (Pi xpi) p (x 2 IRn+) S p > 0 { TAKVE wz FUNKCIQ. zAMETIM, ^TO \TA FUNKCIQ WYPUKLA PRI p 1 I WOGNUTA PRI p 1. pRIMER 3.2 wOGNUTAQ WOZRASTA@]AQ FUNKCIQ f , OPREDELENNAQ NA IRn+ S f (0) 0 { wz FUNKCIQ. dEJSTWITELXNO, f { wwgl FUNKCIQ. w ^ASTNOSTI, SUMMA DWUH FUNKCIJ WIDA (2.3) QWLQETSQ WOGNUTOJ WOZRASTA@]EJ. pRIMER 3.3 pOTO^E^NYJ SUPREMUM f SEMEJSTWA wwgl FUNKCIJ (f)2A ESTX wz FUNKCIQ PRI USLOWII, ^TO f (x) < +1 DLQ WSEH x. zAMETIM, ^TO \TA FUNKCIQ NE OBQZATELXNO wwgl. pRIMER 3.4 pUSTX f1 : : : fk { WOZRASTA@]IE POLOVITELXNO ODNORODNYE STEPENI 0 < k 1 FUNKCII. tOGDA IH SUMMA, MAKSIMUM I MINIMUM { wz FUNKCII. 1
38
2.1
wz FUNKCII I wpo FUNKCII
sU]ESTWUET TESNAQ SWQZX MEVDU wz FUNKCIQMI I TAK NAZYWAEMYMI wpo FUNKCIQMI (wpo OZNA^AET WOZRASTA@]AQ I POLOVITELXNO ODNORODNAQ STEPENI ODIN). ~TOBY USTANOWITX \TU SWQZX, NAM PONADOBQTSQ SLEDU@]IE OPREDELENIQ. pUSTX f { FUNKCIQ, OPREDELENNAQ NA KONUSE IRn+. fUNKCIQ f^, OPREDELENNAQ NA KONUSE IRn +1 = f(x ) : x 2 IRn+ > 0g f0 0g (2.4) FORMULOJ f^(x ) = f ( x ) (x 2 K > 0) f^(0 0) = 0 (2.5) NAZYWAETSQ POLOVITELXNO ODNORODNYM RASIRENIEM FUNKCII f . sLEDU@]IJ REZULXTAT BYL DOKAZAN W 1]. mY DAEM EGO DOKAZATELXSTWO DLQ POLNOTY IZLOVENIQ.
tEOREMA 2.1 fUNKCIQ f , OPREDELENNAQ NA IRn+ { wz FUNKCIQ TOGDA I
TOLXKO TOGDA, KOGDA EE POLOVITELXNO ODNORODNOE RASIRENIE f^(x ) WOZRASTAET PO OBEIM PEREMENNYM x . dOKAZATELXSTWO. pUSTX f { wz FUNKCIQ. pOSKOLXKU f (x) 0 DLQ WSEH x 2 IRn+, IMEEM f^(x ) = f (x=) 0. rASSMOTRIM TEPERX DWE TO^KI (x1 1) I (x2 2) S x1 x2 2 IRn+ x1 x2 I 1 2 > 0 . iMEEM f^(x1 1) = 1f ( x1 ) 1f ( x2 ) = 1f ( 2 x2 ) 2f ( x2 ) = f^(x2 2): 1 1 1 2 2 pO\TOMU f^ { WOZRASTA@]AQ FUNKCIQ. dOPUSTIM TEPERX, ^TO f^ WOZRASTAET. tOGDA f^(x ) f^(0 0) = 0, W ^ASTNOSTI, f (0) = f^(0 1) 0. eSLI x1 x2, TO f (x1) = f^(x1 1) f^(x2 1) = f (x2): tAKIM OBRAZOM, f WOZRASTAET. pUSTX 2 (0 1). tOGDA (x ) (x 1), SLEDOWATELXNO, f (x) = f^(x ) f^(x 1) = f (x):
eSLI = 0, TO 0 = f (x) f (0) = f (x). oTS@DA SLEDUET, ^TO f { wz FUNKCIQ. 2
39
zAME^ANIE 2.1.1 tO VE RASSUVDENIE POKAZYWAET, ^TO WERNO SLEDU@]EE
UTWERVDENIE: FUNKCIQ f , OPREDELENNAQ NA IRn+, { 0-ZWEZDNAQ I UBYWA@]AQ TOGDA I TOLXKO TOGDA, KOGDA EE POLOVITELXNO ODNORODNOE RASIRENIE f^ UBYWAET PO OBEIM PEREMENNYM. tEOREMA 2.1 POZWOLQET IZU^ATX wz FUNKCII S POMO]X@ BOLEE PROSTYH wpo FUNKCIJ. rASSMOTRIM WOZRASTA@]IE POLOVITELXNO ODNORODNYE STEPENI ODIN FUNKCII (wpo FUNKCII). pROSTEJIE PRIMERY wpo FUNKCIJ DA@T FUNKCII TIPA MINIMUMA I TIPA MAKSIMUMA: ; l;(x) = imin l x := h l x i (2.6) i i 2T (l) I +: l+(x) = max l x := h l x i (2.7) i i i2I zDESX l = (l1 : : : ln) 2 IRn+ I = f1 2 : : : ng I T (l) = fi 2 I : li > 0g. pREDPOLAGAETSQ, ^TO MINIMUM PO PUSTOMU MNOVESTWU RAWEN NUL@. mY OBOZNA^AEM W DANNOM PARAGRAFE mini2T (l) lixi ^EREZ hl xi; I maxi2I lixi ^EREZ hl xi+. dALEE MY POKAVEM, ^TO KAVDAQ wpo FUNKCIQ, OPREDELENNAQ NA IRn+, ABSTRAKTNO WYPUKLA PO OTNOENI@ K MNOVESTWU L; FUNKCIJ TIPA MINIMUMA WIDA (2.6) I ^TO SUVENIE KAVDOJ wpo FUNKCII NA KONUS IRn++ ABSTRAKTNO WOGNUTO PO OTNOENI@ K MNOVESTWU L+ FUNKCIJ TIPA MAKSIMUMA WIDA (2.7). dLQ \TOGO RASSMOTRIM SUBDIFFERENCIAL @p;(y) wpo FUNKCII p PO OTNOENI@ K L; I SUPERDIFFERENCIAL @p+(y) FUNKCII p PO OTNOENI@ K L+: zDESX @ ;p(y) = fl 2 IRn+ : hl xi; p(x) 8x 2 IRn+ hl yi; = p(y)g: @ +p(y) = fl 2 IRn+ : hl xi+ p(x) 8x 2 IRn+ hl yi+ = p(y)g: dLQ l 2 IRn+ OPREDELIM WEKTOR l;1 = 1l FORMULOJ 8 1 = >< l >:
1 i 2 T ( l ) li 0 i 62 T (l): o^EWIDNO, hl 1l i; = hl 1l i+ = 1 DLQ l 6= 0.
40
pREDLOVENIE 2.1 pUSTX p { wpo FUNKCIQ. tOGDA MNOVESTWO @p;(y)
NEPUSTO DLQ WSEH y 0 ESLI p(y) > 0, TO
@ ;p(y) = fl : T (l) T (y) l p(yy) p( 1l ) = 1g l
(2.8)
GDE KOORDINATA (yl)i WEKTORA yl RAWNA KOORDINATE yi WEKTORA y, ESLI i 2 T (l), I RAWNA NUL@, ESLI i 62 T (l). dOKAZATELXSTWO. eSLI p(y) = 0, TO 0 2 @ ;p(y) I PO\TOMU @ ;p(y) NEPUSTO. rASSMOTRIM TO^KU y S p(y) > 0. pUSTX A = fl : T (l) T (y) l p(yy) p( 1l ) 1g: l lEGKO PROWERITX, ^TO A SOWPADAET S MNOVESTWOM W PRAWOJ ^ASTI (2.8). dEJSTWITELXNO, PUSTX l 2 A. sOOTNOENIQ T (l) T (y) I l p(y)=yl POKAZYWA@T, ^TO yl p(y)=l. pOSKOLXKU p { wpo FUNKCIQ, y yl I p(1=l) 1, IMEEM p(y) p(yl) p( p(ly) ) = p(y)p( 1l ) p(y): tOGDA p(1=l) = 1 I TREBUEMOE RAWENSTWO DOKAZANO. iTAK, MY DOLVNY DOKAZATX, ^TO @ ;p(y) = A. pUSTX l 2 A. wNA^ALE PROWERIM, ^TO hl xi; p(x) DLQ WSEH x 2 IRn+. dOPUSTIM, NAPROTIW, ^TO SU]ESTWUET z 2 IRn+, TAKOE, ^TO hl zi; = mini2T (l) lizi > p(z). tOGDA lizi > p(z) DLQ WSEH i 2 T (`), SLEDOWATELXNO, T (l) T (z) I SU]ESTWUET " > 0, TAKOE, ^TO zi p(lz) + l" DLQ WSEH i 2 T (l): i i tOGDA z (p(z) + ")(1=l). tAK KAK p WOZRASTAET, IMEEM p(z) p((p(z) + ") 1l ) = (p(z) + ")p( 1l ) p(z) + ":
pOLU^ILI PROTIWORE^IE, SLEDOWATELXNO, hl xi; p(x) DLQ WSEH x 2 IRn+. rASSMOTRIM TEPERX WEKTOR y: tAK KAK T (l) T (y) I l p(y)=yl POLU^AEM, ^TO liyi p(y) DLQ WSEH i 2 T (l). tAKIM OBRAZOM, hl yi; p(y). nERAWENSTWO hl yi; p(y) BYLO UVE DOKAZANO. pO\TOMU hl yi; = p(y) I @ ;p(y) A. pROWERIM, ^TO MNOVESTWO A NEPUSTO. dEJSTWITELXNO, PUSTX l = p(y)=y. tOGDA T (l) = T (y). tAK KAK p(y) 6= 0, WEKTOR 1=l = y=p(y) NENULEWOJ I
41
p(1=l) = 1. sLEDOWATELXNO, l 2 A. mY DOKAZALI, ^TO SUBDIFFERENCIAL @ ;p(y) NEPUST. pOKAVEM, ^TO @ ;p(y) A, ESLI p(y) > 0. pUSTX l 2 @ ;p(y), TO ESTX hl xi; p(x) DLQ WSEH x I mini2T (l) liyi = hl yi; = p(y). tAK KAK p(y) > 0, TO yi > 0 DLQ i 2 T (l), PO\TOMU T (l) T (y). nERAWENSTWO liyi p(y) DLQ WSEH i 2 T (l) POKAZYWAET, ^TO l p(y)=yl. mY TAKVE IMEEM p( 1l ) hl 1l i; = 1: oTS@DA l 2 A. 2 sLEDSTWIE 2.1.1 eSLI p(y) > 0, TO l = p(yy) 2 @ ;p(y): sLEDSTWIE 2.1.2 wpo FUNKCIQ ABSTRAKTNO WYPUKLA PO OTNOENI@ K MNOVESTWU L; FUNKCIJ (2.6).
zAME^ANIE 2.1.2 rASSMOTRIM wpo FUNKCI@ p OT n + 1 PEREMENNOJ,
OPREDELENNU@ NA KONUSE IRn +1 = f(x ) : x 2 IRn+ > 0g f0 0g: o^EWIDNO, pREDLOVENIE 2.1 I sLEDSTWIE 2.1.2 WYPOLNQ@TSQ TAKVE DLQ \TOJ FUNKCII.
pREDLOVENIE 2.2 eSLI wpo FUNKCIQ p STROGO WOZRASTAET W TO^KE
y, TO
(l 2 @ ;p(y) T (l) = T (y)) =) l = p(yy) :
dOKAZATELXSTWO. iZ pREDLOVENIQ 2.1 SLEDUET, ^TO NEOBHODIMO PROWERITX, ^TO IZ SOOTNOENIJ p(y) p( 1 ) = 1 (2.9) T (l) = T (y) l yl l WYTEKAET l = p(y)=y. wOZXMEM TAKOE l, ^TO WYPOLNQETSQ (2.9). o^EWIDNO, y p(y)=l. dOPUSTIM, ^TO y 6= p(y)=l. tAK KAK p STROGO WOZRASTAET W TO^KE y, IMEEM p(y) > p( p(ly) ) = p(y)p( 1l ) I p(y) > 0: tAKIM OBRAZOM, p(1=l) < 1, POLU^ILI PROTIWORE^IE. 2 pRIWEDEM NESKOLXKO PRIMEROW.
42
pRIMER 3.5 pUSTX p(x) = maxi2I xi I 1 = (1 1 : : : 1). tOGDA 1 = 1g = fl : l 1 min l = 1g: @ ;p(1) = fl : l 1l imax l i2T (l) i 2T (l) li pRIMER 3.6 pUSTX p(x) = mini2I xi. iMEEM 1 = 1g = fl : l 1 max l = 1g: @ ;p(1) = fl : l 1l imin l i2T (l) i 2T (l) li tAKIM OBRAZOM, @ ;p(1) = f1K : K I g, GDE 1K ESTX TAKOJ WEKTOR, ^TO
EGO i-Q KOORDINATA RAWNA EDINICE, ESLI i 2 K , I RAWNA NUL@, ESLI i 62 K . iNYMI SLOWAMI, @ ;p(1) SOWPADAET S MNOVESTWOM WSEH NENULEWYH WERIN n-MERNOGO KUBA fx : 0 x 1g. pRIMER 3.7 pUSTX p(x) = (x1 x2 xn) n : lEGKO PROWERITX, ^TO wpo FUNKCIQ p STROGO WOZRASTAET W TO^KE 1 I NERAWENSTWO hl xi; p(x) DLQ WSEH x WLE^ET ZA SOBOJ T (l) = I . iZ pREDLOVENIQ 2.2 SLEDUET, ^TO @ ;p(1) = f1g. rASSMOTRIM TEPERX SUPERDIFFERENCIAL @ +p(y) = fl 2 IRn+ : hl xi+ p(x) 8x 2 IRn+ hl yi+ = p(y)g wpo FUNKCII p W TO^KE y 2 IRn+ PO OTNOENI@ K MNOVESTWU L+. pRIWEDEM PRIMER, KOTORYJ POKAZYWAET, ^TO SUPERDIFFERENCIAL @ +p(y) MOVET BYTX PUSTYM DLQ NEKOTORYH TO^EK y 2 IRn+. pRIMER 3.8 pUSTX p { TAKAQ wpo FUNKCIQ, ^TO 1) SU]ESTWUET NENULEWOJ \LEMENT y SO SWOJSTWOM p(y) = 0 (W \TOM SLU^AE y { GRANI^NAQ TO^KA KONUSA IRn+) 2) ESLI xk = x(1) + xk(2), GDE x(1) { FIKSIROWANNYJ WEKTOR IZ IRn++ T (xk(2)) T (y) I kxk(2)k ! +1, KOGDA k ! 1, TO p(xk) ! +1: pREDPOLOVIM, ^TO l 2 @ +p(y). tOGDA hl yi+ = maxi2I liyi = p(y) = 0, SLEDOWATELXNO, li = 0 DLQ i 2 T (y). zNA^IT, T (l) (I n T (y)). pUSTX x 0 { TAKOJ WEKTOR, ^TO lixi = 1 DLQ i 2 T (l) I xi DLQ i 62 T (l) DOSTATO^NO WELIKO, ^TOBY p(x) > 1 (IZ 2) SLEDUET, ^TO TAKOJ WEKTOR SU]ESTWUET). tAK KAK hl xi+ = 1 NERAWENSTWO hl xi+ p(x) NE WYPOLNQETSQ. pO\TOMU @ +p(y) PUSTO. 1
43
rASSMOTRIM, W ^ASTNOSTI, FUNKCI@ p(x) = (x1 x2 xn) n : iZ SKAZANNOGO WYE SLEDUET, ^TO EE SUPERDIFFERENCIAL @ +p(y) PUST DLQ KAVDOJ GRANI^NOJ TO^KI y KONUSA IRn+. tEM NE MENEE, ESLI y 0, TO SUPERDIFFERENCIAL @ +p(y) NEPUST I SODERVIT WNUTRENNIE TO^KI KONUSA IRn+. 1
pREDLOVENIE 2.3 pUSTX p { wpo FUNKCIQ I y 0. tOGDA @ +p(y) \
IRn++ NEPUSTO I
@ +p(y) \ IRn++ = fl 0 : l p(yy) p( 1l ) = 1g:
(2.10)
dOKAZATELXSTWO. mY BUDEM ISPOLXZOWATX TE VE ARGUMENTY, ^TO W DOKAZATELXSTWE pREDLOVENIQ 2.1. wNA^ALE POKAVEM, ^TO MNOVESTWO W PRAWOJ ^ASTI (2.10) SOWPADAET SO SLEDU@]IM MNOVESTWOM B : B = fl 0 : l p(yy) p( 1l ) 1g: dEJSTWITELXNO, ESLI l 2 B , TO y p(y)=l, SLEDOWATELXNO, p(y) p( p(ly) ) = p(y)p( 1l ): pOSKOLXKU p(y) > 0, IMEEM p(1=l) 1. s DRUGOJ STORONY, p(1=l) 1. pO\TOMU TREBUEMOE RAWENSTWO DOKAZANO. pUSTX l 2 B . pOSKOLXKU l p(y)=y, IMEEM max l y = max l y = hl yi+ p(y): (2.11) i2I i i i2T (y) i i
pROWERIM TEPERX, ^TO hl xi+ p(x) DLQ WSEH x 2 IRn+. dOPUSTIM, NAPROTIW, ^TO SU]ESTWUET TAKOE z, ^TO hl zi+ < p(z). tOGDA lizi < p(z) DLQ WSEH i 2 I , PO\TOMU z < p(z)=l. sU]ESTWUET " > 0, TAKOE, ^TO (1 + ")z < p(z)=l. pOLU^AEM (1 + ")p(z ) = p((1 + ")z ) p( p(lz ) ) = p(z )p( 1l ): tAK KAK p(z) > 0, TO p( 1l ) > 1 + ". pOLU^ILI PROTIWORE^IE, KOTOROE POKAZYWAET, ^TO hl xi+ p(x) DLQ WSEH x. w ^ASTNOSTI, hl yi+ p(y). sOEDINQQ \TO NERAWENSTWO S (2.11), ZAKL@^AEM, ^TO hl yi+ = p(y). tOGDA l 2 @ +p(y): o^EWIDNO, \LEMENT l = p(y)=y PRINADLEVIT MNOVESTWU B . tAKIM OBRAZOM, SUPERDIFFERENCIAL @ +p(y) NEPUST.
44
pREDPOLOVIM TEPERX, ^TO \LEMENT l 0 PRINADLEVIT @ +p(y). tOGDA 1 = hl 1=li+ p(1=l). iZ RAWENSTWA hl yi+ = p(y) SLEDUET, ^TO l p(y)=y: sLEDOWATELXNO, l 2 B . 2 sLEDSTWIE 2.1.3 sUVENIE wpo FUNKCII NA KONUS IRn++ ABSTRAKTNO WOGNUTO PO OTNOENI@ K KLASSU L+. 2.2
sUBDIFFERENCIALY wz FUNKCIJ
w \TOJ ^ASTI MY IZU^AEM wz FUNKCII, ISPOLXZUQ PREDYDU]IE REZULXTATY. pUSTX f { wz FUNKCIQ. rASSMOTRIM EE POLOVITELXNO ODNORODNOE RASIRENIE f^ NA KONUSE IRn +1 (SM. (2.4) DLQ OPREDELENIQ \TOGO KONUSA). iZ tEOREMY 2.1 SLEDUET, ^TO f^ { wpo FUNKCIQ NA KONUSE IRn +1, TAK ^TO (SM. sLEDSTWIE 2.1.2 I zAME^ANIE 2.1.2) \TA FUNKCIQ ABSTRAKTNO WYPUKLA PO OTNOENI@ K MNOVESTWU L^; WSEH FUNKCIJ ^l, OPREDELENNYH NA IRn++1 FORMULOJ (2.6). mY PREDSTAWLQEM WEKTOR ^l 2 IRn++1 W WIDE ^l = (l c), GDE l 2 IRn+ c 0. pUSTX x 2 IRn+ I x^ = (x 1). iMEEM f (x) = f^(^x) = = supf min ^lix^i : ^l 2 L^; ^l f^g = i2T (^l)
^l = (l c) l 2 L; c 0 ^l f g: = supfmin(imin l x c ) : i i 2T (l)
(2.12)
iZ (2.12) SLEDUET, ^TO f ABSTRAKTNO WYPUKLA PO OTNOENI@ KO MNOVESTWU H; FUNKCIJ h : IRn+ ! IR+ WIDA h(x) = min(hl xi; c) S l 2 IRn+ I c 0: pUSTX f { wz FUNKCIQ I y 2 IRn+. oBOZNA^IM ^EREZ @;f (y) SUBDIFFERENCIAL f W TO^KE y PO OTNOENI@ KO MNOVESTWU H;. eSLI f (y) = 0, TO \TOT SUBDIFFERENCIAL NEPUST, ON SODERVIT FUNKCI@ h = 0, KOTORAQ PRINADLEVIT H. pUSTX f (y) > 0. tOGDA f^(^y) = f (y) > 0 I PO\TOMU (SM. sLEDSTWIE
2.1.1)
f^(^y) = f (y) 2 @ ;f^(y): y^ (y 1) iZ \TOGO WKL@^ENIQ SLEDUET, ^TO f (y) f (y) ) = min(h f (y) yi; f (y)) f (y) = f^(^y) = min(min iT (y) yi 1 y
(2.13)
45
I DLQ KAVDOGO x 2 IRn+ pUSTX
min(h f (yy) xi; f (y)) f^(x 1) = f (x):
(2.14)
h(x) = min(h f (yy) xi; f (y)): o^EWIDNO, h 2 H;. fORMULY (2.13) I (2.14) POKAZYWA@T, ^TO f { \LEMENT SUBDIFFERENCIALA @;f (x) FUNKCII f W TO^KE x PO OTNOENI@ K MNOVESTWU H;. oTS@DA WYWODIM, ^TO @;f (x) NEPUSTO. dADIM OPISANIE SUBDIFFERENCIALA @;f (x), S^ITAQ, ^TO f (x) > 0. pRIMENIW pREDLOVENIE 2.1 I zAME^ANIE 2.1.2, ZAKL@^AEM, ^TO ^ x) ^ 1 @ ;f^(^x) = f^l = (l ) 2 IRn++1 : T (^l) T (^x) ^l f x(^ ^^l f ( ^l ) = 1g: (2.15) pOSKOLXKU f^( (l1) ) = 1 f^( l 1) = 1 f ( l ) MY MOVEM PREDSTAWITX (2.15) W SLEDU@]EM WIDE: @ ;f^(^x) = f(l ) 2 IRn+ IR+ : T (l) T (x) l f x(x) f (x) f ( l ) = g: l tE VE ARGUMENTY POKAZYWA@T, ^TO SUVENIE wz FUNKCII NA KONUS IRn++ ABSTRAKTNO WOGNUTO PO OTNOENI@ K MNOVESTWU H+ WSEH FUNKCIJ h TIPA MAKSIMUMA h(x) = max(hl xi+ c) S l 2 IRn+ I c 0: mY MOVEM LEGKO OPISATX SUPERDIFFERENCIAL FUNKCII f W TO^KE y 0 PO OTNOENI@ K MNOVESTWU H+. w ^ASTNOSTI, FUNKCIQ h(x) = max(h f (yy) xi+ f (y)) PRINADLEVIT SUPERDIFFERENCIALU. 2.3
aLGORITM
rASSMOTRIM SLEDU@]U@ ZADA^U OPTIMIZACII: f (x) ;! min
(2.16)
46
x 2 X GDE f { wz FUNKCIQ (W ^ASTNOSTI, \TO MOVET BYTX wpo FUNKCIQ), X { ZAMKNUTOE WYPUKLOE MNOVESTWO IZ IRn+: mY PREDLAGAEM DLQ REENIQ \TOJ ZADA^I WARIANT OBOB]ENNOGO METODA SEKU]IH PLOSKOSTEJ (METODA -PU^KOW IZ 70]). zAMETIM, ^TO DLQ wpo FUNKCII MOVNO PRIMENITX METOD SEKU]IH UGLOW, RASSMOTRENNYJ WYE. aLGORITM MOVET RASSMATRIWATXSQ KAK OBOB]ENIE METODA SEKU]IH PLOSKOSTEJ WYPUKLOJ OPTIMIZACII 60] DLQ ZADA^ S wz CELEWOJ FUNKCIEJ.
aLGORITM MINIMIZACII wz FUNKCIJ
X.
{AG 0. pOLAGAEM k := 0: wYBIRAEM PROIZWOLXNU@ NA^ALXNU@ TO^KU xo 2
{AG 1. wY^ISLQEM \LEMENT SUBDIFFERENCIALA (hk ck ) 2 @Lf (xk ): oBOZNA^IM fk (x) = min(hhk xi; ck ): {AG 2. rEAEM SLEDU@]U@ PODZADA^U: max f (x) ;! min (2.17) 0ik i x 2 X: {AG 3. pUSTX y { REENIE ZADA^I (2.17). pOLAGAEM k := k + 1 xk = y I WOZWRA]AEMSQ K {AGU 1. sHODIMOSTX ALGORITMA USTANAWLIWAET tEOREMA 2.2 pUSTX X { KOMPAKTNOE MNOVESTWO I PROIZWODNYE PO NAPRAWLENI@ fk0 (x) RAWNOMERNO OGRANI^ENY NA MNOVESTWE X : 0 (x u)j R < +1 DLQ WSEH x 2 X k = 0 1 : : : (2.18) kfk0 (x)k = kmax j f k uk1 tOGDA KAVDAQ PREDELXNAQ TO^KA x POSLEDOWATELXNOSTI (xk ) { GLOBALXNYJ MINIMUM ZADA^I (2.16). dOKAZATELXSTWO. o^EWIDNO, fk (x) { WOGNUTYE FUNKCII. tAK KAK PROIZWODNYE PO NAPRAWLENI@ OGRANI^ENY, USLOWIQ tEOREMY 1.1 WYPOLNENY. pRIMENIW \TU TEOREMU, POLU^IM REZULXTAT O SHODIMOSTI. 2 eSLI MY IMEEM ZADA^U MAKSIMIZACII f (x) ;! max (2.19)
47
x 2 X GDE f { wz FUNKCIQ I X IRn++ SITUACIQ SHODNAQ. wMESTO \LEMENTOW SUBDIFFERENCIALA MY DOLVNY BRATX \LEMENTY SUPERDIFFERENCIALA I WMESTO MINIMIZACII MAKSIMUMA fk (x) MY DOLVNY MAKSIMIZIROWATX MINIMUM fk . wYPOLNQETSQ TOT VE REZULXTAT O SHODIMOSTI (DOKAZATELXSTWO ANALOGI^NO). w OB]EM SLU^AE TRUDNO PRIMENITX METOD -PU^KOW DLQ MINIMIZACII ABSTRAKTNO WYPUKLOJ FUNKCII, TAK KAK NET QWNOJ FORMULY DLQ SUBDIFFERENCIALA. gLAWNOE DOSTOINSTWO wz FUNKCIJ SOSTOIT W TOM, ^TO \LEMENT ABSTRAKTNOGO SUBDIFFERENCIALA MOVNO WY^ISLITX. |TO POZWOLQET POSTROITX ^ISLENNO REALIZUEMYJ ALGORITM DLQ IH MINIMIZACII. 2.4
rEENIE PODZADA^I DLQ wz FUNKCIJ
gLAWNAQ ^ASTX METODA { REENIE PODZADA^I NA {AGE 2. pREDSTAWIM PODZADA^U W SLEDU@]EM WIDE: t ! min min(hhi xi; ci) t 8i = 0 k x 2 X:
(2.20)
tAK KAK ci 0 DLQ WSEH i WSLEDSTWIE SWOJSTW wz FUNKCIJ, OPTIMALXNOE ZNA^ENIE t LEVIT W INTERWALE 0 maxi=0k min(hhi x0i; ci)]: pRIMENIW DIHOTOMI@ PO OTNOENI@ K t POLU^IM POSLEDOWATELXNOSTX SISTEM: min(hhi xi; ci) t~ 8i = 0 k
s:t: x 2 X GDE t~ { NEKOTOROE FIKSIROWANNOE ^ISLO W INTERWALE 0 max min(hhi x0i; ci)]: i=0k
tOGDA, ESLI DLQ NEKOTOROGO j MY IMEEM cj t~ SOOTWETSTWU@]EE NERAWENSTWO IZBYTO^NO I MOVET BYTX UDALENO. nAPROTIW, ESLI cj > t~ TO SOOTWETSTWU@]AQ KONSTANTA cj IZBYTO^NA I j -E OGRANI^ENIE MOVET BYTX PEREPISANO BEZ \TOJ KONSTANTY. tAKIM OBRAZOM, MY POLU^AEM SLEDU@]U@ SISTEMU
48
DLQ KAVDOGO t~:
hhj xi; t~ 8j 2 J s:t: x 2 X GDE J = fj 2 f0 1 : : : kg : cj > t~g: |TA SISTEMA BYLA RASSMOTRENA WYE, GDE BYL PREDLOVEN ALGORITM EE REENIQ, POHOVIJ NA DINAMI^ESKOE PROGRAMMIROWANIE. pRIMENIW \TOT ALGORITM, MY MOVEM POLU^ITX REENIE PODZADA^I (2.20). dRUGAQ WOZMOVNOSTX { SWESTI SISTEMU (2.20) K ZADA^E ^ASTI^NO CELO^ISLENNOGO BULEWA LINEJNOGO PROGRAMMIROWANIQ. |TO HOROO IZWESTNAQ TEHNIKA, OSNOWANNAQ NA WWEDENII BOLXOGO POLOVITELXNOGO PARAMETRA M: tOGDA KAVDOE OGRANI^ENIE hhj xi; t~ MOVET BYTX PREDSTAWLENO KAK n + 1 LINEJNOE OGRANI^ENIE WIDA: hj1x1 ; Myj1 t~ hj2x2 ; Myj2 t~
::::::::: hjnxn ; Myjn t~ n X yji n ; 1 i=1
GDE yji 2 f0 1g DLQ WSEH i j: eSLI M DOSTATO^NO WELIKO, \TA ZADA^A \KWIWALENTNA PODZADA^E (2.20). dANNAQ TEHNIKA UWELI^IWAET RAZMERNOSTX ZADA^I NA n PEREMENNYH SO ZNA^ENIQMI f0 1g NA KAVDOJ ITERACII. oDNAKO ONA POZWOLQET PRIMENITX SU]ESTWU@]IE PAKETY PROGRAMMNOGO OBESPE^ENIQ DLQ ^ASTI^NO CELO^ISLENNOGO PROGRAMMIROWANIQ, ^TOBY REITX PODZADA^U. 2.5
lIPICEWO PROGRAMMIROWANIE ^EREZ wwl FUNKCII
w POSLEDNIE GODY BOLXOE WNIMANIE PRIWLE^ENO K ZADA^AM GLOBALXNOJ MINIMIZACII NEWYPUKLYH FUNKCIJ. oDIN IZ WAVNEJIH KLASSOW TAKIH FUNKCIJ { LIPICEWY FUNKCII. bYL POSTROEN RQD ALGORITMOW IH MINIMIZACII, W OSNOWNOM \TO METODY WETWEJ I GRANIC ILI METODY SLU^AJNOGO POISKA (SM. 74] DLQ PODROBNOGO OBSUVDENIQ, A TAKVE 53]).
49
w DANNOJ GLAWE POKAZANO, ^TO WO MNOGIH SLU^AQH ZADA^A OPTIMIZACII PROIZWOLXNOJ LIPICEWOJ CELEWOJ FUNKCII MOVET BYTX SWEDENA K MINIMIZACII wwl FUNKCII. pREDLOVENO OBOB]ENIE METODA SEKU]IH UGLOW DLQ ZADA^I LIPICEWA PROGRAMMIROWANIQ. 2.6
sWEDENIE ZADA^I LIPICEWA PROGRAMMIROWANIQ K MINIMIZACII wwl FUNKCII
pUSTX S = fy 2 IRn+ : Pni=1 yi = 1g { EDINI^NYJ SIMPLEKS I y 2 S: mY PREDPOLAGAEM, ^TO W PROSTRANSTWE IRn WWEDENA NORMA k k1 = Pni=1 jxij: pUSTX f { LIPICEWA FUNKCIQ, OPREDELENNAQ NA S: oBOZNA^IM ^EREZ f;0 (y u) NIVN@@ PROIZWODNU@ dINI FUNKCII f W TO^KE y PO NAPRAWLENI@ u: 1 (f (y + u) ; f (y)): f;0 (y u) = lim inf !+0 rASSMOTRIM FUNKCI@ g, OPREDELENNU@ NA KONUSE IRn+ KAK 1 8 0 > x > < f @ Pn A (Pni=1 xi)p x 6= 0 (2.21) g(x) = > i=1 xi > : 0 x = 0: uKAVEM NEKOTORYE SWOJSTWA FUNKCII g: 1) g(y) = f (y) 8y 2 S 2) g(x) = pg(x) 8x 2 IRn+ > 0: pUSTX p 1: iZ 2) SLEDUET, ^TO g WYPUKLA PO LU^AM. tAKIM OBRAZOM, g { WYPUKLOE PO LU^AM RASIRENIE FUNKCII f: tEOREMA 2.3 80] pUSTX f { LIPICEWA POLOVITELXNAQ FUNKCIQ, OPREDELENNAQ NA SIMPLEKSE S , I jf (x) ; f (y)j L = inf x6 y kx ; yk =
xy2S
1
{ KONSTANTA lIPICA FUNKCII f: pUSTX p 2L= min f (x): x2S tOGDA g(x) { WOZRASTA@]AQ FUNKCIQ.
50
dLQ DOKAZATELXSTWA TEOREMY POKAVEM, ^TO NIVNQQ PROIZWODNAQ dINI FUNKCII g NEOTRICATELXNA. nAPOMNIM SLEDU@]IE HOROO IZWESTNYE OPREDELENIQ. eSLI U { WYPUKLOE MNOVESTWO, TO KONUS K (x U ) DOPUSTIMYH NAPRAWLENIJ W TO^KE x 2 U PO OTNOENI@ K U ESTX K (x U ) = fu : 90 > 0 TAKOE, ^TO x + u 2 U 8 2 (0 0]g: lEGKO PROWERITX, ^TO n X K (y S ) = fu : ui = 0 ui 0 ESLI yi = 0g i=1
K (x IRn+) = fv : vi 0 ESLI xi = 0g: wY^ISLIM NIVN@@ PROIZWODNU@ dINI g;0 (x u) FUNKCII g W TO^KE x 2 IRn+ PO NAPRAWLENI@ u: pREDLOVENIE 2.4 pUSTX x 2 IRn+nf0g I y = x= Pni=1 xi: tOGDA DLQ WSEH u 2 K (x IRn+) IMEEM n X
n X
i=1
i=1
g;0 (x u) = ( xi)p;1 (f;0 (y v(u)) + pf (y)
GDE v(u) { WEKTOR S KOORDINATAMI vj =
n X
(yk uj ; yj uk ) = uj ; yj
k=1
n X k=1
ui)
uk :
(2.22) (2.23)
dOKAZATELXSTWO. pUSTX H (x) = x= Pni=1 xi I h(x) = f (Hx): tOGDA g(x) = h(x)(Pn x )p: tAK KAK FUNKCIQ x 7! (Pn x )p DIFFERENCIRUEMA I f LIPi=1 i
i=1 i
ICEWA, IMEEM n n n X X X 0 0 p p ; 1 g;(x u) = h;(x u)( xi) + ph(x)( xi) ( ui): i=1
i=1
i=1
pOSKOLXKU OTOBRAVENIE H NEPRERYWNO DIFFERENCIRUEMO I f LIPICEWA, MY MOVEM PRIMENITX FORMULU DLQ WY^ISLENIQ SLOVNOJ FUNKCII, ^TOBY NAJTI h0;(x u): iMEEM h0;(x u) = f;0 (H (x) DH (x)u) GDE DH (x) { DIFFERENCIAL OTOBRAVENIQ H: lEGKO PROWERITX, ^TO DH (x)u = (Pn 1 x )2 v0(u) i=1 i
51
GDE KOORDINATY vj0 WEKTORA v0(u) IME@T WID vj0 =
tOGDA
n X k=1
xk uj ; xj uk :
(2.24)
h0(x u) = f;0 (Hx v0) (Pn 1 x )2 i=1 i
I
n X
n X
n X
i=1
i=1
i=1
g;0 (x u) = f;0 (Hx v0)( xi)p;2 + ph(x)( xi)p;1( ui):
pUSTX Hx = y: tOGDA h(x) = f (y): rASSMOTRIM TAKVE WEKTOR v(u) = 1 v0(u): kOORDINATY \TOGO WEKTORA OPREDELENY W (2.23). iMEEM P ( n x) i=1 i
n X
n X
i=1
i=1
g;0 (x u) = ( xi)p;1(f;0 (y v(u)) + pf (y)
ui ):
pREDLOVENIE DOKAZANO. 2 pRODOLVIM DOKAZATELXSTWO TEOREMY. pUSTX uj SOWPADAET S j -J KOORDINATOJ ej : tOGDA v(ej ) vj { WEKTOR S KOORDINATAMI vij = ;yi (i 6= j ) vjj = 1 ; yj :
tAKIM OBRAZOM, g;0 (x uj ) =
pOLU^AEM
n X
( xi)p;1(f;0 (y vj ) + pf (y)): i=1
g;0 (x uj ) 0 () pf (y) ;f;0 (y vj ): pOSKOLXKU kvj k1 = Pnk=1 jvjk j = 1 + Pnj=1 yj = 2, IMEEM 0 (y v )j 2L jf;0 (y vj )j kmax j f ; vk 2 1
GDE L { KONSTANTA lIPICA FUNKCII f PO OTNOENI@ K NORME k k1: pUSTX c = inf y2S f (y): pOSKOLXKU pc 2L
POLU^AEM
@g(x) g0 (x e ) 0 8x 8j: j ; @xj
(2.25)
52
oTS@DA SLEDUET, ^TO FUNKCIQ g WOZRASTAET NA IRn+nf0g: dEJSTWITELXNO, PRIMENIW TEOREMU O SREDNEM, IMEEM DLQ WSEH > 0: @g (x + e ) 0: g(x + ej ) ; g(x) 0inf j @xj pUSTX z 0 I x 2 IRn+: pUSTX TAKVE x0 = x x1 = x + z1e1 x2 = x1 + z2e2 : : : xn = xn;1 + znen x + z: tOGDA g(x + z) ; g(x) = g(xn) ; g(x1) = Pn;1 g(x + z e ) ; g(x ) 0: zNA^IT, ESLI (2.25) WYPOLNQETSQ, TO g k k+1 k+1 k k=0 WOZRASTAET. tEOREMA DOKAZANA. 2 sLEDSTWIE 2.6.1 eSLI p maxf1 2L=cg I c = miny2S f (y), TO g { wwl FUNKCIQ. pREDLOVENIE 2.5 eSLI p > 2L=c, TO g STROGO WOZRASTAET DLQ WSEH x 6= 0: dOKAZATELXSTWO. pUSTX p0 = 2L=c: oBOZNA^IM ^EREZ gp FUNKCI@, OPREDELENNU@ FORMULOJ (2.21) S p p0: mY RASSMATRIWAEM DLQ PROSTOTY TO^KI x 2 IRn+ I x ; z1e1 2 IRn+ S z1 > 0. mY DOLVNY POKAZATX, ^TO gp(x) > gp(x ; z1e1) DLQ WSEH p > p0. eSLI gp (x) > gp (x ; z1e1) I p > p0, TO TAKVE gp(x) > gp(x ; z1e1). pUSTX gp (x) = gp (x ; z1e1): tOGDA gp (x) = gp (x ; te1) DLQ WSEH t 2 (0 z1] SLEDOWATELXNO, (gp0 );(x ; e1 e1) = 0 DLQ WSEH 2 (0 z1): iZ (2.22) I (2.23) SLEDUET, ^TO f;0 (y() v0()) + p0f (y()) = 0 8 2 (0 z1) GDE y() I v0() { NEKOTORYE WEKTORY, NE ZAWISQ]IE OT p: tAKIM OBRAZOM, ESLI p > p0, TO f;0 (y() v0()) + p0f (y()) 6= 0 DLQ WSEH 2 (0 z1): tAK KAK (gp)0;(x ; e1 e1) 0, TO (gp)0;(x ; e1 e1) > 0 DLQ WSEH 2 (0 z1): pOSKOLXKU FUNKCIQ ! gp(x ; e1) LIPICEWA, gp() STROGO WOZRASTAET NA (0 z1): oTS@DA gp(x ; z1e1) < gp(x): 2 pUSTX gy () = g(y) DLQ > 0 (y 2 S ): tAK KAK gy () = pgy () = pf (y) TO FUNKCIQ gy DIFFERENCIRUEMA W TO^KE = 1 I (gy )0;(1) = g0 (y y) = pf (y) (MY MOVEM POLU^ITX TOT VE REZULXTAT IZ (2.6)). pUSTX p > 2L=c: iZ tEOREMY 2.3 I pREDLOVENIQ 2.6 SLEDUET, ^TO H SUBDIFFERENCIAL FUNKCII g W TO^KE y 2 S SOSTOIT IZ EDINSTWENNOGO \LEMENTA hy (x) = hly xi + f (y) ; hly yi, GDE ly = pf (y)=y. 0
0
0
0
0
0
0
53
2.7
pREOBRAZOWANIE DOPUSTIMOGO MNOVESTWA ZADA^I LIPICEWA PROGRAMMIROWANIQ
rASSMOTRIM SLEDU@]U@ ZADA^U MATEMATI^ESKOGO PROGRAMMIROWANIQ: min f (x) g(x) 0 (2.26) x 0 (2.27) GDE f g { LIPICEWY FUNKCII NA IRn: eSTX PO KRAJNEJ MERE DWE WOZMOVNOSTI PREOBRAZOWANIQ ZADA^I LIPICEWA PROGRAMMIROWANIQ. pREDPOLOVIM, ^TO ZADA^A OPTIMIZACII IMEET WID min f (x) g(x) 0 (2.28) 0 x C GDE C > 0 { WERHNQQ OCENKA DLQ PEREMENNYH. tOGDA, WWEDQ DOPOLNITELXNYE PEREMENNYE yi = Cnx+i q 8i = 1 n GDE q > 0, I DOBAWIW NOWU@ PEREMENNU@ yn+1 MOVEM PEREPISATX (2.28) W SLEDU@]EM WIDE: min f ((Cn + q)y) g((Cn + q)y) 0 (2.29) 0 yi CnC+ q 8i = 1 n nX +1
yi = 1 i=1 yn+1 0:
dOPUSTIMOE MNOVESTWO ZADA^I (2.29) PRINADLEVIT EDINI^NOMU SIMPLEKSU S: dLQ WY^ISLITELXNYH CELEJ NALI^IE DOPOLNITELXNOJ PEREMENNOJ MOVET BYTX NEUDOBNYM. iNOGDA MOVNO PRIMENITX SPOSOB BEZ DOPOLNITELXNOJ PEREMENNOJ. pREDPOLOVIM, ^TO ZADA^A OPTIMIZACII IMEET WID min f (x) (2.30)
54
x 2 X
GDE MNOVESTWO X IRn+ OBLADAET SWOJSTWOM, ^TO DLQ L@BOGO y 2 S SU]ESTWU@T x 2 X (y) > 0, TAKIE, ^TO (y)y 2 X: rASSMOTRIM FUNKCI@ F (y) = min f (y) 8y 2 S: 0
y2X
tOGDA ZADA^A (2.30) \KWIWALENTNA MINIMIZACII F (y) NA EDINI^NOM SIMPLEKSE. zAMETIM, ^TO F (y) { MARGINALXNAQ FUNKCIQ SPECIALXNOGO WIDA. uSLOWIQ, GARANTIRU@]IE, ^TO F (y) LIPICEWA, MOVNO NAJTI, NAPRIMER, W 25]. 2.8
sHEMA METODA SEKU]IH UGLOW DLQ MINIMIZACII LIPICEWYH FUNKCIJ
rASSMOTRIM ZADA^U LIPICEWA PROGRAMMIROWANIQ W SLEDU@]EM WIDE: 0 0 11 n+1 X y min @M + f @ Pn+1 AA ( yi)p i=1 i=1 yi g(y) 0 (2.31) nX +1 yi = 1 i=1 y 0: pREDPOLOVIM, ^TO PARAMETRY M I p WYBRANY TAKIM OBRAZOM, ^TO CELEWAQ FUNKCIQ ZADA^I (2.31) wwl. sHEMA ALGORITMA SLEDU@]AQ.
mETOD SEKU]IH UGLOW DLQ LIPICEWYH FUNKCIJ {AG 0. pOLAGAEM k := 0. wYBIRAEM PROIZWOLXNO DOPUSTIMU@ TO^KU y0 2 S I PARAMETRY M > 0 p > 0: {AG 1. wY^ISLQEM WEKTOR `k S KOORDINATAMI `ki : `ki = p(f (yyk) + M ) ESLI yki 6= 0 `ki = 0 ESLI yki = 0 ki GDE yki { i-Q KOORDINATA WEKTORA yk :
55
{AG 2. oPREDELQEM FUNKCI@ hk : hk (y) = h`k yi + (1 ; p)(f (y) + M ): {AG 3. nAHODIM GLOBALXNYJ OPTIMUM ZADA^I max h (y) ! min 0ik i y 2 S g(y) 0: pUSTX y { REENIE \TOJ ZADA^I. {AG 4. pOLAGAEM k := k + 1 yk := y I WOZWRA]AEMSQ K {AGU 1. w ZADA^E (2.31) ESTX DWA PARAMETRA. pARAMETR M > 0 NEOBHODIM, ESLI ZNA^ENIQ CELEWOJ FUNKCII NA DOPUSTIMOM MNOVESTWE MOGUT BYTX NEPOLOVITELXNYMI. ~TOBY NAJTI ZNA^ENIE \TOGO PARAMETRA, DOLVNA BYTX WY^ISLENA NA^ALXNAQ NIVNQQ OCENKA OPTIMALXNOGO ZNA^ENIQ CELEWOJ FUNKCII. wTOROJ PARAMETR p > 0 ZAWISIT OT KONSTANTY lIPICA I ZNA^ENIQ PARAMETRA M: zAMETIM, ^TO MOVNO NAHODITX WERHNIE I NIVNIE OCENKI OPTIMALXNOGO ZNA^ENIQ NA KAVDOJ ITERACII METODA SEKU]IH UGLOW (SM. WYE): k f k DLQ WSEH k GDE f { OPTIMALXNOE ZNA^ENIE CELEWOJ FUNKCII NA DOPUSTIMOM MNOVESTWE I k = f (xk) k = hk (xk+1) DLQ WSEH k = 0 1 : : :: mOVNO DOKAZATX, ^TO lim = lim = f : k!+1 k k!+1 k |TO WEDET K UDOBNOMU KRITERI@ "-OPTIMALXNOSTI. kAK TOLXKO RAZNOSTX k ; k STANOWITSQ MENXE, ^EM " > 0 GDE " { TREBUEMAQ TO^NOSTX, WY^ISLENIQ MOVNO OSTANOWITX. 2.9
sIMPLICIALXNYJ METOD DLQ MAKSIMIZACII WOZRASTA@]IH FUNKCIJ
wAVNYJ KLASS ZADA^ GLOBALXNOJ OPTIMIZACII SOSTAWLQ@T ZADA^I S MONOTONNOJ CELEWOJ FUNKCIEJ. tAKIE ZADA^I ^ASTO WSTRE^A@TSQ W PRILOVENIQH,
56
W ^ASTNOSTI, W MATEMATI^ESKOJ \KONOMIKE (SM. 13]). zADA^I OPTIMIZACII S WOZRASTA@]IMI CELEWYMI FUNKCIQMI MOGUT IMETX LOKALXNYE \KSTREMUMY DAVE PRI O^ENX PROSTYH OGRANI^ENIQH, ^TO DELAET NEOBHODIMOJ RAZRABOTKU METODOW GLOBALXNOJ OPTIMIZACII. eSTX MNOGO METODOW, POZWOLQ@]IH NAJTI GLOBALXNYJ MINIMUM. wAVNYE IH KLASSY { METODY WNENEJ APPROKSIMACII, METODY WNUTRENNEJ APPROKSIMACII, METODY WETWLENIQ I OTSE^ENIQ I T. D. (SM. 53, 90, 74]). o^ENX ^ASTO DOPUSTIMOE MNOVESTWO DELITSQ NA PRQMOUGOLXNIKI ILI TRIANGULIRUETSQ (SM. 74, 53]), I ZATEM ISPOLXZU@TSQ PROCEDURY, POHOVIE NA METODY WETWEJ I GRANIC DISKRETNOJ OPTIMIZACII. |FFEKTIWNOSTX ZAWISIT OT TIPA RAZBIENIQ I OBLASTEJ PRITQVENIQ GLOBALXNOGO MAKSIMUMA I DRUGIH STACIONARNYH TO^EK. w \TOJ ^ASTI MY RASSMATRIWAEM KONCEPTUALXNU@ SHEMU ALGORITMA MAKSIMIZACII WOZRASTA@]EJ FUNKCII NA NORMALXNOM MNOVESTWE (90]). tAKAQ ZADA^A WAVNA DLQ \KONOMI^ESKIH PRILOVENIJ, NO METODOW EE REENIQ MALO. mY PREDLAGAEM SPOSOB WY^ISLENIQ WERHNIH OCENOK CELEWOJ FUNKCII, WEDU]IJ K ^ISLENNO REALIZUEMOJ SHEME. pREDLAGAETSQ OBOB]ENIE ALGORITMA, QWLQ@]EESQ, PO-SU]ESTWU, METODOM WETWLENIQ I OTSE^ENIQ (SM. 53] I SSYLKI W DANNOJ KNIGE). tAKIE METODY STALI O^ENX POPULQRNY ZA POSLEDNIE GODY I DOKAZALI ^ISLENNU@ \FFEKTIWNOSTX. aLGORITM ISPOLXZUET RAZBIENIQ EDINI^NOGO SIMPLEKSA, OBRAZU@]IESQ MNOVESTWA PROEKTIRU@TSQ NA GRANICU DOPUSTIMOGO MNOVESTWA. pROSTEJIE RAZBIENIQ { MEDIANNOE I CENTRALXNOE. wERHNIE OCENKI MOGUT BYTX WY^ISLENY, ESLI CELEWAQ FUNKCIQ ABSTRAKTNO WOGNUTA (SM. 11, 70, 95]) PO OTNOENI@ K BOLEE PROSTYM WSPOMOGATELXNYM FUNKCIQM (MAKSIMIZIRUQ \TI FUNKCII) ILI NEPOSREDSTWENNO. mY PREDSTAWLQEM PREDWARITELXNYE REZULXTATY ^ISLENNYH \KSPERIMENTOW DLQ ALGORITMA, KOTORYE POKAZYWA@T, ^TO ON MOVET BYTX \FFEKTIWEN DLQ RAZNOOBRAZNYH ZADA^ GLOBALXNOJ OPTIMIZACII. rASSMOTRIM SLEDU@]U@ ZADA^U GLOBALXNOJ OPTIMIZACII: max f (x)
x 2 X
(2.32)
57
GDE X { NORMALXNOE MNOVESTWO IZ IRn+ I f { WOZRASTA@]AQ NEPRERYWNAQ FUNKCIQ. nAPOMNIM, ^TO FUNKCIQ f NAZYWAETSQ WOZRASTA@]EJ, ESLI f (x) f (y)
KOGDA x y GDE x y 2 IRn+ TO ESTX xi yi DLQ WSEH i OT 1 DO n: mNOVESTWO Q IRn+ NAZYWAETSQ NORMALXNYM, ESLI IZ x 2 Q y x SLEDUET y 2 Q: oBOZNA^IM n X n S = fx 2 IR+ : xi = 1g i=1
EDINI^NYJ SIMPLEKS W IRn+: aLGORITM, KOTORYJ MY OPIEM W SLEDU@]EJ ^ASTI, ISPOLXZUET RAZBIENIQ EDINI^NOGO SIMPLEKSA. eSLI S = S1 S2 : : : Sm GDE Si = co fv1i v2i : : : vni g I vji 2 IRn+ DLQ WSEH i = 1 m I WSEH j = 1 n BUDEM GOWORITX, ^TO P = fS1 S2 : : : Smg ESTX RAZBIENIE S: eSLI TAKVE Si \ Sj =
PRI i 6= j BUDEM GOWORITX, ^TO P ESTX PRAWILXNOE RAZBIENIE S: tOGDA, ESLI MY IMEEM S1 = S11 S12 : : : S1m S2 = S21 S22 : : : S2m ::: :::::::::::: Sm = Sm1 Sm2 : : : Smm
BUDEM GOWORITX, ^TO RAZBIENIE fS11 S12 : : : Smmg ESTX PODRAZBIENIE P: pUSTX Si { PROIZWOLXNYJ SIMPLEKS NA S: oBOZNA^IM m(Si) EGO CENTR (SUMMU WERIN, DELENNU@ NA n). dLQ PROIZWOLXNOGO SIMPLEKSA V OBOZNA^IM K (V ) = cone (V ) \ X = fx 2 X : x = y y 2 V 0g:
o^EWIDNO, pUSTX
X = K (S ) =
m
i=1
K (Si):
@X = fx 2 IRn+ :6 9y 2 X y xg
58
{ WERHNQQ GRANICA (MNOVESTWO MAKSIMALXNYH \LEMENTOW) X: mY PREDPOLAGAEM, ^TO MNOVESTWO X ZADANO STROGO WOZRASTA@]EJ NEPRERYWNOJ FUNKCIEJ g TO ESTX X = fx 2 IRn+ : g(x) 1g GDE g(x) > g(y), KOGDA x > y x y 2 IRn+: zDESX x > y OZNA^AET xi yi i = 1 n I xj > yj DLQ NEKOTOROGO j: tOGDA @X = fx 2 IRn+ : g(x) = 1g: dLQ KAVDYH x y 2 X OBOZNA^IM min(x y) = fz 2 IRn+ : zi = min (xi yi) 8i = 1 ng max(x y) = fz 2 IRn+ : zi = max (xi yi) 8i = 1 ng: mY ISPOLXZUEM TE VE OBOZNA^ENIQ, ESLI W SKOBKAH BOLEE DWUH WEKTOROW (TAK, max(x y z ) = max(max(x y) z )):
pOLOVIM
(x) = f 2 IR+ : g(x) = 1g: dOPUSTIM, ^TO g(0) < 1 limkxk!+1 g(x) > 1: tOGDA (x) > 0 DLQ WSEH x 6= 0: tAK KAK g STROGO WOZRASTAET, FUNKCIQ OPREDELENA NA IRn+nf0g: pREDLOVENIE 2.6 fUNKCIQ (x) UBYWAET NA IRn+nf0g: dOKAZATELXSTWO. pUSTX x y 2 IRn+ y x x 6= 0 y 6= 0 x 6= y. tOGDA y > x. iZ OPREDELENIQ (x) SLEDUET, ^TO g((x)x) = 1: oTS@DA g((x)y) > 1: zNA^IT, (y) < (x): pREDLOVENIE DOKAZANO. 2 2.10
sIMPLICIALXNYJ ALGORITM
sU]ESTWUET BOLXOE ^ISLO WY^ISLITELXNYH SHEM GLOBALXNOJ OPTIMIZACII, ISPOLXZU@]IH TRIANGULQCI@. mY RASSMATRIWAEM METOD DLQ REENIQ ZADA^I (2.32), ISPOLXZU@]IJ KONI^ESKIE PROEKCII SIMPLEKSOW NA GRANICU DOPUSTIMOGO MNOVESTWA. |TO WEDET K ^ISLENNO REALIZUEMOJ SHEME DLQ DOPUSTIMYH MNOVESTW, ZADANNYH PROIZWOLXNOJ WOZRASTA@]EJ FUNKCIEJ (KOTORAQ MOVET BYTX SLOVNOJ FUNKCIEJ SO MNOGIMI \KSTREMUMAMI). kONI^ESKOE PROEKTIROWANIE TREBUET SPECIALXNYH USLOWIJ DLQ WERHNIH OCENOK OPTIMALXNOGO ZNA^ENIQ. aLGORITM IMEET SLEDU@]IJ WID.
59
sIMPLICIALXNYJ METOD DLQ MAKSIMIZACII WOZRASTA@]IH FUNKCIJ {AG 0. pOLAGAEM k := 0: wYBIRAEM PROIZWOLXNO NA^ALXNOE RAZBIENIE EDINI^NOGO SIMPLEKSA P0 = fS10 S20 : : : Sm0 g: {AG 1. dLQ KAVDOGO MNOVESTWA K (Sik ) NAHODIM WERHN@@ OCENKU f^(Sik ) f (x) 8x 2 K (Sik ) i = 1 m: {AG 2. wY^ISLQEM f^j = maxi f^(Sik ) = f^(Sjk ): {AG 3. nAHODIM xk KAK PROIZWOLXNU@ TO^KU IZ K (Sjk ): {AG 4. oBNOWLQEM RAZBIENIE I OPREDELQEM Pk+1 KAK PODRAZBIENIE Pk : {AG 5. pOLAGAEM k := k + 1 I WOZWRA]AEMSQ K {AGU 1. zAMETIM, ^TO DANNAQ KONCEPTUALXNAQ SHEMA ISPOLXZUET WERHNIE OCENKI KAK GLAWNYJ KRITERIJ DLQ NAHOVDENIQ xk : wMESTO \TOGO MOVNO NA {AGAH 13 WY^ISLQTX CENTRY SIMPLEKSOW Sik DLQ KAVDOGO i: cki = m(Sik ) 8i f (ckj ) = max f (cki ) xk = (ckj )ckj : i tAKIM OBRAZOM, MY POLU^AEM "VADNYJ ALGORITM" GLOBALXNOJ OPTIMIZACII, OSNOWANNYJ NA ZNA^ENIQH CELEWOJ FUNKCII. kONKRETNAQ REALIZACIQ ALGORITMA ZAWISIT OT SPOSOBA WY^ISLENIQ WERHNIH OCENOK NA {AGE 1 I SPOSOBA RAZBIENIQ Pk NA {AGE 4. dOKAVEM WNA^ALE TEOREMU O SHODIMOSTI, A ZATEM PRIWEDEM PRIMERY WYBORA WERHNIH OCENOK I RAZBIENIQ.
tEOREMA 2.4 pUSTX WYPOLNQ@TSQ SLEDU@]IE PREDPOLOVENIQ: 1) dIAMETRY MNOVESTW Sjk STREMQTSQ K NUL@, KOGDA k ! +1: zDESX diam (Y ) = sup kx ; yk 8Y IRn: xy2Y
fUNKCIQ NEPRERYWNA I OGRANI^ENA SWERHU, X OGRANI^ENO. 2) f^ UDOWLETWORQET USLOWI@ f^(Y ) ! f (y)
60
KOGDA Y ! fyg PO METRIKE hAUSDORFA (\TO USLOWIE WYPOLNENO, ESLI f^ { NEPRERYWNAQ FUNKCIQ MNOVESTWA PO OTNOENI@ K METRIKE hAUSDORFA). 3) SY 2Pk Y X GDE cone (X ) \ X ESTX MNOVESTWO GLOBALXNYH MAKSIMUMOW CELEWOJ FUNKCII f NA X: tOGDA DLQ KAVDOGO " > 0 ZA KONE^NOE ^ISLO ITERACIJ BUDET NAJDENA TO^KA x", TAKAQ, ^TO f (x") f (x) ; " 8x 2 X: dOKAZATELXSTWO. tAK KAK MY WYBIRAEM NAIBOLXU@ WERHN@@ OCENKU, ONA DAET WERHN@@ OCENKU OPTIMALXNOGO ZNA^ENIQ. pUSTX MAKSIMUM DOSTIGAETSQ NA MNOVESTWE Sjk : bEZ OGRANI^ENIQ OB]NOSTI MOVNO PREDPOLOVITX, ^TO diam (Sjk ) < GDE > 0 PROIZWOLXNO MALO. tOGDA PO pREDPOLOVENIQM 1-2 SU]ESTWUET > 0, TAKOE, ^TO DLQ L@BOGO " > 0 IMEEM f^(Sjk ) f (x) + " DLQ WSEH x 2 cone (Sjk ) \ X: tOGDA L@BAQ TO^KA x 2 cone (Sjk ) \ X QWLQETSQ "-OPTIMALXNOJ. 2 mOVNO RASSMATRIWATX RAZLI^NYE RAZBIENIQ DLQ SHODIMOSTI. pROSTEJIM I HOROO IZWESTNYM QWLQETSQ MEDIANNOE RAZBIENIE. pUSTX V = co fv1 v2 : : : vng ESTX SIMPLEKS S WERINAMI vi. pOLOVIM kvk ; vsk = max kvi ; vj k: ij tOGDA RAZBIENIE SLEDU@]EE: V = V1 V2 GDE V1 = co (v1 v2 : : : vk;1 (vk + vs)=2 vk+1 : : : vn) V2 = co (v1 v2 : : : vs;1 (vk + vs)=2 vs+1 : : : vn): dLQ ^ISLENNYH CELEJ MOVET BYTX POLEZNYM CENTRALXNOE RAZBIENIE, HOTQ ONO NE GARANTIRUET SHODIMOSTI (DLQ SHODIMOSTI, ODNAKO, EGO MOVNO KOMBINIROWATX S MEDIANNYM RAZBIENIEM). w \TOM SLU^AE V = V1 V2 : : : Vn
61
GDE Vk = co (v1 : : : vk;1 m(V ) vk+1 : : : vn): dLQ DRUGIH TIPOW SIMPLICIALXNYH RAZBIENIJ SM. RABOTU 74] I SSYLKI W NEJ, GDE PREDSTAWLENO DETALXNOE OBSUVDENIE. wY^ISLENIE WERHNIH OCENOK, WOOB]E GOWORQ, TRUDNEE. pO KRAJNEJ MERE, WOZMOVNY TRI PODHODA. 1) eSLI X = S MOVNO POLOVITX f^(Sjk ) = f (max(w1 w2 : : : wn)) GDE wi { WERINY SIMPLEKSA Sjk : 2) pUSTX f { H -WOGNUTAQ FUNKCIQ (DLQ DETALXNOGO PREDSTAWLENIQ TEORII ABSTRAKTNOGO WYPUKLOGO ANALIZA SM. 11, 95, 70]), TO ESTX
f (x) = hinf h(x) 2H
GDE h(x) { NEKOTORYE PROSTYE FUNKCII, H { ZAMKNUTOE MNOVESTWO. tOGDA POLOVIM Hs(x) = minfh1(x) h2(x) : : : hs(x)g
GDE f ABSTRAKTNO WOGNUTA PO OTNOENI@ K KAVDOJ hi: tOGDA, ^TOBY NAJTI WERHN@@ OCENKU, DOSTATO^NO NAJTI MAKSIMUM Hs(x) NA MNOVESTWE K (Sik ) DLQ KAVDOGO i: |TO OZNA^AET, ^TO SLEDUET ISPOLXZOWATX METOD SEKU]IH UGLOW (SM. 21] DLQ EGO PREDSTAWLENIQ). 3) mOVNO ISPOLXZOWATX pREDLOVENIE 2.6. pUSTX V = co i=1nwi { PROIZWOLXNYJ SIMPLEKS IZ S: tOGDA KAVDYJ \LEMENT y IZ K (V ) MOVET BYTX
PREDSTAWLEN KAK
n X
n X
i=1
i=1
y = ( iwi) ( iwi)
GDE Pni=1 i = 1 i > 0 8i: tAK KAK { UBYWA@]AQ FUNKCIQ, TO n X
n X
i=1
i=1
( iwi) ( iwi) max(w1 : : : wn) (min(w1 w2 : : : wn)):
tAKIM OBRAZOM, ZNA^ENIE CELEWOJ FUNKCII OT PRAWOJ ^ASTI DAET NAM WERHN@@ OCENKU.
62
2.11
mETOD WETWLENIQ I RAZBIENIQ
mOVNO ULU^ITX ALGORITM, RASSMOTRENNYJ W PREDYDU]EJ ^ASTI, I POSTROITX METOD WETWLENIQ I OTSE^ENIQ. mNOGIE METODY TAKOGO TIPA BYLI PREDLOVENY W POSLEDNIE GODY (SM. 74, 53]) I POKAZALI WYSOKU@ \FFEKTIWNOSTX DLQ RAZLI^NYH ZADA^. oDNAKO BOLXINSTWO METODOW BYLO POSTROENO DLQ OB]EJ ZADA^I LIPICEWA PROGRAMMIROWANIQ. sWOJSTWA MONOTONNOSTI CELEWOJ FUNKCII POZWOLQ@T UPROSTITX IZWESTNYE PROCEDURY OPTIMIZACII I ULU^ITX \FFEKTIWNOSTX. mY PREDLAGAEM ALGORITM, ISPOLXZU@]IJ SPECIALXNU@ STRUKTURU ZADA^I (2.32). dOPUSTIM, ^TO MOVNO NAJTI WERHN@@ OCENKU KOLI^ESTWA STACIONARNYH TO^EK NA DOPUSTIMOM MNOVESTWE (\TO MOVET BYTX SDELANO, NAPRIMER, DLQ CELEWYH FUNKCIJ-POLINOMOW). pREDPOLOVIM, ^TO MY MOVEM OPREDELITX, QWLQETSQ LI CELEWAQ FUNKCIQ WYPUKLOJ ILI WOGNUTOJ NA SIMPLEKSE. dLQ PROSTOTY POLOVIM X = S:
sIMPLICIALXNYJ METOD WETWLENIQ I OTSE^ENIQ
{AG 1. pOLAGAEM k := 0: wYBIRAEM NA^ALXNU@ TO^KU x0 2 S: wYBIRAEM NA^ALXNOE RAZBIENIE P0: wY^ISLQEM D(S ) KAK WERHN@@ OCENKU ^ISLA STACIONARNYH TO^EK NA S: pOLAGAEM D := 0 GDE D { KOLI^ESTWO NAJDENNYH STACIONARNYH TO^EK. {AG 2. pOLAGAEM xr := x0 fr := f (x0): {AG 3. rAZBIENIE Pk MOVET BYTX PREDSTAWLENO KAK Pk = fVk1 Vk2 : : : Vkik g: dLQ KAVDOGO SIMPLEKSA Vki WY^ISLQEM f^(Vki) f (x) 8x 2 K (Vki) f~(Vki) = f (m(Vki)) f (Vki) f (x) 8x 2 K (Vki): {AG 4. wY^ISLQEM f^(Vkj ) = max f^(Vki) i = 1 ik : {AG 5. eSLI fr f^(Vkj ) stop, xr { OPTIMALXNAQ TO^KA. iNA^E PEREHODIM K {AGU 6.
63
{AG 6. eSLI f WYPUKLA NA Vkj NAHODIM EE MAKSIMUM x NA Vkj (SRAWNIWAQ ZNA^ENIQ W WERINAH). pOLAGAEM y := x: eSLI f (x) > fr TO fr := f (x) xr := x: uDALITX Vkj IZ Pk I PEREJTI K {AGU 9. {AG 7. eSLI f WOGNUTA NA Vkj NAHODIM EE MAKSIMUM x NA Vkj (METODOM WYPUKLOGO PROGRAMMIROWANIQ). pOLAGAEM y := x: eSLI f (x) > fr TO fr := f (x) xr := x: uDALITX Vkj IZ Pk I PEREJTI K {AGU 9. {AG 8. nAJTI STACIONARNU@ TO^KU y 2 Vkj : eSLI f (y) > fr , TO fr := f (y) xr := y: {AG 9. eSLI y { STACIONARNAQ TO^KA f NA S TO D := D + 1: eSLI D D(S ) stop, TAK KAK xr { OPTIMALXNOE REENIE. {AG 10. dLQ KAVDOGO SIMPLEKSA Vki SDELATX SRAWNENIE f^(Vki) fr : eSLI NERAWENSTWO WYPOLNQETSQ, UDALITX Vki IZ Pk : {AG 11. dLQ KAVDOJ PARY SIMPLEKSOW Vki Vks SDELATX SRAWNENIQ f^(Vki) f (Vks) f^(Vki) f~(Vks)
(2.33)
(2.34) eSLI HOTQ BY ODNO IZ NERAWENSTW (2.33), (2.34) WYPOLNQETSQ, UDALITX SIMPLEKS Vki IZ Pk : {AG 12. eSLI Pk = stop, TAK KAK xr { OPTIMALXNOE REENIE. eSLI Vjk BYLO UDALENO IZ Pk TO WERNUTXSQ K {AGU 3 S Pk+1 := Pk nW k := k + 1 GDE W { MNOVESTWO UDALENNYH SIMPLEKSOW. iNA^E RAZBIWAEM MNOVESTWO Vkj :
pOLAGAEM tOGDA
Vkj = V1 V2 : : : Vq:
q j Pk+1 := (Pk nfVk g) ( fVi g): i=1
pOLAGAEM k := k + 1 I PEREHODIM K {AGU 3. dANNYJ ALGORITM IMEET RQD PREIMU]ESTW. pREVDE WSEGO, ON OBESPE^IWAET SOKRA]ENIE ^ISLA SIMPLEKSOW W RAZBIENII (\TO STANDARTNAQ PROCEDURA W METODAH WETWLENIQ I OTSE^ENIQ). dALEE, WOZMOVNO WSTAWITX METODY LOKALXNOJ OPTIMIZACII W POISK GLOBALXNOGO MAKSIMUMA ({AGI 6-7), TAK KAK WBLIZI GLOBALXNOGO MAKSIMUMA ONI BOLEE \FFEKTIWNY. bOLEE TOGO, WERHNIE OCENKI POZWOLQ@T UZNATX TO^NOSTX NAILU^EGO NAJDENNOGO REENIQ.
64
o^EWIDNO, MOVNO ISPOLXZOWATX METODY LOKALXNOGO POISKA DLQ WSEH SIMPLEKSOW RAZBIENIQ (NE TOLXKO Vkj A WSEH Vki). mOVNO TAKVE WY^ISLQTX WERHNIE OCENKI ^ISLA STACIONARNYH TO^EK DLQ KAVDOGO SIMPLEKSA RAZBIENIQ (I SRAWNIWATX IH S ^ISLOM NAJDENNYH \KSTREMUMOW). |TI MODIFIKACII TREBU@T DOPOLNITELXNYH WY^ISLENIJ, NO MOGUT PRIWESTI K BOLEE BYSTROMU REENI@ ZADA^I (WWIDU OTSE^ENIQ NEOPTIMALXNYH SIMPLEKSOW). uSTANOWIM SHODIMOSTX ALGORITMA. oKAZYWAETSQ, ESLI MOVNO REATX ZADA^I LOKALXNOJ OPTIMIZACII NA {AGAH 6-7 TO^NO, ALGORITM NAHODIT TO^NYJ GLOBALXNYJ OPTIMUM (INA^E ON NAHODIT EGO PRIBLIVENNO). tEOREMA 2.5 pUSTX WYPOLNQ@TSQ SLEDU@]IE PREDPOLOVENIQ: 1) gLOBALXNYJ OPTIMUM x EDINSTWEN. rAZBIENIE Pk { PRAWILXNOE RAZBIENIE DLQ KAVDOGO k: 2) cELEWAQ FUNKCIQ f LOKALXNO WYPUKLA ILI LOKALXNO WOGNUTA W OKRESTNOSTI x: 3) nA {AGE 12 IMEEM diam (Vi) diam (Vjk ) i = 1 q < 1: pREDPOLOVIM TAKVE, ^TO WYPOLNQ@TSQ USLOWIQ tEOREMY 2.4. tOGDA REENIE x BUDET NAJDENO ZA KONE^NOE ^ISLO ITERACIJ. dOKAZATELXSTWO. pO USLOWIQM TEOREMY DIAMETR Vjk STREMITSQ K NUL@. pOKAVEM WNA^ALE, ^TO MNOVESTWA Vjk BUDUT SODERVATX x BESKONE^NO MNOGO RAZ. pUSTX Pk { TEKU]EE RAZBIENIE I W { MNOVESTWO SIMPLEKSOW W NEM, SODERVA]IH x: oBOZNA^IM = (f ; sup f (x))=2: x2X nK (W )
|TO ZNA^ENIE POLOVITELXNO, TAK KAK f NEPRERYWNA I PO pREDPOLOVENI@ 1. pUSTX Vik 62 W { DRUGOJ SIMPLEKS IZ Pk . bEZ OGRANI^ENIQ OB]NOSTI MOVNO S^ITATX, ^TO diam Vik GDE > 0 MOVET BYTX PROIZWOLXNO MALO. tOGDA IMEEM f^(Vik ) f (x) + < f f^(Ws) 8x 2 Vik 8Ws 2 W
65
DLQ = 1( ): sLEDOWATELXNO, SIMPLEKS IZ W DAET NAIBOLXU@ WERHN@@ OCENKU, I ON BUDET WYBRAN KAK Vjk DLQ NEKOTOROGO k: pO pREDPOLOVENI@ 2 MNOVESTWO Vjk BUDET PRINADLEVATX OKRESTNOSTI B" TO^KI x GDE f WYPUKLA ILI WOGNUTA, DLQ NEKOTOROGO k = k: nO \TO OZNA^AET, ^TO OPTIMALXNOE REENIE BUDET NAJDENO NA {AGE 6 ILI {AGE 7 NA ITERACII k: tEOREMA DOKAZANA. 2 2.12
mETODY WETWEJ I GRANIC DLQ MINIMIZACII ABSTRAKTNO WYPUKLYH FUNKCIJ
rASSMOTRIM METODY WETWEJ I GRANIC DLQ OPTIMIZACII ABSTRAKTNO WYPUKLYH FUNKCIJ (SM. 70, 11, 95]). w ^ASTNOSTI, LIPICEWY FUNKCII (SM. 74]) MOGUT BYTX OPTIMIZIROWANY TAKIMI ALGORITMAMI. pROSTEJIE FORMY TAKIH METODOW OSNOWANY NA RAZBIENII DOPUSTIMOGO MNOVESTWA (MY PREDPOLAGAEM, ^TO ONO { EDINI^NYJ SIMPLEKS). nA KAVDOM \LEMENTE RAZBIENIQ W NEKOTOROJ TO^KE NAHODITSQ \LEMENT ABSTRAKTNOGO SUBDIFFERENCIALA, ^TO DAET NIVN@@ OCENKU OPTIMALXNOGO ZNA^ENIQ CELEWOJ FUNKCII. wOZMOVNY RAZLI^NYE STRATEGII. pROSTEJAQ IZ NIH { WYBIRATX \LEMENT RAZBIENIQ S NAIMENXEJ NIVNEJ OCENKOJ.
aLGORITM LU^EJ OCENKI {AG 0. wYBIRAEM NA^ALXNOE RAZBIENIE P0 DOPUSTIMOGO MNOVESTWA X = S: pOLAGAEM k := 0: {AG 1. pUSTX Pk = fS1k S2k : : : SNk k g GDE X SNi=1k Sik : dLQ KAVDOGO MNOVESTWA Sik WYBIRAEM KONE^NOE MNOVESTWO TO^EK Xik Sik : {AG 2. dLQ KAVDOGO MNOVESTWA Xik WY^ISLQEM \LEMENTY hki (y) 2 M (y) GDE y PRINIMAET WSEWOZMOVNYE ZNA^ENIQ W Xik : pOLAGAEM k (y ): h^ ki = max h k y 2X i i
66
{AG 3. mINIMIZIRUEM KAVDU@ FUNKCI@ h^ ki NA MNOVESTWE Sik : pOLAGAEM ^ ki (x): hki = xmin h k 2S i
{AG 4. wY^ISLQEM hkj = mini hki : {AG 5. rAZBIWAEM MNOVESTWO Sjk : pUSTX Sjk = S^k S~k : tOGDA Pk+1 := Pk nfSjk g S^k S~k : {AG 6. dLQ KAVDOGO MNOVESTWA Xik I WSEH y 2 Xik WY^ISLQEM f (y): pOLAGAEM f^ = miny f (y) TO ESTX f^ { ZNA^ENIE CELEWOJ FUNKCII W NAILU^EJ NAJDENNOJ TO^KE. {AG 7. uDALQEM IZ RAZBIENIQ WSE MNOVESTWA Sik DLQ KOTORYH h^ ki f^. {AG8. pOLAGAEM k := k + 1 I WOZWRA]AEMSQ K {AGU 1. |FFEKTIWNOSTX ALGORITMA ZAWISIT OT {AGOW 2 - 4. mY PREDLAGAEM WYPOLNITX NESKOLXKO ITERACIJ METODA SEKU]IH UGLOW DLQ OPREDELENIQ Xik (NA^ALXNAQ TO^KA MOVET BYTX WYBRANA PROIZWOLXNO IZ Sik ). |TO DAST NIVNIE OCENKI, SKOLX UGODNO BLIZKIE K OPTIMALXNOMU ZNA^ENI@. wMESTO RAZBIENIQ Sjk NA DWE ^ASTI MOVNO EGO RAZBIWATX NA PROIZWOLXNOE KOLI^ESTWO ^ASTEJ, METOD IZMENITSQ NESU]ESTWENNO. eSTX PO KRAJNEJ MERE DWE WOZMOVNOSTI RAZBIENIQ MNOVESTWA Sjk : pREDPOLOVIM, ^TO DOPUSTIMOE MNOVESTWO WYPUKLO. a) pUSTX Sjk { PROIZWOLXNOE WYPUKLOE MNOVESTWO. rASSMOTRIM ZADA^U ! max x ei 2 Sjk i = 1 n x 2 Sjk : pUSTX (x ) { REENIE \TOJ ZADA^I. oPREDELIM GIPERPLOSKOSTX fx : (a x) = (a x)g GDE a 2 IRn+ kak = 1: tOGDA RAZBIENIE OPREDELQETSQ SLEDU@]IM OBRAZOM: S^k = Sjk \ fx : (a x) (a x)g S~k = Sjk \ fx : (a x) (a x)g:
67
b) pUSTX Sjk { MNOGOGRANNIK, TO ESTX Sjk := co mi=1vi: wY^ISLIM kvr ; vsk = max kvj ; vik: ij
pUSTX w = (vr + vs)=2: wYBEREM WEKTOR b kbk = 1: pOLOVIM S^k = Sjk \ fx : (b x) (b w)g S~k = Sjk \ fx : (b x) (b w)g: dOPUSTIM, ^TO WYPOLNQ@TSQ SLEDU@]IE USLOWIQ: 1) nA KAVDOJ ITERACII k WYPOLNQ@TSQ NERAWENSTWA diam (S^k ) 1diam (Sjk ) (2.35) diam (S^k ) 2diam (Sjk ) (2.36) DLQ 0 < 1 2 < 1 2) wSE ABSTRAKTNYE SUBGRADIENTY hki NEPRERYWNY. tOGDA MY IMEEM, ^TO diam (Sjk ) " DLQ NEKOTOROGO k: mINIMALXNOE ZNA^ENIE MAKSIMUMA ABSTRAKTNYH SUBGRADIENTOW NA Sjk NE PREWOSHODIT f : pO\TOMU, W SILU NEPRERYWNOSTI I ABSTRAKTNOJ WYPUKLOSTI f , MY MOVEM NAJTI GLOBALXNYJ MINIMUM S L@BOJ ZARANEE ZADANNOJ TO^NOSTX@. dEJSTWITELXNO, DLQ NEKOTOROJ TO^KI y 2 Sjk IMEEM f (y) = h^ kj (y) h^ kj (~x) + f + GDE x~ { TO^KA IZ Sjk W KOTOROJ DOSTIGAETSQ MINIMUM h^ kj . mY IMEEM > 0, I MOVET STATX SKOLX UGODNO MALYM PRI UMENXENII ". mOVNO SOHRANQTX DIAMETRY MNOVESTW Sik POSTOQNNYMI I PROWODITX ITERACII METODA SEKU]IH UGLOW NA KAVDOM \LEMENTE RAZBIENIQ. sHODIMOSTX ALGORITMA K GLOBALXNOMU OPTIMUMU SLEDUET IZ SHODIMOSTI METODA SEKU]IH UGLOW. dLQ POWYENIQ \FFEKTIWNOSTI (^ISLO MNOVESTW W Pk MOVET STATX O^ENX BOLXIM) POLEZNO ISPOLXZOWATX GIBRIDNYE METODY, SO^ETAQ WETWLENIE S LOKALXNOJ OPTIMIZACIEJ.
mETOD WETWEJ I GRANIC S LOKALXNOJ OPTIMIZACIEJ
68
{AG 0. pOLAGAEM k := 0: wYBIRAEM NA^ALXNOE RAZBIENIE P0 I NA^ALXNU@ WERHN@@ OCENKU D0 ^ISLA STACIONARNYH TO^EK NA X: pOLAGAEM D := 0 GDE D { ^ISLO NAJDENNYH STACIONARNYH TO^EK. {AG 1. pUSTX Pk = fS1k S2k : : : SNk k g: dLQ KAVDOGO MNOVESTWA Sik WY^ISLQEM STACIONARNU@ TO^KU xki FUNKCII f (x) NA Sik : {AG 2. pROWERQEM, QWLQETSQ LI xki STACIONARNOJ TO^KOJ f (x) NA X (DLQ WSEH i). eSLI DA, POLAGAEM D := D + 1: {AG 3. eSLI D Dk stop, WSE STACIONARNYE TO^KI IZWESTNY. {AG 4. dLQ KAVDOJ TO^KI xki WY^ISLQEM f (xki) I \LEMENTY h^ ki 2 M (xki ): {AG 5. dLQ KAVDOGO i WY^ISLQEM yik = Arg min x2Sik h^ ki (x): {AG 6. pUSTX h^ kj (yjk ) h^ ki (yik ) DLQ WSEH i: rAZBIWAEM MNOVESTWO Sjk = S^jk S~jk : pOLAGAEM Pk+1 := Pk nfSjk g fS^jk g fS~jk g: {AG 7. oBNOWLQEM WERHN@@ OCENKU Dk : pOLAGAEM k := k + 1 I WOZWRA]AEMSQ K {AGU 1. pREIMU]ESTWO DANNOGO METODA W TOM, ^TO NE OBQZATELXNO WY^ISLQTX STACIONARNYE TO^KI DLQ WSEH Sik DOSTATO^NO NAJTI IH DLQ S^jk I S~jk (NA^INAQ S PERWOJ ITERACII). oSTALXNYE STACIONARNYE TO^KI IZWESTNY IZ PREDYDU]IH ITERACIJ. eSLI ZNA^ENIE h^ ki (yik ) BOLXE, ^EM f (xkl ) ILI f (ylk ) DLQ NEKOTOROGO l 6= i MNOVESTWO Sik MOVET BYTX UDALENO IZ RAZBIENIQ, TAK KAK ONO NE SODERVIT GLOBALXNYJ MINIMUM. tAKVE, ESLI f (x) WYPUKLA NA Sik (ILI Sik { SIMPLEKS, I f (x) WOGNUTA NA NEM), MOVNO NAJTI xki KAK GLOBALXNYJ MINIMUM f (x) NA Sik I UDALITX Sik IZ RAZBIENIQ. wERHNQQ OCENKA Dk ^ISLA STACIONARNYH TO^EK MOVET BYTX NAJDENA DLQ BOLXOGO ^ISLA CELEWYH FUNKCIJ, W ^ASTNOSTI, DLQ MNOGOMERNYH POLINOMOW. ~TOBY NAJTI \LEMENT ABSTRAKTNOGO SUBDIFFERENCIALA LIPICEWOJ FUNKCII, DOSTATO^NO ZNATX KONSTANTU lIPICA. mOVNO WZQTX (SM. TAKVE 68]), KAK OBY^NO, h^ ki (y) = f (xki ) ; Lky ; xki k: pREDPOLOVIM, ^TO SU]ESTWUET OKRESTNOSTX A GLOBALXNOGO OPTIMUMA,
69
TAKAQ, ^TO METOD LOKALXNOGO POISKA NAHODIT GLOBALXNYJ OPTIMUM, STARTUQ IZ L@BOJ TO^KI x0 2 A : pUSTX TAKVE WYPOLNENY NERAWENSTWA (2.35), (2.36). tOGDA, ESLI DIAMETRY SIMPLEKSOW STANOWQTSQ DOSTATO^NO MALY, TO^KA IZ A , SLEDOWATELXNO, I GLOBALXNYJ OPTIMUM BUDUT NAJDENY ZA KONE^NOE ^ISLO ITERACIJ. kONE^NO, PRIMENENIE ABSTRAKTNOGO WYPUKLOGO ANALIZA (SM. 70, 11, 95]) DOLVNO BYTX PODTWERVDENO ^ISLENNOJ \FFEKTIWNOSTX@ ALGORITMOW. rAZLI^NYE STRUKTURIROWANNYE ZADA^I GLOBALXNOJ OPTIMIZACII BYLI REENY \FFEKTIWNO \TOJ TEHNIKOJ (SM. 24]).
gLAWA 3 kWAZIWYPUKLOE PROGRAMMIROWANIE S KONI^ESKIM PROEKTIROWANIEM 3.1
oSNOWNYE PONQTIQ I OPREDELENIQ
w DANNOJ GLAWE RASSMATRIWAETSQ ZADA^A MINIMIZACII KWAZIWYPUKLYH FUNKCIJ, QWLQ@]IHSQ WAVNYM KLASSOM OBOB]ENNO WYPUKLYH FUNKCIJ (SM. 32, 33, 5, 73, 46]) I IME@]IH MNOGO^ISLENNYE PRIMENENIQ W \KONOMIKE. pREDLAGAETSQ ALGORITM SUBGRADIENTNOGO TIPA (SM. 51, 92, 67, 18, 10]). pUSTX D { ZAMKNUTOE WYPUKLOE MNOVESTWO IZ IRn: oPREDELENIE 3.1.1 4, 6, 7] wEKTOR g 2 IRn NAZYWAETSQ OBOB]ENNOOPORNYM K MNOVESTWU D W TO^KE x, ESLI DLQ L@BOGO y 2 D g y ; x] 0: eSLI NERAWENSTWO WYPOLNQETSQ STROGO DLQ y 6= x WEKTOR NAZYWAETSQ STROGO OBOB]ENNO-OPORNYM. pREDLOVENIE 3.1 pUSTX D D0 { DWA MNOVESTWA IZ IRn D D0: tOGDA KONUS OBOB]ENNO-OPORNYH WEKTOROW K D0 PRINADLEVIT KONUSU OBOB]ENNOOPORNYH WEKTOROW K D: |TO OZNA^AET, ^TO ESLI TREBUETSQ NAJTI OBOB]ENNO-OPORNYJ WEKTOR K MNOVESTWU, DOSTATO^NO NAJTI OBOB]ENNO-OPORNYJ WEKTOR K MNOVESTWU, EGO SODERVA]EMU. oPREDELENIE 3.1.2 gIPERPLOSKOSTX ; = fx 2 IRn : q x ; y] = 0g NAZYWAETSQ OBOB]ENNO-OPORNOJ GIPERPLOSKOSTX@ K D IRn W x 2 IRn ESLI q ILI ;q QWLQETSQ OBOB]ENNO-OPORNYM WEKTOROM K D W x:
71
eSLI q { STROGO OBOB]ENNO-OPORNYJ WEKTOR, ; NAZYWAETSQ STROGO OBOB]ENNO-OPORNOJ GIPERPLOSKOSTX@. oPREDELIM NEKOTORYE MNOVESTWA DLQ " > 0 I PROIZWOLXNOJ TO^KI y 2 IRn: pUSTX f { PROIZWOLXNAQ FUNKCIQ, OPREDELENNAQ NA Rn: tOGDA E"(y) = fx 2 D : f (x) f (y) ; "g E~"(y) = fx 2 D : f (x) < f (y) ; "g W"(y) = fg 2 IRn : g x ; y] 0 8x 2 E"(f y)g: eSLI " = 0 PIEM PROSTO E (y) U (y) W (y): |LEMENTY MNOVESTWA W"(y) NAZYWA@TSQ "-OBOB]ENNO-OPORNYMI WEKTORAMI DLQ f PO OTNOENI@ K MNOVESTWU D (SM. 4, 5, 6]). oPREDELENIE 3.1.3 wEKTOR g 2 IRn NAZYWAETSQ "-PODHODQ]IM NAPRAWLENIEM W TO^KE x PO OTNOENI@ K MNOVESTWU D DLQ FUNKCII f ESLI SU]ESTWUET > 0, TAKOE, ^TO x + g 2 E"(f y). eSLI " = 0 MY NAZYWAEM TAKOJ WEKTOR PODHODQ]IM NAPRAWLENIEM. mOVNO DATX ANALOGI^NOE OPREDELENIE "-OBOB]ENNO-OPORNYH WEKTOROW. oPREDELENIE 3.1.4 wEKTOR g 2 IRn NAZYWAETSQ "-OBOB]ENNO-OPORNYM WEKTOROM W TO^KE y ESLI DLQ L@BOGO "-PODHODQ]EGO NAPRAWLENIQ p W TO^KE y MY IMEEM g p] 0: dADIM E]E NESKOLXKO OPREDELENIJ. oPREDELENIE 3.1.5 fUNKCIQ f , OPREDELENNAQ NA WYPUKLOM MNOVESTWE D NAZYWAETSQ KWAZIWYPUKLOJ, ESLI DLQ L@BOGO 2 IR MNOVESTWO Lf () = fy 2 D : f (y) g WYPUKLO. |KWIWALENTNO, ESLI DLQ L@BYH x y WYPOLNQETSQ SLEDU@]EE NERAWENSTWO: f (x + (1 ; )y) maxff (x) f (y)g 8 2 0 1] TO FUNKCIQ KWAZIWYPUKLA. oPREDELENIE 3.1.6 fUNKCIQ f OPREDELENNAQ I DIFFERENCIRUEMAQ PO NAPRAWLENIQM NA OTKRYTOM WYPUKLOM MNOVESTWE D IRn NAZYWAETSQ PSEWDOWYPUKLOJ, ESLI DLQ L@BOJ TO^KI x 2 D IZ f 0(x y ; x) 0 SLEDUET f (y) f (x) DLQ WESH y 2 D:
72
zDESX f 0(x d) { PROIZWODNAQ FUNKCII f W TO^KE x PO NAPRAWLENI@ d: pUSTX NA D OPREDELENA WYPUKLAQ FUNKCIQ. oPREDELENIE 3.1.7 wEKTOR g0(y) 2 IRn NAZYWAETSQ SUBGRADIENTOM FUNKCII g W TO^KE y ESLI DLQ L@BOGO x 2 IRn g(x) ; g(y) g0(y) x ; y]: lEMMA 3.1 dLQ L@BOGO y 2 D WEKTOR g0(y) QWLQETSQ "-OBOB]ENNO OPORNYM WEKTOROM DLQ MNOVESTWA E"(y): 3.2
sWEDENIE ZADA^I KWAZIWYPUKLOGO PROGRAMMIROWANIQ K ZADA^E BEZUSLOWNOJ MINIMIZACII METODOM KONI^ESKOGO PROEKTIROWANIQ
pUSTX MY IMEEM SLEDU@]U@ ZADA^U OPTIMIZACII: min f (x) x 2 D GDE D { ZAMKNUTOE WYPUKLOE MNOVESTWO IZ IRn S NEPUSTOJ WNUTRENNOSTX@, f { KWAZIWYPUKLAQ NEPRERYWNAQ FUNKCIQ. oBOZNA^IM D = Arg min x2D f (x): pREDPOLOVIM, ^TO D 6= I POD "min" BUDEM PONIMATX GLOBALXNYJ MINIMUM. mY SWEDEM NA^ALXNU@ ZADA^U K ZADA^E BEZUSLOWNOJ MINIMIZACII KONI^ESKIM PROEKTIROWANIEM (SM. TAKVE 5, 9]). pUSTX IZWESTNY TO^KA z 2 intD I WEKTOR q STROGO OBOB]ENNO-OPORNYJ W \TOJ TO^KE K D: pREDPOLOVIM TAKVE, ^TO DLQ NEKOTOROJ TO^KI v 2 IRn WYPOLNQ@TSQ SLEDU@]IE NERAWENSTWA: q x ; v] 0 8x 2 D (3.1) q z ; v] > 0: oPREDELIM GIPERPLOSKOSTX U = fu 2 IRn : q u] = q v]g: pREDLOVENIE 3.2 gIPERPLOSKOSTX U { OBOB]ENNO-OPORNAQ W TO^KE v K MNOVESTWU D:
73
dOKAZATELXSTWO. dEJSTWITELXNO, IZ (3.1) SLEDUET, ^TO WEKTOR ;q QWLQETSQ OBOB]ENNO-OPORNYM WEKTOROM W v PO OTNOENI@ K D I PO\TOMU U { OBOB]ENNO-OPORNAQ GIPERPLOSKOSTX PO OPREDELENI@. 2 oPREDELIM SLEDU@]IE MNOVESTWA: I (u z) = ft 2 0 1] : u + t(z ; u) 2 Dg I (u z) = ft 2 0 1] : f (u + t(z ; u)) = t2min f (u + t(z ; u))g: I (uz )
nA GIPERPLOSKOSTI U OPREDELIM FUNKCI@
(u) = t2min f (u + t(z ; u)): I (uz )
pUSTX TAKVE WO
U = fu 2 U : (u) = min (u)g: u2 U
pREDLOVENIE 3.3 dLQ L@BYH u 2 U x 2 D WYPOLNQETSQ NERAWENSTf (z) (u) f (x):
dOKAZATELXSTWO. pRAWAQ ^ASTX SLEDUET IZ TOGO FAKTA, ^TO ) (u) = t2min f ( u + t ( z ; u )) f ( x I (uz )
A LEWAQ WYPOLNQETSQ, TAK KAK 1 2 I (u z):
2
oPREDELENIE 3.2.1 bUDEM GOWORITX, ^TO TO^KI x 2 D I u 2 U SOOT-
WETSTWU@T DRUG DRUGU, ESLI SU]ESTWUET t 2 I (u z), TAKOE, ^TO u + t(z ; u) = x:
eSLI FUNKCIQ f DOSTIGAET MINIMUMA NA D TO DLQ KAVDOGO u 2 U FUNKCIQ f (u + t(z ; u)) DOSTIGAET MINIMUMA NA I (u z): pO\TOMU KAVDOJ u 2 U SOOTWETSTWUET TO^KA x 2 D: oBRATNOE NEWERNO. sLEDU@]AQ TEOREMA UTWERVDAET, ^TO DLQ L@BOJ x 2 D NAJDETSQ SOOTWETSTWU@]AQ TO^KA u 2 U W KOTOROJ FUNKCIQ DOSTIGAET MINIMUMA NA U:
tEOREMA 3.1 pUSTX x 2 D: tOGDA:
74
1) sU]ESTWUET u 2 U SOOTWETSTWU@]AQ x 2 D, I z q v ; x] ; xq v ; z ] u = q z ; x]
(3.2)
2) ~ISLO t = q x ; v]=q z ; v] PRINADLEVIT I (u z ) 3) 0 t < 1 4) fUNKCIQ DOSTIGAET MINIMUMA NA U W u 5) minx2D f (x) = minu2U (u).
dOKAZATELXSTWO. iSPOLXZUQ KONI^ESKOE PROEKTIROWANIE, POLU^AEM, ^TO (3.2) SPRAWEDLIWO, TAK KAK ESTX EDINSTWENNAQ TO^KA NA LU^E z + (x ; z ) PRINADLEVA]AQ U . uMNOVAQ RAWENSTWO (3.2) NA q NAHODIM, ^TO u q] = v q]: sLEDOWATELXNO, u 2 U: lEGKO PROWERITX, ^TO q z ] > q u]: bOLEE TOGO, TAK KAK q { STROGO OBOB]ENNO-OPORNYJ WEKTOR W z K MNOVESTWU D MY IMEEM q x ; z] < 0: iZ \TOGO I OPREDELENIQ I (u z) SLEDUET, ^TO t < 1: pROSTYM RAS^ETOM, PRINIMAQ WO WNIMANIE (3.2), USTANAWLIWAEM, ^TO u + t(z ; u) = x:
tAK KAK x 2 D ^ISLO t 2 I (u z): pOKAVEM, ^TO t 2 I (u z): pO OPREDELENI@ MY IMEEM + t (z ; u)) f (u + t(z ; u)) = f (x): (u) = t2min f ( u I (u z )
nO PO pREDLOVENI@ 3.3 (u) f (x): pO\TOMU (u) = f (x) I + t(z ; u)) = f (u + t (z ; u)): min f ( u t2I (u z )
rAWENSTWO OZNA^AET, ^TO u 2 U t 2 I (u z): tEOREMA DOKAZANA. 2 tEOREMA 3.2 pUSTX u 2 U I x SOOTWETSTWUET u: tOGDA x 2 D: dOKAZATELXSTWO. dOPUSTIM, ^TO x 62 D. pUSTX x0 { PROIZWOLXNAQ TO^KA IZ D: tOGDA NAJDETSQ SOOTWETSTWU@]AQ TO^KA u0 2 U: nO (u) = f (x) > f (x0) = (u0):
|TO PROTIWORE^IT USLOWIQM TEOREMY. tEOREMA DOKAZANA.
2
75
dLQ WYBORA TO^EK z v I WEKTORA q WOZMOVNY RAZLI^NYE STRATEGII. w ^ASTNOSTI, IH MOVNO WYBRATX SLEDU@]IM OBRAZOM. mETODAMI WYPUKLOGO PROGRAMMIROWANIQ NAHODQTSQ PROIZWOLXNAQ TO^KA z 2 intD I STROGO OBOB]ENNO-OPORNYJ WEKTOR q W \TOJ TO^KE. nAPRIMER, ESLI f PSEWDOWYPUKLA I DIFFERENCIRUEMA, MY MOVEM WZQTX q = f 0(z) ESLI GRADIENT NENULEWOJ. zATEM WYBIRAEM 2 R I ZADAEM v = z ; q
(3.3)
GDE kqk;2 maxx2D q z ; x]. tAK KAK D D WEKTOR q { OBOB]ENNO-OPORNYJ K D: pRI \TOM > 0: u^ITYWAQ (3.3), POLU^AEM q v ; x] = q z ; x] ; kqk2 q z ; x] ; max q z ; x] 0: x2D
|TO OZNA^AET, ^TO ;q QWLQETSQ OBOB]ENNO-OPORNYM WEKTOROM K D W TO^KE v: ~TOBY STROITX ITERACIONNYE METODY, MOVET BYTX POLEZEN SLEDU@]IJ REZULXTAT. lEMMA 3.2 pUSTX DLQ NEKOTOROJ POSLEDOWATELXNOSTI fuk g WYPOLNQETSQ USLOWIE lim (uk ) = min (u): u2U k!+1 tOGDA DLQ POSLEDOWATELXNOSTI SOOTWETSTWU@]IH TO^EK IZ D MY IMEEM lim f (xk ) = min f (x): x2D
k!+1
eSLI ESTX TO^KA u, TAKAQ, ^TO ku ; uk ! 0 FUNKCIQ f NEPRERYWNA NA D I KAVDOJ u 2 U SOOTWETSTWUET ROWNO ODNA x 2 D TO SU]ESTWUET TO^KA x, TAKAQ, ^TO kx ; xk ! 0: dOKAZATELXSTWO. iMEEM ) = (u) lim ( u ) = lim f ( x ) = f ( x k k k!+1 k!+1
GDE x SOOTWETSTWUET u: dOKAVEM SILXNU@ SHODIMOSTX fxk g: pUSTX xk 2 D SOOTWETSTWUET uk 2 U x 2 D SOOTWETSTWUET u 2 U : tOGDA kxk ; xk = kuk + tk (z ; uk ) ; u ; t(z ; u)k =
76
= (1 ; tk )kuk ; uk + jtk ; tjkz ; uk: dOKAVEM, ^TO jtk ; tj ! 0 (TAK KAK KAVDOJ TO^KE u SOOTWETSTWUET ROWNO ODNA TO^KA x ZNA^ENIE t EDINSTWENNO). pREDPOLOVIM PROTIWNOE. tOGDA SU]ESTWUET PODPOSLEDOWATELXNOSTX ftl g l 2 L, TAKAQ, ^TO WYPOLNQETSQ
USLOWIE
jtl ; tj > " 8l 2 L
pODPOSLEDOWATELXNOSTX OGRANI^ENA, TAK ^TO IZ NEE MOVNO WYDELITX SHODQ]U@SQ PODPOSLEDOWATELXNOSTX L2. pUSTX liml2L tl = t: mY IMEEM jt ; tj ": oBOZNA^IM x = u + t(z ; u): tOGDA DLQ L@BOGO l 2 L2 2
kxl ; xk = kul + tl (z ; ul ) ; u ; t(z ; u)k =
= kul ; uk(1 ; tl ) + jtl ; tjkz ; uk: tAK KAK liml2L2 xl = x, WYPOLNENO RAWENSTWO liml2L2 f (xl) = f (x): nO TAKIM OBRAZOM MY POLU^ILI PROTIWORE^IE, TAK KAK f (xk) STREMITSQ K f (x) I f (x) > f (x), POSKOLXKU SOOTWETSTWU@]AQ TO^KA EDINSTWENNA. lEMMA DOKAZANA. 2
sLEDSTWIE 3.2.1 pUSTX f { LINEJNAQ FUNKCIQ, TO ESTX f (x) = c x] 8x 2
IRn: pUSTX TAKVE q = c I SU]ESTWUET u, TAKAQ, ^TO limk!+1 kuk ; uk = 0: tOGDA limk!+1 kxk ; xk = 0 GDE xk SOOTWETSTWUET uk x SOOTWETSTWUET u.
dOKAZATELXSTWO. w SILU LINEJNOSTI FUNKCII f ONA NEPRERYWNA. pO\TOMU DOSTATO^NO POKAZATX, ^TO KAVDOJ u 2 U SOOTWETSTWUET EDINSTWENNAQ TO^KA x 2 D. nO \TO SLEDUET IZ LINEJNOSTI CELEWOJ FUNKCII, TAK KAK FUNKCIQ f (u + t(z ; u)) MONOTONNA NA 0 1] I MINIMUM NA OTREZKE DOSTIGAETSQ W EDINSTWENNOJ TO^KE. sLEDSTWIE DOKAZANO. 2 3.3
sWOJSTWA MARGINALXNYH FUNKCIJ
iZU^IM NEKOTORYE SWOJSTWA MARGINALXNYH FUNKCIJ. pUSTX (u) = xmin f (x): 2a(u)
(3.4)
77
eSLI TO^E^NO-MNOVESTWENNOE OTOBRAVENIE PARAMETRIZOWANO, TO ESTX
a(u) = b(u z) z 2 IRs z(u) : U ! Z z 2z (u)Z
GDE b { OTOBRAVENIE IZ U Z W D FORMULA (3.4) PRINIMAET WID (u) = zmin f (b(u z)) = zmin f~(u z) 2Z (u) 2Z (u) I MOVET BYTX PREDSTAWLENA W WIDE (3.4). tAKIE SWOJSTWA MARGINALXNYH FUNKCIJ, KAK DIFFERENCIRUEMOSTX PO NAPRAWLENIQM I OBOB]ENNAQ WYPUKLOSTX, IZU^ALISX RQDOM AWTOROW (SM. 34] I SSYLKI W \TOJ RABOTE). pREDPOLOVIM, ^TO a(u) IMEET WYPUKLYE KOMPAKTNYE OBRAZY, TO ESTX DLQ L@BOGO u 2 U MNOVESTWO a(u) WYPUKLO I KOMPAKTNO. oBOZNA^IM Im(a) = u2U a(u) U = Arg min u2U (u) U"(u) = fu 2 U : (u) (u) ; "g: tEOREMA 3.3 pUSTX Im(a) D Im(a) \ D 6= : tOGDA f (x) = (u) DLQ WSEH x 2 D u 2 U : bOLEE TOGO, ESLI u 2 U TO a(u) \ D 6= I Arg min x2a(u) f (x) D. dOKAZATELXSTWO. pO USLOWIQM TEOREMY Im(a) \ D 6= TAK ^TO SU]ESTWUET TO^KA u 2 U , TAKAQ, ^TO a(u) \ D 6= : tOGDA SU]ESTWUET TO^KA x 2 a(u) 2 D I f (x) = f (x) PO POSTROENI@. zNA^ENIE WSEGDA RAWNO ZNA^ENI@ f W NEKOTOROJ TO^KE D: nO POSKOLXKU ) = (u) (u) = xmin f ( x ) = f ( x 2a(u) PERWAQ ^ASTX TEOREMY DOKAZANA. pUSTX TEPERX u 2 U: tOGDA (u) = f (x) IZ UKAZANNOGO WYE. dOPUSTIM, ^TO a(u) \ D = : tOGDA f (x) > f (x) DLQ WSEH x 2 a(u): w SILU KOMPAKTNOSTI I WYPUKLOSTI a WYPOLNQETSQ SOOTNOENIE ) = (u) min f ( x ) > f ( x x2a(u ) WEDU]EE K PROTIWORE^I@. nAKONEC, TAK KAK Arg min x2a(u)f (x) D I f (x) = f (x) DLQ x 2 D IMEEM Arg min x2a(u)f (x) 2 D: tEOREMA DOKAZANA. 2 sLEDU@]AQ TEOREMA SWQZYWAET LEBEGOWY MNOVESTWA CELEWOJ I MARGINALXNOJ FUNKCIJ.
78
tEOREMA 3.4 pUSTX Lf (c) = fx 2 D
(u) cg: tOGDA
: f (x) cg L (c) = fu 2 U :
L (c) = a;1(Im(a) \ Lf (c)) = a;1(v) v 2 Im(a) \ Lf (c)
GDE a;1 { OBRATNOE OTOBRAVENIE K a: dOKAZATELXSTWO. wNA^ALE POKAVEM, ^TO L (c) a;1(Im(a) \ Lf (c)): pUSTX u 2 a;1(Im(a) \ Lf (c)): tOGDA f (x) c: pO OPREDELENI@ MARGINALXNOJ FUNKCII IMEEM, ^TO (u) c ILI u 2 L (c): oBRATNO, PUSTX u 2 L (c): tOGDA W SOOTWETSTWU@]EJ TO^KE x (HOTQ BY ODNA TAKAQ SU]ESTWUET) WYPODNQETSQ f (x) = (u): tAK KAK x { SOOTWETSTWU@]AQ TO^KA, TO x 2 Im(a) I POSKOLXKU (u) = f (x) c TO x 2 Lf (c): pO OPREDELENI@ OBRATNOGO OTOBRAVENIQ, WYPOLNQETSQ WKL@^ENIE u 2 a;1(Im(a) \ Lf (c)) KOTOROE ZAWERAET DOKAZATELXSTWO TEOREMY. 2 wWEDEM SLEDU@]EE SEMEJSTWO MNOVESTW: R(u) = fx 2 a(u) : f (x) = (u) 8u 2 U g:
dLQ KAVDOGO FIKSIROWANNOGO u MNOVESTWO R(u) SOSTOIT IZ TO^EK, SOOTWETSTWU@]IH u: tEOREMA 3.5 pUSTX DLQ L@BYH u1 u2 I L@BOGO 2 0 1] WYPOLNQETSQ USLOWIE a(u1 + (1 ; )u2) \ C (u1 u2) 6= GDE C (u1 u2) = fx 2 IRn : x = x1 + (1 ; )x2 xi 2 R(ui) i = 1 2 2 0 1]g: tOGDA, ESLI FUNKCIQ f KWAZIWYPUKLA NA MNOVESTWE D FUNKCIQ KWAZIWYPUKLA NA MNOVESTWE U: dOKAZATELXSTWO. zAFIKSIRUEM SOOTWETSTWU@]IE TO^KI u1 u2 2 U I x1 2 R(u1) x2 2 R(u2): pO OPREDELENI@, (u1 + (1 ; )u2) = x2a(umin f (x): +(1;)u ) 1
2
bEZ OGRANI^ENIQ OB]NOSTI MY MOVEM PREDPOLOVITX, ^TO a(u1 + (1 ; )u2) \ co (x1 x2) 6=
79
TO ESTX SU]ESTWUET x 2 a(u1 + (1 ; )u2) 2 0 1] x = x1 + (1 ; )x2: tOGDA (u1 + (1 ; )u2) = x2a(umin f (x) f (x) = +(1;)u ) = f (x1 + (1 ; )x2) maxff (x1) f (x2)g: tAK KAK xi 2 Ri POLU^AEM f (xi) = (ui) i = 1 2 I TEOREMA DOKAZANA. 2 dANNAQ TEOREMA DAET DOSTATO^NYE USLOWIQ KWAZIWYPUKLOSTI DLQ FIKSIROWANNOJ CELEWOJ FUNKCII. uDOBNO, ODNAKO, OPREDELITX KLASS OTOBRAVENIJ, KOTORYE DA@T KWAZIWYPUKLU@ MARGINALXNU@ FUNKCI@ DLQ L@BOJ KWAZIWYPUKLOJ FUNKCII f: tEOREMA 3.6 pUSTX DLQ L@BYH TO^EK u1 u2 2 U I L@BYH TO^EK x1 2 a(u1) x2 2 a(u2) I ^ISLA 2 0 1] a(u1 + (1 ; )u2) \ x1 x2] 6= : (3.5) zDESX x1 x2] { OTREZOK MEVDU x1 I x2. tOGDA FUNKCIQ KWAZIWYPUKLA DLQ L@BOJ KWAZIWYPUKLOJ NEPRERYWNOJ FUNKCII f: dOKAZATELXSTWO. iSPOLXZUEM tEOREMU 3.5. pUSTX f { PROIZWOLXNAQ KWAZIWYPUKLAQ FUNKCIQ NA D: tOGDA DLQ KAVDOGO u 2 U MNOVESTWO R(u) NEPUSTO. dLQ L@BYH u1 u2 2 U MY IMEEM R(u1) a(u1) R(u2) a(u2) I a(u1 + (1 ; )u2) \ C (u1 u2) 6= : |TO ZNA^IT, ^TO WYPOLNENY USLOWIQ tEOREMY 3.5, I UTWERVDENIE DOKAZANO. 2 oBRATNOE TAKVE WERNO. tEOREMA 3.7 pUSTX DLQ L@BOJ NEPRERYWNOJ KWAZIWYPUKLOJ FUNKCII f FUNKCIQ KWAZIWYPUKLA. tOGDA OTOBRAVENIE UDOWLETWORQET USLOWI@ 3.5. dOKAZATELXSTWO. pREDPOLOVIM, ^TO \TO NEWERNO. tOGDA NAJDUTSQ TO^KI u1 u2 2 U x1 2 a(u1) x2 2 a(u2) I ^ISLO 2 0 1], TAKIE, ^TO a(u1 + (1 ; )u2) \ co (x1 x2) = : 1
2
80
zAMETIM, ^TO PRI = 0 I = 1 \TO USLOWIE NE WYPOLNQETSQ W SILU WYBORA x1 x2 : pOSTROIM FUNKCI@ F SLEDU@]IM OBRAZOM: F = dist(x co (x1 x2)) DLQ L@BOGO x 2 IRn, GDE dist OZNA^AET RASSTOQNIE OT TO^KI DO MNOVESTWA. |TA FUNKCIQ WYPUKLA I NEPRERYWNA, SLEDOWATELXNO, FUNKCIQ (u) = mint2I (uz) F (t) DOLVNA BYTX KWAZIWYPUKLA. nO \TO NEWOZMOVNO, POSKOLXKU (u1) = 0 (u2) = 0 I (u1 + (1 ; )u2) > 0. dANNOE PROTIWORE^IE DOKAZYWAET TEOREMU. 2 pRIMENIM tEOREMU 3.6, ^TOBY POSTROITX OBRATNOE OTOBRAVENIE DLQ FUNKCII : zAMETIM, ^TO MY IMEEM q v] ; q z] : a;1(x) = z + (x ; z) q x] ; q z] tEOREMA 3.8 pUSTX minx2D f (x) b < f (z): tOGDA L (b) = U \ (z + cone (Lf (b) \ V ; z)): (3.6) dOKAZATELXSTWO. pO PREDYDU]IM REZULXTATAM, L (b) = a;1(Im(a) \ Lf (b)) = a;1(V \ Lf (b)): tAK KAK b < f (z) z \ Lf (b) = IMEEM
q v] ; q z] ]: L (b) = a;1(V \ Lf (b)) = z + (x ; z ) q (3.7) x] ; q z] x2V \Lf (b) pOSKOLXKU q z] > q x] q v] DROBX STROGO POLOVITELXNA. tOGDA ZNA^ENIE W SKOBKAH PRINADLEVIT MNOVESTWU z + cone (Lf (b) \ V ; z): nEPOSREDSTWENNYM PODS^ETOM UBEVDAEMSQ, ^TO PRAWAQ ^ASTX (3.7) SOWPADAET S U \ (z + cone (Lf (b) \ V ; z)): 2 3.4
mETOD MINIMIZACII FUNKCII KONI^ESKOGO PROEKTIROWANIQ
uSTANOWIM SWQZX MEVDU OBOB]ENNO-OPORNYMI WEKTORAMI DLQ FUNKCII I f:
81
tEOREMA 3.9 pUSTX { FUNKCIQ KONI^ESKOGO PROEKTIROWANIQ, u
2
U x 2 D x 6= z { SOOTWETSTWU@]AQ TO^KA. pUSTX W TO^KE x IZWESTEN OBOB]ENNO-OPORNYJ WEKTOR g, TAKOJ, ^TO g z ; x] = 0:
tOGDA WEKTOR g = g ; g e]e { OBOB]ENNO-OPORNYJ DLQ FUNKCII W u GDE e = q=kqk: dOKAZATELXSTWO. wOZXMEM TO^KU x 2 D: tOGDA PO USLOWI@ g x ; x] 0: kROME TOGO, SU]ESTWU@T TO^KA u 2 U I ^ISLO t 2 0 1], TAKIE, ^TO x = u + t(z ;u): tOGDA kg u+t(z ;u);u;t(z ;uk = (1;t)(g u;u)+jt;tjg z ;u] 0. tAK KAK x = u + t(z ; u), IMEEM z ; x = (1 ; t)(z ; u) I g z ; u] = 0. sLEDOWATELXNO, (1 ; t)g u ; u] 0 I g u ; u] 0: tAK KAK x WYBRANO PROIZWOLXNO I KAVDOMU x 2 D SOOTWETSTWUET u 2 U TEOREMA DOKAZANA. 2 mY PRIMENQEM K MINIMIZACII FUNKCII KONI^ESKOGO PROEKTIROWANIQ METOD OBOB]ENNOGO GRADIENTNOGO SPUSKA S RASHODQ]IMSQ AGOM (ON MOVET BYTX PRIMENEN, TAK KAK (u) KWAZIWYPUKLA).
aLGORITM OBOB]ENNOGO GRADIENTNOGO SPUSKA S KONI^ESKIM PROEKTIROWANIEM
{AG 0. oPREDELQETSQ OBOB]ENNO-OPORNAQ GIPERPLOSKOSTX U = fx 2 IRn : q x] = qg. wYBIRAETSQ z IZ WNUTRENNOSTI D I u0 IZ U . pOLAGAEM k := 0: {AG 1. wY^ISLQETSQ TO^KA xk , SOOTWETSTWU@]AQ uk : xk = uk + tk (z ; uk ) tk = arg min t2I (uk z)f (uk + t(z ; uk )): {AG 2. w xk NAHODITSQ OBOB]ENNO-OPORNYJ WEKTOR gk DLQ FUNKCII f PO OTNOENI@ K D, TAKOJ, ^TO gk z ; uk ] = 0: {AG 3. pOLAGAEM ; gk e]e uk+1 = uk ; k kggk ; k gk e]ek GDE limk!+1 k = 0 P+k=01 k = +1.
82
{AG 4. pOLAGAEM k := k + 1 I WOZWRA]AEMSQ K {AGU 1. lEGKO POKAZATX, ^TO METOD \KWIWALENTEN OBOB]ENNOMU GRADIENTNOMU SPUSKU I POTOMU SHODITSQ. dEJSTWITELXNO, WEKTOR gk ; gk e]e - OBOB]ENNO-OPORNYJ DLQ MNOVESTWA U0(uk ) W TO^KE uk . tAK KAK AG WYBIRAETSQ IZ RASHODQ]EGOSQ RQDA, PO TEOREME IZ 92] MY IMEEM lim f^(xk ) = min f (x) = k!lim ^ (uk ) = min (u) x2D u2U k!+1 +1 f^(xk ) = 1min f (xi) ^ (uk ) = 1min (ui): ik ik mETOD MOVET PRIMENQTXSQ DLQ MINIMIZACII LINEJNOJ FUNKCII NA WYPUKLOM MNOVESTWE. tOGDA gk MOVNO WYBIRATX KAK OPORNYJ WEKTOR K DOPUSTIMOMU MNOVESTWU. mOVNO PRIMENITX W METODE "-OBOB]ENNO-OPORNYE WEKTORA. tOGDA PRI NEKOTORYH PREDPOLOVENIQH NAJDETSQ "-OPTIMALXNAQ TO^KA. w ZAKL@^ENIE GLAWY RASSMOTRIM E]E ODNU WOZMOVNOSTX REENIQ ZADA^I KWAZIWYPUKLOGO PROGRAMMIROWANIQ. pUSTX D = fx 2 IRn : F (x) 0g GDE F { KWAZIWYPUKLAQ FUNKCIQ. dOPUSTIM, ^TO IZWESTNA TO^KA z 2 IRn, TAKAQ, ^TO f f (z) f + ": pUSTX TAKVE W TO^KE z IZWESTEN OBOB]ENNO-OPORNYJ WEKTOR q K MNOVESTWU Q = fx 2 IRn : f (x) f (z)g. oPREDELIM GIPERPLOSKOSTX U = fx 2 IRn : q x] = q x] x 2 IRng:
o^EWIDNO, ONA OBOB]ENNO-OPORNAQ K MNOVESTWU Q (I, SLEDOWATELXNO, K D), ESLI WYPOLNQ@TSQ USLOWIQ q x ; z ] < 0 q y ; x] 0 8y 2 Q: tOGDA MY MOVEM WWESTI SLEDU@]U@ WSPOMOGATELXNU@ FUNKCI@ NA U : (u) = t2min F (u + t(z ; u)) I (uz ) GDE I (u z) = ft 2 0 1] : f (u + t(z ; u)) f + " " > 0g: mNOVESTWO I (u z) f1g I PO\TOMU NEPUSTO. mY STAWIM SLEDU@]U@ ZADA^U BEZUSLOWNOJ OPTIMIZACII: min (u) (3.8) u2U
83
lEMMA 3.3 pUSTX u { REENIE ZADA^I(3.8), x { SOOTWETSTWU@]AQ
TO^KA IZ MNOVESTWA fx 2 IRn : f (x) f + "g TO ESTX x = u + t(z ; u) t 2 I (u z ) t = arg min t2I (uz)F (u + t(z ; u)). tOGDA x 2 D" = fx 2 D : f (x) f + "g:
dOKAZATELXSTWO. pO POSTROENI@, TAK KAK x { SOOTWETSTWU@]AQ TO^KA, MY IMEEM f (x) f + ": |TO SLEDUET IZ OPREDELENIQ MNOVESTWA I (u z) I OPREDELENIQ SOOTWETSTWU@]IH TO^EK. bOLEE TOGO, POLAGAQ D I D NEPUSTYMI, MY IMEEM min F (x) 0 x 2 IRn f (x) f + ": zADA^A (3.8) \KWIWALENTNA MINIMIZACII FUNKCII MAKSIMUMA IZ OGRANI^ENIJ NA MNOVESTWE TO^EK, DLQ KOTORYH f (x) f + ": rEIW EE, POLU^IM "-OPTIMALXNU@ TO^KU ISHODNOJ ZADA^I. eSLI f NEIZWESTNO, MOVNO ISPOLXZOWATX L@BOE ^ISLO I POLU^ITX "-OPTIMALXNU@ TO^KU UMENXENIEM OCENKI f . 2
gLAWA 4 rEENIE ZADA^I O GAMILXTONOWOM CIKLE ^EREZ MARKOWSKIE CEPI I FUNKCII TIPA MINIMUMA 4.1
fORMULIROWKA
mY RASSMATRIWAEM ZADA^U O GAMILXTONOWOM CIKLE (zgc) S NESKOLXKO NEORTODOKSALXNOJ TO^KI ZRENIQ, OSNOWANNOJ NA WKL@^ENII W MARKOWSKIJ PROCESS REENIQ (mpr), RAZRABOTANNOM fILAROM I kRASSOM W 40] I ~ENOM I fILAROM W 41]. w \TOJ ^ASTI MY DAEM FORMULIROWKU zgc W WIDE ZADA^I GLOBALXNOJ OPTIMIZACII, KOTORAQ ISPOLXZOWALASX DLQ ^ISLENNYH \KSPERIMENTOW. sLEDUET OTMETITX, ^TO REZULXTATY MONOGRAFII STIMULIROWALISX BOLEE RANNIMI POPYTKAMI fILARA, oBERIE I pARDALOSA (43]). fORMULIROWKA zgc, ANALIZIRUEMAQ ZDESX, SLEDU@]AQ: PUSTX DAN ORIENTIROWANNYJ GRAF G S N WERINAMI NAJTI W NEM PROSTOJ CIKL IZ N WERIN, TO ESTX GAMILXTONOW CIKL, ILI OPREDELITX, ^TO ON NE SU]ESTWUET. wRQD LI CELESOOBRAZNO PREDSTAWLQTX POLNU@ BIBLIOGRAFI@ PO \TOJ KLASSI^ESKOJ ZADA^E. wMESTO \TOGO MY OTSYLAEM ^ITATELQ K MONOGRAFII 71]. w DANNOJ RABOTE zgc SFORMULIROWANA KAK NAHOVDENIE GLOBALXNOGO MINIMUMA (SO ZNA^ENIEM CELEWOJ FUNKCII, RAWNYM 0) NADLEVA]IM OBRAZOM POSTROENNOJ ZADA^I KWADRATI^NOGO PROGRAMMIROWANIQ: min x0 Qx Ax = b
(4.1) (4.2)
85
x 0:
(4.3)
~ASTX 4.2 MOTIWIRUET POLU^ENIE DANNOJ ZADA^I, DOKAZATELXSTWO \KWIWALENTNOSTI KOTOROJ zgc PODROBNO IZLOVENO W 40]. dLQ NAS BOLEE UDOBNO NEPOSREDSTWENNO OPISATX STRUKTURU MATRIC Q A I WEKTORA b, NE WHODQ W DETALI IH PROISHOVDENIQ. oBOZNA^ENIQ. dOPUSTIM, ^TO GRAF G NE IMEET PETELX, I PUSTX A(i) { MNOVESTWO REBER, WYHODQ]IH IZ WERINY i: pREDPOLOVIM, ^TO ni = jA(i)j 1 8i 2 E = f1 2 : : : N g
TO ESTX SU]ESTWUET HOTQ BY ODNO REBRO, WYHODQ]EE IZ KAVDOJ WERINY, INA^E zgc BYLA BY TRIWIALXNOJ. rEBRO, WYHODQ]EE IZ WERINY i, OBRAZUET UPORQDO^ENNU@ PARU (i a). kOGDA O^EWIDNO, KAKOWO NA^ALO REBRA, MY BUDEM OBOZNA^ATX EGO TOLXKO PO EGO KONCU. nAPRIMER, ESLI TEKU]AQ WERINA i I RASSMATRIWAETSQ REBRO (i a), ONO BUDET OBOZNA^ATXSQ PROSTO a. pUSTX " 2 (0 1) FIKSIROWANO. oPREDELIM NX ;2 dN (") = 1 + (1 ; ")k;2: k=2 dALEE, DLQ L@BYH i j 2 E I a 2 A(i) OPREDELIM KO\FFICIENTY pija("): 8 > 1 ESLI i = 1 I a = j > > > > 0 ESLI i = 1 I a 6= j > > > < 1 ESLI i > 1 I a = j = 1 pija(") = > > " ESLI i > 1 a 6= j I j = 1 > > > 1 ; " ESLI i > 1 a = j I j > 1 > > > : 0 ESLI i > 1 a 6= j I j > 1: iNTERPRETACIQ \TIH KO\FFICIENTOW DANA NIVE W RAZDELE 4.2. mATRICA A I WEKTOR b IZ (4.3) OPREDELQ@TSQ SLEDU@]EJ SISTEMOJ LINEJNYH OGRANI^ENIJ: P P (C 1) i2E a2A(i) (ij ; pija("))xia = 0 j 2 E P P (C 2) i2E a2A(i) xia = 1 P (C 3) a2A(i) xia = 1=dN (") (C 4) xia 0 i 2 E a 2 A(i):
86
tAK, A ESTX m-MERNAQ MATRICA m = (N +2)(PNi=1 ni) I b0 = (0 0 : : : 1 1=dN (")) { (N + 2)-MERNYJ WEKTOR. zDESX ij { SIMWOL kRONEKERA. mATRICA Q ESTX (PNi=1 ni) (PNi=1 ni)-MERNAQ BLO^NO-DIAGONALXNAQ MATRICA, i-J DIAGONALXNYJ BLOK KOTOROJ ESTX ni ni MATRICA Qi = Ji ; Ii, GDE Ji { MATRICA IZ ODNIH EDINIC I Ii { EDINI^NAQ MATRICA SOOTWETSTWU@]EJ RAZMERNOSTI. w SOOTWETSTWII S TEORETI^ESKIMI REZULXTATAMI RAZDELA 4.2, ESLI x UDOWLETWORQET USLOWIQM (C 1) ; (C 4) I x0 Qx = 0 TO POLOVITELXNYE KOMPONENTY x OPREDELQ@T GAMILXTONOW CIKL W G: pRIMER 1 WZQT IZ (41]). rASSMOTRIM POLNYJ GRAF G S ^ETYRXMQ WERINAMI (BEZ PETELX). pRI " = 0:1 \LEMENTY ZADA^I KWADRATI^NOGO PROGRAMMIROWANIQ (4.3) SLEDU@]IE: 0 1 Q 0 0 0 BB 1 C BB 0 Q2 0 0 CCC BB C BB 0 0 Q3 0 CCC @ A
0 0 0 Q4
GDE DLQ i = 1 2 3 4 IMEEM
0 1 0 1 1 BB CC B Qi = B@ 1 0 1 CCA :
1 1 1
wEKTOR b0 = (0 0 0 0 1 0:2695) I MATRICA KO\FFICIENTOW A PRI DANNOM ZNA^ENII " ESTX 2 3 66 1 1 1 ;1 ;0:1 ;0:1 ;1 ;0:1 ;0:1 ;1 ;0:1 ;0:1 77 66 ;1 0 0 1 1 1 0 ;0:9 0 0 ;0:9 0 777 66 77 66 0 ;1 0 0 ;0:9 0 1 1 1 0 0 ; 0 : 9 77 : 66 66 0 0 ;1 0 0 ;0:9 0 0 ;0:9 1 1 1 777 66 64 1
1
1 1
1 1
1 0
1 0
1 0
1 0
1 0
1 0
1 0
1 0
1 0
77 75
lEGKO PROWERITX, ^TO GLOBALXNYJ MINIMUM ZADA^I KWADRATI^NOGO PROGRAMMIROWANIQ, PRIWEDENNOJ WYE, DOSTIGAETSQ W TO^KE x0 = (0:2695 0 0 0 0:2695 0 0 0 0:2425 0:2183 0 0)
87
POLOVITELXNYE KOMPONENTY KOTOROJ OPREDELQ@T GAMILXTONOW CIKL: 1 ! 2 ! 3 ! 4 ! 1: kONE^NO, ZADA^A GLOBALXNOJ OPTIMIZACII (4.3), W PRINCIPE, O^ENX TRUDNAQ ZADA^A, TAK KAK Q { NEOPREDELENNAQ MATRICA. mY ISPOLXZUEM DLQ REENIQ (4.3) FUNKCII TIPA MINIMUMA (SM. gLAWY 1-2). zAMETIM, ^TO DLQ x, DOPUSTIMOJ DLQ KWADRATI^NOJ ZADA^I, IMEEM x0 Qx = 0 (4.4) TOGDA I TOLXKO TOGDA, KOGDA N X X i=1 a6=b
xiaxib = 0
(4.5)
^TO WYPOLNQETSQ, TOLXKO ESLI N X
i=1
minfxia xibg = 0:
(4.6)
pO\TOMU ZADA^A OPREDELENIQ, RAWEN LI GLOBALXNYJ MINIMUM (4.3) NUL@, MOVET BYTX SWEDENA K SLEDU@]EJ ZADA^E GLOBALXNOJ OPTIMIZACII: min min minfxia xibg x max i a6=b
(4.7)
PRI OGRANI^ENIQH (C 1) ; (C 4): w OB]EM SLU^AE REENIE ZADA^I (4.7) TRUDNO S ALGORITMI^ESKOJ TO^KI ZRENIQ. oDNAKO W NAEM SLU^AE (4.7) MOVNO REITX NAHOVDENIEM L@BOGO DOPUSTIMOGO REENIQ ZADA^I ^ASTI^NO CELO^ISLENNOGO PROGRAMMIROWANIQ: min
N X X i=1 a2A(i)
ciaxia
(C 1) ; (C 4) (C 5) xia Myia i 2 E a 2 A(i) (C 6) yia + yib 1 i 2 E a b 2 A(i) a 6= b (C 7) yia 2 f0 1g i 2 E a 2 A(i) GDE M 1=dN (") I cia { NEKOTORYE ^ISLA, NE WSE RAWNYE NUL@.
(4.8) (4.9)
wO MNOGIH SLU^AQH FORMULIROWKA ZADA^ S POMO]X@ FUNKCIJ TIPA MINIMUMA PREDPO^TITELXNEE KWADRATI^NOGO PROGRAMMIROWANIQ, TAK KAK SOHRANQ@TSQ NEKOTORYE SWOJSTWA LINEJNOSTI. nEGLADKOSTX CELEWOJ FUNKCII
88
NE QWLQETSQ NEDOSTATKOM, TAK KAK PROIZWODNYE POLEZNY W LOKALXNOJ OPTIMIZACII, A DLQ REENIQ zgc NUVNA GLOBALXNAQ. w SLEDU@]EJ ^ASTI MY POKAVEM, ^TO PRI NADLEVA]EM WYBORE " M I cia ZADA^A (4.9) BYSTRO REAETSQ DLQ ZADA^ UMERENNOGO RAZMERA. sLEDUET OTMETITX, ^TO KO\FFICIENT cia MOVNO RASSMATRIWATX KAK STOIMOSTX TRANSPORTIROWKI WDOLX REBRA ia: pO\TOMU ZADA^U KOMMIWOQVERA (SM. 63]) MOVNO REITX, ISPOLXZOWAW MODELX (4.9). dEJSTWITELXNO, PEREMENNAQ yia RAWNA EDINICE, ESLI REBRO ia WKL@^AETSQ W MARRUT, I NUL@ W PROTIWNOM SLU^AE. tAKIM OBRAZOM, OGRANI^ENIQ ZADA@T GAMILXTONOW CIKL, A CELEWAQ FUNKCIQ DAET EGO STOIMOSTX, TAK ^TO MY PEREFORMULIROWALI ZADA^U KOMMIWOQVERA. 4.2
wKL@^ENIE zgc W MARKOWSKIJ PROCESS REENIQ
w NASTOQ]EM RAZDELE MY SLEDUEM PODHODU fILARA I kRASSA (SM. 40]) I ~ENA I fILARA (SM. 41]) K zgc. rASSMOTRIM OB_EKT, DWIVU]IJSQ PO NAPRAWLENNOMU PUTI GRAFA G, PRI^EM EGO DWIVENIE "KONTROLIRUETSQ" FUNKCIEJ f , OTOBRAVA@]EJ WERINY N W REBRA A: |TA FUNKCIQ INDUCIRUET N N -MERNU@ MARKOWSKU@ MATRICU P (f ) SO ZNA^ENIQMI 0-1, POLOVITELXNYE ZNA^ENIQ KOTOROJ SOOTWETSTWU@T REBRAM, WYBRANNYM f W SOOTWETSTWU@]IH WERINAH. pREDPOLOVIM, ^TO DWIVENIE PRODOLVAETSQ BESKONE^NO, I RASSMOTRIM P (f ) KAK MARKOWSKU@ CEPX S EE STACIONARNYM RASPREDELENIEM, SODERVA]IMSQ W MATRICE PREDELOW SUMM ~EZARO: T 1X P (f ) := Tlim P t;1(f ) !1 T t=1
GDE P 0(f ) := IN : w 40] I 41] IZU^ALOSX OTNOENIE MEVDU \RGODI^ESKIMI KLASSAMI I WREMENNYMI SOSTOQNIQMI TAKIH MARKOWSKIH CEPEJ I WOZMOVNYMI CIKLAMI W GRAFE. ~TOBY UTO^NITX RASSUVDENIQ, SDELANNYE WYE, FORMALXNO WWEDEM mpr
89
SOSTOQNIQ-DEJSTWIQ KAK KORTEV ; = fE A r pg, GDE E = f1 2 : : : N g { MNOVESTWO SOSTOQNIJ, A = Si A(i) S A(i) = f1 2 : : : nig { MNOVESTWO DEJSTWIJ, WOZMOVNYH W SOSTOQNII i DLQ KAVDOGO i 2 E r = fr(i a)ja 2 A(i) i 2 S g { MNOVESTWO WOZMOVNYH (NEPOSREDSTWENNYH) PREMIJ I p = fpiaj ja 2 A(i) i j 2 S g { MNOVESTWO (ODNOAGOWYH) WEROQTNOSTEJ PEREHODA. sTACIONARNAQ POLITIKA f W ; ESTX MNOVESTWO N WEROQTNOSTNYH WEKTOROW
f (i) = (f (i 1) f (i 2) : : : f (i ni))
GDE f (i k) OZNA^AET WEROQTNOSTX WYBORA DEJSTWIQ k W SOSTOQNII i, KOGDA ONO WSTRE^AETSQ. oBOZNA^IM MNOVESTWO WSEH STACIONARNYH POLITIK ^EREZ C (S ): dETERMINISTSKAQ POLITIKA f { \TO POLITIKA, PRI KOTOROJ EDINSTWENNOE DEJSTWIE WYBIRAETSQ S WEROQTNOSTX@ 1 W KAVDOM SOSTOQNII, I MY PIEM f (i) = k DLQ i 2 E: dLQ L@BYH f NA^ALXNOGO RASPREDELENIQ j 2 E I a 2 A(j ) OPREDELIM T X N X x0ja(f ) = T1 iP (f )(Xi = j Yi = ajX1 = i): i=1 i=1
(4.10)
dALEE OBOZNA^IM ^EREZ X (f ) MNOVESTWO PREDELXNYH TO^EK WEKTOROW fx0 (f )jT = 1 2 : : :g, GDE x0 (f ) ESTX PNi=1 jA(i)j-MERNYJ WEKTOR S KOMPONENTAMI, OPREDELQEMYMI (4.10). eSLI X (f ) = fx0 (f )g { ODNA TO^KA, TO ZNA^ENIQ xia(f ) IZ x(f ) MOGUT BYTX INTERPRETIROWANY KAK DOLGOWREMENNYE OVIDAEMYE ^ASTOTY SOSTOQNIQ-DEJSTWIQ, POROVDAEMYE f: pODOBNYM OBRAZOM DOLGOWREMENNYE OVIDAEMYE ^ASTOTY NAHOVDENIQ W SOSTOQNII j 2 E PRI f DA@TSQ FORMULOJ xj (f ) =
X
a2A(j )
xja(f ):
(4.11)
mpr NAZYWAETSQ PROCESSOM S ODNOJ CEPX@, ESLI DLQ L@BOJ DETERMINISTSKOJ POLITIKI f MARKOWSKAQ CEPX, INDUCIROWANNAQ P (f ), IMEET ODIN \RGODI^ESKIJ KLASS PL@S (WOZMOVNO PUSTOE) MNOVESTWO WREMENNYH SOSTOQNIJ. rASSMOTRIM SLEDU@]U@ ZADA^U LINEJNOGO PROGRAMMIROWANIQ (LP1): max
X X
i2A a2A(i)
riaxia
(4.12)
90
(L) (L2) (L3)
P
P
i2E a2A(i) (ij ; piaj )xia = 0 j P P i2E a2A(i) xia = 1 xia 0 i 2 E a 2 A(i)
2 E
GDE ij { SIMWOL kRONEKERA. pUSTX X { DOPUSTIMOE MNOVESTWO DANNOJ ZADA^I I C (S ) OBOZNA^AET KLASS STACIONARNYH STRATEGIJ mpr S ODNOJ CEPX@. rASSMOTRIM OTOBRAVENIE T : X ! C (S ), GDE T (x) = fx OPREDELQETSQ KAK 8 > > < xia=xi fx(i a) = > 1 > :
ESLI xi = Pa2A(i) xia > 0 ESLI xi = 0 I a = a1 0 ESLI xi = 0 I a 6= a1 DLQ KAVDOGO i 2 E I a 2 A(i) GDE a1 OZNA^AET PERWOE WOZMOVNOE DEJSTWIE W DANNOM SOSTOQNII SOGLASNO NEKOTOROMU UPORQDO^ENI@. rASSMOTRIM TAKVE OTOBRAVENIE T^ : C (S ) ! X , GDE T^(f ) = x(f ) OPREDELENO W SOOTWETSTWII S (4.10) I (4.11) KAK xia(f ) = p(f )f (i a) i 2 E a 2 A(i):
(4.13)
w DANNOM RAWENSTWE pi (f ) { i-Q KOMPONENTA EDINSTWENNOGO WEKTORA FIKSIROWANNYH WEROQTNOSTEJ (WEKTORA STACIONARNOGO RASPREDELENIQ) P (f ): pREOBRAZOWANIQ T I T^ IZU^ALISX RQDOM AWTOROW (SM., NAPRIMER, 36], 59]). rASSMOTRIM TEPERX ORIENTIROWANNYJ WZWEENNYJ GRAF G S MNOVESTWOM WERIN V = f1 : : : N g, MNOVESTWOM REBER A I WESAMI cij , SWQZANNYMI S REBRAMI (i j ): pUSTX G1 G { ORIENTIROWANNYJ PODGRAF G S TEM VE MNOVESTWOM WERIN V I MNOVESTWOM REBER A1 = f(i j )j DLQ KAVDOGO i 2 V SU]ESTWUET TOLXKO ODIN j 2 V , TAKOJ, ^TO ODNO REBRO WYHODIT IZ KAVDOJ WERINY G1g: pERWYJ mpr, KOTORYJ MY ASSOCIIRUEM S G { PROCESS ; = fE A R pg E = f1 2 : : : N g { MNOVESTWO WERIN G A(i) = fj 2 E j(i j ) 2 Ag DLQ KAVDOGO i 2 E I A = SNi=1 A(i) r = fr(i j ) = ;cij jj 2 A(i) i 2 E g I p = fp(j ji a)ja 2 A(i) i j 2 E g S p(j ji a) = ij . dOPUSTIM, ^TO 1 { NA^ALXNOE SOSTOQNIE. bUDEM GOWORITX, ^TO DETERMINISTSKAQ POLITIKA f W ; POROVDAET GAMILXTONOW CIKL, ESLI PODGRAF G1 S MNOVESTWOM REBER f(1 f (1)) (2 f (2)) : : : (N f (N ))g ESTX GAMILXTONOW CIKL W G. eSLI PODGRAF G1 IMEET CIKLY DLINOJ MENXE N BUDEM GOWORITX, ^TO f IMEET PODCIKL W G: eSLI PODGRAF G1 SODERVIT CIKL DLINY k MY GOWORIM, ^TO
91
f IMEET k-PODCIKL. sKAZANNOE WYE MOVNO PROILL@STRIROWATX NA POLNOM GRAFE IZ ^ETYREH WERIN BEZ PETELX. nAPRIMER, POLITIKA f , TAKAQ, ^TO f (1) = 2 f (2) = 1 f (3) = 4 I f (4) = 3, INDUCIRUET SLEDU@]IJ PODGRAF Gf = f(1 2) (2 1) (3 4) (4 3)g, SODERVA]IJ DWA 2-PODCIKLA. zAMETIM, ^TO f INDUCIRUET TAKVE MARKOWSKU@ CEPX S MATRICEJ WEROQTNOSTEJ PEREHODA 2 3 0 1 0 0 66 7 66 1 0 0 0 777 77 P (f ) = 666 64 0 0 0 1 775
0 0 1 0
KOTORAQ IMEET DWA \RGODI^ESKIH KLASSA, SOOTWETSTWU@]IH PODCIKLAM W Gf . wOOB]E L@BAQ STACIONARNAQ POLITIKA 2 C (S ) POROVDAET MATRICU WEROQTNOSTEJ PEREHODA P (f ) = pij (f ) GDE DLQ WSEH IMEEM i j 2 S pij (f ) =
X
a2A(i)
p(i a j )ia:
eSLI DLQ KAVDOGO F 2 C (S ) MARKOWSKAQ CEPX P (f ) SODERVIT TOLXKO ODIN \RGODI^ESKIJ KLASS (PL@S, WOZMOVNO, WREMENNYE SOSTOQNIQ), mpr GRAFA ; NAZYWAETSQ mpr S ODNOJ CEPX@. pO RQDU TEHNI^ESKIH PRI^IN mpr S ODNOJ CEPX@ LEG^E ANALIZIROWATX. mY WIDELI IZ PREDYDU]EGO PRIMERA, ^TO PRQMOE WKL@^ENIE G W ; INDUCIRUET \RGODI^ESKU@ STRUKTURU SO MNOGIMI CEPQMI. |TA I DRUGIE TEHNI^ESKIE TRUDNOSTI IS^EZLI BY, ESLI BY ; BYL mpr S ODNOJ CEPX@. wWIDU UKAZANNOGO WYE, W 40] I 41] ZAKON DWIVENIQ W ; BYL WOZMU]EN I BYLI WWEDENY WEROQTNOSTI p(") = piaj (")j(i a j ) 2 S A(i) S g, GDE DLQ L@BOGO " 2 (0 1) MY OPREDELQEM 8 > 1 > > > > 0 > > > < piaj (") = > 1 > " > > > 1 ; " > > > : 0
ESLI i = 1 I a = j , ESLI i = 1 I a 6= j , ESLI i > 1 I a = j = 1 ESLI i > 1 a 6= j I j = 1, ESLI i > 1 a = j I j > 1 ESLI i > 1 a 6= j I j > 1:
92
zAMETIM, ^TO 1 OZNA^AET NA^ALXNU@ WERINU. dLQ KAVDOJ PARY WERIN i j (NE RAWNYH 1), SOOTWETSTWU@]IH (DETERMINISTSKOMU) REBRU (i j ), NAE WOZMU]ENIE ZAMENQET \TO REBRO PAROJ "STOHASTI^ESKIH REBER" (i 1) I (i j ) S WESAMI " I 1 ; " SOOTWETSTWENNO (" 2 (0 1)). sTOHASTI^ESKOE WOZMU]ENIE IMEET TU INTERPRETACI@, ^TO REENIE DWIGATXSQ WDOLX REBRA (i j ) PRINIMAETSQ S WEROQTNOSTX@ 1 ; " I S WEROQTNOSTX@ " MY WOZWRA]AEMSQ W NA^ALXNU@ WERINU 1. zAMETIM, ^TO "-WOZMU]ENNYJ PROCESS ;(") = fE A r p(")g, O^EWIDNO, STREMITSQ K ;, KOGDA " ! 0: |TOT PROCESS IMEET SLEDU@]IE SWOJSTWA, KOTORYE MOVNO NAJTI W 41].
lEMMA 4.1
1) mpr ;(") QWLQETSQ mpr S ODNOJ CEPX@.
2) rASSMOTRIM MARKOWSKU@ CEPX, INDUCIROWANNU@ STACIONARNOJ POLITIKOJ f NA ;("), I PUSTX E1 E { \RGODI^ESKIJ KLASS \TOJ CEPI. tOGDA 1 2 E1:
zAMETIM, ^TO S KAVDOJ f 2 C (D) MY MOVEM ASSOCIIROWATX PODGRAF Gf GRAFA G, OPREDELENNYJ KAK REBRO(i a) 2 Gf , f (i) = a: sLEDU@]AQ TEOREMA BYLA DOKAZANA ~ENOM I fILAROM 41].
tEOREMA 4.1 pUSTX Q { BLO^NO-DIAGONALXNAQ MATRICA IZ RAZDELA 5.1
I PUSTX M (") { MNOGOGRANNOE MNOVESTWO, OPREDELENNOE SOOTNOENIQMI (C 1) ; (C 4). tOGDA SPRAWEDLIWY SLEDU@]IE DWA UTWERVDENIQ: 1. pREDPOLOVIM, ^TO f 2 C (P ) SOOTWETSTWUET GAMILXTONOWU CIKLU W G: tOGDA x(f ) { GLOBALXNYJ OPTIMUM ZADA^I KWADRATI^NOGO PROGRAMMIROWANIQ minfx0 Qxjx 2 M (")g (4.14) I x0 (f )Qx(f ) = 0: 2. oBRATNO, PUSTX GLOBALXNYJ OPTIMUM ZADA^I KWADRATI^NOGO PROGRAMMIROWANIQ RAWEN 0, I PREDPOLOVIM, ^TO ON DOSTIGAETSQ W x: tOGDA fx = T (x) { DETERMINISTSKAQ POLITIKA, SOOTWETSTWU@]AQ GAMILXTONOWU CIKLU W G:
93
zAME^ANIE 4.2.1 iZ PREDYDU]EJ TEOREMY SLEDUET, ^TO GAMILXTONO-
WY CIKLY W G HARAKTERIZU@TSQ GLOBALXNYMI MINIMUMAMI ZADA^I KWADRATI^NOGO PROGRAMMIROWANIQ S NEOPREDELENNOJ MATRICEJ. eSLI GLOBALXNYJ MINIMUM W (4.3) POLOVITELEN, GAMILXTONOWA CIKLA W G NET. 4.3
~ISLENNYE \KSPERIMENTY
~TOBY PROWERITX PRIMENIMOSTX K zgc PODHODA, OSNOWANNOGO NA MARKOWSKIH CEPQH, BYL REEN RQD TESTOWYH PRIMEROW. wSE \KSPERIMENTY PROWODILISX S POMO]X@ PROGRAMMY CPLEX 4.0 DLQ ^ASTI^NO CELO^ISLENNOGO PROGRAMMIROWANIQ I MODELI S FUNKCIQMI TIPA MINIMUMA. pROGRAMMY BYLI NAPISANY NA QZYKE PROGRAMMIROWANIQ C++ I WYPOLNENY W OPERACIONNOJ SISTEME AIX 3.2.
tESTOWYE PRIMERY GENERIROWALISX OBY^NO ODNIM IZ DWUH SPOSOBOW: ILI GAMILXTONOW CIKL BYL ZADAN I BOLXE REBER BYLO DOBAWLENO K KAVDOJ WERINE, ^TOBY POLU^ITX GRAF, SODERVA]IJ GAMILXTONOW CIKL, ILI FIKSIROWANNOE ^ISLO REBER GENERIROWALOSX DLQ KAVDOJ WERINY, OBRAZUQ REGULQRNYJ GRAF. kROME TOGO, STARAQ ZADA^A OBOJTI HODOM AHMATNOGO KONQ DOSKU, POBYWAW W KAVDOJ KLETKE ROWNO PO ODNOMU RAZU I WERNUWISX W NA^ALXNU@ POZICI@, BYLA WZQTA KAK TESTOWYJ PRIMER. nESKOLXKO PRIMEROW, NE SODERVA]IH GAMILXTONOWYH CIKLOW, TAKVE BYLI RASSMOTRENY. mAKSIMALXNOE ^ISLO WERIN W GRAFE BYLO RAWNO 100 I MAKSIMALXNOE ^ISLO REBER { 400. wAVNO OTMETITX, ^TO DLQ NAHOVDENIQ GAMILXTONOWA CIKLA NUVNO BYLO QWNO UKAZYWATX CELEWU@ FUNKCI@, ^TOBY OBLEG^ITX PROCEDURU WETWEJ I GRANIC PROGRAMMY CPLEX. eSLI PRIMERY REALISX S CELEWOJ FUNKCIEJ, RAWNOJ NUL@, REENIQ BYLI NAJDENY TOLXKO DLQ O^ENX MALYH RAZMERNOSTEJ. oDNAKO DLQ NETRIWIALXNYH CELEWYH FUNKCIJ GAMILXTONOWY CIKLY DLQ GRAFOW SO 100 WERINAMI BYLI NAJDENY. ~ISLENNYE \KSPERIMENTY POKAZALI, ^TO NAILU^IJ WYBOR CELEWOJ FUNKCII BYL SLEDU@]IJ: N X X f (x y) = ciayia i=1 a2A(i)
GDE N { ^ISLO WERIN I cia { POLOVITELXNYE ^ISLA, DLQ KOTORYH RAZNOSTI
94
tABLICA 4.1: rEZULXTATY DLQ PROIZWOLXNYH GRAFOW
~ISLO ~ISLO ~ISLO WERIN wREMQ WERIN REBER DEREWA WY^ISLENIJ(c) 15 20 35 50 50 60 60 80 100 100
50 100 100 200 300 400 300 200 200 300
75 125 573 875 1254 2182 1728 2029 886 1117
0.05 2.5 15.5 45.5 50.0 122.5 87.5 63.0 121.5 145.5
ci a ;ci a WELIKI DLQ L@BOJ PARY RAZNYH REBER (i1 a1) (i2 a2): nAPRIMER, WO MNOGIH SLU^AQH BYLO WYGODNO ZADAWATX cj = j 3, GDE INDEKS j SOOTWETSTWUET PORQDKOWOMU ^ISLU REBRA j SREDI WSEH REBER W GRAFE, OTSORTIROWANNYH NEKOTORYM OBRAZOM. dLQ NEKOTORYH PRIMEROW DOPUSTIMOE REENIE BYLO NAJDENO NESKOLXKO BYSTREE, ESLI BYLO DOBAWLENO OGRANI^ENIE 1 1
2 2
(C 8)
P
a2A(i) yia
= 1 8i 2 E
HOTQ SREDNEE WREMQ WY^ISLENIQ NE IZMENILOSX. nAILU^IE REZULXTATY NE BYLI POLU^ENY SO STANDARTNYMI PARAMETRAMI PROGRAMMY CPLEX. nUVNO BYLO ISPOLXZOWATX WETWLENIE PO PEREMENNOJ S NAIMENXEJ NEDOPUSTIMOSTX@ ILI PO OCENKAM ZADA^ LINEJNOGO PROGRAMMIROWANIQ (W SO^ETANII S POISKOM PO NAILU^EJ OCENKE CELEWOJ FUNKCII). oDNA IZ WAVNEJIH ^ISLENNYH PROBLEM W PREDLOVENNOM PODHODE { WYBOR PARAMETRA ": dLQ MALYH RAZMERNOSTEJ (10 - 25) BYLO WYGODNO WYBIRATX " MEVDU 0.1 I 0.25. dLQ BOLXIH RAZMERNOSTEJ NUVNO BYLO POSTEPENNO UMENXATX ", ^TOBY GARANTIROWATX SHODIMOSTX. tAK, DLQ N = 60 NAILU^EE ZNA^ENIE " BYLO RAWNO 0.07 I DLQ N = 100 ONO BYLO RAWNO 0.04. w BOLXINSTWE SLU^AEW BYLO LEG^E NAJTI GAMILXTONOW CIKL, ^EM OBNARUVITX, ^TO ON NE
95
tABLICA 4.2: rEZULXTATY DLQ REGULQRNYH GRAFOW
~ISLO ~ISLO ~ISLO WERIN wREMQ WERIN REBER DEREWA WY^ISLENIJ(c) 10 20 20 40 50 50 60 80 100 100
50 100 200 200 200 500 300 400 200 300
13 434 247 518 715 1038 1690 2478 1072 2593
0.05 4.5 8.5 14.0 24.0 38.0 75.0 139.5 79.0 122.0
tABLICA 4.3: hODOM AHMATNOGO KONQ, DOSKA 6 6
4 35 12 25 10 1
15 26 3 36 13 24
34 5 14 11 2 9
27 16 29 32 23 20
6 33 18 21 8 31
17 28 7 30 19 22
SU]ESTWUET, WEROQTNO PO TOJ PRI^INE, ^TO WSE DEREWO REENIJ DOLVNO BYTX OBSLEDOWANO, ^TOBY DOKAZATX NEDOPUSTIMOSTX ZADA^I. oDNAKO DLQ PROSTYH SLU^AEW, TAKIH, KAK NALI^IE WERINY, U KOTOROJ IMEETSQ TOLXKO ODNA SOSEDNQQ, NEDOPUSTIMOSTX BYLA OBNARUVENA O^ENX BYSTRO (ANALIZIROWALOSX TOLXKO 50 - 100 WERIN DEREWA). rASSMOTRIM KONKRETNYJ PRIMER SO SLU^AJNO SGENERIROWANNYM GRAFOM IZ 10 WERIN. mATRICA INCIDENTNOSTI GRAFA DANA W tABLICE 5. gAMILXTONOW CIKL 1 ! 4 ! 7 ! 2 ! 5 ! 6 ! 8 ! 3 ! 9 ! 10 ! 1
96
tABLICA 4.4: hODOM AHMATNOGO KONQ, DOSKA 8 8
34 21 46 63 36 23 44 1
0 1 1 1 1 0 1 1 1 1
47 62 35 22 45 64 37 24
1 0 1 1 1 1 1 1 0 1
20 33 4 7 14 11 2 43
61 48 13 10 3 6 25 38
32 19 8 5 12 15 42 55
49 60 29 16 9 54 39 26
18 31 58 51 28 41 56 53
tABLICA 4.5: pRIMER
0 0 0 1 0 1 1 1 1 0
1 0 0 0 0 1 0 0 0 0
1 1 0 1 0 0 1 1 1 1
1 1 0 1 1 0 0 0 1 1
0 0 0 1 0 0 0 1 1 1
0 0 1 1 1 1 1 0 1 0
0 0 1 0 1 1 1 1 0 1
59 50 17 30 57 52 27 40
0 0 1 0 0 1 1 0 1 0
BYL NAJDEN POSLE ANALIZA 1613 WERIN DEREWA, ^TO POTREBOWALO 12 SEKUND. nAILU^IE REZULXTATY DLQ DANNOJ ZADA^I BYLI POLU^ENY PRI WETWLENII, OSNOWANNOM NA OCENKAH ZADA^ LINEJNOGO PROGRAMMIROWANIQ. w tABLICE 1 MY DAEM TIPI^NYE REZULXTATY DLQ PROIZWOLXNYH GRAFOW I W tABLICE 2 { DLQ REGULQRNYH GRAFOW. rEZULXTATY DLQ REGULQRNYH GRAFOW BYLI ZNA^ITELXNO LU^E PO SKOROSTI WY^ISLENIJ. w PERWOJ KOLONKE PRIWEDENO ^ISLO WERIN, I WO WTOROJ { ^ISLO REBER. w TRETXEJ KOLONKE MY DAEM ^ISLO WERIN DEREWA PROGRAMMY CPLEX, KOTORYE BYLI ISSLEDOWANY DLQ NAHOVDENIQ PERWOGO DOPUSTIMOGO REENIQ (DA@]EGO GAMILXTONOW CIKL). nAKONEC, W POSLEDNEJ KOLONKE PRI-
97
WEDENO WREMQ WY^ISLENIQ W SEKUNDAH. zAMETIM, ^TO OB]EE WREMQ WY^ISLENIJ MENQLOSX OT 0.02 MINUTY DLQ GRAFOW S 10 WERINAMI DO 20 MINUT DLQ NEKOTORYH GRAFOW SO 100 WERINAMI. w tABLICAH 3 - 4 MY DAEM OTWETY W ZADA^E OB OBHODE DOSKI HODOM AHMATNOGO KONQ DLQ DOSOK RAZMEROM 6 6 I 8 8. w KAVDOJ KLETKE PRIWEDEN EE NOMER W MARRUTE. dANNAQ ZADA^A WNA^ALE BYLA SAMYM TRUDNYM TESTOM. oDNAKO, ISPOLXZUQ TEHNIKU DEKOMPOZICII (NAHODQ GAMILXTONOWY PODCIKLY I SOEDINQQ IH), UDALOSX REITX ZADA^U DOSTATO^NO BYSTRO . oB]EE ^ISLO PROSMOTRENNYH WERIN DEREWA REENIJ IZMENQLOSX OT 2000 DO 40000, I WREMQ WY^ISLENIQ BYLO MEVDU ODNOJ I PQTNADCATX@ MINUTAMI, W ZAWISIMOSTI OT PARAMETROW PROGRAMMY CPLEX. nAI OSNOWNYE WYWODY SLEDU@]IE. pODHOD, OSNOWANNYJ NA MARKOWSKIH CEPQH I FUNKCIQH TIPA MINIMUMA, PRIMENIM K REENI@ ZADA^I O GAMILXTONOWOM CIKLE DLQ GRAFOW UMERENNOJ RAZMERNOSTI, OSOBENNO DLQ REGULQRNYH GRAFOW. nEOBHODIMO PRISPOSABLIWATX PROCEDURU WETWEJ I GRANIC K KAVDOMU SPECIFI^ESKOMU WIDU ZADA^I (NAIBOLEE WAVEN WYBOR NAPRAWLENIQ DWIVENIQ PO DEREWU REENIJ I PEREMENNOJ, PO KOTOROJ IDET WETWLENIE). nEOBHODIMA NETRIWIALXNAQ CELEWAQ FUNKCIQ DLQ POLU^ENIQ HOROIH OCENOK PRI REENII ZADA^I ^ASTI^NO CELO^ISLENNOGO PROGRAMMIROWANIQ. dLQ REENIQ PRAKTI^ESKIH ZADA^ NAIBOLEE CELESOOBRAZNO ISPOLXZOWATX PROSTU@ TEHNIKU DEKOMPOZICII, GENERIRUQ PODCIKLY I ZATEM SOEDINQQ IH.
gLAWA 5 pODHOD K POSTROENI@ OBOB]ENNYH TRAFNYH FUNKCIJ 5.1
oBOB]ENNYE TRAFNYE FUNKCII DLQ OGRANI^ENIJ W FORME NERAWENSTW
rASSMOTRIM SLEDU@]U@ ZADA^U USLOWNOJ MINIMIZACII: min f0(x) fi(x) 0 i = 1 m x 2 X (5.1) GDE fi { NEPRERYWNYE FUNKCII, OPREDELENNYE NA IRn, I X { ZAMKNUTOE MNOVESTWO W IRn: oBOZNA^IM MNOVESTWO OPTIMALXNYH TO^EK ^EREZ X (PREDPOLOVIM, ^TO ONO NEPUSTO) I MINIMALXNOE ZNA^ENIE CELEWOJ FUNKCII NA DOPUSTIMOM MNOVESTWE ^EREZ f : pREDPOLOVIM, ^TO f0 POLOVITELXNA. tOGDA ZNA^ENIE f TAKVE POLOVITELXNO (MY NE PREDPOLAGAEM, ODNAKO, ^TO f IZWESTNO). bUDEM REATX WMESTO (5.1) SLEDU@]U@ WSPOMOGATELXNU@ ZADA^U: min g(x d) x 2 X (5.2) GDE g(x d) { FUNKCIQ, OPREDELENNAQ NA IRn, KOTORAQ ZAWISIT OT WEKTORNOGO PARAMETRA d 2 IRm+ +1: iMENNO, PREDPOLOVIM, ^TO g(x d) IMEET WID g(x d) = G(d0f0(x) d1f1(x) : : : dmfm(x)) GDE G { NEPRERYWNAQ FUNKCIQ, OPREDELENNAQ NA IRm+1: zAMETIM, ^TO \TA OB]AQ SHEMA DLQ ODNOGO OGRANI^ENIQ BYLA RASSMOTRENA W 3], GDE FUNKCIQ
99
g NAZYWALASX TO^NOJ WSPOMOGATELXNOJ FUNKCIEJ. oDNAKO MY NE PREDPOLAGAEM, ^TO SEDLOWAQ TO^KA FUNKCII lAGRANVA L(x ) = f0 +
m X i=1
ifi(x)
SU]ESTWUET, I NAI USLOWIQ \KWIWALENTNOSTI ISHODNOJ I WSPOMOGATELXNOJ ZADA^ PRIMENIMY K GORAZDO BOLEE IROKOMU KLASSU ZADA^. pRIWEDENNAQ SHEMA RANEE BYLA RASSMOTRENA W BOLEE OB]EJ FORME W 88, 89], GDE BYL PREDLOVEN DRUGOJ PODHOD. pUSTX WYPOLNQ@TSQ SLEDU@]IE PREDPOLOVENIQ: 1) G(v y1 : : : ym) = v DLQ WSEH v 0 I DLQ WSEH y, TAKIH, ^TO yi 0 i = 1 m 2) G(v y1 : : : ym) ! +1, KOGDA v 0, I maxi=1m yi ! +1 3) G(y) { WOZRASTA@]AQ FUNKCIQ NA IRm+ +1:
pRIWEDEM PRIMERY WSPOMOGATELXNYH FUNKCIJ, UDOWLETWORQ@]IH \TIM USLOWIQM: 1) G1(y) = y0 + Pmi=1 maxfyi 0g
2) G2(y) = (y0p + Pmi=1(maxfyi 0g)p)1=p (p > 0) 3) G3(y) = maxfy0 y1 : : : ymg
4) G4(y) = y0 + Pmi=1(exp(maxfyi 0g) ; 1) 5) G5(y) = maxfy0 exp(maxfy1 0g) ; 1 : : : exp(maxfym 0g) ; 1g
fUNKCII PERWOGO TIPA O^ENX HOROO IZWESTNY I IZU^ALISX MNOGIMI AWTORAMI (SM., NAPRIMER, 39]). fUNKCII WTOROGO TIPA BYLI RASSMOTRENY W 3], GDE TREBOWALOSX SU]ESTWOWANIE SEDLOWOJ TO^KI FUNKCII lAGRANVA. fUNKCII TRETXEGO TIPA POZWOLQ@T POSTROITX METOD CENTROW, WNA^ALE PREDLOVENNYJ BEZ TRAFNYH PARAMETROW W 56] I ZATEM IZU^ENNYJ W 8]. pREDPOLOVIM, ^TO MNOVESTWO OPTIMALXNYH REENIJ (5.2) NEPUSTO (NAPRIMER, LEBEGOWY MNOVESTWA g(x d) OGRANI^ENY). oBOZNA^IM ^EREZ x(d) L@BOE OPTIMALXNOE REENIE (5.2) (KONE^NO, ONO ZAWISIT OT PARAMETRA d).
100
lEMMA 5.1 dLQ L@BOGO " > 0 SU]ESTWUET M > 0, TAKOE, ^TO IZ d0 =
1 mini=1m di > M SLEDUET fi(x(d)) " DLQ WSEH i = 1 m: dOKAZATELXSTWO. pREDPOLOVIM, ^TO \TO NEWERNO. tOGDA SU]ESTWUET " > 0, TAKOE, ^TO DLQ L@BOGO M > 0 SU]ESTWUET WEKTOR d = d(M ) = (d1 d2 : : : dm), DLQ KOTOROGO di > M DLQ WSEH i = 1 m I fj (x(d)) > " 9j 2 f1 2 : : : mg:
nO tAK KAK
g(x(d) d) = G(f0(x(d)) d1f1(x(d)) : : : dmfm(x(d))):
max difi(x(d)) dj fj (x(d)) M" i=1m I M MOVET BYTX WYBRANO SKOLX UGODNO BOLXIM, MOVNO ISPOLXZOWATX pREDPOLOVENIE 2, IZ KOTOROGO SLEDUET, ^TO DLQ NEKOTOROGO M > 0 BUDET WYPOLNENO NERAWENSTWO g(x(d) d) > f . nO, S DRUGOJ STORONY, g(x(d) d)) g(x d) 8 x 2 X TAK KAK X X: oDNAKO g(x d) = G(f0(x) d1f1(x) : : : dmfm(x)) = f0(x) = f PO pREDPOLOVENI@ 1 I W SILU TOGO, ^TO x { DOPUSTIMAQ TO^KA. pOLU^ILI PROTIWORE^IE, I LEMMA DOKAZANA. 2 lEMMA POKAZYWAET, ^TO KOGDA MY UWELI^IWAEM ZNA^ENIQ PARAMETROW di, KOTORYE MOVNO RASSMATRIWATX KAK TRAFNYE KO\FFICIENTY, OPTIMALXNYE TO^KI WSPOMOGATELXNOJ ZADA^I STREMQTSQ K DOPUSTIMOMU MNOVESTWU. wWEDEM SLEDU@]IE TO^E^NO-MNOVESTWENNYE OTOBRAVENIQ: A(") = fx 2 X : fi(x) " 8i = 1 mg D(") = fx 2 A(") : f f0(x) f ; "g: zAMETIM, ^TO A(0) { DOPUSTIMOE MNOVESTWO (5.1) I D(0) = X : pUSTX B { EDINI^NYJ AR W IRn:
tEOREMA 5.1 pUSTX OTOBRAVENIE A POLUNEPRERYWNO SWERHU W NULE. tOG-
DA DLQ L@BOGO " > 0 SU]ESTWUET d = (1 d1 d2 : : : dm) 2 IRm+ +1, TAKOE, ^TO f0(x(d)) f ; ":
101
dOKAZATELXSTWO. w SILU POLUNEPRERYWNOSTI SWERHU, DLQ L@BOGO > 0 SU]ESTWUET > 0, TAKOE, ^TO A() A(0) + B 8 2 0 ]: pO lEMME 5.1, KOGDA ZNA^ENIE mini=1m di DOSTATO^NO WELIKO, MY IMEEM x(d) 2 A(): tOGDA x(d) 2 A(0) + B I SU]ESTWUET TO^KA x~ 2 A(0), TAKAQ, ^TO kx(d) ; x~k < : nO f0(~x) f , TAK KAK x~ DOPUSTIMA. zNA^ENIE MOVET BYTX WYBRANO SKOLX UGODNO MALYM, I W SILU NEPRERYWNOSTI f0 TEOREMA DOKAZANA. 2 lEMMA 5.2 oPTIMALXNOE ZNA^ENIE ZADA^I (5.2) NE PREWOSHODIT OPTIMALXNOGO ZNA^ENIQ ZADA^I (5.1) DLQ L@BOGO d 2 IRm+ +1, TAKOGO, ^TO d0 = 1: dOKAZATELXSTWO. pO OPREDELENI@, (d) d) = G(f (x(d)) d f (x(d)) : : : d f (x(d))) min g ( x 0 1 1 m m x2X GDE x(d) { OPTIMALXNOE REENIE (5.2), SOOTWETSTWU@]EE PARAMETRU d: pUSTX x { PROIZWOLXNAQ TO^KA IZ X : tOGDA G(f0(x(d)) d1f1(x(d)) : : : dmfm(x(d))) G(f0(x) d1f1(x) : : : dmfm(x)): nO ZNA^ENIE W PRAWOJ ^ASTI RAWNO f0(x) = f PO pREDPOLOVENI@ 1 I W SILU SWOJSTWA x 2 X: lEMMA DOKAZANA. 2 tEOREMA 5.2 pREDPOLOVIM, ^TO OTOBRAVENIE D POLUNEPRERYWNO SWERHU W NULE. tOGDA DLQ L@BOGO > 0 SU]ESTWUET d = (1 d1 : : : dm) 2 IRm+ +1, TAKOE, ^TO kx ; x(d)k DLQ NEKOTOROGO x 2 X : dOKAZATELXSTWO. dLQ L@BOGO > 0 SU]ESTWUET > 0, TAKOE, ^TO D() D(0) + B 8 2 0 ]: eSLI ZNA^ENIE mini=1m di DOSTATO^NO WELIKO, MY IMEEM PO tEOREME 5.1 I lEMME 5.2 x(d) 2 D(): tOGDA x(d) 2 D(0) + B TO ESTX x(d) 2 X + B , ^TO OZNA^AET kx(d) ; xk DLQ NEKOTOROGO x 2 X : tEOREMA DOKAZANA. 2
102
zAME^ANIE 5.1 wMESTO RASSMOTRENIQ A KAK OTOBRAVENIQ, ZAWISQ]E-
GO OT ODNOGO SKALQRNOGO PARAMETRA, MOVNO RASSMOTRETX SLEDU@]EE OTOBRAVENIE: A~(") = fx 2 X : fi(x) "i 8i = 1 ng GDE " = f"1 : : : "mg 2 IRm: pOLUNEPRERYWNOSTX SWERHU DANNOGO OTOBRAVENIQ TAKVE DOSTATO^NA DLQ WYPOLNENIQ tEOREMY 5.1. 5.2
oGRANI^ENIQ-RAWENSTWA
rASSMOTRIM ZADA^U USLOWNOJ MINIMIZACII S OGRANI^ENIQMI W WIDE RAWENSTW: min h0(x) hi(x) = 0 i = 1 m x 2 X (5.3) GDE hi { NEPRERYWNYE FUNKCII, OPREDELENNYE NA IRn I X { ZAMKNUTOE MNOVESTWO W IRn: pREDPOLOVIM, ^TO DOPUSTIMOE MNOVESTWO (5.3) NEPUSTO I h0 POLOVITELXNA. oBOZNA^IM MNOVESTWO OPTIMALXNYH TO^EK ZADA^I ^EREZ Q (DOPUSTIM, ^TO ONO NEPUSTO) I MINIMALXNOE ZNA^ENIE CELEWOJ FUNKCII NA DOPUSTIMOM MNOVESTWE ^EREZ h: aNALOGI^NO RAZDELU 6.1 MY REAEM WMESTO (5.3) SLEDU@]U@ WSPOMOGATELXNU@ ZADA^U: min q(x d) x 2 X (5.4) GDE q(x d) { FUNKCIQ, OPREDELENNAQ NA IRn, KOTORAQ ZAWISIT OT WEKTORNOGO PARAMETRA d 2 IRm+ +1: fUNKCIQ q OPREDELQETSQ KAK q(x d) = H (d0h0(x) d1h1(x) : : : dmhm(x)) GDE H { NEPRERYWNAQ FUNKCIQ, OPREDELENNAQ NA IRm+1: pREDPOLOVIM, ^TO WYPOLNQ@TSQ SLEDU@]IE PREDPOLOVENIQ: 1) G(v 0 0 : : : 0) = v 8v 0 2) G(v y1 : : : ym) ! +1, KOGDA v 0 I kyk ! +1 GDE y = (y1 : : : ym)
103
3) G(v y1 : : : ym) v DLQ WSEH y 2 IRm I DLQ WSEH v 0:
pRIMERY WSPOMOGATELXNYH FUNKCIJ, UDOWLETWORQ@]IH DANNYM USLOWIQM, SLEDU@]IE: 1) H1(y) = y0 + Pmi=1 maxfyi2 0g
2) H2(y) = (y0p + Pmi=1(maxfjyij 0g)p)1=p (p > 0) 3) H3(y) = maxfy0 y12 : : : ym2 g
4) H4(y) = y0 + Pmi=1 maxfjyij 0g:
fUNKCII PERWOGO I ^ETWERTOGO TIPA { KLASSI^ESKIE PRIMERY TRAFNYH FUNKCIJ, I PO NIM ESTX OBIRNAQ BIBLIOGRAFIQ (SM. 67] I SSYLKI W DANNOJ KNIGE). oBOZNA^IM x(d) L@BOE OPTIMALXNOE REENIE (5.4).
lEMMA 5.3 dLQ L@BOGO " > 0 SU]ESTWUET M > 0, TAKOE, ^TO IZ d0 =
1 mini=1m di > M SLEDUET ;" hi(x(d)) " 8i = 1 m:
dOKAZATELXSTWO. pREDPOLOVIM, ^TO \TO NEWERNO. tOGDA SU]ESTWUET " > 0, TAKOE, ^TO DLQ L@BOGO M > 0 SU]ESTWUET WEKTOR d = d(M ) = (d1 d2 : : : dm), DLQ KOTOROGO di > M DLQ WSEH i = 1 m I
LIBO hj (x(d)) > " LIBO hj (x(d)) < ;" DLQ NEKOTOROGO j 2 f1 2 : : : mg: nO q(x(d) d) = H (h0(x(d)) d1h1(x(d)) : : : dmhm(x(d))):
pOSKOLXKU
max dijhi(x(d))j jdj hj (x(d))j M"
i=1m
I M MOVET BYTX WYBRANO SKOLX UGODNO BOLXIM, MOVNO ISPOLXZOWATX pREDPOLOVENIE 2, IZ KOTOROGO SLEDUET, ^TO DLQ NEKOTOROGO M > 0 BUDET WYPOLNENO NERAWENSTWO q(x(d) d) > h. nO, S DRUGOJ STORONY, q(x(d) d)) q(x d) 8x 2 Q
104
TAK KAK Q X: oDNAKO q(x d) = H (h0(x) d1h1(x) : : : dmhm(x)) = h0(x) = h
PO pREDPOLOVENI@ 1 I POTOMU, ^TO hi(x) = 0 DLQ WSEH i = 1 m: pOLU^ILI PROTIWORE^IE, I LEMMA DOKAZANA. 2 oPREDELIM TO^E^NO-MNOVESTWENNYE OTOBRAVENIQ WIDA P (") = fx 2 X : ;" hi(x) " 8i = 1 mg S (") = fx 2 P (") : h h0(x) h ; "g: o^EWIDNO, P (0) { DOPUSTIMOE MNOVESTWO (5.3) I S (0) = Q:
tEOREMA 5.3 pUSTX OTOBRAVENIE P POLUNEPRERYWNO SWERHU W NULE. tOG-
DA DLQ L@BOGO " > 0 SU]ESTWUET d = (1 d1 d2 : : : dm) 2 IRm+ +1, TAKOE, ^TO h(x(d)) h ; ":
dOKAZATELXSTWO. aNALOGI^NO DOKAZATELXSTWU tEOREMY 5.1.
2
lEMMA 5.4 oPTIMALXNOE ZNA^ENIE W ZADA^E (5.4) NE PREWOSHODIT OP-
TIMALXNOGO ZNA^ENIQ W ZADA^E (5.3) DLQ WSEH d 2 IRm+ +1, TAKIH, ^TO d0 = 1: dOKAZATELXSTWO. pO OPREDELENI@, (d) d) = H (h (x(d)) d h (x(d)) : : : d h (x(d))) min q ( x 0 1 1 m m x2X
GDE x(d) { OPTIMALXNOE REENIE (5.4), SOOTWETSTWU@]EE PARAMETRU d: pUSTX x { PROIZWOLXNAQ TO^KA IZ Q: tOGDA PO pREDPOLOVENI@ 1 H (h0(x) d1h1(x) : : : dmhm(x)) = H (h0(x) 0 0 : : : 0) = h
I POLU^AEM H (h0(x(d)) d1h1(x(d)) : : : dmhm(x(d))) h:
lEMMA DOKAZANA.
2
105
tEOREMA 5.4 pREDPOLOVIM, ^TO S POLUNEPRERYWNO SWERHU W NULE. tOG-
DA DLQ L@BOGO > 0 SU]ESTWUET d = (1 d1 : : : dm) 2 IRm+ +1, TAKOE, ^TO kx ; x(d)k DLQ NEKOTOROGO x 2 Q: dOKAZATELXSTWO. dLQ L@BOGO > 0 SU]ESTWUET > 0, TAKOE, ^TO S () S (0) + B 8 2 0 ]:
eSLI ZNA^ENIE mini=1m di DOSTATO^NO WELIKO, MY IMEEM PO tEOREME 5.3 I lEMME 5.4 x(d) 2 S (): tOGDA x(d) 2 S (0) + B TO ESTX x(d) 2 Q + B , ^TO OZNA^AET kx(d) ; xk DLQ NEKOTOROGO x 2 Q: w SILU PROIZWOLXNOSTI TEOREMA DOKAZANA. 2 5.3
pOSTROENIE MODIFICIROWANNYH FUNKCIJ lAGRANVA S POMO]X@ WOZRASTA@]IH FUNKCIJ
w DANNOM RAZDELE MY RASSMATRIWAEM KOMBINACI@ PODHODOW, OSNOWANNYH NA KLASSI^ESKOJ FUNKCII lAGRANVA I NA TRAFNYH FUNKCIQH, W KOTORYH ISPOLXZUETSQ WOZRASTA@]AQ FUNKCIQ. mY RASSMATRIWAEM ZADA^U (5.1) I OPREDELQEM OBOB]ENNU@ FUNKCI@ lAGRANVA, TAKU@, ^TO, ESLI EE SEDLOWAQ TO^KA SU]ESTWUET, ONA DAET REENIE ZADA^I S OGRANI^ENIQMI. oBOB]ENNAQ FUNKCIQ lAGRANVA ZADAETSQ FORMULOJ U (x d r) = G(L(x d) r1f1(x) : : : rmfm(x))
GDE L(x d) = f0(x)+Pmi=1 difi(x) { KLASSI^ESKAQ FUNKCIQ lAGRANVA. pO\TOMU NAM TREBUETSQ REITX WSPOMOGATELXNU@ ZADA^U sup inf U (x d r)
d2IRm+ x2X
(5.5)
PRI FIKSIROWANNOM WEKTORE TRAFNYH PARAMETROW r. eSLI SEDLOWAQ TO^KA NE SU]ESTWUET, MY I]EM PRIBLIVENNU@ SEDLOWU@ TO^KU PO OTNOENI@ K d I x. pUSTX WYPOLNQ@TSQ SLEDU@]IE PREDPOLOVENIQ: 1) f0 POLOVITELXNA NA IRn
106
2) wSE FUNKCII fi OGRANI^ENY SNIZU NA IRn 3) G(y0 y1 : : : ym) ! +1, KOGDA maxi=1m yi ! +1, I y0 OGRANI^ENO SNIZU 4) G(v y1 : : : ym) = v DLQ WSEH v 0 I WSEH y 2 IRm, TAKIH,^TO yi 0 DLQ WSEH i 2 f1 2 : : : mg 5) 0 G(v y1 : : : ym) v DLQ WSEH v < 0 I WSEH y 2 IRm, TAKIH, ^TO yi 0 DLQ WSEH i 2 f1 2 : : : mg 6) G { WOZRASTA@]AQ FUNKCIQ NA IRm+1: eSTX PO KRAJNEJ MERE DWA PRIMERA FUNKCIJ, UDOWLETWORQ@]IH \TIM USLOWIQM. pERWAQ IZ NIH
G1(y) = y0 +
m X
maxfyi 0g
i=1 m X
U1(x d r) = L(x d) +
i=1
ri maxffi(x) 0g:
fUNKCIQ TAKOGO TIPA BYLA PREDLOVENA hESTENESOM I pAU\LLOM DLQ OGRANI^ENIJ W WIDE RAWENSTW I ZATEM IZU^ALASX W 77] DLQ OGRANI^ENIJ W WIDE NERAWENSTW, I POTOMU HOROO IZWESTNA. dRUGOJ PRIMER SLEDU@]IJ: G2(y) = maxfy0 y1 : : : ymg U2(x d r) = maxfL(x d) r1f1(x) : : : rmfm(x)g: nASKOLXKO NAM IZWESTNO, \TA WSPOMOGATELXNAQ FUNKCIQ NOWAQ I POZWOLQET KOMBINIROWATX METOD CENTROW (SM. 56, 8, 47]) S KLASSI^ESKIMI METODAMI MNOVITELEJ lAGRANVA. w \TOM SLU^AE MY IMEEM MINIMAKSNU@ ZADA^U, DLQ KOTOROJ ESTX RAZLI^NYE ALGORITMY NEDIFFERENCIRUEMOJ OPTIMIZACII (SM. 92]). tEORETI^ESKIJ PODHOD K NAHOVDENI@ SEDLOWYH TO^EK NEDIFFERENCIRUEMYH FUNKCIJ BYL PREDLOVEN W 34].
zAME^ANIE 5.2 pOHOVAQ SHEMA BYLA RASSMOTRENA W 3]. oDNAKO NAI
USLOWIQ GORAZDO BOLEE OB]IE MY NE PREDPOLAGAEM SU]ESTWOWANIQ SEDLOWOJ TO^KI L(x d).
bOLEE TO^NO, W NAEM SLU^AE WERNA SLEDU@]AQ
107
tEOREMA 5.5 pUSTX SEDLOWAQ TO^KA (x d) DLQ L(x d) SU]ESTWUET, fi(x)
0 DLQ WSEH i = 1 m I WYPOLNQETSQ USLOWIE DOPOLNQ@]EJ NEVESTKOSTI
difi(x) = 0 8i = 1 m:
tOGDA (x d) { SEDLOWAQ TO^KA DLQ FUNKCII U (x d r) DLQ L@BOGO FIKSIROWANNOGO WEKTORA r TRAFNYH PARAMETROW. dOKAZATELXSTWO. zAMETIM, WO-PERWYH, ^TO ESLI (x d) { SEDLOWAQ TO^KA, TO x { OPTIMALXNOE REENIE ZADA^I (5.1), I PO\TOMU f0(x) = f : tAKVE U (x d r) = f0(x) = f
PO pREDPOLOVENI@ 4 I W SILU USLOWIQ DOPOLNQ@]EJ NEVESTKOSTI. s DRUGOJ STORONY, PO OPREDELENI@ SEDLOWOJ TO^KI IMEEM L(x d) L(x d) 8x 2 X
I
L(x d) L(x d) 8d 2 IRm+ : nO G { WOZRASTA@]AQ FUNKCIQ, I ESLI MY PODSTAWIM WSE \TI ZNA^ENIQ W PERWYJ ARGUMENT G TO POLU^IM U (x d r) = G(L(x d) r1f1(x) : : : rmfm(x)) G(L(x d) r1f1(x) : : : rmfm(x)):
(5.6)
wSE ZNA^ENIQ rifi(x) OGRANI^ENY SNIZU PO pREDPOLOVENI@ 2 I POTOMU, ^TO G WOZRASTAET, ZNA^IT, G(L(x d) r1f1(x) : : : rmfm(x)) G(L(x d) ;C : : : ;C )
DLQ DOSTATO^NO BOLXOJ POLOVITELXNOJ KONSTANTY C: nO ZNA^ENIE W PRAWOJ ^ASTI RAWNO f0(x): sLEDOWATELXNO, G(L(x d) r1f1(x) : : : rmfm(x)) U (x d r) 8x 2 X
I PRIMENIW (5.6), POLU^IM U (x d r) U (x d r) 8x 2 X:
108
pOKAVEM, ^TO TAKVE U (x d r) U (x d r) 8d 2 IRm+ :
pO OPREDELENI@ U IMEEM U (x d r) = G(L(x d) r1f1(x) : : : rmfm(x)) G(L(x d) r1f1(x) : : : rmfm(x)) = f = U (x d r) 8d 2 IRm+ :
pO\TOMU, DEJSTWITELXNO, (x d) { SEDLOWAQ TO^KA DLQ U , I TEOREMA DOKAZANA. 2 zAME^ANIE 5.3 oBRATNOE NEWERNO. hOROO IZWESTNO, ^TO MODIFICIROWANNAQ FUNKCIQ lAGRANVA U1(x d r) IMEET SEDLOWU@ TO^KU WO MNOGIH SLU^AQH, KOGDA KLASSI^ESKAQ FUNKCIQ lAGRANVA L(x d) EE NE IMEET (SM. 67]). dAVE ESLI SEDLOWOJ TO^KI NET, OPTIMALXNOE ZNA^ENIE ZADA^I (5.5) RAWNO f PRI SLABYH PREDPOLOVENIQH.
tEOREMA 5.6 mY IMEEM supd2IRm inf x2X U (x d r) = f : +
dOKAZATELXSTWO. pOKAVEM WNA^ALE, ^TO : r ) f supm xinf U ( x d 2X
d2IR+
(5.7)
pO OPREDELENI@ SUPREMUMA, : r ) inf U ( x 0 r ) inf f ( x ) = f supm xinf U ( x d m 0 x2X x2X 2X
d2IR+
zDESX 0m { NULEWOJ WEKTOR W IRm: oDNA ^ASTX TEOREMY DOKAZANA. pOKAVEM TEPERX, ^TO supm xinf U (x d r) f : 2X
d2IR+
pUSTX x { OPTIMALXNOE REENIE (5.1). tOGDA x 2 X I fi(x) 0 DLQ WSEH i 2 f1 2 : : : mg: pUSTX TAKVE d~ { PROIZWOLXNYJ WEKTOR IZ IRm+ : tOGDA ~ r) U (x d~ r~): inf U ( x d x2X
109
eSLI ZNA^ENIE L(x d~) MENXE ILI RAWNO NUL@, TO PRAWAQ ^ASTX NEPOLOVITELXNA I PO\TOMU MENXE, ^EM f : w PROTIWNOM SLU^AE POLU^AEM U (x d~ r~) = L(x d~) f0(x):
pOSLEDNEE NERAWENSTWO WYPOLNQETSQ, TAK KAK x DOPUSTIMA DLQ ZADA^I (5.1). nAKONEC, POSKOLXKU d~ WYBRAN PROIZWOLXNO, IMEEM supm xinf U (x d r) f0(x) = f : 2X
d2IR+
tEOREMA DOKAZANA. 2 uSTANOWIM TEPERX SOOTWETSTWIE MEVDU OPTIMALXNYMI TO^KAMI NA^ALXNOJ ZADA^I S OGRANI^ENIQMI I SEDLOWYMI TO^KAMI WSPOMOGATELXNOJ ZADA^I. tEOREMA 5.7 pUSTX (x d) { SEDLOWAQ TO^KA ZADA^I (5.5). tOGDA x { OPTIMALXNOE REENIE (5.1). dOKAZATELXSTWO. pOKAVEM WNA^ALE, ^TO x { DOPUSTIMAQ TO^KA. tAK KAK \TO SEDLOWAQ TO^KA, PO pREDPOLOVENIQM 4 - 6 I tEOREME 5.6 IMEEM f = U (x d r) = G(L(x d) r1f1(x) : : : rmfm(x)) G(L(x d) r1f1(x) : : : rmfm(x)) 8d 2 IRm+ : tOGDA PO pREDPOLOVENI@ 4
f
L(x d) = f0(x) +
m X
i=1
difi(x)
(5.8)
DLQ WSEH NEOTRICATELXNYH d: eSLI MY PREDPOLOVIM, ^TO x NEDOPUSTIMA, POLU^IM PROTIWORE^IE, TAK KAK MOVNO WZQTX dk = 0 DLQ WSEH k, TAKIH, ^TO fk (x) 0 I USTREMITX IH K PL@S BESKONE^NOSTI DLQ WSEH k, TAKIH, ^TO fk (x) > 0, KOTORYE DOLVNY SU]ESTWOWATX PO PREDPOLOVENI@. uWELI^IWAQ \TI KOMPONENTY d POLU^AEM NARUENIE NERAWENSTWA (5.8). zNA^IT, x DOPUSTIMA. nO ESLI MY POLOVIM d = 0m IMEEM f f0(x), ^TO OZNA^AET, ^TO x TAKVE OPTIMALXNA. tEOREMA DOKAZANA. 2
gLAWA 6 pARAMETRI^ESKIJ PODHOD K ZADA^AM GLOBALXNOJ OPTIMIZACII SPECIALXNOGO WIDA 6.1
fORMULIROWKA ZADA^I
rASSMOTRIM SLEDU@]EE PARAMETRI^ESKOE SEMEJSTWO ZADA^ MATEMATI^ESKOGO PROGRAMMIROWANIQ: min f (x ) (6.1) x 2 X GDE f { NEPRERYWNAQ FUNKCIQ, OPREDELENNAQ NA IRn X { KOMPAKTNOE MNOVESTWO I { WEKTORNYJ PARAMETR, = (1 : : : m) 2 IRm: pREDPOLOVIM, ^TO f NEOTRICATELXNA DLQ WSEH x 2 X 2 P GDE P IRm { KOMPAKTNOE WYPUKLOE MNOVESTWO, I SU]ESTWUET TO^KA x, TAKAQ, ^TO f (x ) = 0 8 2 P:
o^EWIDNO, \TO OZNA^AET f (x ) = min min f (x ) = 0 x2X 2P
(6.2)
DLQ L@BOGO FIKSIROWANNOGO WEKTORA 2 P: nAA ZADA^A { NAJTI TAKU@ PARU (x ): w DANNOJ GLAWE MY NAZYWAEM WEKTOR "WESAMI", POSKOLXKU W \KONOMI^ESKIH MODELQH ON SOOTWETSTWUET WESAM (ZNA^IMOSTQM) RAZNYH \KONOMI^ESKIH AGENTOW.
111
eSTX PO KRAJNEJ MERE DWA WAVNYH ^ASTNYH SLU^AQ TAKOJ ZADA^I. pERWYJ IZ NIH { REENIE SISTEMY NELINEJNYH URAWNENIJ fi(x) = 0 i = 1 k x 2 X: (6.3) eSLI MY OPREDELIM f (x ) = Pki=1 ifi2(x) TO NAI PREDPOLOVENIQ WYPOLNQTSQ DLQ L@BOGO MNOVESTWA P 2 IRn+ PRI USLOWII, ^TO fi NEPRERYWNY I MNOVESTWO REENIJ (6.3) NEPUSTO (KONE^NO, MOVNO ISPOLXZOWATX DRUGIE NORMY WMESTO EWKLIDOWOJ). wTOROJ PRIMER { ZADA^A NAHOVDENIQ \KONOMI^ESKOGO RAWNOWESIQ. eE MATEMATI^ESKAQ MODELX BYLA RAZRABOTANA a. rUBINOWYM W 85]. w 85] BYLO TAKVE POKAZANO, ^TO DLQ NAHOVDENIQ RAWNOWESIQ NEOBHODIMO REITX URAWNENIE '1(p ) ; '2(p ) = 0 (6.4) PRI^EM IZWESTNO, ^TO '1(p ) '2(p ) DLQ WSEH p : zDESX '1(p ) '2(p ) { MARGINALXNYE FUNKCII SPECIALXNOGO WIDA. oPREDELQQ f (x ) = '1(p ) ; '2(p ) POLU^AEM WAVNYJ ^ASTNYJ SLU^AJ NA^ALXNOJ OB]EJ ZADA^I. zAMETIM, ^TO OBY^NO FUNKCIQ f NEWYPUKLA, ^TO NE POZWOLQET PRIMENQTX LOKALXNYE METODY DLQ NAHOVDENIQ (x ): pO\TOMU MY IMEEM ZADA^U GLOBALXNOJ MINIMIZACII SPECIALXNOGO WIDA. pREDPOLOVIM, ODNAKO, ^TO DLQ KAVDOGO WEKTORA WESOW 2 P IMEETSQ LOKALXNYJ ALGORITM M : X ! X TO ESTX KAVDOJ TO^KE y 2 X SOOTWETSTWUET SLEDU@]AQ ITERACIONNAQ TO^KA M (y), I \TOT METOD GARANTIRUET SHODIMOSTX K STACIONARNOJ TO^KE f (x ) NA X DLQ L@BOGO FIKSIROWANNOGO . eSLI X = IRn I f (x ) DIFFERENCIRUEMA, \TO MOVET BYTX METOD NAISKOREJEGO SPUSKA. wSE ALGORITMY, RASSMATRIWAEMYE NIVE, SOSTOQT IZ "BOLXIH" I "MALYH" ITERACIJ. "bOLXAQ" ITERACIQ { \TO ODIN AG ALGORITMA GLOBALXNOJ OPTIMIZACII, I SOOTWETSTWU@]IE ITERACIONNYE TO^KI OBOZNA^A@TSQ yk : "mALAQ" ITERACIQ { \TO ITERACIQ LOKALXNOGO ALGORITMA M , I EE ITERACIONNYE TO^KI OBOZNA^A@TSQ zi: oDNAKO z0 OBY^NO SOWPADAET S yk DLQ NEKOTOROGO k TAK KAK ITERACIONNAQ TO^KA "BOLXOJ" ITERACII QWLQETSQ TAKVE NA^ALXNOJ TO^KOJ POSLEDOWATELXNOSTI "MALYH" ITERACIJ.
112
pREDPOLOVIM, ^TO DLQ L@BOGO WEKTORA WESOW ^ I L@BOJ STACIONARNOJ TO^KI x FUNKCII f (x ^) IMEEM M ^(x) = x TO ESTX STACIONARNAQ TO^KA f (x ^) ESTX NEPODWIVNAQ TO^KA ALGORITMA M ^: kONE^NO, \TO USLOWIE WYPOLNQETSQ DLQ L@BOGO REENIQ NA^ALXNOJ ZADA^I. pREDPOLOVIM TAKVE, ^TO DLQ KAVDOGO 2 P IMEEM ODNU TO^KU GLOBALXNOGO MINIMUMA FUNKCII f (x ) NA X , KOTORU@ OBOZNA^IM G , I N 0 DRUGIH STACIONARNYH TO^EK (NEKOTORYE IZ NIH MOGUT SOWPADATX), OBOZNA^AEMYH S 1 S 2 : : : S N : kONE^NO, ESLI MY NAJDEM G DLQ NEKOTORYH WESOW, TO G { REENIE NA^ALXNOJ ZADA^I, TAK KAK f (G ) = 0 PO PREDYDU]EMU PREDPOLOVENI@. pREDPOLOVIM DLQ PROSTOTY, ^TO ALGORITM M POZWOLQET NAJTI TO^NO STACIONARNU@ TO^KU S k DLQ NEKOTOROGO k 1 k N DLQ L@BOGO WESA 2 P: iDEQ W TOM, ^TOBY IZMENQTX WESA , PEREHODQ IZ STACIONARNOJ TO^KI S ODNIM ZNA^ENIEM K SLEDU@]EJ STACIONARNOJ TO^KE, SOOTWETSTWU@]EJ DRUGOMU , I W ITOGE NAJTI GLOBALXNYJ MINIMUM. 6.2
aLGORITMY
~TOBY NAJTI REENIE (x ) MY PREDLAGAEM SLEDU@]IE SHEMY:
kONCEPTUALXNYJ aLGORITM 1 {AG 0. pOLAGAEM k := 0: wYBIRAEM PROIZWOLXNO y0 2 X: wYBIRAEM WEKTOR NA^ALXNYH WESOW k : {AG 1. nAHODIM LOKALXNYM METODOM M k S NA^ALXNOJ TO^KOJ yk STACIONARNU@ TO^KU ZADA^I min f (x k ) (6.5) x 2 X: oBOZNA^IM EE y: {AG 2. eSLI f (y k ) = 0, stop. iNA^E WYBIRAEM NOWYE WESA k+1 POLAGAEM k := k + 1 yk := y I WOZWRA]AEMSQ K {AGU 1. pROSTEJIJ WYBOR WESOW { SLU^AJNYM OBRAZOM S RAWNOMERNYM RASPREDELENIEM NA ZAMKNUTOM MNOVESTWE P IRm+ :
kONCEPTUALXNYJ aLGORITM 2
113
{AG 0 - {AG 1. kAK I W PREDYDU]EM ALGORITME. {AG 2. eSLI f (y k ) = 0, stop. iNA^E PEREHODIM K {AGU 3. {AG 3. eSLI f (y k ) f (yk k ), TO POLAGAEM k := k + 1 yk := y I WOZWRA]AEMSQ K {AGU 1 S NOWYMI WESAMI (HOROIJ AG). {AG 4. pOLAGAEM k := k + 1 yk := yk;1 WYBIRAEM NOWYE WESA k I WOZWRA]AEMSQ K {AGU 1. zDESX 2 (0 1) { PARAMETR, OPREDELQ@]IJ TREBUEMOE UBYWANIE CELEWOJ FUNKCII. nAM PONADOBQTSQ SLEDU@]IE OPREDELENIQ. oPREDELENIE 6.2.1 pUSTX 2 P: mNOVESTWO A = fz 2 X : i!lim z = G z0 = z zi+1 = M (zi) 8ig +1 i
NAZYWAETSQ OBLASTX@ PRITQVENIQ GLOBALXNOGO MINIMUMA DLQ WEKTORA WESOW : zAMETIM, ^TO DLQ ZADA^ NAHOVDENIQ \KONOMI^ESKOGO RAWNOWESIQ I MINIMIZACII WZWEENNOJ SUMMY KWADRATOW f (G ) = 0 DLQ L@BOGO WEKTORA SO STROGO POLOVITELXNYMI KOORDINATAMI (SM. 85]). |TO ZNA^IT, ^TO DLQ REENIQ ISHODNOJ ZADA^I DOSTATO^NO NAJTI G DLQ NEKOTORYH POLOVITELXNYH WESOW. oPREDELENIE 6.2.2 pUSTX 2 P: mNOVESTWO B j = fz 2 X : i!lim z = S j z0 = z zi+1 = M (zi) 8ig +1 i
NAZYWAETSQ OBLASTX@ PRITQVENIQ STACIONARNOJ TO^KI S j DLQ WEKTORA WESOW : oBOZNA^IM TAKVE R(x) = f : x 2 A g Rj (x) = f : x 2 B j g:
pUSTX x { LEBEGOWA MERA NA X I { LEBEGOWA MERA NA P: tAK KAK LOKALXNYJ METOD M SHODITSQ DLQ L@BOGO IMEEM N
X = A ( B j ) 8 2 P j =1
114
N
P = R(x) ( Rj (x)) 8x 2 X: j =1
pREDSTAWIM NEKOTORYE REZULXTATY O SHODIMOSTI NAIH KONCEPTUALXNYH ALGORITMOW.
tEOREMA 6.1 pREDPOLOVIM, ^TO DLQ WSEH x 2 X WYPOLNQETSQ USLOWIE
(R(x)) > > 0: pREDPOLOVIM TAKVE, ^TO MY WYBIRAEM WESA SLU^AJNO S RAWNOMERNYM RASPREDELENIEM NA P IRm: pUSTX WYBORY WESOW DLQ RAZNYH k NEZAWISIMY. tOGDA DLQ kONCEPTUALXNOGO aLGORITMA 1 PREDEL lim P fyi 6= G 8i = 1 2 : : : kg = 0:
k!+1
dOKAZATELXSTWO. tAK KAK WESA RASPREDELENY RAWNOMERNO NA MNOVESTWE P DLQ L@BOGO P WEROQTNOSTX Z 1 P (k 2 ) = (P ) d = ((P ))
NA KAVDOJ k-J ITERACII. tOGDA DLQ KAVDOJ ITERACIONNOJ TO^KI yk PO aLGORITMU 1, MY IMEEM P (k 2 R(yk )) = (R((Py)k )) ( P ) > 0:
tAK KAK WYBORY WESOW k DLQ RAZNYH k NEZAWISIMY, POLU^AEM P (0 62 R(y0) 1 62 R(y1) : : : k 62 R(yk )) (1 ; (P ) )k
NA k-J ITERACII. mOVNO WSEGDA PREDPOLOVITX,^TO < (P ): tAK KAK ZNA^ENIE W PRAWOJ ^ASTI STREMITSQ K NUL@, WEROQTNOSTX W LEWOJ ^ASTI TAKVE STREMITSQ K NUL@. nO G 6= yi DLQ WSEH i k TOLXKO ESLI i 62 R(yi) DLQ WSEH i OT 0 DO k ; 1 INA^E yi 2 A i I TO^KA yi+1 { GLOBALXNYJ MINIMUM. tEOREMA DOKAZANA. 2 oBOZNA^IM F (x) = f : f (M (x) ) f (x )g GDE 0 < < 1: zDESX M (x) { SLEDU@]AQ ITERACIONNAQ TO^KA, POSTROENNAQ LOKALXNYM METODOM M S WESAMI W CELEWOJ FUNKCII.
115
tEOREMA 6.2 pREDPOLOVIM, ^TO WESA WYBIRA@TSQ, KAK W PREDYDU]EJ
TEOREME. pUSTX SU]ESTWUET " > 0, TAKOE, ^TO ESLI f (z ) < " DLQ NEKOTOROGO 2 P , TO z 2 A DLQ WSEH 2 P: pREDPOLOVIM TAKVE, ^TO DLQ WSEH x 2 X IMEEM (F (x)) > 0: tOGDA DLQ POSLEDOWATELXNOSTI, POSTROENNOJ aLGORITMOM 2, lim P fyi 6= G 8i = 1 2 : : : kg = 0:
k!+1
dOKAZATELXSTWO. oBOZNA^IM f0 = f (y0 0): |TO ZNA^ENIE KONE^NO I POLOVITELXNO PO PREDPOLOVENI@. pUSTX ("=f0) : s = loglog |TO ZNA^ENIE KONE^NO I POLOVITELXNO DLQ DOSTATO^NO MALOGO ", TAK KAK STROGO POLOVITELXNO. pREDPOLOVIM TEPERX, ^TO ITERACIONNYE TO^KI yi NE PRINADLEVAT A i DLQ WSEH i = 1 k: |TO OZNA^AET, ^TO MY MOVEM SDELATX NE BOLEE s] HOROIH AGOW, GDE SKOBKI OZNA^A@T OKRUGLENIE K BLIVAJEMU MENXEMU CELOMU. dEJSTWITELXNO, INA^E MY BY IMELI f (yk k ) sf0 "
^TO OZNA^AET, ^TO yk 2 A DLQ WSEH : wEROQTNOSTX SDELATX HOROIJ AG NA KAVDOJ ITERACII POLOVITELXNA, I ONA NE MENXE, ^EM = (P ) (\TO POWTORQET PERWU@ ^ASTX DOKAZATELXSTWA tEOREMY 6.1). pO\TOMU, WSPOMINAQ SHEMU bERNULLI, POLU^AEM DLQ DOSTATO^NO BOLXOGO k, ^TO s] X P (N s]) Cki i(1 ; )k;i i=0
GDE N { ^ISLO HOROIH AGOW. zNA^ENIE W PRAWOJ ^ASTI STREMITSQ K NUL@, TAK KAK s FIKSIROWANO I NE ZAWISIT OT k: nO ESLI ^ISLO HOROIH AGOW NE PREWOSHODIT s] \TO IMENNO TOT SLU^AJ, KOGDA f (yi i) > " DLQ WSEH i: pO\TOMU WEROQTNOSTX NE NAJTI GLOBALXNYJ MINIMUM ZA k ITERACIJ STREMITSQ K NUL@, I TEOREMA DOKAZANA. 2
116
tEOREMA 6.3 23] pREDPOLOVIM, ^TO DLQ WSEH x 2 X WYPOLNQETSQ RA-
WENSTWO
2P
M (x) = X:
pREDPOLOVIM TAKVE, ^TO SU]ESTWUET " > 0, TAKOE, ^TO DLQ WSEH 2 P MY IMEEM B (G ") A GDE B (G ") { AR S CENTROM G RADIUSA ": nAKONEC, PUSTX SLEDU@]EE SOOTNOENIE WYPOLNQETSQ DLQ L@BOGO MNOVESTWA P~ P I L@BOGO x 2 X :
(P~ ) Cx( M (x)):
2P~
zDESX C > 0: tOGDA DLQ POSLEDOWATELXNOSTI, POSTROENNOJ aLGORITMOM 1, lim P fyi 6= G 8i = 1 2 : : : kg = 0:
k!+1
dOKAZATELXSTWO. pUSTX DANA ITERACIONNAQ TO^KA yj DLQ PROIZWOLXNOGO j: oBOZNA^IM Q(yj ) = f 2 P : M (yj ) 2 B (G ")g: dLQ DOSTATO^NO MALOGO " SPRAWEDLIWO RAWENSTWO
2Q(yj )
M (yj ) = B (G "):
wKL@^ENIE LEWOJ ^ASTI W PRAWU@ WYTEKAET NEPOSREDSTWENNO IZ OPREDELENIQ. pOKAVEM, ^TO
M (yj ) B (G "):
2Q(yj )
wOZXMEM TO^KU y 2 B (G "): dOPUSTIM, ^TO ONA NE PRINADLEVIT S 2Q(yj ) M (yj ). tAK KAK OTOBRAVENIE M S@R_EKTIWNO, DOLVNO WYPOLNQTXSQ y 2 M ~(yj ) DLQ NEKOTOROGO ~, NE PRINADLEVA]EGO Q(yj ): nO \TO PROTIWORE^IT OPREDELENI@ Q(yj ): zAMETIM, ^TO ESLI WYBEREM WES j 2 Q(yj ) SLEDU@]AQ ITERACIONNAQ TO^KA BUDET PRINADLEVATX A DLQ WSEH I, SLEDOWATELXNO, MY NAJDEM GLOBALXNYJ MINIMUM NA SLEDU@]EJ ITERACII. iSPOLXZUQ NERAWENSTWO W UTWERVDENII TEOREMY, POLU^AEM (Q(yj )) Cx(
2Q(yj )
M (yj )) Cx(B (G ")) > 0
117
DLQ NEKOTOROJ KONSTANTY : wEROQTNOSTX P (j 2 Q(yj )) (P ) 8 i = 0 1 : : ::
pO\TOMU WEROQTNOSTX P (0 62 Q(y0) 1 62 Q(y1) : : : k 62 Q(yk )) (1 ; (P ) )k
I ONA STREMITSQ K NUL@. tAKIM OBRAZOM, WEROQTNOSTX NE NAJTI OPTIMALXNU@ TO^KU ZA k ITERACIJ STREMITSQ K NUL@, KOGDA k STREMITSQ K BESKONE^NOSTI. tEOREMA DOKAZANA. 2 pREDSTAWIM PROSTOJ PRIMER, KOTORYJ POKAZYWAET, KAK MOVNO ^ISLENNO REALIZOWATX aLGORITM 1. pUSTX
pRIMER
f1(x) = (x ; 1) f2(x) = (x + 1)(x ; 1) x 2 IR: tREBUETSQ REITX SISTEMU NELINEJNYH URAWNENIJ fi(x) = 0 i = 1 2
S REENIEM x = 1: wSPOMOGATELXNAQ ZADA^A MINIMIZACII SUMMY KWADRATOW SLEDU@]AQ: min 1(x ; 1)2 + 2(x + 1)2(x ; 1)2 ] x 2 IR: pREDPOLOVIM, ^TO MY I]EM STACIONARNYE TO^KI DLQ \TOJ ZADA^I, ISPOLXZUQ ALGORITM LOKALXNOJ MINIMIZACII BEZ PROIZWODNYH. wOZXMEM NA^ALXNYE WESA 1 = 1 2 = 10: dLQ \TIH ZNA^ENIJ ESTX LOKALXNYJ MINIMUM y1 = ;0:9472. pREDPOLOVIM, ^TO MY POPALI W NEGO (INA^E MY BY NALI GLOBALXNYJ MINIMUM). w SLEDU@]IJ RAZ WYBIRAEM 1 = 1 I 2 = 5: lOKALXNYJ POISK S MALYM NA^ALXNYM AGOM, STARTUQ IZ y1, PRIWODIT W LOKALXNYJ MINIMUM y2 = ;0:8873. tEPERX, ESLI MY WYBEREM WESA 1 = 1 2 = 1 I STARTUEM S y2, TO NAJDEM GLOBALXNYJ MINIMUM. aLGORITMY 1 I 2 IME@T OB]IJ NEDOSTATOK: DLQ STACIONARNOJ TO^KI SOOTWETSTWU@]AQ OBLASTX PRITQVENIQ MOVET SODERVATX SAMU \TU TO^KU DLQ
118
WSEH WESOW. nAPRIMER, ESLI f 0(yk ) = 0 DLQ WSEH 2 P , TO PRI PRIMENENII L@BOGO GRADIENTNOGO METODA BUDET POWTORQTXSQ ODNA I TA VE TO^KA yk DLQ WSEH WESOW I WSEH k: pO\TOMU NEOBHODIMO MODIFICIROWATX KONCEPTUALXNU@ SHEMU, DOPUSKAQ WOZMU]ENIE TEKU]EJ ITERACIONNOJ TO^KI, ^TOBY WYHODITX IZ STACIONARNYH NEOPTIMALXNYH TO^EK.
kONCEPTUALXNYJ aLGORITM 3 (METOD WOZMU]ENIJ)
{AG 0. pOLAGAEM k := 0: wYBIRAEM PROIZWOLXNO y0 2 X I PARAMETR " > 0: wYBIRAEM WEKTOR NA^ALXNYH WESOW k : pOLAGAEM S := : fIKSIRUEM CELOE POLOVITELXNOE ^ISLO K: {AG 1. kAK W aLGORITME 1. {AG 2. eSLI f (y k ) = 0, stop. iNA^E PEREHODIM K {AGU 3. {AG 3. eSLI y 62 S , TO WYBIRAEM NOWYE WESA k+1 POLAGAEM k := k + 1 yk := y S := S fyg I WOZWRA]AEMSQ K {AGU 1. iNA^E PEREHODIM K {AGU 4. {AG 4. pOLAGAEM m := 0: wYBIRAEM y~ KAK SLU^AJNYJ WEKTOR IZ ARA B (y ") " > 0: {AG 5. nAHODIM LOKALXNYM METODOM M k S NA^ALXNOJ TO^KOJ y~ STACIONARNU@ TO^KU CELEWOJ FUNKCII f S PREVNIMI WESAMI k : oBOZNA^IM EE y^: {AG 6. eSLI y^ 62 S , TO WYBIRAEM NOWYE WESA k+1 POLAGAEM k := k + 1 yk := y^ S := S fy^g I WOZWRA]AEMSQ K {AGU 1. iNA^E PEREHODIM K {AGU 7. {AG 7. pOLAGAEM m := m + 1: eSLI m > K , MENQEM WESA I PEREHODIM K {AGU 4. iNA^E PEREHODIM K {AGU 4 S PREVNIMI WESAMI. dLQ IZU^ENIQ SHODIMOSTI ALGORITMA WWEDEM SLEDU@]IE MNOVESTWA: Y ij fx 2 B (S i ") : x 2 B j g 8j = 1 N U (i j ) = x(Y ij ) 8j = 1 N Y i0 fx 2 B (S i ") : x 2 A g U (i 0 ) = x(Y i0): zDESX B (S i ") { AR S CENTROM S i RADIUSA ": pREDPOLOVIM, ^TO " > 0 DOSTATO^NO MALO. mNOVESTWO Y ij ESTX MNOVESTWO TO^EK IZ OKRESTNOSTI STACIONARNOJ TO^KI S i , PRINADLEVA]IH OBLASTI PRITQVENIQ STACIONARNOJ TO^KI S j : tOGDA
119
WEROQTNOSTX PEREJTI IZ OKRESTNOSTI i-J STACIONARNOJ TO^KI W j -@ STACIONARNU@ TO^KU RAWNA x(Y ij )=x(B"), GDE B" { AR RADIUSA ": pUSTX WESA WYBRANY IZ KONE^NOGO MNOVESTWA P SLU^AJNO I NEZAWISIMO S RAWNOMERNYM RASPREDELENIEM. pREDPOLOVIM DLQ PROSTOTY, ^TO WSE TO^KI S j I G RAZLI^NY. eSLI TO^KA y RAWNA S j DLQ NEKOTOROGO , MY IMEEM SOSTOQNIE j . eSLI TO^KA y { GLOBALXNYJ OPTIMUM, TO IMEEM SOSTOQNIE NULX. wYBOR WESOW I SDELANNYE PREDPOLOVENIQ OZNA^A@T, ^TO POSTROENA KONE^NAQ MARKOWSKAQ CEPX. nAJDEM WEROQTNOSTI PEREHODA p~ij DLQ NEE. pREDPOLOVIM, ^TO WESA IZ P PERENUMEROWANY OT 1 DO jP j GDE jP j { ^ISLO \LEMENTOW (SLOVNOSTX) KONE^NOGO MNOVESTWA P: pOLU^AEM PjP j U (i j ) jP j U (i j ) 1 X s s p~ij = = s=1 jP j x (B") s=1 x (B") jP j (INDEKS s OZNA^AET PORQDKOWYJ NOMER WESA P A NE NOMER ITERACII).
pREDLOVENIE 6.1 pUSTX NE SU]ESTWUET TAKOE PODMNOVESTWO I
f1 2 : : : N g GDE N { MAKSIMALXNOE ^ISLO STACIONARNYH TO^EK PRI DANNOM , ^TO
p~ij = 0 8i 2 I 8j 62 I p~i0 = 0 8i 2 I:
(6.6) (6.7)
tOGDA S WEROQTNOSTX@ 1 ZA KONE^NOE ^ISLO ITERACIJ aLGORITM 3 OSTANOWITSQ W NULEWOM SOSTOQNII, TO ESTX BUDET NAJDEN GLOBALXNYJ OPTIMUM. dOKAZATELXSTWO. oNO SLEDUET IZ SWOJSTW KONE^NYH MARKOWSKIH CEPEJ (SM. 58]). uSLOWIE (6.6) OZNA^AET, ^TO ESTX EDINSTWENNOE ABSORBIRU@]EE SOSTOQNIE, I ONO BUDET DOSTIGNUTO ZA KONE^NOE ^ISLO ITERACIJ S WEROQTNOSTX@ 1. 2 sHODIMOSTX ALGORITMA ZAWISIT OT KOMBINATORNYH SWOJSTW, SWQZANNYH S POLOVENIEM STACIONARNYH TO^EK CELEWOJ FUNKCII f (x ) DLQ RAZLI^NYH FIKSIROWANNYH WESOW : iZU^ENIE SHODIMOSTI W SLU^AE WYBORA WESOW IZ KONE^NOGO MNOVESTWA MOVET BYTX SDELANO S ISPOLXZOWANIEM TEORII GRAFOW. eSLI MY OPREDELIM SPECIALXNYJ GRAF S M WERINAMI, SOOTWETSTWU@]IMI
120
GLOBALXNOMU MINIMUMU G , I MN WERINAMI, SOOTWETSTWU@]IMI DRUGIM STACIONARNYM TO^KAM (M ZDESX { ^ISLO RAZLI^NYH WESOW, N { MAKSIMALXNOE ^ISLO STACIONARNYH TO^EK), TO DLQ SHODIMOSTI DOSTATO^NA SWQZNOSTX GRAFA. rEBRO (i j ) GRAFA OZNA^AET, ^TO WEROQTNOSTX PEREJTI IZ WERINY i W WERINU j POLOVITELXNA. rASSMOTRIM TEPERX DETERMINISTSKIJ WYBOR WESOW. pUSTX MY IMEEM s RAZLI^NYH FIKSIROWANNYH WEKTOROW pi i = 1 s, KOTORYE OBRAZU@T MNOVESTWO P IRn, TAKOE, ^TO kpi ; pj k " > 0 8i j = 1 s i 6= j:
pROSTEJIJ ALGORITM IMEET SLEDU@]IJ WID.
kONCEPTUALXNYJ aLGORITM 4 {AG 0. pOLAGAEM k := 0 i := 1: wYBIRAEM PROIZWOLXNU@ TO^KU y0 2 X: pOLAGAEM 0 = p1: {AG 1. iSPOLXZUQ LOKALXNYJ METOD M k NAHODIM STACIONARNU@ TO^KU ZADA^I min f (x k ) (6.8) x2X S NA^ALXNOJ TO^KOJ yk : oBOZNA^IM EE y: {AG 2. eSLI f (y k ) f (yk k ), TO POLAGAEM yk := y i := i k+1 := k k := k +1 I WOZWRA]AEMSQ K {AGU 1 (\TO HOROIJ AG). iNA^E PEREHODIM K {AGU 3. {AG 3. pOLAGAEM i := i+1: eSLI i > s, TO i := 1: pOLAGAEM k := k +1 yk := yk;1 k := pi I WOZWRA]AEMSQ K {AGU 1. w DANNOM ALGORITME MY MENQEM WESA CIKLI^ESKI. eSLI POSLEDNIJ PO PORQDKU WES NE DAET SPUSK PO CELEWOJ FUNKCII, TO WYBIRAEM NA^ALXNYE WESA WNOWX. oBOZNA^IM Z (x ) = j!lim M (y ) y0 = x +1 j D = fx 2 X : f (Z (x ) ) f (x )g:
121
mNOVESTWO Z (x ) WSEGDA SOSTOIT IZ ODNOJ TO^KI, TAK KAK PO PREDYDU]IM PREDPOLOVENIQM METOD M SHODITSQ DLQ L@BOGO I L@BOJ NA^ALXNOJ TO^KI x: mNOVESTWO D SOSTOIT IZ WSEH TO^EK, IZ KOTORYH HOROIJ AG BUDET WYPOLNEN PRI WESAH : sLEDU@]EE NEOBHODIMOE USLOWIE SHODIMOSTI O^EWIDNO.
pREDLOVENIE 6.2 dLQ SHODIMOSTI K GLOBALXNOMU MINIMUMU NEOBHODI-
MO, ^TOBY
2P
D X n( G ):
dEJSTWITELXNO, INA^E SU]ESTWUET TO^KA x 2 X , IZ KOTOROJ NELXZQ SDELATX HOROIJ AG I KOTORAQ NEOPTIMALXNA. tOGDA POSLEDOWATELXNOSTX fyk g NE MOVET SOJTISX K G DLQ L@BOGO 2 P:
tEOREMA 6.4 pREDPOLOVIM, ^TO SU]ESTWUET " > 0, TAKOE, ^TO IZ
f (z ) < " SLEDUET z 2 A DLQ WSEH : pUSTX TAKVE
2P
D = X n( G ):
tOGDA ZA KONE^NOE ^ISLO "BOLXIH" ITERACIJ OPTIMALXNOE REENIE G
NA^ALXNOJ ZADA^I BUDET NAJDENO. dOKAZATELXSTWO. pUSTX f0 = f (y0 0) I s = log ("=f0)= log : tOGDA DLQ SHODIMOSTI MY DOLVNY SDELATX HOTQ BY ]s= s] + 1 HOROIH AGOW. pREDPOLOVIM, ^TO POSLE SKOLX UGODNO BOLXOGO ^ISLA ITERACIJ MY MOVEM SDELATX TOLXKO q < s] HOROIH AGOW. nO POSKOLXKU S 2P D = X n(S G ) \TO OZNA^AET, ^TO MY NE MOVEM SDELATX HOROIJ AG IZ NEKOTOROJ ITERACIONNOJ TO^KI yk , ^TO PROTIWORE^IT USLOWI@, ESLI yk NEOPTIMALXNA. tEOREMA DOKAZANA. 2 oSNOWNAQ PROBLEMA W ALGORITME { UGADATX WYBOR WESOW, OBESPE^IWA@]IH WYPOLNENIE USLOWIJ TEOREMY. oBOZNA^IM Q(x) = f 2 P : f (Z (x ) ) f (x )g:
tOGDA, ESLI MY HOTIM ISPOLXZOWATX KONE^NOE MNOVESTWO WESOW, TO DOLVNY WYBIRATX IH TAK, ^TOBY DLQ KAVDOGO x 2 X BYL HOTQ BY ODIN WES 2 Q(x):
122
oDIN IZ WOZMOVNYH WYBOROW SLEDU@]IJ. pUSTX DLQ KAVDOGO x 2 X TAKOGO, ^TO f (x ) > ", MNOVESTWO Q(x) OTKRYTO I SODERVIT AR RADIUSA > 0 S CENTROM W NEKOTOROJ TO^KE (x): tOGDA MY MOVEM WYBIRATX WESA TAK, ^TOBY infi sup kpi ; pk < : p2P
w \TOM SLU^AE DLQ KAVDOGO 2 Q(x) SU]ESTWUET ZNA^ENIE j 2 f1 : : : sg, DLQ KOTOROGO j TAKVE PRINADLEVIT Q(x): pO\TOMU DLQ KAVDOJ TO^KI x, KOTORAQ NE "-OPTIMALXNA, POSLE KONE^NOGO ^ISLA ITERACIJ BUDET SDELAN HOROIJ AG. oDNA IZ WOZMOVNYH MODIFIKACIJ aLGORITMA 4, REALIZU@]AQ \TU IDE@, { SLEDU@]AQ SHEMA, W KOTOROJ PREDLAGAETSQ WYBIRATX SAMYJ "UDALENNYJ" WES OT RANEE RASSMOTRENNYH.
mODIFICIROWANNYJ kONCEPTUALXNYJ aLGORITM 4 {AG 0. pOLAGAEM k := 0: wYBIRAEM PROIZWOLXNU@ TO^KU y0 2 X: wYBIRAEM NA^ALXNYE WESA 0: pOLAGAEM = f0g: {AGI 1-2. kAK W aLGORITME 4. {AG 3. rEAEM SLEDU@]U@ ZADA^U: max d(z )
z 2 P
GDE d(z ) { RASSTOQNIE OT TO^KI z DO MNOVESTWA : pUSTX z { REENIE \TOJ ZADA^I. {AG 4. pOLAGAEM := fzg k := z k := k + 1 I WOZWRA]AEMSQ K {AGU 1. eSLI DLQ KAVDOGO x 2 X SU]ESTWUET OTKRYTOE MNOVESTWO WESOW, GARANTIRU@]IH HOROIJ AG, I MERY WSEH TAKIH MNOVESTW OGRANI^ENY SNIZU POLOVITELXNOJ KONSTANTOJ, DANNAQ MODIFIKACIQ TAKVE POZWOLQET NAJTI GLOBALXNYJ OPTIMUM.
123
6.3
sLU^AJ NEOGRANI^ENNOGO DOPUSTIMOGO MNOVESTWA
w PREDYDU]EM RAZDELE MY PREDPOLAGALI, ^TO LOKALXNYJ METOD M SHODITSQ K STACIONARNOJ TO^KE IZ L@BOJ NA^ALXNOJ. oDNAKO ESLI DOPUSTIMOE MNOVESTWO NEOGRANI^ENO, ITERACIONNYE TO^KI MOGUT UHODITX NA BESKONE^NOSTX. oBOZNA^IM I = fz 2 X : limi!+1kzik = +1 z0 = z zi+1 = M (zi)g
(6.9)
J (x) = f 2 P : x 2 I g: (6.10) mNOVESTWO I NAZYWAETSQ OBLASTX@ PRITQVENIQ PL@S BESKONE^NOSTI. eSLI SU]ESTWUET TO^KA y 2 I DLQ WSEH , aLGORITM 1 MOVET RASHODITXSQ. oDNAKO, ESLI DLQ L@BOJ TO^KI MOVNO IZMENITX WESA TAK, ^TO ONA NE PRINADLEVIT BOLXE OBLASTI PRITQVENIQ PL@S BESKONE^NOSTI, MOVNO POSTROITX SHODQ]IJSQ METOD.
kONCEPTUALXNYJ aLGORITM 5 {AG 0. pOLAGAEM k := 0 i := 1: wYBIRAEM PROIZWOLXNU@ TO^KU y0 2 X: wYBIRAEM NA^ALXNYE WESA 0: {AG 1. iSPOLXZUQ LOKALXNYJ METOD M k S NA^ALXNOJ TO^KOJ yk NAHODIM STACIONARNU@ TO^KU ZADA^I min f (x k )
(6.11)
x 2 X oBOZNA^IM EE y: eSLI STACIONARNAQ TO^KA NE MOVET BYTX NAJDENA, TAK KAK ITERACIONNYE TO^KI STREMQTSQ K BESKONE^NOSTI, TO PEREHODIM K {AGU 3. {AG 2. eSLI f (y k ) = 0, stop. iNA^E WYBIRAEM NOWYE WESA k+1 POLAGAEM k := k + 1 yk := y I WOZWRA]AEMSQ K {AGU 1 (HOROIJ AG). {AG 3. wYBIRAEM NOWYE WESA k+1 POLAGAEM k := k + 1 yk := yk;1 I WOZWRA]AEMSQ K {AGU 1. iZU^IM SHODIMOSTX ALGORITMA. mY ISPOLXZUEM OBOZNA^ENIQ ^ASTI 7.1 DLQ OBLASTEJ PRITQVENIQ GLOBALXNOGO I LOKALXNYH MINIMUMOW.
124
tEOREMA 6.5 pREDPOLOVIM, ^TO DLQ WSEH x 2 X IMEEM (R(x)) > > 0:
pREDPOLOVIM TAKVE, ^TO WYBIRAEM WESA SLU^AJNO I NEZAWISIMO IZ MNOVESTWA P IRm: tOGDA DLQ aLGORITMA 5 lim P fyi 6= G 8i = 1 2 : : : kg = 0:
k!+1
(6.12)
dOKAZATELXSTWO. eSLI i 2 J (yi) MY NE WYPOLNQEM HOROIJ AG, I "MALYE" ITERACII OSTANAWLIWA@TSQ. wEROQTNOSTX P (i 2 R(yi)) ( P ) > 0:
pOWTORIW DOKAZATELXSTWO tEOREMY 7.1, POLU^AEM RAWENSTWO (6.12). tEOREMA DOKAZANA. 2 mOVNO MODIFICIROWATX aLGORITM 2, ^TOBY U^ESTX, ^TO ITERACIONNYE TO^KI MOGUT STREMITXSQ K BESKONE^NOSTI. pOSTROENIE ANALOGI^NO. ~TOBY POSTROITX ^ISLENNO REALIZUEMYJ METOD, MOVEM OGRANI^IWATX NORMU ITERACIONNYH TO^EK. eSLI ONA PREWOSHODIT DANNYJ UROWENX, MY DELAEM NULEWOJ AG, INA^E { HOROIJ AG. pREDPOLOVIM, ^TO sup 2P kG k C > 0: wYBEREM PARAMETR K > C I RASSMOTRIM SLEDU@]U@ SHEMU.
kONCEPTUALXNYJ aLGORITM 6 {AG 0. pOLAGAEM k := 0: wYBIRAEM NA^ALXNU@ TO^KU y0 2 X TAKU@, ^TO ky0k < K: wYBIRAEM NA^ALXNYE WESA 0: {AG 1. pOLAGAEM z0 := yk i := 0: {AG 2. eSLI kzik < K , TO PEREHODIM K {AGU 3. iNA^E PEREHODIM K {AGU 4. {AG 3. eSLI zi { STACIONARNAQ TO^KA, TO PEREHODIM K {AGU 5. iNA^E POLAGAEM i := i + 1 zi := M k (zi;1) I PEREHODIM K {AGU 2. {AG 4. wYBIRAEM NOWYE WESA k+1 POLAGAEM k := k + 1 yk := y0 I WOZWRA]AEMSQ K {AGU 1 (NULEWOJ AG). {AG 5. eSLI f (zi k ) = 0, stop. iNA^E POLAGAEM k := k + 1 yk := zi: wYBIRAEM NOWYE WESA k I WOZWRA]AEMSQ K {AGU 1.
125
sHODIMOSTX aLGORITMA 6 ZAWISIT OT PARAMETRA K: eSLI ON SLIKOM MAL, TO NE BUDUT DELATXSQ HOROIE AGI I MY NIKOGDA NE NAJDEM STACIONARNU@ TO^KU. tEOREMA 6.6 pUSTX WESA WYBRANY KAK W tEOREME 6.1 I PUSTX EE USLOWIQ WYPOLNQ@TSQ. pREDPOLOVIM, ^TO KONSTANTA K > sup kG k:
2P
tOGDA DLQ aLGORITMA 6 WYPOLNQETSQ RAWENSTWO (6.12). dOKAZATELXSTWO. mY PO-SU]ESTWU IMEEM SHEMU aLGORITMA 1 S TOJ RAZNICEJ, ^TO PROCESS MOVET BYTX OSTANOWLEN DO NAHOVDENIQ STACIONARNOJ TO^KI. pO\TOMU ALGORITM SHODITSQ. 2 6.4
aLGORITM S WOZMOVNOSTX@ WOZWRA]ENIQ
oDNA IZ WOZMOVNYH MODIFIKACIJ aLGORITMA 2 { POZWOLITX METODU WOZWRA]ATXSQ W PREDYDU]U@ ITERACIONNU@ TO^KU, ESLI ZA DANNOE ^ISLO ITERACIJ NE BYLO HOROIH AGOW. pREDLAGAETSQ SLEDU@]AQ SHEMA.
kONCEPTUALXNYJ aLGORITM 7 (METOD S WOZWRA]ENIQMI)
{AG 0. pOLAGAEM k := 0: wYBIRAEM NA^ALXNU@ TO^KU y0 2 X: wYBIRAEM NA^ALXNYE WESA 0 I CELOE ^ISLO m > 0: {AG 1. nAHODIM STACIONARNU@ TO^KU y, NA^INAQ S yk : eSLI f (y ) = 0, stop. iNA^E PEREHODIM K {AGU 2. {AG 2. eSLI f (y k ) f (yk k ), TO POLAGAEM k := k + 1 yk := y I WOZWRA]AEMSQ K {AGU 1 (HOROIJ AG). iNA^E PEREHODIM K {AGU 3. {AG 3. pOLAGAEM i := 0: wYBIRAEM SLU^AJNO WEKTOR WESOW ^ I NAHODIM STACIONARNU@ TO^KU ZADA^I min f (x ^) (6.13) x 2 X S NA^ALXNOJ TO^KOJ yk : oBOZNA^IM EE y^: eSLI f (^y ^) f (yk k ), TO POLAGAEM k := k + 1 yk := y^ k := ^ I WOZWRA]AEMSQ K {AGU 1 (HOROIJ AG). iNA^E PEREHODIM K {AGU 4.
126
{AG 4. pOLAGAEM i := i + 1: eSLI i m, TO PEREHODIM K {AGU 3 (NULEWOJ AG). iNA^E PEREHODIM K {AGU 5. {AG 5. eSLI k 1, TO yk := y0: iNA^E POLAGAEM yk+1 := yk;1 k := k + 1 (AG NAZAD) I WOZWRA]AEMSQ K {AGU 1 S NOWYMI WESAMI k : w \TOJ SHEME WESA MENQ@TSQ, ESLI MY DELAEM NULEWOJ AG ILI AG NAZAD. dOSTOINSTWO ALGORITMA W TOM, ^TO ON POZWOLQET PRISUTSTWIE NEOPTIMALXNYH STACIONARNYH TO^EK DLQ WSEH . dEJSTWITELXNO, DLQ TAKOJ TO^KI POSLE m POPYTOK BUDET SDELAN AG NAZAD, ^TO POZWOLQET SOHRANITX SHODIMOSTX K GLOBALXNOMU OPTIMUMU. wEROQTNOSTX SDELATX AG NAZAD IZ ITERACIONNOJ TO^KI yk RAWNA pb = (1 ; (F (P(y) k )) )m
I ESLI yk { NEOPTIMALXNAQ STACIONARNAQ TO^KA, ONA RAWNA 1 (POSLE m ITERACIJ). aLGORITM SOOTWETSTWUET MARKOWSKOJ CEPI S OTTALKIWA@]IMI SOSTOQNIQMI, SOOTWETSTWU@]IMI STACIONARNYM NEOPTIMALXNYM TO^KAM. wEROQTNOSTX PEREHODA IZ SOSTOQNIQ i W SOSTOQNIE j S i j 1 RAWNA (B ij ) p~ij = (P )
GDE B ij = f 2 P : k!lim z = S j z0 = S i zk = M (zk;1)g +1 k I WEROQTNOSTX POGLO]ENIQ RAWNA (Ai ) p~i0 = (P )
GDE i z = M (z )g: Ai = f 2 P : k!lim z = G z = S k
0 k
k ;1
+1 sLEDOWATELXNO, DLQ SHODIMOSTI NEOBHODIMO I DOSTATO^NO OTSUTSTWIE CIKLOW, TO ESTX TAKIH MNOVESTW I f1 2 : : : N g, ^TO (B ij ) = 0
DLQ WSEH i 2 I j 62 I I (Ai ) = 0: eSLI WEROQTNOSTX PEREHODA DLQ KAVDOGO SOSTOQNIQ i W DRUGOE SOSTOQNIE j POLOVITELXNA, GLOBALXNYJ OPTIMUM BUDET NAJDEN S WEROQTNOSTX@ 1.
127
~TOBY ULU^ITX ^ISLENNYE REZULXTATY, POLEZNO ISPOLXZOWATX METODY (SM. 97, 76]), KOGDA WMESTO ODNOJ NA^ALXNOJ TO^KI y0 BERETSQ CELOE MNOVESTWO NA^ALXNYH TO^EK. kONCEPTUALXNYE SHEMY, ODNAKO, PO SUTI NE IZMENQ@TSQ, KAK I REZULXTATY O SHODIMOSTI. 6.5
sLU^AJ BESKONE^NOGO ^ISLA STACIONARNYH TO^EK
dLQ PROSTOTY MY PREDPOLAGALI WYE, ^TO ^ISLO STACIONARNYH TO^EK KONE^NO DLQ KAVDOGO WESA : rASSMOTRIM BOLEE OB]IJ SLU^AJ. pUSTX DLQ KAVDOGO 2 P MY IMEEM N > 0 SWQZNYH MNOVESTW S j STACIONARNYH TO^EK I ODNO SWQZNOE MNOVESTWO G GLOBALXNYH OPTIMUMOW (ISPOLXZUEM TU VE NOTACI@, ^TO I W ^ASTI 6.1, GDE MNOVESTWA S j I G SOSTOQLI IZ ODNOJ TO^KI). nAZOWEM MNOVESTWO S j j -J STACIONARNOJ OBLASTX@, A MNOVESTWO G
{ OBLASTX@ GLOBALXNYH OPTIMUMOW. oBOZNA^IM j z = M (z ) z = xg V j (x) = f 2 P : i!lim z 2 S i i i;1 0
+1
(6.14)
W (x) = f 2 P : i!lim z 2 G zi = M (zi;1) z0 = xg: +1 i
(6.15)
mNOVESTWO V j (x) ESTX MNOVESTWO WESOW, DLQ KOTORYH MY POPADAEM W j -@ STACIONARNU@ OBLASTX, NA^INAQ S x, I W (x) { MNOVESTWO WESOW, DLQ KOTORYH MY POPADAEM W OBLASTX GLOBALXNYH OPTIMUMOW, ESLI NA^ALXNAQ TO^KA x: wEROQTNOSTX PEREJTI IZ x W j -@ STACIONARNU@ OBLASTX RAWNA pj = (V j (x))= (P ):
wEROQTNOSTX NAJTI GLOBALXNYJ OPTIMUM RAWNA p0 = (W (x))= (P ):
pREDPOLOVIM, ^TO (V j (x)) > 0 DLQ WSEH 2 P j 2 I I WSEH x 2 X: pREDPOLOVIM TAKVE, ^TO SU]ESTWUET STACIONARNAQ OBLASTX S m, TAKAQ, ^TO (W (x)) > 0 DLQ WSEH 2 P I WSEH x 2 S m: |TO OZNA^AET, ^TO MY MOVEM PEREJTI IZ NEKOTOROJ STACIONARNOJ OBLASTI W GLOBALXNYJ MINIMUM S NENULEWOJ WEROQTNOSTX@.
128
tEOREMA 6.7 pRI PREDYDU]IH PREDPOLOVENIQH DLQ aLGORITMA 1 WY-
POLNQETSQ RAWENSTWO (6.12). dOKAZATELXSTWO. wEROQTNOSTX NAJTI TO^KU IZ G ZA N "BOLXIH" ITERACIJ NE MENXE N , A \TO FIKSIROWANNOE ^ISLO. pO NAIM PREDPOLOVENIQM ONO NE ZAWISIT OT ITERACIONNOJ TO^KI. pO\TOMU (6.12) WYPOLNQETSQ. 2 eSLI ZNA^ENIE MALO, MOVET POTREBOWATXSQ BOLXOE ^ISLO ITERACIJ DLQ NAHOVDENIQ OPTIMALXNOGO REENIQ. eSLI MNOVESTWO W (x) NEPUSTO, NO EGO MERA NULX, aLGORITM 1 MOVET RASHODITXSQ. wAVNAQ I TRUDNAQ ZADA^A { NAJTI WES, GARANTIRU@]IJ SHODIMOSTX, ESLI ON EDINSTWEN I MNOVESTWO P SODERVIT BESKONE^NOE ^ISLO \LEMENTOW. oDNA IZ WOZMOVNOSTEJ SLEDU@]AQ. pREDPOLOVIM, ^TO DLQ KAVDOGO x 2 X MY MOVEM MINIMIZIROWATX f (x ) KAK FUNKCI@ : nAPRIMER, DLQ WZWEENNOJ SUMMY KWADRATOW MY IMEEM LINEJNU@ FUNKCI@ DLQ L@BOGO FIKSIROWANNOGO x. eSLI P { MNOGOGRANNIK, IMEEM ZADA^U LINEJNOGO PROGRAMMIROWANIQ.
kONCEPTUALXNYJ aLGORITM 8
(MINIMIZACIQ PO OTNOENI@ K WESAM)
{AG 0. pOLAGAEM k := 0: wYBIRAEM NA^ALXNU@ TO^KU y0 2 X: wYBIRAEM NA^ALXNYE WESA 0: {AG 1. nAHODIM STACIONARNU@ TO^KU y S NA^ALXNOJ TO^KOJ yk : eSLI f (y ) = 0, stop. iNA^E PEREHODIM K {AGU 2. {AG 2. pOLAGAEM yk := y: rEAEM SLEDU@]U@ ZADA^U: min f (yk ) (6.16) 2 P: pUSTX { OPTIMALXNOE REENIE \TOJ ZADA^I. {AG 3. eSLI f (yk ) f (yk k ), TO POLAGAEM k := k + 1 k := yk := yk;1 I WOZWRA]AEMSQ K {AGU 1. iNA^E WYBIRAEM k+1 SLU^AJNO, POLAGAEM k := k + 1 yk := yk;1 I WOZWRA]AEMSQ K {AGU 1. k SOVALENI@, NEDOSTATO^NO MINIMIZIROWATX DLQ SHODIMOSTI, TAK KAK POSLE \TOGO ITERACIONNAQ TO^KA MOVET OSTATXSQ PREVNEJ STACIONARNOJ
129
TO^KOJ, I W REZULXTATE NE BUDET GLOBALXNOJ SHODIMOSTI. oDNAKO S POMO]X@ PREDYDU]EGO ALGORITMA MOVNO USKORITX aLGORITM 2. wYBOR NA {AGE 3 NE MOVET NARUITX SHODIMOSTX W SILU PRISUTSTWIQ PARAMETRA : 6.6
wOZMOVNOE OBOB]ENIE
uSLOWIQ SHODIMOSTI MOGUT BYTX NE WYPOLNENY WO MNOGIH SLU^AQH, I PO \TOJ PRI^INE MY WWODIM W ANALIZ ALGORITMOW SLEDU@]IE PONQTIQ, KOTORYE POZWOLQ@T POLU^ITX BOLEE SLABYE USLOWIQ SHODIMOSTI. pUSTX Z0 G TO ESTX Z0 { MNOVESTWO OPTIMALXNYH REENIJ ISHODNOJ ZADA^I. oBOZNA^IM W (0)(x) = f 2 P : i!lim z 2 Z0 zi = M (zi;1) z0 = xg: +1 i
oPREDELENIE 6.6.1 pUSTX " > 0 { POLOVITELXNYJ PARAMETR. tO^KA
y 2 X NAZYWAETSQ "-SUBOPTIMALXNOJ TO^KOJ PERWOGO PORQDKA, ESLI WYPOLNQETSQ SLEDU@]EE NERAWENSTWO. (W (0)(y)) > " > 0: (P ) mNOVESTWO WSEH "-SUBOPTIMALXNYH TO^EK PERWOGO PORQDKA OBOZNA^AETSQ Z1 :
oPREDELENIE 6.6.2 tO^KA y NAZYWAETSQ "-SUBOPTIMALXNOJ
TO^KOJ k-GO PORQDKA, ESLI WYPOLNQETSQ NERAWENSTWO (W (k;1)(y)) > " > 0: (P ) mNOVESTWO WSEH "-SUBOPTIMALXNYH TO^EK k-GO PORQDKA OBOZNA^AETSQ Zk : zDESX W (k)(x) = f 2 P : i!lim z 2 Zk zi = M (zi;1) z0 = xg: +1 i
pO SUTI, MY DAEM REKURSIWNOE OPREDELENIE, TAK KAK MNOVESTWO W (k)(x) OPREDELQETSQ ^EREZ Zk , A MNOVESTWO Zk+1 DLQ k 0 { ^EREZ W (k)(x): tEOREMA 6.8 pUSTX X = Kj=1Zj GDE K < +1: pREDPOLOVIM, ^TO WESA WYBRANY, KAK W tEOREME 6.1. tOGDA WYPOLNQETSQ (6.12).
130
dOKAZATELXSTWO. tAK KAK WYBORY WESOW NEZAWISIMY, WEROQTNOSTX NAJTI GLOBALXNYJ MINIMUM ZA K AGOW NE MENXE "K : wEROQTNOSTX NE NAJTI GLOBALXNYJ MINIMUM ZA K M AGOW, GDE M { POLOVITELXNOE ^ISLO, NE PREWOSHODIT (1 ; "K )M : tAK KAK K FIKSIROWANO, \TO ZNA^ENIE STREMITSQ K NUL@ I WYPOLNQETSQ (6.12). tEOREMA DOKAZANA. 2 eSLI P SOSTOIT IZ KONE^NOGO ^ISLA WESOW, "-SUBOPTIMALXNOSTX OZNA^AET, ^TO SU]ESTWUET HOTQ BY ODIN WES, KOTORYJ GARANTIRUET, ^TO MY NAJDEM GLOBALXNYJ MINIMUM NA SLEDU@]EJ ITERACII. "-SUBOPTIMALXNOSTX k-GO PORQDKA OZNA^AET, ^TO NAJDUTSQ k WEKTOROW WESOW, TAKIH, ^TO WYBIRAQ NA i-J ITERACII i-J WEKTOR WESOW, MY NAJDEM GLOBALXNYJ MINIMUM ^EREZ k ITERACIJ. kONE^NO, ESLI MNOVESTWO X SOSTOIT IZ "-SUBOPTIMALXNYH TO^EK PORQDKA NE WYE K > 0 DOSTATO^NO RASSMOTRETX WSEWOZMOVNYE POSLEDOWATELXNOSTI K WEKTOROW WESOW. tOGDA ZA KONE^NOE ^ISLO ITERACIJ GLOBALXNYJ MINIMUM BUDET NAJDEN. 6.7
pRIBLIVENNYE STACIONARNYE TO^KI
w KONCEPTUALXNYH SHEMAH, PREDSTAWLENNYH WYE, PREDPOLAGALOSX, ^TO MOVNO NAJTI STACIONARNU@ TO^KU TO^NO DLQ L@BOGO WESA. |TO PREDPOLOVENIE NEREALISTI^NO, TAK KAK IZWESTNYE LOKALXNO SHODQ]IESQ METODY POZWOLQ@T NAJTI STACIONARNU@ TO^KU S KONE^NOJ TO^NOSTX@ " > 0: |TO MOVET NARUITX SHODIMOSTX. nAPRIMER, ESLI DLQ FUNKCII ODNOJ PEREMENNOJ MY I]EM STACIONARNU@ TO^KU PRIBLIVENNO, WSE ITERACIONNYE TO^KI MOGUT OSTAWATXSQ S ODNOJ STORONY OT NEE, TOGDA KAK GLOBALXNYJ MINIMUM NAHODITSQ S DRUGOJ STORONY. pUSTX MY IMEEM N > 0 STACIONARNYH NEOPTIMALXNYH TO^EK I ODIN GLOBALXNYJ OPTIMUM DLQ KAVDOGO : pREDPOLOVIM, ^TO DLQ KAVDOGO WEKTORA WESOW I KAVDOJ NA^ALXNOJ TO^KI x MY MOVEM NAJTI LOKALXNYM METODOM ITERACIONNU@ TO^KU zk TAKU@, ^TO kzk ; S j k < ILI kzk ; G k < DLQ > 0, KOTOROE MOVET BYTX SKOLX UGODNO MALO. pREDLOVIM SLEDU@]IE SHEMY.
kONCEPTUALXNYJ aLGORITM 9
131
{AG 0. pOLAGAEM k := 0: wYBIRAEM NA^ALXNU@ TO^KU y0 2 X: wYBIRAEM NA^ALXNYE WESA 0 I POLOVITELXNYJ PARAMETR > 0: {AG 1. nAHODIM LOKALXNYM METODOM M k S NA^ALXNOJ TO^KOJ yk TO^KU z, TAKU@, ^TO kz ; S j k < DLQ NEKOTOROGO j: {AG 2. wYBIRAEM yk+1 KAK SLU^AJNYJ WEKTOR IZ ARA B (z 2): {AG 3. pOLAGAEM k := k + 1, WYBIRAEM NOWYE WESA k I WOZWRA]AEMSQ K {AGU 1. dRUGAQ MODIFIKACIQ SLEDU@]AQ:
kONCEPTUALXNYJ aLGORITM 10 {AGI 0 - 1. kAK W aLGORITME 9. {AG 2. pOLAGAEM i:=0. eSLI f (z k ) = 0, stop. eSLI f (z k ) f (yk k ), TO POLAGAEM k := k +1 yk := z I WOZWRA]AEMSQ K {AGU 1 S PREVNIMI WESAMI. iNA^E PEREHODIM K {AGU 3. {AG 3. pOLAGAEM i := i + 1: eSLI i < K GDE K > 0 { FIKSIROWANNOE POLOVITELXNOE ^ISLO, TO MENQEM WESA, POLAGAEM k := k + 1 yk := yk;1 I WOZWRA]AEMSQ K {AGU 1 (NULEWOJ AG). iNA^E PEREHODIM K {AGU 4. {AG 4. pOLAGAEM k := k + 1, WYBIRAEM yk KAK SLU^AJNYJ WEKTOR IZ ARA B (z 2) I WOZWRA]AEMSQ K {AGU 1. oBA ALGORITMA POHOVI NA METOD WOZMU]ENIJ. iH CELX, ODNAKO, INAQ. mETOD WOZMU]ENIJ MOVET BYTX ISPOLXZOWAN, ^TOBY WYJTI IZ "PLOHOJ" STACIONARNOJ TO^KI, TOGDA KAK POSLEDNIE DWA ALGORITMA PREDLAGA@TSQ, ^TOBY REITX PROBLEMU, ^TO NEWOZMOVNO NAJTI STACIONARNYE TO^KI TO^NO I TOLXKO TO^KI IZ IH OKRESTNOSTEJ MOGUT BYTX NAJDENY. uSTANOWITX SHODIMOSTX DLQ SLU^AQ PRIBLIVENNYH STACIONARNYH TO^EK GORAZDO TRUDNEE. pRI^INA W TOM, ^TO MALYE WOZMU]ENIQ OKOLO STACIONARNYH TO^EK MOGUT IZMENQTX OBLASTI PRITQVENIQ. dLQ IZU^ENIQ SHODIMOSTI MY DOLVNY RASSMATRIWATX NE TOLXKO OBLASTI PRITQVENIQ STACIONARNYH TO^EK, NO I SLEDU@]IE MNOVESTWA: Y ij fx 2 B (S i ) : x 2 B j g 8j = 1 N U (i j ) = x(Y ij ) 8j = 1 N
132
Y i0 fx 2 B (S i ) : x 2 A g U (i 0 ) = x(Y i0): mY IMEEM MARKOWSKU@ CEPX, W KOTOROJ KAVDAQ TO^KA S j SOOTWETSTWUET j -MU SOSTOQNI@ I SOSTOQNIE NULX SOOTWETSTWUET GLOBALXNOMU OPTIMUMU. sOSTOQNIE NULX { ABSORBIRU@]EE SOSTOQNIE (SM. 58]), TAK KAK METOD OSTANAWLIWAETSQ W OPTIMALXNOJ TO^KE. pUSTX WESA WYBIRA@TSQ IZ MNOVESTWA P SLU^AJNO S RAWNOMERNYM RASPREDELENIEM. wEROQTNOSTX PEREHODA pij IZ SOSTOQNIQ i W SOSTOQNIE j MOVNO OCENITX SLEDU@]IM OBRAZOM: pij U (i j )=x(B2 ) j 6= 0 pi0 U (i 0 )=x(B2 ): zDESX x(B2 ) { LEBEGOWA MERA ARA S RADIUSOM 2 W IRn: zAMETIM, ^TO MY WYBIRAEM TO^KU yk IZ B (z 2), A NE IZ B (z ), ^TOBY SOHRANITX OBLASTI PRITQVENIQ STACIONARNOJ TO^KI. eSLI WSE ZNA^ENIQ W PRAWOJ ^ASTI POLOVITELXNY, GLOBALXNYJ OPTIMUM BUDET NAJDEN S WEROQTNOSTX@ 1. kONE^NO, ^ISLENNAQ REALIZACIQ BUDET ZAWISETX OT SWOJSTW KONKRETNOJ ZADA^I I EE CELEWOJ FUNKCII. uSLOWIQ SHODIMOSTI O^ENX OB]IE I ONI MOGUT POZWOLITX RAZRABOTATX \FFEKTIWNU@ KOMBINACI@ LOKALXNYH I GLOBALXNYH METODOW.
gLAWA 7 rEZULXTATY ^ISLENNYH \KSPERIMENTOW 7.1
rEZULXTATY DLQ METODA SEKU]IH UGLOW
~TOBY PROWERITX \FFEKTIWNOSTX METODA SEKU]IH UGLOW, BYL PROWEDEN RQD ^ISLENNYH \KSPERIMENTOW. bOLXINSTWO IZ NIH PROWODILOSX S WOZRASTA@]IMI WYPUKLYMI PO LU^AM FUNKCIQMI ODNOGO IZ SLEDU@]IH KLASSOW: 1) f (x) = Qx x] GDE Q { MATRICA, NE OBQZATELXNO POLOVITELXNO POLUOPREDELENNAQ Q WYBIRALASX KAK POLOVITELXNAQ MATRICA, ^TO GARANTIRUET, ^TO SOOTWETSTWU@]AQ KWADRATI^NAQ FUNKCIQ wwl. 2) fUNKCIQ kOBBA-dUGLASA
f (x) =
s Ys i X x i 1:
i=1
i=1
zAMETIM, ^TO ZADA^I MINIMIZACII FUNKCIJ kOBBA-dUGLASA BYLI IZU^ENY W 93], GDE BYL PREDLOVEN DRUGOJ ALGORITM. 3) f (x) = maxQix x] i = 1 k: zDESX f { MAKSIMUM IZ KWADRATI^NYH NEWYPUKLYH FUNKCIJ. fUNKCIQ OGRANI^ENIJ g WYBIRALASX ILI KAK KWADRATI^NAQ WOGNUTAQ FUNKCIQ S POLOVITELXNYMI KO\FFICIENTAMI, ILI KAK MAKSIMUM LINEJNYH FUNKCIJ. tAKIM OBRAZOM, DOPUSTIMOE MNOVESTWO ^ASTO WYBIRALOSX KAK W ZADA^E OBRATNOGO WYPUKLOGO PROGRAMMIROWANIQ (SM. 54, 53, 74]). sOWREMENNAQ WY^ISLITELXNAQ TEHNIKA POZWOLQET REATX ZADA^I S RAZMERNOSTX@ DO
134
NESKOLXKIH DESQTKOW PEREMENNYH. mY NADEEMSQ UWELI^ITX RAZMERNOSTX, ISPOLXZUQ SPECIALXNYE SWOJSTWA KOMBINATORNOJ PODZADA^I. pROGRAMMA BYLA NAPISANA NA QZYKE TurboC DLQ DOS/Windows I REALIZOWANA TAKVE W OPERACIONNOJ SISTEME Unix. zNA^ENIE WERHNEJ GRANICY DLQ PEREMENNYH KOLEBALOSX OT 5 DO 20: nA^ALXNAQ TO^KA WYBIRALASX SLU^AJNO ILI KAK LOKALXNYJ MINIMUM CELEWOJ FUNKCII, NAJDENNYJ LOKALXNYM METODOM. kONE^NO, ITERACIQ METODA SEKU]IH UGLOW TREBUET BOLXIH ZATRAT WREMENI, I, BOLEE TOGO, NET NEOBHODIMOSTI PRIMENQTX EGO W OKRESTNOSTI GLOBALXNOGO MINIMUMA, POSKOLXKU MOVNO PROSTO PRIMENITX LOKALXNYJ POISK. dLQ ULU^ENIQ ALGORITMA BYL RAZRABOTAN GIBRIDNYJ METOD, I ON OKAZALSQ GORAZDO BOLEE \FFEKTIWNYM. lOKALXNYJ POISK BYL REALIZOWAN KAK METOD {ORA S RASHODQ]IMSQ AGOM (SM. 92]). |TOT METOD PREDPO^TITELEN, TAK KAK EGO ITERACIQ TREBUET O^ENX MALO WREMENI I ON RABOTAET TAKVE S NEGLADKIMI FUNKCIQMI. oDNAKO ON ^UWSTWITELEN K WYBORU NA^ALXNOGO AGA, I REZULXTATY ZAMETNO ZAWISELI OT NA^ALXNOGO AGA. wO WSEH SLU^AQH GLOBALXNYJ MINIMUM BYL NAJDEN S TO^NOSTX@ " = 0:001: eSLI NA^ALXNOJ TO^KOJ BYL LOKALXNYJ MINIMUM, IZ ODNOJ IZ POSLEDU@]IH TO^EK OSU]ESTWLQLSQ SPUSK K GLOBALXNOMU MINIMUMU. rASSMOTRIM NEKOTORYE KONKRETNYE PRIMERY. oNI IME@T LOKALXNYE, NO NE GLOBALXNYE MINIMUMY.
pRIMER 1.
x1x2x3x4x5x6x7 + px1x2x3x4x5x6x7 ! min
x21 + 4x22 + 2x23 + 3x24 + 2x25 + 3x26 + x27 24 1 x1 10 1 x2 10 1 x3 10 1 x4 10 1 x5 10 1 x6 10 1 x7 10: p oPTIMALXNOE REENIE \TOJ ZADA^I { TO^KA (1 3 1 1 1 1 1). nAILU^EE REENIE, NAJDENNOE GIBRIDNYM ALGORITMOM, SLEDU@]EE: x1 = 1:000083 x2 = 1:732257 x3 = 1:000035 x4 = 1:000007 x5 = 1:000042 x6 = 1:000031 x7 = 1:000018:
135
~TOBY NAJTI \TU TO^KU, GIBRIDNYJ METOD POTREBOWAL 21 ITERACI@. aBSOL@TNAQ TO^NOSTX PO NORME I OTNOSITELXNAQ TO^NOSTX PO CELEWOJ FUNKCII RAWNY SOOTWETSTWENNO 0:000206 I 10;7:
pRIMER 2.
x21x22 + 3x1x2 + x1 + 5x2 + 2 ! min x21 + x22 1 0 x1 1 0 x2 1: oPTIMALXNOE REENIE \TOJ ZADA^I { TO^KA (1 0): nAILU^EE REENIE, NAJDENNOE GIBRIDNYM ALGORITMOM, SLEDU@]EE: x1 = 0:99981000 x2 = 0:001000:
~TOBY NAJTI \TU TO^KU, METOD SEKU]IH UGLOW POTREBOWAL 12 ITERACIJ.
pRIMER 3.
maxfx1 2x2 3x3 4x4 5x5g ! min x1 + x2 + x3 + x4 + x5 1 0 xi i = 1 5: oPTIMALXNOE REENIE \TOJ ZADA^I { TO^KA (60=137 30=137 20=137 15=137 12=137):
nAILU^EE REENIE, NAJDENNOE GIBRIDNYM ALGORITMOM, SLEDU@]EE: x1 = 0:437950 x2 = 0:218980 x3 = 0:145980 x4 = 0:10949 x5 = 0:08759: ~TOBY NAJTI \TU TO^KU, GIBRIDNYJ METOD POTREBOWAL 80 ITERACIJ.
pRIMER 4.
19 X i=1
xixi+1 ! min n X
xi = 1 i=1 0 xi i = 1 20:
136
oPTIMALXNOE REENIE \TOJ ZADA^I { TO^KA z z20 = 1 zi = 0 i 6= 20: mETODOM SEKU]IH UGLOW \TA ZADA^A BYLA REENA TO^NO ZA 20 ITERACIJ.
pRIMER 5.
exp(x1) + 2 exp(x2) + 3 exp(x3) ! min
x1 + x2 + x3 1 0 x1 1 0 x2 1 0 x3 1: oPTIMALXNOE REENIE \TOJ ZADA^I { TO^KA (1 0 0): nAILU^EE REENIE, NAJDENNOE METODOM SEKU]IH UGLOW, SLEDU@]EE:
x1 = 0:999230 x2 = 0:001000 x3 = 0:001010:
~TOBY NAJTI \TU TO^KU, ALGORITM POTREBOWAL 22 ITERACII.
pRIMER 6.
x21 + x22 + x23 + 2x21x22 + 2x21x23 ! min x1 + x2 + x3 1 0 xi 1 i = 1 3:
nAILU^EE REENIE, NAJDENNOE GIBRIDNYM ALGORITMOM, SLEDU@]EE: x1 = 0:26369 x2 = 0:35694 x3 = 0:37936:
zNA^ENIE CELEWOJ FUNKCII W \TOJ TO^KE 0:37858: ~TOBY NAJTI EE, POTREBOWALOSX 80 ITERACIJ.
pRIMER 7.
maxf2x21x2 5x2x23 2x21 + x22 + 3x23g ! min
x1 + x2 + x3 1 0 xi 1 i = 1 3:
nAILU^EE REENIE, NAJDENNOE GIBRIDNYM ALGORITMOM, SLEDU@]EE: x1 = 0:25253 x2 = 0:57021 x3 = 0:17725:
137
zNA^ENIE CELEWOJ FUNKCII 0:5469449: ~TOBY NAJTI \TU TO^KU, GIBRIDNYJ METOD POTREBOWAL 80 ITERACIJ. wREMQ REENIQ NE UWELI^IWALOSX O^ENX REZKO PO OTNOENI@ K RAZMERNOSTI. nAILU^EJ STRATEGIEJ DLQ PODZADA^I BYLO ISPOLXZOWATX METOD IMITACII ZAMORAVIWANIQ, WEROQTNO, POTOMU, ^TO ^ISLO LOKALXNYH MINIMUMOW NEWELIKO. mETOD SEKU]IH UGLOW PRODEMONSTRIROWAL SLEDU@]EE POWEDENIE. oN RABOTAET \FFEKTIWNO S NEGLADKIMI FUNKCIQMI I FUNKCIQMI kOBBA-dUGLASA. pRI^INA, WOZMOVNO, W TOM, ^TO FUNKCII TIPA MINIMUMA (SM. 81]) HOROO IH APPROKSIMIRU@T. dLQ KWADRATI^NYH FUNKCIJ REZULXTATY BYLI UDOWLETWORITELXNYMI, HOTQ INOGDA TREBOWALOSX MNOGO ITERACIJ, WEROQTNO, W SILU PLOHOJ OBUSLOWLENNOSTI ZADA^. hUDIJ SLU^AJ DLQ METODA SEKU]IH UGLOW { LINEJNAQ CELEWAQ FUNKCIQ, POSKOLXKU FUNKCII TIPA MINIMUMA PLOHO EE APPROKSIMIRU@T. mOVNO SKAZATX, ^TO GIBRIDNYJ METOD (METOD SEKU]IH UGLOW W SO^ETANII S LOKALXNYM POISKOM METODOM {ORA) OKAZALSQ O^ENX \FFEKTIWEN DLQ MINIMIZACII WOZRASTA@]IH WYPUKLYH PO LU^AM FUNKCIJ, KOGDA ^ISLO PEREMENNYH OTNOSITELXNO NEWELIKO. oN NE^UWSTWITELEN K OGRANI^ENIQM I DAWAL BLIZKIE REZULXTATY DLQ LINEJNYH I NELINEJNYH OGRANI^ENIJ. pRIMENENIE METODA WETWEJ I GRANIC I BOLEE POLNOE IZU^ENIE PODZADA^I POZWOLILI PRIMENITX METOD K BOLEE IROKIM KLASSAM ZADA^ I UWELI^ITX IH RAZMERNOSTX. lEGKO POSTROITX PARALLELXNYE ALGORITMY DLQ REENIQ PODZADA^I, I \TO { ODNO IZ NAPRAWLENIJ DALXNEJIH ISSLEDOWANIJ. 7.2
rEZULXTATY DLQ ZWEZDNYH FUNKCIJ
rQD ^ISLENNYH \KSPERIMENTOW BYL PROWEDEN DLQ TESTOWYH PRIMEROW, BOLXINSTWO IZ KOTORYH IMEET MNOGO^ISLENNYE LOKALXNYE, NO NE GLOBALXNYE MINIMUMY. oKAZALOSX, ^TO RQD PRAKTI^ESKIH INVENERNYH ZADA^ IME@T wz CELEWU@ FUNKCI@ I WYPUKLOE DOPUSTIMOE MNOVESTWO. wO MNOGIH SLU^AQH MOVNO SWESTI ISHODNU@ ZADA^U K MINIMIZACII wz FUNKCII. rASSMOTRIM SLEDU@]IE TESTOWYE PRIMERY, WZQTYE IZ KNIG 44, 52].
pRIMER 1 52].
0:01x21 + x22 ! min x1x2 25
138
x21 + x22 25 2 x1 50 0 x2 50: cELEWAQ FUNKCIQ W DANNOM I SLEDU@]EM PRIMERAH { NE wz FUNKCIQ, NO \TO NEOTRICATELXNAQ KWADRATI^NAQ FUNKCIQ, PO\TOMU WMESTO NEE MINIMIZIROWALSQ EE KWADRATNYJ KORENX, KOTORYJ QWLQETSQ wpop (A PO\TOMU wz) p FUNKCIEJ. oPTIMALXNOE REENIE \TOJ ZADA^I { TO^KA ( 250 2:5): nAILU^EE NAJDENNOE REENIE x1 = 15:811402 x2 = 1:581137: aBSOL@TNAQ TO^NOSTX PO NORME I OTNOSITELXNAQ TO^NOSTX PO CELEWOJ FUNKCII RAWNY SOOTWESTWENNO 0:000014 I 0:000003: ~TOBY NAJTI \TO REENIE, ALGORITM POTREBOWAL 18 ITERACIJ. pRIMER 2 52]. x21 + x22 + x23 ! min x21 + x22 ; 1 0 1 x1 10 ;10 x2 10 ;10 x3 10: tAK KAK DOPUSTIMOE MNOVESTWO \TOJ ZADA^I NE PRINADLEVIT IRn+ BYLO NEOBHODIMO RAZDELITX EGO NA NESKOLXKO ^ASTEJ I MINIMIZIROWATX CELEWU@ FUNKCI@ NA KAVDOJ IZ NIH. oPTIMALXNOE REENIE \TOJ ZADA^I { TO^KA (1 0 0): nAILU^EE NAJDENNOE REENIE x1 = 1:000000 x2 = 0:000000 x2 = 0:000000: aBSOL@TNAQ TO^NOSTX PO NORME RAWNA 0. ~TOBY NAJTI \TO REENIE, ALGORITM POTREBOWAL 20 ITERACIJ. zAMETIM, ^TO ZA 12 ITERACIJ BYLO NAJDENO OPTIMALXNOE REENIE S TO^NOSTX@ 0:001: w SLEDU@]IH PRIMERAH, WZQTYH IZ PRAKTI^ESKIH INVENERNYH ZADA^, CELEWAQ FUNKCIQ PREDSTAWLQET SOBOJ SUMMU wz I LINEJNOJ FUNKCIJ. oNA IMEET WID f (x) = g(x) + c x]
139
GDE g { wz FUNKCIQ I c 2 IRn: w \TOM SLU^AE MY WWODILI NOWU@ PEREMENNU@ v = c x] DLQ LINEJNOJ ^ASTI, I W REZULXTATE CELEWAQ FUNKCIQ STANOWILASX wz NA IRn+: oDNAKO, TAK KAK W OPTIMALXNOM REENII v MOGLO BYTX OTRICATELXNYM, BYLO NEOBHODIMO NESKOLXKO IZMENITX PODZADA^U, WKL@^IW v W FUNKCII TIPA MINIMUMA. a IMENNO, MY GENERIROWALI PODZADA^I WIDA t ! min min(hhi xi + v ci + v) t 8i = 0 k x 2 X c x] = v
(7.1)
KOTORYE MOGUT BYTX REENY KAK ZADA^I ^ASTI^NO CELO^ISLENNOGO PROGRAMMIROWANIQ ILI ZADA^I DIZ_@NKTIWNOGO PROGRAMMIROWANIQ (SM. 26]). wAVNO OTMETITX, ^TO ALGORITM POZWOLQET PROWERITX OPTIMALXNOSTX NAILU^EJ NAJDENNOJ TO^KI. eSLI DWE POSLEDOWATELXNYE ITERACIONNYE TO^KI SOWPADA@T, \TO OZNA^AET, ^TO ONI { GLOBALXNYJ MINIMUM CELEWOJ FUNKCII (SM. 21]). oPTIMALXNOSTX BYLA PODTWERVDENA W PRIMERAH 3 I 4 \TIM SPOSOBOM.
pRIMER 3 44].
x01:6 + x02:6 ; 6x1 ; 4u1 + 3u2 ! min x2 ; 3x1 ; 3u1 = 0 x1 + 2u1 4 x2 + 2u2 4 x1 3 u2 1: oPTIMALXNAQ TO^KA ZADA^I { (4=3 4 0 0): nAILU^EE NAJDENNOE REENIE x1 = 1:333333 x2 = 3:999999 u1 = 0:000000 u2 = 0:000000: aBSOL@TNAQ TO^NOSTX PO NORME RAWNA 0:000001, OTNOSITELXNAQ TO^NOSTX PO CELEWOJ FUNKCII { 3 10;7: ~TOBY NAJTI \TO REENIE, ALGORITM POTREBOWAL 12 ITERACIJ.
140
pRIMER 4 44]. x01:6 + 2x02:6 + 2u1 ; 2x2 ; u2 ! min x2 ; 3x1 ; 3 = 0 x1 + 2u1 4 x2 + u2 4 x1 3 u2 2: aLGORITM NAEL SLEDU@]EE OPTIMALXNOE REENIE: x1 = 0:000000 x2 = 2:999999 u1 = 0:000000 u2 = 0:999999: aBSOL@TNAQ TO^NOSTX PO NORME { 0:000001, OTNOSITELXNAQ TO^NOSTX PO CELEWOJ FUNKCII { 2 10;7: ~TOBY NAJTI \TO REENIE, ALGORITM POTREBOWAL 11 ITERACIJ. pRIMER 5 44]. x01:6 + x02:6 + x03:4 + 2u1 + 5u2 ; 4x3 ; u3 ! min x2 ; 3x1 ; 3u1 = 0 x3 ; 2x2 ; 2u2 = 0 4u1 ; u3 = 0 x1 + 2u1 4 x2 + u2 4 x3 + u3 6 x1 3 u2 2 x3 4:
141
oPTIMALXNOE REENIE { TO^KA (2=3 2 4 0 0 0): nAILU^EE NAJDENNOE REENIE x1 = 0:666666 x2 = 2:000000 x3 = 3:999999 u1 = 0:000000 u2 = 0:000000 u3 = 0:000000: aBSOL@TNAQ TO^NOSTX PO NORME RAWNA 0:000001, OTNOSITELXNAQ TO^NOSTX PO CELEWOJ FUNKCII ESTX 10;7: ~TOBY NAJTI \TO REENIE, ALGORITM POTREBOWAL 27 ITERACIJ. wEROQTNO, DLQ PODOBNYH ZADA^ WYGODNO ISPOLXZOWATX GIBRIDNYE METODY. w SLU^AE wwl FUNKCIJ ONI POZWOLILI ZNA^ITELXNO UWELI^ITX RAZMERNOSTX REAEMYH ZADA^ (21]).
pRIMER 6 52].
2 ; x1x2x3 ! max x1 + 2x2 + 2x3 ; x4 = 0 0 xi 1 i = 1 3 0 x4 2: oPTIMALXNOE REENIE ZADA^I { TO^KA (2=3 1=3 1=3 2): nAILU^EE NAJ-
DENNOE REENIE
x1 = 0:667039 x2 = 0:333240 x3 = 0:333240 x4 = 2:000000: tAK KAK PROIZWEDENIE PEREMENNYH { NE wz FUNKCIQ, MY MINIMIZIROWALI EGO KUBI^ESKIJ KORENX, KOTORYJ QWLQETSQ wpo FUNKCIEJ. aBSOL@TNAQ TO^NOSTX PO NORME RAWNA 0:000372, I OTNOSITELXNAQ TO^NOSTX PO CELEWOJ FUNKCII { 7 10;8: ~TOBY NAJTI \TO REENIE, ALGORITM POTREBOWAL 57 ITERACIJ. pODZADA^A S FUNKCIQMI TIPA MINIMUMA REALASX S POMO]X@ PROGRAMMNOGO PAKETA CPLEX MIP 4.0-5.0 (POSLE EE SWEDENIQ K ZADA^E ^ASTI^NO CELO^ISLENNOGO PROGRAMMIROWANIQ). pROGRAMMA BYLA NAPISANA W SREDE Borland C++ DLQ Windows 95 I REALIZOWANA W OPERACIONNOJ SISTEME AIX 3.2 NA IBM RS 6000. nA^ALXNAQ TO^KA WYBIRALASX S POMO]X@ WYPUKLOJ OPTIMIZACII. wAVNO OTMETITX, ^TO ALGORITM PRIMENIM NE TOLXKO K MINIMIZACII, NO I K MAKSIMIZACII WOZRASTA@]IH POLOVITELXNO ODNORODNYH FUNKCIJ.
142
7.3
rEZULXTATY ^ISLENNYH \KSPERIMENTOW DLQ LIPICEWYH FUNKCIJ
pRIMENIMOSTX NAEGO PODHODA PROWERQLASX REENIEM RQDA TESTOWYH ZADA^ S LIPICEWYMI CELEWYMI FUNKCIQMI, KOTORYE OBY^NO WYBIRALISX IZ ODNOGO IZ SLEDU@]IH KLASSOW: 1) f (x) = Qx x] GDE Q { SIMMETRI^NAQ MATRICA, NE OBQZATELXNO POLOVITELXNO POLUOPREDELENNAQ. oBY^NO Q WYBIRALASX KAK DIAGONALXNAQ MATRICA S POLOVITELXNYMI I OTRICATELXNYMI \LEMENTAMI. tAKIM OBRAZOM BYLA RASSMOTRENA ZADA^A MINIMIZACII RAZNOSTI WYPUKLYH FUNKCIJ (SM. 53] I SSYLKI W DANNOJ RABOTE). 2) dIFFERENCIRUEMYE FUNKCII. dOPUSTIMOE MNOVESTWO BYLO MNOGOGRANNIKOM, ^TO POZWOLQLO PRIMENQTX PROGRAMMNYJ PAKET CPLEX 5.0 DLQ REENIQ KOMBINATORNOJ PODZADA^I. eSLI MNOGOGRANNIK NE PRINADLEVAL IRn+ NAHODILISX NIVNIE GRANICY PEREMENNYH, I DOPUSTIMOE MNOVESTWO SDWIGALOSX W IRn+ PROSTYM LINEJNYM PREOBRAZOWANIEM. pROGRAMMA BYLA NAPISANA NA QZYKE PROGRAMMIROWANIQ C++ DLQ OPERACIONNYH SISTEM Unix I AIX 3.2. pARAMETRY M I p WYBIRALISX WRU^NU@. bYLO WAVNO, ^TOBY \TI PARAMETRY NE PRINIMALI BOLXIH ZNA^ENIJ. zNA^ENIE p DOLVNO BYTX W INTERWALE MEVDU 2 I 8, I ZNA^ENIE M NE DOLVNO PREWOSHODITX NESKOLXKIH TYSQ^, ^TOBY NAJTI OPTIMALXNOE REENIE (INA^E ALGORITM NEUSTOJ^IW). mY FIKSIROWALI p I UWELI^IWALI EGO, ESLI OPTIMALXNOE REENIE NE BYLO NAJDENO ZA ZADANNOE ^ISLO ITERACIJ. w BOLXINSTWE SLU^AEW MINIMUM BYL NAJDEN S TO^NOSTX@ " = 0:0001: wEROQTNO, \FFEKTIWNOSTX ZAWISIT OT SWOJSTW CELEWOJ FUNKCII. rASSMOTRIM TRI PRIMERA ZADA^ LIPICEWA PROGRAMMIROWANIQ, REENNYH METODOM SEKU]IH UGLOW. wSE ONI IME@T LOKALXNYE, NO NE GLOBALXNYE MINIMUMY.
pRIMER 1
15].
min f (x) = x21 + x22 ; cos(18x1) ; cos(18x2)
;1 x1 1 ;1 x2 1: oPTIMALXNOE REENIE ZADA^I { TO^KA (0 0): u ZADA^I OKOLO 50 LOKALXNYH MINIMUMOW. nAILU^AQ NAJDENNAQ METODOM SEKU]IH UGLOW TO^KA (;0:001336 ;0:001
143
~TOBY NAJTI EE, POTREBOWALOSX 18 ITERACIJ I 10 SEKUND. aBSOL@TNAQ TO^NOSTX PO CELEWOJ FUNKCII { 0:0004: nAILU^IE REZULXTATY BYLI POLU^ENY PRI p, RAWNOM SEMI. zNA^ENIE M SLABO WLIQLO NA SHODIMOSTX, ONO MOGLO BYTX OT NESKOLXKIH DESQTKOW DO NESKOLXKIH TYSQ^.
pRIMER 2
38].
max f (x) = x21 + x22 4x1 + 7x2 28 x1 ; 5x2 5 1 x1 3 0 x2 2: oPTIMALXNOE REENIE \TOJ ZADA^I (S TO^NOSTX@ DO ESTI CIFR POSLE DESQTI^NOJ TO^KI) { TO^KA (6:481481 0:296296): nAILU^EE REENIE, NAJDENNOE METODOM SEKU]IH UGLOW,
x1 = 6:481481 x2 = 0:296296:
tO^NOSTX PO NORME { PO KRAJNEJ MERE 10;7: aLGORITM POTREBOWAL 3 ITERACII I 0.01 SEKUNDY DLQ NAHOVDENIQ OPTIMALXNOGO REENIQ.
pRIMER 3
31].
min f (x) = (x2 ; 45:12 x21 + 5 x1 ; 6)2 + 10(1 ; 81 ) cos(x1) + 10 ;5 x1 10 0 x2 15:
gLOBALXNYJ OPTIMUM DOSTIGAETSQ W TREH TO^KAH: (;3:142 12:275) (3:142 2:275) (9:425 2:425): mINIMALXNOE ZNA^ENIE CELEWOJ FUNKCII RAWNO 0:3979: nAILU^EE REENIE, NAJDENNOE METODOM SEKU]IH UGLOW, ESTX x1 = 3:104749 x2 = 2:353947 SO ZNA^ENIEM CELEWOJ FUNKCII 0:3995: pOTREBOWALISX 18 ITERACIJ SO ZNA^ENIEM M , RAWNYM 25, I ZNA^ENIEM p, RAWNYM 7: zAMETIM, ^TO ISPOLXZUQ LOKALXNYJ METOD, NA^INAQ S NAILU^EJ NAJDENNOJ TO^KI, UDAWALOSX NAJTI REENIE S TO^NOSTX@ 10;6: pO\TOMU DLQ DANNOGO PRIMERA CELESOOBRAZNO PRIMENQTX GIBRIDNYJ METOD, SO^ETAQ METOD SEKU]IH UGLOW S LOKALXNYM POISKOM. dLQ \TOGO PRIMERA NAILU^EE ZNA^ENIE NIVNEJ OCENKI RAWNQLOSX 0:3946, I ONO BYLO POLU^ENO PRI M = 1 I p = 8: ~ASTO SKOROSTX SHODIMOSTI
144
NIVNIH OCENOK k K OPTIMALXNOMU ZNA^ENI@ BYLA MEDLENNOJ. |TO ZAWISIT OT STRUKTURY CELEWOJ FUNKCII I OGRANI^ENIJ. sLEDU@]IE PRIMERY BYLI REENY METODOM WETWEJ I GRANIC S PRIMENENIEM ABSTRAKTNOJ WYPUKLOSTI. dANNAQ TEHNIKA POZWOLILA NAJTI PRIBLIVENNYE REENIQ, NA^INAQ S KOTORYH LOKALXNYJ POISK NAHODIL GLOBALXNYJ OPTIMUM. aBSTRAKTNYE SUBGRADIENTY POMOGALI POPASTX W DOSTATO^NO MALU@ OKRESTNOSTX GLOBALXNOGO MINIMUMA.
pRIMER 4.
max f (x) = 2(x1 ; 1)2 + 3(x2 ; 2)2 + 5(x3 ; 3)2 + (x4 ; 2)2 + 2(x5 ; 3)2 0 xi 5 i = 1 5: oPTIMALXNOE REENIE { TO^KA (5 5 0 5 0): nAILU^EE REENIE, NAJDENNOE METODOM WETWEJ I GRANIC:
x1 = 4:984131 x2 = 4:997559 x3 = 0:0024411 x4 = 4:997559 x5 = 0:0024411: oTNOSITELXNAQ TO^NOSTX PO CELEWOJ FUNKCII { 0:0025: aLGORITM POTREBOWAL 200 ITERACIJ DLQ NAHOVDENIQ DANNOGO REENIQ.
pRIMER 5.
( x + x ; 2)2 (3x1 ; x2)2 1 2 max f (x) = x + 3x + 2x + x 1 2 1 2 0:5 xi 5 i = 1 2: oPTIMALXNOE REENIE { (0:5 1:5): nAILU^EE REENIE, NAJDENNOE METODOM WETWEJ I GRANIC:
x1 = 0:4828101 x2 = 1:468550:
aBSOL@TNAQ TO^NOSTX PO CELEWOJ FUNKCII RAWNA 0:0007: aLGORITM POTREBOWAL 100 ITERACIJ DLQ NAHOVDENIQ DANNOGO REENIQ.
pRIMER 6.
max f (x) = 2 sin2 2x + 3 sin2 3x 1 xi 5 i = 1 2:
145
oPTIMALXNOE REENIE { (3=2 ): nAILU^EE REENIE, NAJDENNOE METODOM WETWEJ I GRANIC: x1 = 4:723145 x2 = 3:145508:
aBSOL@TNAQ TO^NOSTX PO CELEWOJ FUNKCII { 0:001339: kOGDA LOKALXNO SHODQ]IJSQ METOD STARTOWAL IZ NAILU^IH NAJDENNYH METODOM WETWEJ I GRANIC TO^EK (pRIMERY 4 - 6), OPTIMALXNYE REENIQ BYLI NAJDENY. oSNOWNYE WYWODY SLEDU@]IE. mETOD SEKU]IH UGLOW POZWOLQET NAJTI HOROEE PRIBLIVENIE GLOBALXNOGO MINIMUMA, KOTOROE MOVET BYTX ISPOLXZOWANO LOKALXNYM METODOM. kOGDA ON WSTAWLQLSQ W PROCEDURU WETWEJ I GRANIC DLQ NAHOVDENIQ OCENOK, REENIQ BYLI NAJDENY \FFEKTIWNO DLQ ZADA^ UMERENNOGO RAZMERA S NE SLIKOM SLOVNYMI CELEWYMI FUNKCIQMI (IME@]IMI OTNOSITELXNO NEBOLXOE ^ISLO LOKALXNYH MINIMUMOW I NE SLIKOM MALU@ OBLASTX PRITQVENIQ GLOBALXNOGO MINIMUMA). sLOVNOSTX KOMBINATORNOJ PODZADA^I BYSTRO RASTET S ROSTOM RAZMERNOSTI. pOLU^ENNYE ZA POSLEDNEE WREMQ REZULXTATY O LOKALXNYH MINIMUMAH PODZADA^I, TAK VE, KAK I PROGRESS W DIZ_@NKTIWNOM PROGRAMMIROWANII (SM. 27, 29]), POZWOLQ@T NADEQTXSQ REITX ZADA^I LIPICEWA PROGRAMMIROWANIQ BOLXEGO RAZMERA. 7.4
~ISLENNYE REZULXTATY DLQ SIMPLICIALXNOGO METODA
~TOBY PROWERITX PRIMENIMOSTX METODA, BYL REEN RQD TESTOWYH ZADA^. oNI WKL@^ALI ZADA^I SO SLEDU@]IMI CELEWYMI FUNKCIQMI: 1) fUNKCIQ f (x) = Qx x] GDE Q { MATRICA S POLOVITELXNYMI KO\FFICIENTAMI, NE OBQZATELXNO POLOVITELXNO POLUOPREDELENNAQ. kAK PRIMER BYLA WZQTA SLEDU@]AQ CELEWAQ FUNKCIQ:
f (x) =
nX ;1 i=1
xixi+1 + x1xn:
2) fUNKCII TIPA MINIMUMA WIDA
f (x) = min aixi ai > 0 8i = 1 n:
146
tABLICA 7.1: ~ISLENNYE REZULXTATY
n 3 5 10 20 3 5 3 5 3) fUNKCII
tIP tO^NOSTX wREMQ(c) QUAD 0:0 2 :0 QUAD 10;6 3 :0 QUAD 10;6 7 :5 QUAD 10;6 27:0 MIN 10;5 1 :5 MIN 10;4 45:0 SQRT 10;4 2 :5 SQRT 10;2 180:0
f (x) =
X p i=1
ai xi ai > 0 8i = 1 n:
dOPUSTIMOE MNOVESTWO BYLO EDINI^NYM SIMPLEKSOM W IRn+: bYLO WYBRANO MEDIANNOE RAZBIENIE. rAZMERNOSTX PROSTRANSTWA IZMENQLASX OT 2 DO 10 (DLQ KWADRATI^NYH ZADA^ { DO 20). pROGRAMMA BYLA NAPISANA NA QZYKE Fortran 90 DLQ Pentium MMX 200. mAKSIMALXNOE ^ISLO ITERACIJ KOLEBALOSX OT 100 DO 10000: rEZULXTATY POKAZALI, ^TO DLQ RQDA ZADA^ KWADRATI^NOGO PROGRAMMIROWANIQ (DAVE S 20 PEREMENNYMI) 200 ; 300 ITERACIJ BYLI DOSTATO^NY, ^TOBY NAJTI REENIE S TO^NOSTX@ 10;6: dLQ ZADA^ TRETXEGO TIPA \FFEKTIWNOSTX ZAWISELA OT RAZMERNOSTI PROSTRANSTWA. dLQ TREH PEREMENNYH POTREBOWALOSX 200 ITERACIJ, DLQ PQTI PEREMENNYH { 1000 ITERACIJ I DLQ DESQTI PEREMENNYH { BOLEE 10000 ITERACIJ. oDNAKO \TI REZULXTATY PRIWEDENY DLQ ^ISTOGO SIMPLICIALXNOGO METODA. iSPOLXZOWANIE WETWLENIQ I OTSE^ENIQ MOVET REZKO SOKRATITX OB_EM WY^ISLENIJ. wREMQ WY^ISLENIJ KOLEBALOSX OT 0:1 SEKUNDY DLQ 200 ITERACIJ DO 0:5 ^ASA DLQ 10000 ITERACIJ. w tABLICE 7.1 PREDSTAWLENY ^ISLENNYE REZULXTATY DLQ NEKOTORYH TESTOWYH FUNKCIJ. oNI POKAZYWA@T, ^TO ALGORITM HOROO RABOTAET S KWADRATI^NYMI FUNKCIQMI, A DLQ FUNKCIJ TIPA MINIMUMA I DLQ KWADRATNYH KORNEJ SHODIMOSTX MEDLENNEE. w PERWOJ KOLONKE PRIWEDENO ^ISLO PEREMEN-
147
NYH, WO WTOROJ { TIP ZADA^I, W TRETXEJ KOLONKE { TO^NOSTX NAJDENNOGO REENIQ f (x) ; f I W POSLEDNEJ KOLONKE { WREMQ WY^ISLENIJ. kONE^NO, MOVNO PROWESTI BOLXE \KSPERIMENTOW, KOTORYE WKL@^ALI BY WETWLENIE I OTSE^ENIE I BOLEE \FFEKTIWNOE RAZBIENIE SIMPLEKSOW. tEM NE MENEE, PREDWARITELXNYE REZULXTATY POKAZALI PRIMENIMOSTX NAEGO PODHODA. 7.5
rEZULXTATY DLQ KWAZIWYPUKLYH FUNKCIJ
pRIWEDEM REZULXTATY REENIQ TESTOWYH PRIMEROW ALGORITMOM IZ gLAWY 2. pREDSTAWIM SPISOK TESTOWYH ZADA^
pRIMER 1 17].
GDE
min f (y) = ;21 ; 32 + 222 fi(y) 0 i = 1 2 0 j 10 j = 1 2
f1(y) = 1 + 42 ; 4 f2(y) = 1 + 2 ; 2: nA^ALXNAQ TO^KA y0 = (0 0): rEENIE DOSTIGAETSQ NA GRANICE DOPUSTIMOGO MNOVESTWA W TO^KE y = (1:75 0:25): zNA^ENIE CELEWOJ FUNKCII f = ;4:125: pRIMER 2 17]. min f (x) = 7(1 ; 6)2 + (2 ; 4)2
x 2 D = ffi(x) 0 i = 1 2 0 j 10 j = 1 2g GDE f1(x) = ;12 + 1 f2(x) = 12 + 22 ; 9. nA^ALXNAQ TO^KA { (1 1). mINIMALXNOE ZNA^ENIE CELEWOJ FUNKCII RAWNO 97:30945, OPTIMALXNAQ TO^KA (2:7955 1:0880). pRIMER 3 (rOZEN-sUDZUKI) 47]. mINIMIZIROWATX FUNKCI@ f (y) = 12 + 22 + 23 + 42 ; 51 ; 52 ; 213 + 71
GDE
x 2 D = fx 2 IRn : fi(x) 0 i = 1 2 3g f1(x) = 12 + 22 + 32 + 42 + 1 ; 2 + 3 ; 4 ; 8 f2(x) = 12 + 222 + 32 + 242 ; 1 + 4 ; 10
148
f3(x) = 212 + 22 + 332 + 21 ; 2 ; 5: oPTIMALXNOE ZNA^ENIE CELEWOJ FUNKCII RAWNO ;44:8682: |TO ZNA^ENIE DOSTIGAETSQ W TO^KE y = (0:273015 1:04192 2:06424 ;0:738074):
pRIMER 4 19]. nAJTI BEZUSLOWNYJ MINIMUM FUNKCII GDE
f (y) = 1max f (y ) i5 i 10 X
fi(y) = bi (i ; cji) i = 1 5 j =1
b = (1 5 10 2 4 3 1:7 2:5 6 3:5) 2 3 66 0 2 1 1 3 0 1 1 0 1 77 66 0 1 2 4 2 2 1 0 0 1 77 6 7 c = (cji) = 6666 0 1 1 1 1 1 1 1 2 2 7777 : 66 0 1 1 2 0 0 1 2 1 0 77 64 75 0 3 2 2 1 1 1 1 0 0 mINIMALXNOE ZNA^ENIE CELEWOJ FUNKCII, RAWNOE 22:00016, DOSTIGAETSQ W TO^KE y = (1:12434 9:7945 1:4770 0:92023 1:12427): nA^ALXNAQ TO^KA y0 = (0 0 0 0 0). |TA ZADA^A REALASX MNOGIMI SPECIALISTAMI I QWLQETSQ KLASSI^ESKIM PRIMEROM ZADA^I NEGLADKOJ OPTIMIZACII. hOROO IZWESTNO, ^TO DLQ NEE O^ENX \FFEKTIWNY METODY OBOB]ENNOGO GRADIENTNOGO SPUSKA S RASTQVENIEM PROSTRANSTWA (92]). pRIMER 5 (MAXQUAD) 64]. nAJTI MINIMUM FUNKCII NA IRn :
GDE
10 X
f (y) = max i=15
jk=1
aijk j k ;
10 X
j =1
bij xj ]
aijk = exp(i=j ) cos(ij ) sin(k) bij = exp(j=i) sin(ij ): iZWESTNYJ MINIMUM ZADA^I f = ;0:84140: zADA^A PLOHO OBUSLOWLENA WBLIZI TO^KI MINIMUMA: 1 = ;1:263721E ; 1 2 = ;3:445566E ; 2 3 = ;6:727508E ; 3
149
4 = 2:62061E ; 2 5 = 0:723512E ; 2 6 = ;2:782221E ; 1 7 = 7:482760E ; 2 8 = 1:385525E ; 1 9 = 8:399986E ; 2 10 = 3:855654E ; 2: nA^ALXNAQ TO^KA { NULX. dLQ REENIQ DANNYH ZADA^ BYLA NAPISANA PROGRAMMA NA QZYKE C. wY^ISLENIQ PROWODILISX W Turbo C DLQ IBM PC. pRI NEOBHODIMOSTI PARAMETRY PODBIRALISX PO HODU ZADA^I. gLAWNYE FAKTORY, OPREDELQ@]IE SKOROSTX NAHOVDENIQ MINIMUMA, { WYBOR NA^ALXNOJ TO^KI z I WYBOR AGA. eSLI AG WYBIRALSQ IZ RASHODQ]EGOSQ RQDA, NAIBOLEE WAVNYM BYL NA^ALXNYJ AG 0. kROME TOGO, \FFEKTIWNOSTX ZAWISELA OT SKOROSTI WY^ISLENIQ (u), TO ESTX OT ALGORITMA ODNOMERNOJ MINIMIZACII. w \KSPERIMENTAH PRIMENQLSQ METOD ZOLOTOGO SE^ENIQ. wEKTOR gk WYBIRALSQ KAK f 0(xk ), ESLI SOOTWETSTWU@]AQ TO^KA BYLA WNUTRI DOPUSTIMOGO MNOVESTWA. eSLI ONA BYLA NA GRANICE, gk WYBIRALSQ KAK WYPUKLAQ KOMBINACIQ GRADIENTOW CELEWOJ FUNKCII I OGRANI^ENIJ, ^TOBY WYPOLNQLOSX USLOWIE gk z ; uk ] = 0: ~TO KASAETSQ NA^ALXNOJ TO^KI, ONA WYBIRALASX TAK, ^TOBY L@BOE NAPRAWLENIE u ; z u 2 U BYLO NAPRAWLENIEM UBYWANIQ FUNKCII f . iNA^E FUNKCIQ MOVET BYTX KONSTANTOJ W NEKOTORYH OBLASTQH, I TRUDNO NAJTI OBOB]ENNO-OPORNYE WEKTORY. eSTESTWENNO WYBIRATX q = f 0(z), ESLI f DIFFERENCIRUEMA. zAMETIM, ^TO SKOROSTX SHODIMOSTI INOGDA UWELI^IWALASX PRI ISPOLXZOWANII ODNOMERNOJ MINIMIZACII FUNKCII : dLQ pRIMERA 1 NAJDENA TO^NAQ TO^KA MINIMUMA, RAWNAQ x = (1:75 0:25):
nA^ALXNAQ TO^KA z = (1 0), NA^ALXNOE 0 WYBIRALOSX W INTERWALE 0:1 10]: dLQ pRIMERA 2 REENIE BYLO NAJDENO BYSTREE WSEGO DLQ z = (2 1) I DLQ 0 = 0:15. nAILU^EE NAJDENNOE REENIE x = (2:7955 1:0882):
zNA^ENIE CELEWOJ FUNKCII 97:30945. w \TOJ ZADA^E WYBOR NA^ALXNOJ TO^KI BYL SU]ESTWEN. nAPRIMER, PRI z = (1 1) SHODIMOSTX ZAMEDLQLASX.
150
wYBOR NA^ALXNOGO AGA BYL OPREDELQ@]IM DLQ pRIMERA 3. nAILU^EE ZNA^ENIE CELEWOJ FUNKCII BYLO fr = ;44:8393, I ONO BYLO DOSTIGNUTO W TO^KE x = (0:273438 1:041149 2:06379 ;0:737780): bYLO NEOBHODIMO WYBIRATX MALOE 0: w pRIMERE 4, KAK IZWESTNO, CELEWAQ FUNKCIQ PLOHO OBUSLOWLENA, I METODY BEZ RASTQVENIQ PROSTRANSTWA NE\FFEKTIWNY. nAILU^AQ NAJDENNAQ TO^KA x = (1:124336 9:79448 1:47701 0:92023 1:124239)
SO ZNA^ENIEM CELEWOJ FUNKCII, RAWNYM 22:000184: sHODIMOSTX, ODNAKO, BYLA MEDLENNOJ, NA^INAQ S TO^EK, ZNA^ENIE CELEWOJ FUNKCII W KOTORYH NE PREWOSHODILO OPTIMALXNOE ZNA^ENIE NA 0:01. pOSLEDNQQ ZADA^A BYLA REENA LIX PRI UDA^NOM WYBORE PARAMETROW. w ODNOM IZ \KSPERIMENTOW ZA 2112 WY^ISLENIJ CELEWOJ FUNKCII METOD KONI^ESKOGO PROEKTIROWANIQ NAEL TO^KU S KOORDINATAMI 1 = ;1:263709E ; 1 2 = ;3:44493E ; 2 3 = ;6:727506 ; 3 4 = 2:6202E ; 2 5 = 0:723589E ; 2 6 = ;2:748973E ; 1 7 = 7:481360E ; 2 8 = 1:385525E ; 1 9 = 8:4000034E ; 2 10 = 3:855242E ; 2: zNA^ENIE CELEWOJ FUNKCII RAWNO ;0:84093. oSNOWNOJ WYWOD SOSTOIT W TOM, ^TO METOD KONI^ESKOGO PROEKTIROWANIQ PREWOSHODIT OBOB]ENNYJ GRADIENTNYJ SPUSK PO WREMENI I TO^NOSTI. oDNAKO OBA METODA RABOTA@T NEDOSTATO^NO HOROO S PLOHO OBUSLOWLENNYMI CELEWYMI FUNKCIQMI I OGRANI^ENIQMI. kROME TOGO, SHODIMOSTX ZAWISIT OT 0 I z. uMENXAQ NA^ALXNYJ AG, MY UWELI^IWAEM KAK TO^NOSTX, TAK I WREMQ WY^ISLENIJ. wEROQTNO, SLEDUET WKL@^ITX RASTQVENIE PROSTRANSTWA W SHEMU MINIMIZACII (u) KOGDA ZADA^A PLOHO OBUSLOWLENA.
zAKL@^ENIE w DANNOJ RABOTE POLU^EN RQD NOWYH REZULXTATOW W OBLASTI ABSTRAKTNOGO WYPUKLOGO ANALIZA. pOSTROEN RQD ^ISLENNO REALIZUEMYH RAZNOWIDNOSTEJ OBOB]ENNOGO METODA SEKU]IH PLOSKOSTEJ, KOTORYE POZWOLQ@T REATX ZADA^I ABSTRAKTNO WYPUKLOGO PROGRAMMIROWANIQ SO SLOVNYMI CELEWYMI FUNKCIQMI. |TI ALGORITMY WKL@^A@T SLEDU@]IE. wO-PERWYH, METOD SEKU]IH UGLOW DLQ MINIMIZACII WOZRASTA@]IH WYPUKLYH PO LU^AM FUNKCIJ, KOTORYE IGRA@T WAVNU@ ROLX W MATEMATI^ESKOJ \KONOMIKE. wO-WTORYH, ALGORITM MINIMIZACII WOZRASTA@]IH ZWEZDNYH OTNOSITELXNO BESKONE^NOSTI FUNKCIJ, KOTORYE QWLQ@TSQ OSNOWNYM KLASSOM PROIZWODSTWENNYH FUNKCIJ. nAKONEC, METOD SEKU]IH UGLOW BYL OBOB]EN DLQ PROIZWOLXNYH LIPICEWYH CELEWYH FUNKCIJ. ~ISLENNYE \KSPERIMENTY POKAZALI \FFEKTIWNOSTX PODHODA DLQ ZADA^ UMERENNOJ RAZMERNOSTI. bYLI POSTROENY METODY WETWEJ I GRANIC, ISPOLXZU@]IE METOD SEKU]IH UGLOW DLQ WY^ISLENIQ OCENOK. oNI MOGUT ZNA^ITELXNO POWYSITX ^ISLENNU@ \FFEKTIWNOSTX. pOSTROEN METOD KONI^ESKOGO PROEKTIROWANIQ DLQ ZADA^ KWAZIWYPUKLOGO PROGRAMMIROWANIQ. oN PREWOSHODIT PO \FFEKTIWNOSTI METOD OBOB]ENNOGO GRADIENTNOGO SPUSKA I OSNOWAN NA SWEDENII ZADA^I MATEMATI^ESKOGO PROGRAMMIROWANIQ K ZADA^E BEZUSLOWNOJ MINIMIZACII S POMO]X@ SPECIALXNOJ MARGINALXNOJ FUNKCII. pREDLOVENA SHEMA NAHOVDENIQ GAMILXTONOWA CIKLA, BAZIRU@]AQSQ NA MARKOWSKIH CEPQH I FUNKCIQH TIPA MINIMUMA. zADA^A SWEDENA K MINIMIZACII FUNKCII TIPA MINIMUMA NA MNOGOGRANNIKE. nEGLADKOSTX FUNKCIJ TIPA MINIMUMA NE QWLQETSQ PREPQTSTWIEM DLQ ^ISLENNOJ REALIZACII, SDELANNOJ S ISPOLXZOWANIEM PROGRAMMY CPLEX. ~ISLENNYE \KSPERIMENTY POKAZALI HOROIE REZULXTATY DLQ GRAFOW NE O^ENX BOLXOGO RAZMERA (DO 100-200 WERIN).
152
rAZRABOTANA SHEMA DWOJSTWENNOSTI, OSNOWANNAQ NA WOZRASTA@]IH FUNKCIQH. dOKAZANA \KWIWALENTNOSTX ISHODNOJ I WSPOMOGATELXNOJ ZADA^. pREDLOVENNAQ SHEMA POZWOLQET STROITX OBOB]ENNYE FUNKCII lAGRANVA I KOMBINIROWATX METOD CENTROW S METODAMI MODIFICIROWANNYH FUNKCIJ lAGRANVA, ^TO MOVET BYTX UDOBNYM DLQ NEGLADKOJ OPTIMIZACII. rASSMOTREN PARAMETRI^ESKIJ PODHOD DLQ REENIQ ZADA^ GLOBALXNOJ OPTIMIZACII SPECIALXNOGO WIDA. |TI ZADA^I WKL@^A@T REENIE NELINEJNYH URAWNENIJ I NAHOVDENIE \KONOMI^ESKOGO RAWNOWESIQ W NEKOTORYH MODELQH. pRI IZMENENII WESOW W ZADA^E OSU]ESTWLQETSQ SPUSK, I NAHODITSQ GLOBALXNYJ MINIMUM. nA \TOJ OSNOWE PREDLOVEN RQD ALGORITMOW DLQ OGRANI^ENNOGO ILI NEOGRANI^ENNOGO DOPUSTIMOGO MNOVESTWA.
lITERATURA 1] aBASOW t.m., rUBINOW a.m. oB ODNOM KLASSE H-WYPUKLYH FUNKCIJ // dOKL. an rOSSII, sERIQ MATEM. - 1994. - t.48. - N1. - s.95 - 97. 2] wASILXEW f.p. ~ISLENNYE METODY REENIQ \KSTREMALXNYH ZADA^. - m.: nAUKA, 1988. - 549S. 3] eWTUENKO `., vADAN w. tO^NYE WSPOMOGATELXNYE FUNKCII W ZADA^AH OPTIMIZACII // vURNAL WY^ISL. MATEM. I MATEM. FIZIKI. - 1990. t.30, N1. - s.31 - 42. 4] zABOTIN q.i. o WY^ISLENII KONUSOW OBOB]ENNO OPORNYH FUNKCIONALOW // iSSLEDOWANIQ PO PRIKLADNOJ MATEMATIKE. - kAZANX: iZD-WO kAZAN. UN-TA. - 1977. - N4. - s.3 - 10. 5] zABOTIN q.i., aNASTASXEW e.w. pODHOD K REENI@ ZADA^ NELINEJNOGO PROGRAMMIROWANIQ // tEZISY DOKLADOW VI nAU^NOJ KONFERENCII "mETODY MATEMATI^ESKOGO PROGRAMMIROWANIQ I PROGRAMMNOE OBESPE^ENIE". - sWERDLOWSK, 1989. - s.93. 6] zABOTIN q.i., kORABLEW a.i., hABIBULLIN r.f. o MINIMIZACII KWAZIWYPUKLYH FUNKCIONALOW // iZWESTIQ WUZOW. mATEMATIKA. - 1972. - N10. - s.27 - 33. 7] zABOTIN q.i., kORABLEW a.i., hABIBULLIN r.f. uSLOWIQ \KSTREMUMA FUNKCIONALA PRI NALI^II OGRANI^ENIJ // kIBERNETIKA. - 1973. - N6. - s.65 - 70. 8] zABOTIN q.i. mINIMAKSNYJ METOD REENIQ ZADA^ MATEMATI^ESKOGO PROGRAMMIROWANIQ // iZWESTIQ WUZOW. mATEMATIKA. - 1975. - N10. - s.36 - 44.
154
9] kREJNIN m.i., aNASTASXEW e.w. mETOD SWEDENIQ ZADA^I MATEMATI^ESKOGO PROGRAMMIROWANIQ K ZADA^E BEZUSLOWNOJ MINIMIZACII // tEZISY DOKLADOW, X sIMPOZIUM "mETODY PROGRAMMNOGO OBESPE^ENIQ DLQ REENIQ ZADA^ OPTIMALXNOGO PLANIROWANIQ", nARWA-jY\SUU. - 1988. - s.43 - 44. 10] kULIKOW a.n., fAZYLOW w.r. wYPUKLAQ OPTIMIZACIQ S ZADANNOJ TO^NOSTX@ // vURNAL WY^ISL. MATEM. I MATEM. FIZIKI. - 1990. - N5. s.663 - 671. 11] kUTATELADZE s.s., rUBINOW a.m. dWOJSTWENNOSTX mINKOWSKOGO I EE PRILOVENIQ. - nOWOSIBIRSK: nAUKA, 1976. - 254S. 12] lEWIN w.l. pOLUKONI^ESKIE MNOVESTWA, POLUODNORODNYE FUNKCII I NOWAQ SHEMA DWOJSTWENNOSTI W WYPUKLOM ANALIZE // dOKL. an rOSSII. 1997. - t.354. - s.597 - 599. 13] mAKAROW w.b., rUBINOW a.m. mATEMATI^ESKAQ TEORIQ \KONOMI^ESKOJ DINAMIKI I RAWNOWESIQ. - m.: nAUKA, 1973. - 335S. 14] pIQWSKIJ s.a. aLGORITM NAHOVDENIQ ABSOL@TNOGO \KSTREMUMA FUNKCII // vURNAL WY^ISL. MATEM. I MATEM. FIZIKI. - 1972. - N2. - s.57 67. 15] rASTRIGIN l.a. sISTEMY \KSTREMALXNOGO UPRAWLENIQ. - m.: nAUKA, 1974. - 630S. 16] rUBINOW a.m. mINIMIZACIQ NORM NA KOMPAKTNYH MNOVESTWAH // wESTNIK lENINGRADSKOGO UNIWERSITETA. - 1965. - t.20, N1. - s.140 - 142. 17] sKOKOW w.a. nEKOTORYJ WY^ISLITELXNYJ OPYT REENIQ ZADA^ NELINEJNOGO PROGRAMMIROWANIQ // mATEMATI^ESKIE METODY REENIQ \KONOMI^ESKIH ZADA^. - m.: nAUKA, 1980. - s.51 - 69. 18] fAZYLOW w.r. oDIN OB]IJ METOD OTYSKANIQ TO^KI WYPUKLOGO MNOVESTWA // iZWESTIQ WUZOW. mATEMATIKA. - 1983. - N6. - s.43 - 57.
155
19] {OR n.z., {ABAOWA l.p. o REENII MINIMAKSNYH ZADA^ METODOM OBOB]ENNOGO GRADIENTNOGO SPUSKA S RASTQVENIEM PROSTRANSTWA // kIBERNETIKA. - 1972. - N1. - s.82 - 88. 20] Allgower E.L., Georg K. Numerical Continuation Methods. - Berlin, Springer Verlag, 1990. 21] Andramonov M.Yu., Rubinov A.M., Glover B.M. Cutting angle methods in global optimization // Applied Mathematics Letters. - May 1999. 22] Andramonov M.Yu., Rubinov A.M., Glover B.M. Cutting angle method for minimizing increasing convex-along-rays functions // Research Report, University of Ballarat. - 1997. - 27p. 23] Andramonov M.Yu. A parametric approach to global optimization problems of a special kind // Optimization: Contributions from Australasia. - Dordrecht, Kluwer Academic Publishers. - 1999. 24] Andramonov M.Yu. A survey of methods of abstract convex programming, Journal of Statistics and Management Systems, to appear. 25] Aubin J.-P, Ekeland I. Applied Nonlinear Analysis. - New York: Wiley & Sons. - 1990. 26] Balas E. Disjunctive programming // Annals of Discrete Mathematics. 1979. - No. 5. - P.3 - 51. 27] Balas E., Tama J., Tind J. Sequential convexi"cation in reverse convex and disjunctive programming // Mathematical Programming. - 1989. - V.44, No.3. - P.337 - 350. 28] Barbara A., Crouzeix J.P. Concave gauge functions and applications // Zeitschrift fur Operations Research. - 1994. - V.40. - P.43 - 74. 29] F.Beaumont Algorithm for disjunctive programming problems // European Journal of Operational Research. - 1990. 30] Berteskas D.P. Constrained Optimization and Lagrange Multiplier Methods. - New York: Academic Press, 1982.
156
31] Branin F.H., Hoo S.K. A method for "nding multiple extrema of a function of n variables // Numerical Methods of Nonlinear Optimization, Lootsma, F.A. (ed.). - London: Academic Press, 1972. - P.231 - 237. 32] Crouzeix J.P. A review of continuity and di#erentiability properties of quasi-convex functions on IRn // Optimization and Optimal Control, A. Auslender, W. Oettli, J. Stoer (eds.). - Berlin: Springer Verlag, 1981. - P.9 - 20. 33] Crouzeix J.P., Ferland J.A. Criteria for quasi-convexity and pseudoconvexity: Relationships and Comparisons // Mathematical Programming. - 1982. - V. 23. - P.193 - 205. 34] Demyanov V.F., Rubinov A.M. Constructive Non-smooth Analysis. Frankfurt: Peter Lang, 1995. 35] Dennis J.E., Schnabel R.B. Numerical Methods for Nonlinear Equations and Unconstrained Optimization. - Englewood Cli#s, NJ, Prentice Hall, 1983. 36] Derman C. Finite State Markovian Decision Processes. - New York: Academic Press, 1970. 37] Diener I. Trajectory nets connecting all critical points of a smooth function // Mathematical Programming. - 1986. - V.36, No.3. - P.340 - 352. 38] Ehnbat R. An algorithm for maximizing a convex function over a simple set // Journal of Global Optimization. - 1996. - No.8. - P.379 - 391. 39] Fiacco A.V., McCormick G.P. Nonlinear Programming: Sequential Unconstrained Minimization Techniques. - New York: Wiley & Sons, 1968. 40] Filar J.A., Krass D. Hamiltonian cycles and Markov chains // Mathematics of Operations Research. - 1995. - V. 19, No. 1. - P.223 - 237. 41] Ming Chen, Filar J.A. Hamiltonian Cycles, Quadratic Programming, and Ranking of Extreme Points // C.Floudas and P.Pardalos (eds.), Global Optimization. - Princeton University Press, 1992.
157
42] Filar J.A., Ke Liu Hamilton Cycle Problem and Singularly Perturbed Markov Decision Process // Research Report 1996/1. - University of South Australia, School of Mathematics. - 1996. 43] Filar J.A., Oberije M.G.M., Pardalos P.M. Hamiltonian Cycle Problem, Controlled Markov Chains and Quadratic Programming // Research Report, University of South Australia. - 1993. 44] Floudas C.A., Pardalos P. A Collection of Test Problems for Constrained Global Optimization Algorithms // Lecture Notes in Computer Science. Berlin: Springer-Verlag, 1990. - V.455. 45] Garcia C.B., Zangwill W.I. Pathways to Solutions, Fixed Points and Equilibria. - Englewood Cli#s NJ, Prentice Hall, 1981. 46] Gromicho J. Quasi-convex Optimization and Location Theory. Amsterdam, Thesis Publishers. - 1995. 47] Grossmann Ch., Kaplan A. Stra#unktionen und modi"zierte Lagrange funktionen in der nichtlinearen Optimierung. - Leipzig: Teubner Texte zur Mathematik, 1979. 48] Hansen P., Jaumard B., Lu S.H. Global optimization of univariate Lipschitz functions: II. New algorithms and computational comparison // Mathematical Programming. - 1992. - V.55. - P.273 - 292. 49] Hansen P., Jaumard B., Lu S.H. An analytical approach to global optimization // Mathematical Programming. - 1991. - V.52. - P.227 - 254. 50] Held M., Wolf P., Crowder H.P. Validations of subgradient optimization // Mathematical Programming. - 1974. - No.6. - P.62 - 88. 51] Hiriart-Urruty J.B., Lemarechal C. Convex Analysis and Minimization Algorithms. - Berlin: Springer-Verlag, 1993. - V. II. 52] Hock W., Schittkowski K. Test Examples for Nonlinear Programming Codes // Lecture Notes in Economic and Mathematical Systems. - Berlin: Springer-Verlag, 1981. - V.177.
158
53] Horst R., Pardalos P. (eds) Handbook on Global Optimization. - Dordrecht: Kluwer Academic Publishers, 1996. 54] Horst R., Tuy H. Global Optimization. - Berlin: Springer-Verlag, 1990. 55] Horst R., Tuy H. On an outer approximation concept in global optimization // Optimization. - 1989. - V.20. - P.255 - 264. 56] Huard P. Resolution of mathematical programming with nonlinear constraints by the method of centers // Nonlinear Programming (J. Abadie ed.). - Amsterdam: North Holland Publishing Company, 1967. - P.207 - 219. 57] Intriligator M. Mathematical Optimization and Economic Theory. Englewood Cli#s NJ, Prentice Hall, 1971. 58] Isaacson D.L., Madsen R.W. Markov Chain Theory and Applications. New York: Wiley & Sons, 1976. 59] Kallenberg L.C.M. Linear Programming and Finite Markovian Control Problems // Mathematical Center Tracts. - Amsterdam. - 1983. - V.148. 60] Kelley J. The cutting plane method for solving convex programs // SIAM Journal. - 1960. - V. 8, No.4. - P.703 - 712. 61] Konno H.J., Kuno T. Generalized linear multiplicative and fractional programming // Annals of Operations Research. - 1990. - V.25. - P.147 - 162. 62] Konnov I.V. Relaxation methods and Variational Inequalities. - Berlin: Springer Verlag, 2000. 63] Lawler E.L., Lenstra J.K., Rinnooy Kan A.H.G., Shmoys D.B. The Traveling Salesman Problem. A Guided Tour of Combinatorial optimization. - Chichester: Wiley & Sons, 1985. 64] Lemarechal C. Numerical experiments in nonsmooth optimization. Progress in Non-di#erentialble optimization, E. A. Nurminski (ed.), Laxenburg, IIASA. - 1982. - P.61 - 64.
159
65] Levy A.V., Montalvo A. The tunneling algorithms for the global minimization of functions // SIAM Journal on Scienti"c and Statistical Computation. - 1985. - V.6. - P.15 - 29. 66] Luenberger D.G. Linear and Nonlinear Programming. - Reading Massachusets: Addison Wesley, 1984. 67] Minoux M. Programmation Mathematique. Theorie et Algorithmes. Paris: Bordas et C.N.F.T.-E.N.S.T, 1989. 68] Mladineo R.H. An algorithm for "nding the global maximum of a multimodal, multivariate function // Mathematical Programming. - 1986. - V.34. - P.188 - 200. 69] Nurminski E.A. Separating plane algorithms for convex optimization // Mathematical Programming. - 1997. - V. 76. - P.373 - 391. 70] Pallaschke D., Rolewicz S. Foundations of Mathematical Optimization. Dordrecht, Kluwer Academic Publishers. - 1997. 71] Papadimitriou C., Steiglitz K. Combinatorial Optimization: Algorithms and Complexity. - Prentice Hall: New Jersey, 1982. 72] Penot J.P. Duality for radiant and shady problems, manuscript. 73] Penot J.P., Volle M. On quasi-convex duality // Mathematics of Operations Research. - 1990. - V.15, No.4. - P.597 - 624. 74] Pinter J. Global Optimization in Action. Continuous and Lipschitz Optimization: Algorithms, Implementations and Applications. - Dordrecht: Kluwer Academic Publishers, 1996. 75] Plastria F. Lower subdi#erentiable functions and their minimization by cutting planes // Journal of Optimization Theory and Applications. - 1985. V.46. - P.37 - 53. 76] Rinnooy Kan A.H.G., Timmer G.T. Stochastic global optimization methods. Part II Multi-level methods // Mathematical Programming. - 1987. - V.39. - P.57 - 78.
160
77] Rockafellar R.T. The multiplier method of Hestenes and Powell applied in convex programming // JOTA. - 1973. - V. 12, No.6. - P.555 - 562. 78] Rubinov A.M. Abstract Convexity and Global Optimization. - Dordrecht, Kluwer Academic Publishers. - 2000. 79] Rubinov A.M., Andramonov M.Yu. Minimizing increasing star-shaped functions based on abstract convexity // Journal of Global Optimization. - 1999. - V.15. - P.19 - 39. 80] Rubinov A.M., Andramonov M.Yu. Lipschitz programming via increasing convex-along-rays functions // Optimization Methods and Software. - 1999. - V.10. - P. 763 - 781. 81] Rubinov A.M., Glover B.M. Increasing convex along rays functions with applications to global optimization // Research Report 21/96, University of Ballarat. - 1996. 82] Rubinov A.M., Glover B.M. Increasing convex along-rays-functions with applications to global optimization // Journal of Optimization Theory and Applications. - 1999. - V.102. - P.615 - 642. 83] Rubinov A.M., Glover B.M. Quasi-convexity via two step functions // Proceedings of 5th International Symposium on Generalized Convexity, Luminy-Marseille. - Kluwer Academic Publishers, 1996. 84] Rubinov A.M., Glover B.M., Jeyakumar V. A general approach to dual characterizations of inequality systems with applications // Journal of Convex Analysis. - 1995. - V.2. - No. 1/2. - P.309 - 344. 85] Rubinov A.M. On some problems of nonsmooth optimization in economic theory // Nonsmooth Optimization: Methods and Applications, F. Giannessi (ed.) - Amsterdam: Gordon and Breach Sci. Publ, 1992. 86] Rubinov A.M., Glover B.M. Characterizations of optimality for homogeneous programming problems with applications // Recent Advances in Nonsmooth Optimization, D.-Z. Du, L. Qi and R. S. Womersley (eds.) - 1995. - P.351-380.
161
87] Rubinov A.M., Vladimirov A.A. Convex-along-rays functions and starshaped sets // Research Report 97/8, University of Ballarat. - 1997. 88] Rubinov A.M., Glover B.M., Yang X.Q. Extended Lagrange and Penalty functions in Continuous Optimization // Research Report 19/97, University of Ballarat. - 1997. 89] Rubinov A.M., Glover B.M., Yang X.Q. Decreasing functions with application to penalization // SIAM J. Optimization. - 2000. - V.10. P.289 - 313. 90] Rubinov A.M., Tuy H., Mays H. Algorithm for a nonconvex global optimization problem // Research Report, University of Ballarat. - 1999. 91] Schoen F. Stochastic techniques for global optimization: A survey of recent advances // Journal of Global Optimization. - 1991. - V.1. - P.207 - 228. 92] Shor N.Z. Methods of Minimizing Nondi#erentiable Functions. - Berlin: Springer-Verlag, 1985. 93] Shor N.Z. Dual estimates in multiextremal problems // Journal of Global Optimization. - 1995. - V.7. - P.75-91. 94] Shubert B.O. A sequential method seeking the global maximum of a function // SIAM Journal of Numerical Analysis. - 1972. - V.9. - P.379 - 388. 95] Singer I. Abstract Convex Analysis. - New York: Wiley & Sons, 1997. 96] Talman A.J.J., Van der Laan G. The Computation and Modelling of Economic Equilibria. - Amsterdam: North Holland, 1987. 97] T$orn A., Zilinskas A.V. Global Optimization // Lecture Notes in Computer Science. - Berlin: Springer Verlag, 1990. - V.350. 98] Wolf P. A method of conjugate subgradients for minimizing nondi#erentiable functions // Mathematical Programming. - 1975. - Study 3. - P.145 - 173.
162
99] Wood G.R. Multidimensional bisection applied to global optimization // Computers and Mathematics with Applications. - 1991. - V.21. - P.161 172. 100] Wood G.R. The bisection method in higher dimensions // Mathematical Programming. - 1992. - V. 55. - P.319 - 337. 101] Zhang B., Wood G.R., Baritompa W.P. Multidimensional bisection: the performance and the context // Journal of Global Optimization. - 1993. V.3. - P.337 - 358.