Metoda de direcții Powell conjugate

Metoda este orientată spre rezolvarea problemelor cu funcții obiective patratice și se bazează pe rezultate teoretice fundamentale. Deși utilizate în situații reale, algoritmii sunt eficiente pentru funcții obiectiv pătratice să nu funcționeze bine cu mai complexe funcții obiective, cu toate acestea, această abordare pare a fi destul de rezonabil.

Definiția. lăsa

Metodă de direcționare Powell conjugate
- matricea ordinelor simetrice
Metodă de direcționare Powell conjugate
. vectori
Metodă de direcționare Powell conjugate
sunt numite
Metodă de direcționare Powell conjugate
- conjugați dacă sunt liniar independenți și condiționați
Metodă de direcționare Powell conjugate
la
Metoda de direcții Powell conjugate
.

Un exemplu. Luați în considerare funcția

.

Ca matrice

Metodă de direcționare Powell conjugate
putem lua matricea hessiană

Metoda de direcții Powell conjugate
.

Ca una din direcțiile pe care le alegem

Metoda de direcții Powell conjugate
. Atunci direcția
Metodă de direcționare Powell conjugate
trebuie să satisfacă egalitatea

.

Trebuie remarcat faptul că direcțiile conjugate sunt alese ambiguu. Cu toate acestea, dacă adăugăm condiția de normalizare, atunci le putem defini fără ambiguitate:

.

Aprobarea. Orice functie patratica

Metodă de direcționare Powell conjugate
variabilele, având un minim, pot fi minimizate pentru
Metoda de direcții Powell conjugate
pași, cu condiția ca căutarea să fie efectuată de-a lungul direcțiilor conjugate cu privire la matricea Hesse.

O funcție arbitrară poate fi reprezentată destul de bine în vecinătatea punctului optim prin aproximarea sa triplă. Prin urmare, direcțiile conjugate pot fi utile pentru optimizarea sa. Cu toate acestea, mai mult decât

Metoda de direcții Powell conjugate
pași. Pentru a determina direcțiile conjugate, se folosește o metodă bazată pe următoarea afirmație.

Aprobarea. Să i se dea o funcție patratică

Metodă de direcționare Powell conjugate
, două puncte arbitrare
Metodă de direcționare Powell conjugate
și direcția S .. Dacă punctul
Metoda de direcții Powell conjugate
este un punct minim al funcției
Metodă de direcționare Powell conjugate
de-a lungul direcției punctului
Metodă de direcționare Powell conjugate
, și
Metoda de direcții Powell conjugate
- funcția minimă de-a lungul direcției punctului
Metodă de direcționare Powell conjugate
, apoi direcția
Metodă de direcționare Powell conjugate
este conjugat cu direcția lui S.

Pasul 1. Setați punctul de pornire

Metodă de direcționare Powell conjugate
și
Metodă de direcționare Powell conjugate
direcții directe independent
Metodă de direcționare Powell conjugate
(acestea pot coincide inițial cu direcțiile axelor de coordonate). Minimizați funcția
Metodă de direcționare Powell conjugate
la mișcare succesivă
Metodă de direcționare Powell conjugate
direcții; utilizând orice căutare unidimensională; iar punctul minim obținut anterior este considerat ca fiind cel inițial.

Pasul 2. Efectuați o etapă suplimentară

Metodă de direcționare Powell conjugate
, corespunzând deplasării complete la pasul 1. Calculați punctul
Metoda de direcții Powell conjugate
(Figura 12). Verificați criteriul (*) pentru includerea unei noi direcții în sistemul de direcții conjugate.

Pasul 3. Lăsați

Metoda de direcții Powell conjugate
- cea mai mare scădere a funcției obiectiv într-o singură direcție
Metoda de direcții Powell conjugate
:

și

Metoda de direcții Powell conjugate
este direcția corespunzătoare
Metoda de direcții Powell conjugate
.

În cazul în care condițiile

(*)

atunci căutarea continuă de-a lungul direcțiilor originale

Metoda de direcții Powell conjugate
din punct de vedere
Metodă de direcționare Powell conjugate
sau
Metoda de direcții Powell conjugate
(din punctul în care valoarea funcției este mai mică).

Metoda de direcții Powell conjugate

Pasul 4. Dacă condițiile

Metoda de direcții Powell conjugate
nu executați, apoi minimalizați funcția
Metodă de direcționare Powell conjugate
de-a lungul direcției
Metoda de direcții Powell conjugate
. Punctul acestui minim ar trebui considerat ca punct inițial în etapa următoare. În această etapă, utilizați sistemul de recomandare

,

și anume direcție

Metoda de direcții Powell conjugate
înlocuiți cu
Metodă de direcționare Powell conjugate
, care este plasat în ultima coloană a matricei direcției.

Pasul 5. Dacă

Metoda de direcții Powell conjugate
, apoi se găsește un minim. În caz contrar, efectuați pasul 1.

Un exemplu. Apăsând pe pictogramă se va deschide documentul Mathcad al metodei direcției conjugate, în care puteți efectua calcule.

Metodă de direcționare Powell conjugate

prin metoda direcției conjugate

Poate părea irațional să respingă direcția cea mai de succes iterației curente și de a stabili o nouă tendință promițătoare în ultimul loc în loc de prima. Cu toate acestea, este ușor de văzut că tendința cea mai de succes probabil în sine epuizat, și o nouă direcție promițătoare tocmai a fost folosit pentru optimizarea unidimensional și se aplică imediat, nu există nici un sens, deoarece promovarea pur și simplu să fie.

Powell a demonstrat că determinantul matricei direcției are o valoare maximă dacă și numai în cazul în care direcțiile

Metoda de direcții Powell conjugate
,
Metodă de direcționare Powell conjugate
sunt conjugate cu privire la matricea Hesse. El a ajuns la concluzia că direcția deplasării complete ar trebui să înlocuiască direcția precedentă numai în cazul în care această direcție mărește determinantul matricei de direcție, deoarece numai atunci noul set de direcții va fi eficient.

Se demonstrează că procedura Powell converge la un punct la care gradientul este zero dacă funcția obiectivă este strict convexă. Acest punct este un minim local. Metoda este foarte sensibilă la metoda de construire a direcțiilor conjugate și, prin urmare, depinde de precizia căutării unidimensionale utilizată. Powell a propus utilizarea unei secvențe de interpolări patrate cu o procedură specială pentru reglarea parametrilor acestei căutări liniare. Cu toate acestea, studiile numerice au arătat că metoda de direcții Powell conjugate nu ar trebui să fie utilizată pentru o dimensiune mai mare de 20.