Critères de Wolfe

En optimisation, les critères de Wolfe sont un ensemble d'inégalités permettant d'optimiser la méthode de recherche linéaire ; plus précisément, cela permet de sélectionner un pas adéquat pour la recherche linéaire. Ils portent le nom de Philip Wolfe.

Description

Soit $f:{ℝ}^n\to ℝ$ une fonction de classe $C^1$, et soit ${𝐩}_k$ une direction de descente. Un pas ${\alpha }_k$ est considéré comme satisfaisant les critères de Wolfe si les deux inégalités suivantes sont vérifiées :

1. $f({𝐱}_k+{\alpha }_k{𝐩}_k)\le f({𝐱}_k)+c_1{\alpha }_k{𝐩}_k^{\mathrm{T}}\mathrm{\nabla }f({𝐱}_k)$ ;
2. ${𝐩}_k^{\mathrm{T}}\mathrm{\nabla }f({𝐱}_k+{\alpha }_k{𝐩}_k)\ge c_2{𝐩}_k^{\mathrm{T}}\mathrm{\nabla }f({𝐱}_k)$.

avec $0<c_1<c_2<1$.

La première inégalité est connue sous le nom de condition d'Armijo (ou condition de Goldstein ou condition de Goldstein-Armijo) et la seconde comme la condition de courbure. La condition d'Armijo impose que ${\alpha }_k$ permette de décroître suffisamment $f$, et la condition de courbure assure que le taux d'accroissement de la fonction $\varphi (\alpha )=f({𝐱}_k+\alpha {𝐩}_k)$ en ${\alpha }_k$ est plus grand que $c_2$ fois celui en 0.

Les critères de Wolfe donnent une façon économique de point de vue algorithmique de calculer le pas permettant de diminuer $\varphi$ dépendant de $\alpha \in ℝ$. Cependant, les conditions peuvent donner une valeur pour le pas qui n'est pas proche d'un minimum de $\varphi$. Si on modifie la condition de courbure de la manière suivante :

2.a) $|{𝐩}_k^{\mathrm{T}}\mathrm{\nabla }f({𝐱}_k+{\alpha }_k{𝐩}_k)|\le c_2|{𝐩}_k^{\mathrm{T}}\mathrm{\nabla }f({𝐱}_k)|$

alors les conditions 1 et 2.a) prises ensemble sont appelées conditions fortes de Wolfe, puisque ${\alpha }_k$ est forcément proche d'un point critique de $\varphi$.

Référence

Modèle:En J. Nocedal et S. J. Wright, Numerical optimization, Springer Verlag, NY, 1999

Articles connexes

• Méthode de Quasi-Newton
• Méthode du gradient conjugué