On calcule les dérivées partielles : \[\frac{\partial f}{\partial y}(x,y) = -2y, \qquad \frac{\partial f}{\partial x}(x,y) = (x+1)^2 + 2x(x+1) = (x+1)(3x+1).\] On a \(\frac{\partial f}{\partial y}(x,y) = 0 \iff y = 0\) et \(\frac{\partial f}{\partial x}(x,y) = 0 \iff x \in \left\{-1\,;\,-\frac{1}{3}\right\}\).

Les points stationnaires de \(f\) sont donc \((-1, 0)\) et \(\left(-\frac{1}{3}, 0\right)\).

On calcule la matrice hessienne : \[\mathrm{Hess}_f(x,y) = \begin{pmatrix} 6x+4 & 0 \\ 0 & -2 \end{pmatrix}.\] En \((-1, 0)\) : \[\mathrm{Hess}_f(-1,0) = \begin{pmatrix} -2 & 0 \\ 0 & -2 \end{pmatrix}.\] On a \(\det(\mathrm{Hess}_f(-1,0)) = 4 > 0\) et le terme diagonal \(-2 < 0\), donc \(f\) admet un maximum local en \((-1, 0)\).

En \(\left(-\frac{1}{3}, 0\right)\) : \[\mathrm{Hess}_f\!\left(-\tfrac{1}{3},0\right) = \begin{pmatrix} 2 & 0 \\ 0 & -2 \end{pmatrix}.\] On a \(\det = -4 < 0\), donc \(f\) présente un point selle en \(\left(-\frac{1}{3}, 0\right)\).

Étude des points critiques d'une fonction de deux variables