Calcolo Differenziale in ℝⁿ

Una funzione $f:\mathbb{R}^2\to\mathbb{R}$ associa a ogni punto del piano un numero: pensa a $f(x,y)$ come all'altitudine nel punto $(x,y)$ di un paesaggio. Il dominio $D_f$ è l'insieme dei punti dove $f$ ha senso (es. per $\ln(xy)$ serve $xy>0$).

Curve di livello. La curva di livello di quota $c$ è l'insieme dei punti dove $f$ vale esattamente $c$:

Sono esattamente le isoipse delle carte topografiche (punti alla stessa altitudine) o le isoterme delle mappe meteo. Tagliando il grafico di $f$ con piani orizzontali $z=c$ e proiettando in basso si ottengono le curve di livello.

Come leggerle. Dove le curve di livello sono fitte, la funzione varia rapidamente (pendio ripido); dove sono rade, varia lentamente (pianoro). Curve di livello chiuse e concentriche segnalano una cima o una conca. In $\mathbb{R}^3$ l'analogo sono le superfici di livello $f(x,y,z)=c$ (es. le superfici equipotenziali in elettrostatica).

La definizione di limite ricalca quella in una variabile, ma "avvicinarsi" ora avviene in tutte le direzioni del piano. Si usa la norma euclidea al posto del valore assoluto:

La grande differenza. In $\mathbb{R}$ ci si avvicina a $x_0$ solo da destra o da sinistra. In $\mathbb{R}^2$ ci si può avvicinare lungo infiniti cammini: rette, parabole, spirali. Perché il limite esista, deve valere $L$ lungo ogni cammino.

Come dimostrare la non esistenza. Basta trovare due cammini che danno limiti diversi. Esempio classico: $f(x,y)=\dfrac{xy}{x^2+y^2}$ in $(0,0)$. Lungo l'asse $x$ ($y=0$): $f=0$. Lungo la retta $y=x$: $f=\dfrac{x^2}{2x^2}=\dfrac12$. Limiti diversi ⟹ il limite non esiste. (Le coordinate polari $x=r\cos\theta$, $y=r\sin\theta$ sono spesso il modo più rapido: se il risultato dipende da $\theta$, il limite non esiste.)

$f$ è continua in $\mathbf{x}_0$ se $\lim_{\mathbf{x}\to\mathbf{x}_0}f=f(\mathbf{x}_0)$.

La derivata parziale $\partial_x f$ misura come varia $f$ muovendosi solo nella direzione $x$, tenendo $y$ congelata:

In pratica si deriva rispetto a $x$ trattando $y$ come costante. È la pendenza del grafico lungo la "fetta" $y=y_0$.

Attenzione: le parziali non bastano. A differenza del caso 1D, l'esistenza delle derivate parziali non garantisce nemmeno la continuità! Serve un concetto più forte: la differenziabilità. $f$ è differenziabile in $\mathbf{x}_0$ se è ben approssimata da una funzione lineare (il differenziale):

L'errore $o(|\mathbf{h}|)$ tende a zero più velocemente di $|\mathbf{h}|$: il grafico vicino a $\mathbf{x}_0$ è quasi un piano.

Criterio pratico (teorema del differenziale totale). Se le derivate parziali esistono e sono continue in un intorno ($f\in C^1$), allora $f$ è differenziabile, e quindi anche continua. Questo è il caso di quasi tutte le funzioni "elementari".

Il gradiente raccoglie tutte le derivate parziali in un vettore:

La derivata direzionale nella direzione del versore $\hat v$ misura la pendenza di $f$ in quella direzione, ed è la proiezione del gradiente:

Tre proprietà fondamentali del gradiente.

• Direzione di massima crescita. $D_{\hat v}f$ è massima quando $\hat v$ è allineato con $\nabla f$ ($\cos\theta=1$): il gradiente punta "in salita più ripida". Il valore massimo della pendenza è $|\nabla f|$.
• Perpendicolarità alle curve di livello. Lungo una curva di livello $f$ non varia, quindi $D_{\hat v}f=0$: il gradiente è ortogonale alle curve di livello. (Per questo l'acqua scende perpendicolarmente alle isoipse.)
• Decrescita più ripida nella direzione $-\nabla f$: è il principio del metodo del gradient descent usato per addestrare le reti neurali.

Il piano tangente al grafico di $f$ in $(x_0,y_0)$ è l'analogo della retta tangente: il piano che meglio approssima la superficie lì.

È esattamente l'approssimazione lineare data dal differenziale (§3). Per $(x,y)$ vicini a $(x_0,y_0)$, $f$ è quasi il suo piano tangente.

Taylor al 2° ordine. Per un'approssimazione migliore aggiungiamo il termine quadratico costruito con la matrice Hessiana $H_f$ (le derivate seconde):

Il termine lineare $\nabla f\cdot\mathbf{h}$ inclina, il termine quadratico $\tfrac12\mathbf{h}^TH_f\mathbf{h}$ curva. Nei punti critici (dove $\nabla f=\mathbf{0}$) sopravvive solo il termine quadratico: è la forma quadratica dell'Hessiana a decidere se siamo su un minimo, un massimo o una sella — il contenuto della prossima sezione.

Per ottimizzare $f$ cerchiamo prima i punti critici, dove il gradiente si annulla:

In questi punti il piano tangente è orizzontale: candidati a massimo, minimo o sella. Per classificarli si usa la matrice Hessiana e il segno della forma quadratica che genera. In 2D, con $\det H=f_{xx}f_{yy}-f_{xy}^2$:

• $\det H>0$ e $f_{xx}>0$: $H$ definita positiva ⟹ minimo locale (conca verso l'alto, $f$ cresce in ogni direzione).
• $\det H>0$ e $f_{xx}<0$: $H$ definita negativa ⟹ massimo locale.
• $\det H<0$: $H$ indefinita ⟹ punto di sella (cresce in alcune direzioni, decresce in altre — come un passo di montagna o una sella da cavallo).
• $\det H=0$: test inconcludente, servono ordini superiori.

Perché funziona. Vicino a un punto critico $f(\mathbf{x}_0+\mathbf{h})\approx f_0+\tfrac12\mathbf{h}^TH\mathbf{h}$: il comportamento è quello della forma quadratica. Definita positiva ⟹ ciotola (minimo); indefinita ⟹ sella. Il criterio $\det H, f_{xx}$ è il test degli autovalori dell'Hessiana mascherato (autovalori concordi positivi ⟹ minimo, ecc.).

Regola della catena. Se $f$ è valutata lungo una curva $\mathbf{r}(t)=(x(t),y(t))$, la composta $g(t)=f(\mathbf{r}(t))$ ha derivata data dal gradiente per la velocità:

È la versione multivariabile di $(f\circ g)'=f'g'$. Conferma che la derivata direzionale (§4) è la derivata lungo una retta percorsa a velocità unitaria.

Teorema di Dini (funzione implicita). Una curva di livello $F(x,y)=0$ non è in generale il grafico di una funzione. Ma localmente lo è, purché la tangente non sia verticale. Se $F(x_0,y_0)=0$, $F\in C^1$ e $F_y(x_0,y_0)\neq 0$, allora esiste una funzione $y=\varphi(x)$ con $F(x,\varphi(x))=0$ vicino a $x_0$, e

Derivazione: derivando $F(x,\varphi(x))=0$ rispetto a $x$ con la regola della catena, $F_x+F_y\varphi'=0$. Esempio: sulla circonferenza $x^2+y^2=1$, vicino a $(0,1)$ vale $\varphi'=-x/y$, orizzontale in cima ($x=0$).

Spesso si vuole ottimizzare $f(x,y)$ non ovunque, ma sotto un vincolo $g(x,y)=0$ (es. massimizzare un'area a perimetro fissato). Il metodo dei moltiplicatori di Lagrange risolve il problema.

L'idea geometrica. Nei punti di ottimo vincolato, la curva di livello di $f$ è tangente al vincolo $g=0$. Poiché il gradiente è perpendicolare alle curve di livello, ciò significa che $\nabla f$ e $\nabla g$ sono paralleli:

Il numero $\lambda$ è il moltiplicatore di Lagrange. Si risolve il sistema delle tre equazioni ($f_x=\lambda g_x$, $f_y=\lambda g_y$, $g=0$) nelle incognite $x,y,\lambda$.

Significato di $\lambda$. Misura la sensibilità dell'ottimo al rilassamento del vincolo: in economia è il "prezzo ombra", la variazione del valore ottimo per unità di vincolo. Per più vincoli, $\nabla f=\sum_i\lambda_i\nabla g_i$.