15. Gradiente.
Sea una función (o campo) escalar diferenciable en una región entonces la función (o campo) gradiente de es la función vectorial denotada por definida por
- 1
-
Si está definida de manera implícita por entonces
- 2
-
- 3
- Sea .
Esta ecuación podría definir a
como función implícita
o es una "superficie de nivel "
si .
Entonces podríamos calcular dos gradientes: Uno en el plano y otro en el espacio.
Por ejemplo, consideremos el campo En la figura 4.8 a.) se dibujan dos vectores anclados en el punto, en la figura 4.8 b.) se dibujan dos vectores anclados con el punto en el medio y en la figura 4.8 c.) se hace la representación gráfica del campo escalando los vectores, tal y como se acostumbra.
En la Sección 18. se establece que es la proyección ortogonal de sobre , por lo que la máxima tasa de cambio se alcanza en la dirección de
- 1
- Sea
diferenciable en .
El vector gradiente
apunta en la dirección de máximo crecimiento de
respecto a
Es decir, si nos desplazamos una pequeña distancia, la mayor tasa de incremento se obtiene siguiendo la dirección de
- 2
- La tasa de cambio máxima en esa dirección es .
Geométricamente, el gradiente posee una propiedad esencial: Apunta en la dirección de máximo crecimiento de la función en
ese punto.
Aplicación: Método de Ascenso del Gradiente Para encontrar un máximo local de de forma iterativa, partimos de un punto inicial ("adivinanza inicial") y actualizamos mediante la regla:
donde es
la tasa de aprendizaje. En cada paso, nos movemos en la dirección donde la función crece más rápido, por eso sumamos
al estado
actual .
La tasa
no es necesariamente constante. Se puede actualizar en cada iteración, una estrategia conocida como Learning Rate Decay
(decaimiento de la tasa) o Adaptive Learning Rates (tasas adaptativas). Esto permite dar pasos grandes al inicio y reducir la
magnitud progresivamente para un ajuste fino cerca del óptimo.
- 1
- Si
calcule
Solución. El gradiente está dado por :
y evaluando
- 2
- Si
calcule
Solución. Debemos derivar de manera implícita. Excepto en la circunferencia (curva de nivel ), se puede calcular
- 3
- Si
calcule
y, suponiendo que
define de manera implicíta a
calcule
Solución.
- 1
- 2
- Si
define de manera implicíta a ,
entonces
Por lo tanto:
Consideremos la superficie
de ecuación
El gradiente de es (derivando implícitamente)
- 1
- 2
- 3
- 4
- Indefinido
- 5
- no esta definida en los puntos de la curva de nivel , es decir, .