Introducció a la diferenciació automàtica

La diferenciació (o derivació) automàtica és un procediment per trobar les derivades de funcions de múlitples variables d’una forma ben diferent a les dues tradicionals: l’analítica (primer es deriva una funció i després es mirar el seu valor concret a un punt determinat), i la numèrica (diferències finites, qu en o té pas tanta precisió). Aquest mètode és el que es fa servir en les modernes tècniques de Machine Learning i Ai, pel que fa a les xarxes neuronals.

He trobat en aquesta web de towardsdatascience.com una explicació raonablement planera de què és la derivació automàtica, i de com es fa servir al software jax (Google) i al software pytorch mitjançant la programació en python.

Aquesta pàgina introdueix també el concepte d’operator overloading (redifinió d’operadors com la suma o la multiplicació), i proporciona exemples de derivació endavant (forward) i enrere (backward), que encara que porten al mateix lloc, demanen recursos computacionals diferents.

Finalment, introdueix com es calculen les derivades d’alt ordre, que per a la química quàntica són molt convenients, des de la hiperpolaritzabilitat fins a les freqüències vibracionals harmòniques

Per anar estudiant, doncs. Més informació per tota la Internet, i és clar (amb continguts llegurament diferents) a la Wikipedia: