Tianhua Chen verbindet PCA, Diffusion und GANs in einem einzigen mathematischen Leitfaden
The Little Book of Generative AI Foundations: An Intuitive Mathematical Primer
Auf 195 Seiten führt Tianhua Chen durch die mathematischen Grundlagen generativer KI – von PCA und probabilistischem PCA über variational autoencoders und Diffusionsmodelle bis zu normalising flows, autoregressiven Faktorisierungen, GANs, Wasserstein GANs und energiebasierten Modellen. Statt Architekturen aufzulisten, zeichnet das Buch einen zusammenhängenden Herleitungsweg und erklärt, wie diese Modellfamilien verwandt sind. Die überarbeitete Preprint-Version enthält durchgehend neue visuelle Erklärungen.
Das Ziel ist, die Struktur generativer Modellierung zugänglicher zu machen, ohne die mathematische Substanz zu entfernen, die nötig ist, um zu verstehen, wie diese Modelle hergeleitet werden und miteinander zusammenhängen.
- nh23423fefe
Ich mag nicht:
> Koordinaten ändern. Gegeben sei ein Vektor x, ausgedrückt in der Standardbasis; wir ändern die Koordinaten, indem wir
x_eig = V^−1 x
anwenden.
> Diese Operation ändert den Vektor selbst nicht; sie ändert nur, wie der Vektor dargestellt wird, indem sie ihn in Eigenvektor-Koordinaten umwandelt.
Ich bin sicher, der Autor kennt den Unterschied zwischen dem Vektor und einem Koordinatenvektor bezüglich einer Basis. Ich mag nur diese Formulierung nicht. Es ist seltsam zu sagen, dass die Anwendung einer Funktion keine Änderung bewirkt.
- hasteg
Ein weiteres Buch, das ich zum Erlernen der Mathematik (oder zumindest zum sehr guten Verständnis, wie sie funktioniert) hinter Machine Learning/Transformers wärmstens empfehlen kann, ist "Why Machines Learn: The Elegant Math Behind Modern AI" von Anil Ananthaswamy. Ich habe es dieses Jahr gelesen und fand, dass es extrem gut darin ist, das Tempo zu halten und Intuition für das "Wie und Warum" der wichtigsten mathematischen Konzepte und Entdeckungen im ML aufzubauen, die zu unserem heutigen Stand geführt haben. Für diejenigen, die noch kein ziemlich tiefes Verständnis von linearer Algebra, Statistik und multivariater Analysis haben, wird dieses Buch eine viel sanftere Einführung sein, hat aber dennoch genug Strenge, dass man etwas mitnimmt.
- p1esk
Wow, dieses Buch ist überraschend lesbar! Ich mag, wie er mit den Grundlagen der linearen Algebra beginnt.
- prideout
Mein Lieblingsbüchlein ist das von François Fleuret: The Little Book of Deep Learning
- nblgbg
Gibt es irgendwelche Deep-Learning-Bücher mit ein paar Aufgaben zum Lösen?