Tianhua Chen написал компактный математический учебник по генеративному AI — от PCA до diffusion models
The Little Book of Generative AI Foundations: An Intuitive Mathematical Primer
195-страничный препринт Tianhua Chen предлагает не обзор архитектур, а единый маршрут через математические идеи, связывающие главные семейства генеративных моделей: PCA и вероятностный PCA, variational autoencoders, diffusion models, normalising flows, авторегрессионные факторизации, GAN и Wasserstein GAN, energy-based models. Во второй версии добавлены визуальные пояснения по всему тексту, а математическая суть сохранена — книга рассчитана на исследователей, практиков и студентов, которым нужна прочная база.
Цель — сделать структуру генеративного моделирования более доступной, не убирая математическую суть, необходимую для понимания того, как эти модели выводятся и связаны между собой.
- nh23423fefe
Мне не нравится:
> Смена координат. Дан вектор x, выраженный в стандартном базисе; мы меняем координаты, применяя
x_eig = V^−1 x.
> Эта операция не меняет сам вектор; она меняет только то, как вектор представлен, преобразуя его в координаты собственных векторов.
Я уверен, что автор знает разницу между вектором и координатным вектором в данном базисе. Мне просто не нравится эта формулировка. Странно говорить, что применение функции не влияет на изменение.
- hasteg
Ещё одна книга, которую я настоятельно рекомендую для изучения математики (или, по крайней мере, для очень хорошего понимания того, как это работает) за машинным обучением/трансформерами — это «Why Machines Learn: The Elegant Math Behind Modern AI» Анила Анантасвами. Я прочитал её в этом году и нашёл, что она чрезвычайно хороша в темпе и в построении интуиции относительно «как и почему» большинства важных математических концепций и открытий в ML, которые привели нас туда, где мы находимся сегодня. Для тех, у кого ещё нет достаточно глубокого понимания линейной алгебры, статистики и многомерного анализа, эта книга будет гораздо более мягким введением, но всё же достаточно строгим, чтобы вы вынесли из неё что-то полезное.
- p1esk
Ух ты, эта книга на удивление читабельна! Мне нравится, как он начинает с основ линейной алгебры.
- prideout
Моя любимая маленькая книжка — Франсуа Флёре: The Little Book of Deep Learning
- nblgbg
Есть ли какие-нибудь книги по глубокому обучению с задачами для решения?