Основы нейронных сетей

Лекция: Нейронные сети. Базовые блоки полносвязных нейронных сетей. Алгоритм обратного распространения ошибки. (Слайды, Видео)
Семинар: Матричное дифференцирование. Обучение линейной и логистической регрессий. Реализация полносвязной нейронной сети. (Задание)

Детали обучения нейронных сетей

Лекция: Алгоритм обратного распространения ошибки для ветвящихся структур. Проблемы обучения нейронных сетей. Предобработка данных, аугментация, регуляризация. Стохастический градиентный спуск. Подготовка данных при помощи PyTorch. (Слайды, Видео)
Семинар: Сравнение различных архитектур нейроннх сетей для задачи распознавания цифр (Задание)

Библиотеки для глубинного обучения

Лекция: Графы вычислений в PyTorch. Операции с тензорами. Автоматическое дифференцирование. Полносвязные сети. Ветвящиеся архитектуры. Поведение сети при обучении и предсказании: флаги volatile и requires_grad. Сохранение и загрузка модели. (Слайды, Видео)

Семинар: Реализация простейших сетей в библиотеке Pytorch. (Задание)

Сверточные нейронные сети

Лекция: Свертка. Пулинг. Светрочные нейронные сети. Примеры использования сверточных сетей. Интерпретация обученных моделей. (Слайды, Видео)

Семинар: Реализация операций свертки и пулинга, обучение сверточной нейронной сети при помощи библиотеки PyTorch. (Задание)

Глубинные нейронные сети

Лекция: Инициализация весов: He, Xavier. Регуляризация: Dropout, DropConnect. Нормализация: batch normalization. (Слайды, Видео)
Семинар: Эксперименты с dropout и batch normalization для сверточной нейронной сети. (Задание)

Архитектуры глубинных сетей

Лекция: Современные архитектуры сверточных сетей. Сети Inception и ResNet. Transfer learning. Применение нейронных сетей для задач сегментации и локализации. (Слайды, Видео)
Семинар: Transfer learning для задачи классификации изображений. (Задание)

Методы оптимизации

Лекция: Задача оптимизации. SGD, Momentum, NAG, Adagrad, Adadelta, Adam. (Слайды, Видео)
Семинар: Реализация рассмотренных методов и их сравнение. (Задание)

Коллоквиум 1

Вопросы коллоквиума состоят из двух секций: теоретического минимума и билетов. В билете два вопроса. При подготовке можно пользоваться любыми материалами, в том числе и электронными. После подготовки вы сначала отвечаете теоретический минимум. Если вы не отвечаете на любой вопрос из этой секции, вы отправляетесь на пересдачу. В случае успешного ответа на теоретический минимум, вы рассказываете билет и отвечаете на доп. вопросы.

Коллоквиум оценивается в 15 баллов. Сдача коллоквиума не на 0 является необходимым условием сдачи курса.

Вопросы:
Теоретический минимум

• Произношение слов accuracy, bias, variable, function, Байесовский
• Функции потерь для классификации и регрессии
• Проблемы обучения глубинных нейронных сетей
• Граф вычислений
• Задачи на подсчет матричных производных
• Операция свертки
• Операция пулинга
• Постановка задачи оптимизации
• Постановка задачи регрессии
• Постановка задачи классификации
• Способы валидации модели
• Особенности работы с изображениями
• Идея transfer learning

• Алгоритм обратного распространения ошибки для графов вычислений
• Модель линейной регрессии и ее решение
• Сверточные нейронные сети
• Dropout, Batch normalization
• GD, SGD, Momentum, NAG
• Adagrad, RMSprop, Adadelta, Adam
• Инициализация сетей: Xavier, He, ортогональная инициализация
• ResNet
• VGG, Network in Network
• Inception

Рекуррентные сети

Лекция: Рекуррентные сети. Обратное распространение ошибки сквозь время. LSTM сети. GRU сети. Многослойные рекуррентные архитектуры. Модификация dropout и батч-нормализации для рекуррентных сетей. (Слайды, Видео)

Семинар: Реализация модуля LSTM. Сравнение написанной реализации с реализацией из PyTorch (Задание)

Нейронные сети для обработки естественного языка

Лекция: Примеры задач. Обучение представлений: Word2Vec. Ускорение пары linear+softmax: hierarchical softmax, differentiated softmax. Генерация предложений. Модель Seq2Seq. Beam search для поиска лучшего ответа. Приемы для повышения разнообразности ответов. (Слайды)
Семинар: Обучение Seq2Seq на субтитрах фильмов. (Задание)

Современные модели для NLP

Лекция: Современные методы обработки языка. Attention, Transformer. BERT-подобные модели. Развитие трансформеров, ELECTRA. (Слайды).
Семинар: Код трансформера и генерация текстов с помощью BERT (Задание)

Соперничающие сети (GAN)

Лекция: Генеративные и дискриминативные модели. Равновесие Нэша. Генеративные конкурирующие сети (GAN). Генеративные автокодировщики (AAE). Техника domain adaptation. Domain adaptation для перевода изображений между доменами. Wasserstein GAN. (Слайды)
Семинар:Реализация архитектуры GAN для генерации лиц. (Семинар)

Вариационные автокодировщики (VAE) и Artistic Style

Лекция:Модель вариационного автокодировщика (VAE). Интерпретация обученных моделей: Deep Dream. Перенос стиля: Artistic style. Ускорение стилизации. (Слайды)
Семинар: Реализация Deep Dream и Artistic style. (Ноутбук)

Обучение с подкреплением часть 1

Лекция: Основные понятия обучения с подкреплением: агент, среда, стратегия, награда. Value function и Q-function. Уравнения Беллмана. Алгоритм Policy iteration. (Слайды)
Семинар: Реализация агента для прохождения игры. (Семинар)

Обучение с подкреплением, часть 2

Лекция: Алгоритм Q-learning. Модельные подходы. Алгоритм DQN. Alpha Go. (Слайды, Видео)

Семинар: Реализация Q-learning и DQN (Задание)

Коллоквиум 2

Вопросы коллоквиума состоят из двух секций: теоретического минимума и билетов. В билете два вопроса. При подготовке можно пользоваться любыми материалами, в том числе и электронными. После подготовки вы сначала отвечаете теоретический минимум. Если вы не отвечаете на любой вопрос из этой секции, вы отправляетесь на пересдачу. В случае успешного ответа на теоретический минимум, вы рассказываете билет и отвечаете на доп. вопросы.

Коллоквиум оценивается в 15 баллов. Сдача коллоквиума не на 0 является необходимым условием сдачи курса.

Вопросы:
Теоретический минимум

• Архитектура LSTM ячейки
• Attention
• Self-Attention
• Идея соперничающих сетей
• KL дивергенция
• Основные понятия обучения с подкреплением: агент, среда, стратегия, награда
• Уравнения Беллмана
• Обратное распространение ошибки сквозь время

• Рекуррентные сети. Проблемы с прохождением градиента. Обратное распространение ошибки сквозь время
• LSTM и GRU сети
• Word2Vec: CBOW и Skip-gram
• Иерархический и дифференцированный софтмакс
• Задача обучения языковой модели. Seq2Seq
• Transformer, BERT
• Autoencoder и Denoising Autoencoder.
• Соперничающие сети и генеративные автокодировщики
• Вариационный автокодировщик. Вариационная нижняя оценка
• Интерпретация обученных сетей. Saliency map. Deep dream и artistic style
• Задача обучения с подкреплением. Алгоритм Policy iteration
• Q-learning. Deep Q-learning.
• Multi-armed bandits
• MCTS
• Policy gradients
• Alpha go

Защита исследовательского проекта

Защита исследовательского проекта

Пересдача

Пересдача