Нейронные сети

В курсе рассматриваются математические модели нейронных сетей, особое внимание уделяется многослойным нейронным сетям и решаемым с их помощью задачам. Рассматриваются принципы построения нейронных сетей, методы обучения и оценки обобщающей способности, особенности подготовки данных для обучения и интерпретации результатов обучения, приводятся практические рекомендация при построении нейронных сетей для решения прикладных задач обработки данных.

Стоимость доступа к материалам курса за исключением ознакомительной части (включая тестовые материалы и возможность пройти экзамен с прокторингом и получить сертификат) составляет 3600 рублей. Для этого нужно пройти текущее тестирование не меньше чем на 60% и итоговый тест не меньше чем на 60%.

1. Yoshua Bengio. Learning Deep Architectures for AI // Foundations and Trends in Machine Learning: Vol. 2: No. 1, pp 1-127. 2009.

2. Hastie T., Tibshirani R., Friedman J. The Elements of Statistical Learning: Data Mining, Inference, and Prediction. Second Edition. Springer, 2009.

3. I. Goodfellow, Y. Bengio, and A. Courville. Deep learning. MIT press, 2016.

4. J. Gareth, et al. An introduction to statistical learning. New York: Springer, 2013.

5. M. Nielsen. Neural networks and deep learning. San Francisco, CA, USA: Determination press, 2015.

Для изучения данного курса требуются знания университетских курсов математического анализа, линейной алгебры, теории вероятностей и математической статистики. Желательны базовые знания методов оптимизации и прикладного статистического анализа данных.

Знание английского языка на уровне не ниже Intermediate.

Module 1. Introduction.

1. Artificial neural networks as biologically inspired models.

2. The structure of a neuron.

3. Brief history of artificial neural networks.

4. AI, ML and ANNs.

5. An overview of neural network architectures.

Module 2. Multilayer neural networks.

Lesson 1. Activation functions.

Lesson 2. Mathematical model of multilayer neural network.

Lesson 3. Loss functions.

Lesson 4. Backpropagation algorithm.

Module 3. Neural Network Training algorithms.

Lesson 1. Gradient descent methods.

Lesson 2. Per-parameter adaptive learning rate methods.

Lesson 3. Stochastic gradient descent.

Lesson 4. Second order methods.

Lesson 5. Weight initialization.

Module 4. Generalization in Neural Networks.

Lesson 1. Generalization capability.

Lesson 2. Bias-variance decomposition.

Lesson 3. Cross-validation techniques.

Lesson 4. Regularization techniques.

Lesson 5. Dropout and batch-normalization.

В результате обучения по курсу слушатель будет:

Знать:

• основны архитектур и математические модулей нейронных сетей
• методовы обучения нейронных сетей
• методы оценки качества нейронных сетей
• методы улучшения обобщающей способности нейронных сетей

Уметь:

• применять нейронные сети для решения прикладных задач обработки данных
• применять методы обучения нейронных сетей и настраивать их параметры
• Уоценивать обобщающие способности нейронных сетей

Владеть:

• терминологией теории нейронных сетей
• инструментальными средствами для обучения нейронных сетей

Основные архитектуры и математические модели нейронных сетей.

Методы обучения нейронных сетей.

Методы оценки качества нейронных сетей.

Методы улучшения обобщающей способности нейронных сетей.

Применение нейронныех сетей для решения прикладных задач обработки данных.

Применение метов обучения нейронных сетей и настраивание их параметры.

Оценивание обобщающих способности нейронных сетей.

Владение терминологией теории нейронных сетей.

Владение инструментальными средствами для обучения нейронных сетей.