Основы глубинного обучения

Для освоения учебной дисциплины студенты должны владеть следующими знаниями и компетенциями:
   - Знание основ программирования на языке высокого уровня, знание основных алгоритмов и
концепций машинного обучения.

1. Введение в нейронные сети

Построение нейронных сетей, полносвязные слои, обратное распространение ошибки.

2. Работа с изображениями и сверточные архитектуры    

Операция свертки и сверточные нейронные сети, методы борьбы с переобучением нейронных сетей и регуляризация.

3. Современные сверточные архитектуры и их использование     

Принципы построения современных сверточных архитектур, перенос знаний, интерпретация моделей и задача переноса стиля.

4. Работа с последовательностями и рекуррентные архитектуры    

Векторные представления слов, токенизация слов, рекуррентные архитектуры, применение сверточных архитектур к текстам.

5. Механизм внимания и Трансформер    

Механизм внимания, построение Трансформера и его применение к задаче классификации, контекстозависимые векторные представления слов из Трансформеров.

6. Нейронные сети в реальных условиях    

Практика применения нейронных сетей, оценка неопределенности, оптимизация нейронных сетей.

Студент способен разрабатывать и реализовывать в виде программного модуля алгоритм решения поставленной теоретической или прикладной задачи на основе математической модели.

• Осознает сущность и значение информации в развитии современного общества; владеет основными методами, способами и средствами получения, хранения, переработки информации (ОК-12).
• Способен разрабатывать и реализовывать в виде программного модуля алгоритм решения поставленной теоретической или прикладной задачи на основе математической модели (ПК-2).     
• Способен собирать, обрабатывать и интерпретировать данные современных научных исследований в области математики и компьютерных наук, необходимых для формирования выводов по соответствующим научным исследованиям (ПК-1).