up

Основы глубинного обучения

  • Russian

    course language

  • 6 weeks

    course duration

  • about 4 hours per week

    needed to educate

  • 3 credit points

    for credit at your university

 

Курс является частью специализации "Машинное обучение: от статистики до нейросетей", состоящей из семи курсов: "Математическая статистика и А‍/‍В тестирование", "Основы машинного обучения (вводный курс)", "Сбор и анализ данных в Python", "Статистические методы анализа данных", "Продвинутые методы машинного обучения", "Основы глубинного обучения" и "Продвинутые методы глубинного обучения".

About

Программа предназначена для преподавателей, ведущих дисциплину «Основы глубинного обучения», учебных ассистентов и студентов направления подготовки/специальности «01.03.02 Прикладная математика и информатика», обучающихся по образовательным программам бакалавриата.

Целями освоения дисциплины Основы глубинного обучения являются:

  • ознакомление студентов с основными принципами функционирования и обучения нейронных сетей
  • развитие навыков написания программного кода для обучения нейронных сетей в фреймворке PyTorch на языке программирования Python

Format

Курс состоит из  6 видеолекций, разбитых на тематические блоки. В каждой теме 8-15 роликов по 8-12 минут, между которыми есть вопросы для проверки.

Ian Goodfellow, Yoshua Bengio, Aaron Courville. Deep Learning. MIT Press, 2016. Retrieved from https://www.deeplearningbook.org/

Hastie, T., Tibshirani, R., Friedman, J. The elements of statistical learning: Data Mining, Inference, and Prediction. Springer, 2009. Retrieved from https://web.stanford.edu/~hastie/Papers/ESLII.pdf

Requirements

Для освоения учебной дисциплины студенты должны владеть следующими знаниями и компетенциями:
   - Знание основ программирования на языке высокого уровня, знание основных алгоритмов и
концепций машинного обучения.

Course program

1. Введение в нейронные сети

Построение нейронных сетей, полносвязные слои, обратное распространение ошибки.


2. Работа с изображениями и сверточные архитектуры    

Операция свертки и сверточные нейронные сети, методы борьбы с переобучением нейронных сетей и регуляризация.


3. Современные сверточные архитектуры и их использование     

Принципы построения современных сверточных архитектур, перенос знаний, интерпретация моделей и задача переноса стиля.


4. Работа с последовательностями и рекуррентные архитектуры    

Векторные представления слов, токенизация слов, рекуррентные архитектуры, применение сверточных архитектур к текстам.


5. Механизм внимания и Трансформер    

Механизм внимания, построение Трансформера и его применение к задаче классификации, контекстозависимые векторные представления слов из Трансформеров.


6. Нейронные сети в реальных условиях    

Практика применения нейронных сетей, оценка неопределенности, оптимизация нейронных сетей.

Education results

Студент способен разрабатывать и реализовывать в виде программного модуля алгоритм решения поставленной теоретической или прикладной задачи на основе математической модели.

Formed competencies

  • Осознает сущность и значение информации в развитии современного общества; владеет основными методами, способами и средствами получения, хранения, переработки информации (ОК-12).
  • Способен разрабатывать и реализовывать в виде программного модуля алгоритм решения поставленной теоретической или прикладной задачи на основе математической модели (ПК-2).     
  • Способен собирать, обрабатывать и интерпретировать данные современных научных исследований в области математики и компьютерных наук, необходимых для формирования выводов по соответствующим научным исследованиям (ПК-1).

Education directions

Отзывы о курсе

Программные средства

  • Code::Blocks — Кроссплатформенная среда разработки, Разработка ПО, Свободное лицензионное соглашение
  • Microsoft Visual Studio 2015 Community — Среда разработки, Разработка ПО, Свободное лицензионное соглашение
  • Anaconda Community
  • Пакеты Python для науки, математики, инженерии и анализа данных — Разработка ПО, Свободное лицензионное соглашение

Гущин Михаил Иванович

Кандидат наук: Московский физико-технический институт (национальный исследовательский университет)
Position: Старший научный сотрудник Факультета компьютерных наук

Биршерт Алексей Дмитриевич


Position: Приглашенный преподаватель Факультета компьютерных наук

Чиркова Надежда Александровна


Position: Приглашенный преподаватель Факультета компьютерных наук

course completion certificate

Certificate

Стоимость доступа ко всем материалам курса, возможности пройти экзамен с прокторингом и получить сертификат составляет 3600 рублей.

The cost of passing the procedures for assessing learning outcomes with personal identification - 3600 Р.

Programs, which includes this course

Similar courses