JetBrains Research — наука, меняющая мир

Reversible Residual Networks

Глубокие остаточные сети (ResNets) значительно продвинулиcь в области классификации изображений, получая прирост в качестве по мере того, как сети становятся глубже и шире. Тем не менее, потребление памяти становится узким местом, так как нужно хранить активации, чтобы вычислять градиенты с использованием обратного распространения ошибки. Мы представляем Обратимую Остаточную Сеть (RevNet), вариант ResNet, где активации каждого уровня могут быть восстановлены из следующего уровня.

На семинаре мы поговорим о RevNet, о том, как они позволяют снизить потребление памяти и защитить от состязательных атак.

Докладчик: Рауф Курбанов.

Язык доклада: русский.

Дата и время: 17-е сентября, 20:00-21:30.

Место: Таймс, аудитория 204.

Видео с предыдущих семинаров доступно по ссылке: http://bit.ly/MLJBSeminars