JetBrains Research — наука, меняющая мир

Обзор работ по генеративным моделям с NeurIPS 2019

В глубоком обучении мы стремимся разработать алгоритмы, которые наделяют машины понимаем нашего мира.


Генеративные модели являются одним из наиболее перспективных подходов к этой цели. Мы собираем большой объем данных (изображений, текстов, звуков и т.д.), и учимся моделировать подобные данные. Интуиция, лежащая в основе этого подхода, следует известной цитате Ричарда Фейнмана: "What I cannot create, I do not understand."

Тут нужно заметить, Фейнман не предлагал построить собственный ускоритель как Тони Старк, для того чтобы понять физику элементарных частиц. Он хотел похвастаться, что мог воспроизвести теоретический результат с чистого листа бумаги.
Красота же нашей науки в том, что мы можем использовать цитату нобелевского лауреата буквально.

Хитрость заключается в том, что архитектуры, лежащие под "капотом" генеративных моделей, имеют значительно меньший набор параметров, чем объем данных. Поэтому модели вынуждены обнаруживать и эффективно усваивать сущность данных для их генерации.

Мы слетали на NeurIPS 2019 и хотим рассказать пару статей, которым нам особо понравились.

Докладчик: Рауф Курбанов.

Язык доклада: русский.

Дата и время: 3-е февраля, 20:00-21:30.

Место: Таймс, аудитория 404.

Видео с предыдущих семинаров доступно по ссылке: http://bit.ly/MLJBSeminars