Исследовательская группа

Прикладное машинное обучение и глубинное обучение

Plug and Play Language Models: A Simple Approach to Controlled Text Generation

April 13

Большие transformer-based языковые модели, обученные на огромных текстовых корпусах, продемонстрировали высококачественную генерацию текста, ранее недосягаемую. Однако управление атрибутами (например, смена темы или настроения) генерируемого текста затруднено без изменения самой архитектуры модели или специально настройки под конкретные атрибуты, что влечет за собой значительные вычислительные и временные затраты.

На семинаре мы рассмотрим подход, предложенный исследователями из Uber, который позволяет контролировать генерацию текста без изменений языковой модели. Помимо этого мы узнаем, каким образом можно повысить расовую толерантность у модели и какое отношение имеет пицца к религии.

Докладчик: Денис Леонов.

Язык доклада: русский.

Дата и время: 13-е апреля, 20:00-21:30.

Место: https://zoom.us/j/430117051.

Видео с предыдущих семинаров доступно по ссылке: http://bit.ly/MLJBSeminars

Материалы