JetBrains Research — наука, меняющая мир

Neural Attribution for Semantic Bug-Localization in Student Programs

Семинар будет в прямой трансляции на канале http://bit.ly/MLJBSeminars, там же, в чате, можно будет задавать вопросы докладчику онлайн.

Повышение интерпретируемости глубоких моделей — крайне важная задача машинного обучения. Одним из методов решения этой проблемы является определение фрагментов входных данных, которые вносят наибольший вклад в итоговый результат работы модели. Однако, существующие подходы обладают рядом недостатков, например, слабой чувствительностью и неустойчивостью к конкретной реализации модели. На семинаре будет рассмотрена статья Axiomatic Attribution for Deep Networks, предлагающая новый метод интегрированных градиентов (Integrated Gradients) исправляющий эти недостатки.

В качестве иллюстрации работы данного метода будет рассмотрена статья Neural Attribution for Semantic Bug-Localization in
Student Programs. В этом исследовании авторы представляют новый метод локализации багов в решениях учебных задач. Предлагаемый подход состоит из двух шагов: сначала обучается модель на основе CNN для предсказания результата проверки корректности решения задачи на отдельно взятом тесте, а далее для некорректных решений определяется, какие строчки повлияли на предсказание результата тестирования.

Докладчик: Ярослав Соколов.

Язык доклада: русский.

Дата и время: 4-е марта, 19:30-21:00.

Место: Таймс, аудитория 405.

Видео с семинаров доступно по ссылке: http://bit.ly/MLJBSeminars