Исследовательская группа

Агентные системы и обучение с подкреплением

Concrete Problems in AI Safety

23 апреля 2019

Быстрый прогресс в области машинного обучения и искусственного интеллекта привлекает все большее внимание к возможному воздействию, которое AI может иметь на общество. Одно из таких воздействий - проблема аварий в системах с машинным обучением.

На семинаре мы рассмотрим статью "Concrete Problems in AI Safety" и разберем пять проблем, связанных с авариями, которые можно категоризовать на три класса: возникающие из-за неправильной целевой функции, слишком дорогой для частого подсчета целевой функции или нежелательного поведения в процессе обучения.

Ссылка на статью: https://arxiv.org/abs/1606.06565

Докладчик: Катерина Кощенко.

Язык доклада: русский.

Дата и время: 23-е апреля, 18:30-20:00.

Место: Таймс, аудитория 204.

Видео с предыдущих семинаров доступно по ссылке: http://bit.ly/MLJBSeminars

Дополнительно