Обложка канала

Библиотека data scientist’а

14419 @dsproglib

Полезные материалы по всему, что может быть интересно дата сайентисту.

Библиотека data scientist’а

3 года назад
Открыть в
Что произойдет, если learning rate установлен неточно (слишком низкий или слишком высокий)? Когда LR слишком маленький, обучение модели будет продвигаться очень медленно, поскольку на каждом шаге мы минимально обновляем веса. До достижения точки минимума потребуется много обновлений. Если LR установлен слишком большим, это вызывает нежелательное отклоняющееся поведение по отношению к функции потерь из-за резких обновлений весов. Алгоритм может не найти точку минимума. #вопросы_с_собеседований