Сжатие нейронных сетей - очень крутая и актуальная область, особенно в настоящее время, когда придумано огромное количество тяжелых моделей, дающих впечатляющее качество на прикладных задачах, но нет возможности запихнуть эти огромные модели на мобильные устройства или даже на обычные сервера.
Краткий обзор по существующим методам сжатия нейронных сетей:
https://telegra.ph/Szhatie-setok-06-30