Petals
Petals — это инструмент, который позволяет пользователям совместно запускать большие языковые модели.
Пользователи могут генерировать текст с помощью таких моделей, как LLaMA-65B или BLOOM-176B, и настраивать их для своих собственных задач.
Инструмент можно установить в GNU/Linux, macOS и Windows с WSL2.
Пользователи могут подключить свой графический процессор, чтобы увеличить мощность Petals.
https://github.com/bigscience-workshop/petals
Site: https://petals.ml/