🧑💻 Metaопубликовала код языковой модели со 175 млрд параметров OPT-175B. Нейросеть доступна ИИ-исследователям по запросу для некоммерческого применения.
В компании заявили, что делятся обученным на общедоступных данных алгоритмом, чтобы обеспечить более активное участие сообщества в понимании работы технологии. Возможно, ученые смогут избавить модели от токсичности и предвзятости, считают в Meta.
Исследователи обучили нейросеть OPT-175B с использованием 992 графических процессоров Nvidia 80GB A100, достигнув производительности 147 TFLOPS на чип. По данным Meta, исследователям не нужно создавать алгоритм и обучать его с нуля, поскольку техгигант предоставляет код для его развертывания на 16 графических процессорах Nvidia V100.
🌐 Компания также открыла доступ к мелким предварительно обученным моделям до 66 млрд параметров для всех желающих.
#Meta #разработка