💼 Introducing Qwen-7B: Open foundation and human-aligned models (of the state-of-the-arts)
Qwen-7B outperforms the baseline models of a similar model size, and even outperforms larger models of around 13B parameters, on a series of benchmark datasets.
Большая языковая модель на основе трансформеров, которая предварительно обучена на большом объеме данных, включая веб-тексты, книги, кодексы и т.д. По сравнению с моделями аналогичного размера, значительно превосходит конкурентов на ряде эталонных датасетов.Токенизатор модели, включает более 150 к. токенов.
🖥 Github: https://github.com/QwenLM/Qwen-7B
📕 Paper:github.com/QwenLM/…_memo.md
☑️ Dataset: https://paperswithcode.com/dataset/mmluai_machinelearning_big_data