В последний месяц повыходило десятки разных моделей для генерации текста (правда, с плохой лицензией для некоммерческого использования), я поресечил и вот и самая лучшая на данный момент: GPT4xAlpaca (ссылки на актуальные модели тут)
GPT4xAlpaca не содержит цензуры 🗿, позволяет переписывать текст, генерировать сюжеты и ведет себя хоть не как ChatGPT, но близко, и все это у вас на локальной машине – магия же. Код она генерирует хуже чем ChatGPT.
Вот тут видео как ее ставить и использовать, а вот тут хороший подреддит где собрана актуальная информация по публичным моделям для генерации текста.
P.S. Если вы следите за LLM – Vicuna (другая модель) хуже чем GPT4xAlpaca
P.P.S. А тут как запускать эту модель на тостере (Хабр)