Разработчик Иван Мартинес Торо презентовал PrivateGPT — модель искусственного интеллекта с открытым исходным кодом, которая позволяет пользователям задавать вопросы без подключения к Интернету.
Чат-бот запускается локально на устройстве. Для его использования нужно загрузить большую языковую модель с открытым исходным кодом под названием gpt4all.
Затем пользователям предлагается поместить все соответствующие файлы в каталог, чтобы модель могла обработать их. После обучения LLM пользователи могут задавать любые вопросы модели, и она будет отвечать, используя документы, предоставленные в качестве контекста.
PrivateGPT может обрабатывать более 58 тысяч слов. В настоящее время для его настройки требуются значительные локальные вычислительные ресурсы, в частности, хороший процессор.