Теперь вы можете запустить ИИ уровня GPT-3 на своем ноутбуке,телефоне и Raspberry Pi без участия корпораций.😊
▫️С момента запуска ChatGPT многие люди были разочарованы встроенными ограничениями модели ИИ, которые не позволяют обсуждать темы, которые OpenAI считает запрещенными.
▫️Также всем бы нам хотелось получить модели с открытым исходным кодом, которые любой мог бы запускать локально без цензуры и без уплаты платы за API OpenAI.
▫️Решения с открытым исходным кодом существуют (например,GPT-J), но они требуют много оперативной памяти графического процессора и дискового пространства. Другие альтернативы с открытым исходным кодом на подобии Open Assistant находятся на ранних стадиях разработки.
Важной вехой в решении этой проблемы стал недавний выход на сцену генеративного ИИ корпорации Meta под названием LLaMA.Meta выпустила код LLaMA в открытый доступ,но придержала «веса» (натренированные «знания», хранящиеся в нейронной сети) только для квалифицированных исследователей.
Ограничения Meta на LLaMA длились недолго, потому что 2марта кто-тослил веса LLaMA на BitTorrent.👍🏻
С тех пор вокруг LLaMA произошел взрыв развития. Независимый исследователь ИИ Саймон Уиллисон сравнил эту ситуацию с выпуском Stable Diffusion.🤖
☝🏻LLaMA произвела фурор, поскольку могла работать на одном мощном потребительском графическом процессоре и демонстрировала качество и скорость GPT-3 от OpenAI (базовой моделью, на которой работает ChatGPT).
🔻10 марта разработчик программного обеспечения по имени Георгий Герганов создал инструмент под названием «llama.cpp», который может запускать LLaMA, локально на ноутбуке Mac.
Вскоре после этого люди придумали, как запускать LLaMA и в Windows.
🔻11 марта разработчик Артем Андреенко запускает LLaMA на Raspberry Pi 4
🔻13 марта кто-то запускает llama.cpp на телефоне Pixel 6
Свободу LLaMA уже не остановить.✊🏻