Обложка канала

Черный Треугольник 🥀⃤

Чёрный Треугольник. Канал про IT.

Черный Треугольник 🥀⃤

3 года назад
Открыть в
​​Теперь вы можете запустить ИИ уровня GPT-3 на своем ноутбуке, телефоне и Raspberry Pi без участия корпораций.😊 ▫️С момента запуска ChatGPT многие люди были разочарованы встроенными ограничениями модели ИИ, которые не позволяют обсуждать темы, которые OpenAI считает запрещенными. ▫️Также всем бы нам хотелось получить модели с открытым исходным кодом, которые любой мог бы запускать локально без цензуры и без уплаты платы за API OpenAI. ▫️Решения с открытым исходным кодом существуют (например, GPT-J), но они требуют много оперативной памяти графического процессора и дискового пространства. Другие альтернативы с открытым исходным кодом на подобии Open Assistant находятся на ранних стадиях разработки. Важной вехой в решении этой проблемы стал недавний выход на сцену генеративного ИИ корпорации Meta под названием LLaMA. Meta выпустила код LLaMA в открытый доступ, но придержала «веса» (натренированные «знания», хранящиеся в нейронной сети) только для квалифицированных исследователей. Ограничения Meta на LLaMA длились недолго, потому что 2 марта кто-то слил веса LLaMA на BitTorrent.👍🏻 С тех пор вокруг LLaMA произошел взрыв развития. Независимый исследователь ИИ Саймон Уиллисон сравнил эту ситуацию с выпуском Stable Diffusion.🤖 ☝🏻LLaMA произвела фурор, поскольку могла работать на одном мощном потребительском графическом процессоре и демонстрировала качество и скорость GPT-3 от OpenAI (базовой моделью, на которой работает ChatGPT). 🔻10 марта разработчик программного обеспечения по имени Георгий Герганов создал инструмент под названием «llama.cpp», который может запускать LLaMA, локально на ноутбуке Mac. Вскоре после этого люди придумали, как запускать LLaMA и в Windows. 🔻11 марта разработчик Артем Андреенко запускает LLaMA на Raspberry Pi 4 🔻13 марта кто-то запускает llama.cpp на телефоне Pixel 6 Свободу LLaMA уже не остановить.✊🏻