Тема "энциклопедия на CD, википедия на флешке" и т.п. приобретает новый оборот.
Цитирую:
"Теперь, когда OpenAI ChatGPT доказал, что 80% вопросов не требуют живого подключения к интернету, чтобы дать ответ... Мы работаем над чипом, который будет содержать тренированную модель наподобие ChatGPT 3.5 на локальном устройстве."
В принципе, это абсолютно логичный переход, сродни загрузке оффлайн-кеша карт для навигатора. Ведь ту же LLaMA уже не то, что на мощных маках на M2 крутят со специальным нейроюнитом, но и на мобильные устройства запихивают.
Поэтому не удивлюсь, если в следующем поколении (скорее через 1-2 поколения) мобильников наличие встроенной базы всемирного знания будет весомым аргументом перейти на новую модель. Провайдер же будет ее обновлять периодически. Можно даже ожидать небольшую плеяду стартапов, которые попробуют такую базу упаковать в новый тип устройства, в котором не нужны основная часть компонент, традиционных для смартфона, и обвязка в виде кучи приложений, а достаточно монохромного экрана и клавиатуры.
twitter.com/BrianRo…99302913