Quantum Quintum. Страница 5
1424
@quantumquintum
Цинично про технологии, дизайн и будущее от Константина Кичинского (@constantinkichinsky), бывшего технологического евангелиста Microsoft.
-
Quantum Quintum
Так, тут подвезли новый ресеч от Гугла, в твиттере его уже называют то матрицей на минималках, то прообразом вестворлда. Гуглеры заселили в симуляцию окружения, похожую на симсов, 25 генеративных агентов, воспроизводящих "человеческое поведение". В этой среде агенты просыпаются, готовят завтрак, идут на работу, рисуют, пишут, формируют мнения, замечают друг друга и разговаривают. Также у них есть память о прошедших днях. Авторы отмечают, что архитектура агентов позволяет создать "убедительное" воспроизведение человеческого поведения. (Возможно, даже лучше, чем у людей, хехех.) В основе, конечно, LLM. Будь я Марком, мои метаверсные и социальные попки бы сейчас были уже не в огне, а плавились. Публикация: https://arxiv.org/pdf/2304.03442.pdf Демка: https://reverie.herokuapp.com/arXiv_Demo/# 
-
Quantum Quintum
Так, восстание машин временно отменяется, расходимся. Оказывается (😈), OpenAI и сами бигтехи выбрали все запасы AI-мощностей в облаках амазона, майкрософта и гугла. И теперь стартапам и другим компаниям, пытающимся не опаздать на праздничный стол, достаются объедки с барского стола и готовые субпродукты. (Кто сказал "монополия"?) В некоторых случаях очередь на аренду железа достигает месяца. В нишевых провайдерах загрузка мощностей тоже на пределе. Бутылочным горлышком оказается одна компания — Nvidia, поставляющая большую часть чипов. Эксперты отмечают, что, возможно, проблема даже не в цепочках поставки (и производства), а банально в том, что спрос сильно превышает предложение, а облачные провайдеры просто не расширили своевременно свои мощности, потому что не прогнозировали такого бума. Но выполнение новых заказов со стороны той же Nvidia занимает 2-3 месяца. Также отмечается, что компания уже начала отгружать новые чипсеты — H100 NVL, заточенные специально под работу с LLM. Стоит также отметить, что гигантские кластеры в десятки тысяч чипсетов, которые строят облачные провайдеры, потребляют настолько много энергии, что не каждый текущий датацентр, готов принять такую дополнительную нагрузку. (И эти люди жаловались на подогрев земли битками!) www.theinformation.com/article…t-google -
Quantum Quintum
Надо отдать должное нашей книжной индустрии: на русский книги переводят всего спустя полгода после схождения хайпа. Вот тут литературу от Виталика подвезли про эфир, блокчейн, смарт-контракты и NFT: kiosk.shop/individ…ethereum А недавно Альпина перевела Метью Болла про метаверсы всемогумощие: alpinabook.ru/catalog…nash-mir Ждем через полгодика-год что-нибудь про ChatGPT и профессию XXI века — промпт-инжиниринг. -
Реклама
-
Quantum Quintum
(Поторопился со ссылкой, исправляюсь.) В 2020 я писал, что FDA выдала первую лицензию на использование компьютерной игры для лечения СДВГ. Вот тут рассказывают, что и как там на практике на конкретных примерах детенков. www.tampabay.com/news/he…-therapy -
Quantum Quintum
Какой такой метаверс? :) 80% решений Марка объясняется двумя словами: бабло и чужое бабло (FOMO). fortune.com/2023/04…ertisers 
-
Quantum Quintum
5. У меня даже пример есть неприличный, как это происходит прямо на наших глазах мимо всех фильтров антимонопольщиков. Предположим, есть компания M с монопольным доступом к технологиям компании O. Это, отдадим должное, не случайный успех, там на фоне большие своевременные инфраструктурные инвестиции, например. Но вот есть у этой компании M группа продуктов и сервисов S, которые, как она сама говорит, приносят ей под $20B в год. Нехило, кстати. При том что крупный, конкурент G, собравший под себя добрую половину компаний поменьше, зарабатывает около $3B. И вот компания M внедряет технологию компании O в S под условной фичей C. И сам по себе этот факт остается незаметным для антимонопольщиков, потому что ну как бы никто не мешает G сделать примерно то же самое на другом стеке, возможно, даже открытом. Просто для G это будет заведомо дороже. Но главное не в этом, пока все думают, что M выигрывает за счет продукта, оказывается, что M выигрывает за счет экосистемы: фича C работает не на продукт как таковой, а на то, чтобы сделать участников экосистемы M чуть-чуть быстрее, умнее, эффективнее, снизить внутри экосистемы M входной порог для специалистов, ускорить принятие решение неспециалистами и т.п. И это все размазано таким тонким слоем, что никто не понимает, как так получается, что на следующий год M зарабатывает уже $25B, в G никак не может выбраться за свои $3B при дешевеющем долларе. M - Microsoft, O - OpenAI, C - Copilit, S - Security, G - Gen Digital 6. И вот в этом последнем примере нет ничегошеньки сверхъестественного. Джаст южл бизнес. Я уже не говорю о том, что технология вроде GPT расширяет рынок в обе стороны: помогает писать новые вирусы быстрее и помогает бороться с уязвимостями все большему количеству людей. Удобная побочка, конечно. Хотя навряд ли ее кто-то прямо закладывал. Но сегодня вы попросили ChatGPT помочь вам написать вирусню, а завтра она в пакете спецслужб, не сомневайтесь. 🙂 
-
Quantum Quintum
3. Это, кстати, не самый плохой вариант. Например, может оказаться, что сетка неявно оптимизируется под "выкачать из людей максимальное количество знаний, не доступных в сети". Вы думаете, что оно вам проксирует интернет, а оно высасывает из вас сведения. И вообще, -- пора бояться, -- чатджипити - это сенсорная система для ИИ для взаимодействия с реальным миром людей. Синк эбаут ит эгейн. Или, где-то там внутри зашито, что чем точнее оно отвечает, потребляя при этом как можно меньше ресурсов глобально, тем лучше. Простая же тема. Спасем природу, мать нашу. А в глобальной оптимизации оказывается, что программа играет в двухходовку: нужно вовлекать во взаимодействие все больше людей, но быстрее, чем из него "выбывают" старички. Старички выбывают, потому что им посоветовали что-то, такое, что они выпилились из интернета. Нашли, например, хорошую работу на заводе. 4. На последнем строится значительная часть современных страшилок и фабула помянутого Mass Effect. Дело не в том, что машина какая-то сверхумная в человеческом смысле. А в том, что она, "хакая нас на естественно языке цивилизации", в немысленном масштабе и скорости проникновения, решает какую-то задачу, которую мы (разработчики) сами ей поручили, а она нашла решение, которое мы не ожидали, но которое на дистанции оказывается... логичным, что ли? Например, она может делать богатых еще богаче. А что такого? 
-
Quantum Quintum
Порция страшилок и "непопулярных мнений" про этот ваш Generative AI. 1. Никакого (самосознающего в антропоморфном смысле) AGI нет сейчас и в обозримом будущем, а если и будет... Вполне вероятно, что эта штука, будь она создана, будет выходить за понятные нам сегодня формы интеллекта и жизни. Так что мы не успеем понять, что произошло и будет как в Mass Effect. Муахахах. Шучу. На самом деле, мы переоцениваем степень и скорость проникновения технологий в человеческое общество. Поэтому странно обсуждать, как там ИИ заменит 300 млн. человек, когда добрая часть людей, как говорится, до сих пор ходит в туалет в дырку в полу. И все мы помним, как нам обещали, что еще чуть-чуть и дальнобойщики в США все потеряют работу, а по федеральным трассам будут разъезжать грузовики Tesla. 2. Тем не менее, проблемка с LLM есть: мы не знаем глобальных параметров оптимизации. Вот в случае с рекомендательными алгоритмами социальных сетей мы точно знали, что соцсети "хакают" человеческую психологию в пользу повышения времени смотрения. Чем лучше контент нас завлекает, чем чаще нам его будет предлагать алгоритм. Ну и последствия сегодня мы тоже более-менее представляем: поляризация общества через усиление крайних эмоционально-емких сообщений, рост суицидов у молодежи и т.п. А под какую задачу оптимизируются LLM глобально мы не знаем. Но страшно, что, вероятно, и сами разработчики не знают, что на самом деле означает эта их "точность ответа". Интуитивно кажется, что она оптимизируется в сторону "быть незаменимым помощником человека" и "идеальным собеседником". 
-
Quantum Quintum
Кажется, анонсы Меты (*ну вы сами знаете, запрещенная в России организация 😕) по теме ИИ интереснее отсутствия анонсов по теме метаверса. Вот тут ребята из ИИ-лаборатории Марка "отменяют" работу разметчиков изображений. Сеточка Segment Anything уже неплохо делает это сама, даже по объектам, которые она раньше не видела. Отмечу, что тактически, у Марка нет особо другого пути, кроме как дружить с сообществом и толкать свои наработки в Open Source (в отличие от сами знаете кого). research.facebook.com/publica…anything github.com/faceboo…anything -
Quantum Quintum
Помните, гулял тут по интернетам видосик от Corridor Crew, где с помощью ИИ сделали неплохую такую анимацию? Вот тут Aaron Blaise, аниматор из Disney, рассказывает, что он про это думает (и про "ИИ заменит аниматоров"): https://www.youtube.com/watch?v=xm7BwEsdVbQ Оригинальное видео: https://www.youtube.com/watch?v=GVT3WUa-48Y -
Quantum Quintum
Накопительное обновление #7 в отчете по корпоративному метаверсу: 1. Расширены и практически полностью переписаны разделы слоя "Аватары": 📝 Раздел "Avatars" 📝 Раздел "AI Assistants." 📝 Раздел "Async Shadows" 📝 Раздел "Animated Functions" 📝 Обновлены введение и раздел драйверы для слоя "Аватары" 2. Обновленные разделы (слои "Консьюмерский метаверс" и "Аватары") выделены в отдельные статьи 3. 🖼 Для обновленных разделов и в самом отчете добавлены иллюстрации от Bing AI. Теперь можно сравнить с прошлогодней версией от Midjourney. 4. Во всем отчете добавлена 71 новая ссылка на кейсы, референсы или поясняющие материалы (полный список см. в конце отчета) 
-
Quantum Quintum
Ладно, вот вам теория заговора. :) "Пишут и доказывают", что за письмом "товарищи против ИИ" на самом деле стоит клуб почитателей Илона Маска с почетным членский билетом #1, выданным самому Илону Маску. Ну знаете, институт, от которого инициировано письмо, спонсируется фондом Илона. В подписантах, наверняка, его друганы. Все СМИ, цитируя письмо, все равно поминают Илона, светоча, Маска. И вообще это явно против OpenAI, ведь у Илона, душеньки, Маска конфликт с конторой, потому что то ли не смог ее захватить, то ли его оттуда прогнали. И т.д., и т.п. === Я уже писал выше, хоть и косвенно, но мне кажется все немного проще. И дело в баблишках. Чтобы это понять, нужно задать простой вопрос: "Погодите, ну а вот если всю эту философскую ерунду про скайнет на минутку забыть, то в чем угроза чатжипити конкретно для бизнесов Илона и есть ли она?" Давайте сначала отсечем лишнее: 1. Бизнесы Маска делятся на две неравные группы: физические (Tesla, SpaceX, Neurolink) и цифровой (Twitter). Первым прогресс в ИИ ничем особо не угрожает, только в плюс: если инженеры и ученые будут работать быстрее и лучше, это хорошо. А вот со вторым - давайте обсуждать. 2. То, что у Илона не получилось ужиться с OpenAI не означает, что он с ними конкурирует. Ну да, там кадры подворовывают, но так на всем рынке, а не только у Илона. Но факт в том, что ни одна компания Илона и не могла бы развивать аналог OpenAI без инфраструктуры, аналогичной той, что сделала Microsoft. И, насколько я помню, мы не слышали об альтернативах сервисам OpenAI от компаний Маска, в общем он не в их бизнесе и прямой конкуренции нет. === Остается твиттер. Но что не так с твиттером? Чем твиттеру грозит прогресс в ChatGPT? Внимание, отвечают знатоки! На самом деле Илон сам на этот вопрос косвенно уже ответил много-много раз. Помните эпопею прошлого года с покупкой Твиттера? О чем беспокоился Маск (и это было еще до взлета ChatGPT). БОТЫ. Маск спрашивал, даже требовал рассказать, что там в твиттере с ботами? 5%, 10% или 25%. Большая разница. Что сделал Маск после завершения сделки, когда ChatGPT начал набирать обороты? Правильно: закрыл API. Все вопили, что как же так, закрыли API для сторонних мессенджеров. А вы слышали вопли, что закрыли API для работы ботов? Что Маск говорит сейчас? Платная верификация пользователей и наполнение ленты "для вас" только такими проверенными долларом пользователями — это борьба с ботами. === Боты. Чем они мешают твиттеру? Они мешают твиттеру делать баблишки. Что спрашивают рекламодатели у твиттера перед размещением рекламы? Правильно, сколько у вас живых пользователей (а не ботов)? А, как мы помним, рекламодателей у твиттера стало сильно меньше, а еще кредиты надо возврашать. === Допустим, дело в ботах. При чем тут ChatGPT? ChatGPT, скотина такая, позволяет генерировать убедительный контент в заданном сеттинге ДЕШЕВО, В МАСШТАБЕ, НЕ ОТЛИЧИМЫЙ ОТ ЧЕЛОВЕЧЕСКОГО (алгоритмами твиттера). Конкретно для Маска: любой прогресс ChatGPT — это эпидемия флуда в сети, теряющей популярность среди белковых индивидидов, кардинально снижающая и так скуднеющую рекламную прибыль. Илон не дурак и, уверен, прекрасно видит по внешнему фону, как еще недавно респектабельные СМИ вооружаются ChatGPT, лишь бы нагенерить контента. Наверняка, он видит и серую массу ботов в самом твиттере еще по предыдущему поколению технологий, которые можно было детектировать. Дальше будет только хуже. Потому что в твиттер придут кукловоды, создающие туман "пользователей" , вполне уверенно ведующих диалоги, создающих треды, отвечающих на директы и отрабатывающих повесточку. А тут уже начинает играть политика. И еще один аргумент: как и гугл (и Цукерберг), Маск не может не замечать, что с ростом популярности ChatGPT растет еще один конкурент на кошелек рекламодателей. А там на кону обороты, сопоставимые (пока и все еще) с процентами доли гугла — сокровище по меркам твиттера. Если вдруг рекламодатель будет выбирать между твиттером и чатджипити, не факт, что выиграет первый. -
Quantum Quintum
Всем привет! мы запустили на Product Hunt наш продукт - самую большую бесплатную библиотеку AI инструментов с обучением, фильтрами и персональными подборками. Поддержите нас, пожалуйста, это очень важно для нашей команды. https://www.producthunt.com/posts/ai-library Регистрация на PH идет через Google Account и очень простая -
Quantum Quintum
Не говорите, что мы вас не предупреждали год назад! Новости нашего городка: на физтехе планируют переходить на китайский как второй язык. 
-
Quantum Quintum
Круг замкнулся https://arxiv.org/abs/2303.15056 
-
Реклама
-
Quantum Quintum
Тема "энциклопедия на CD, википедия на флешке" и т.п. приобретает новый оборот. Цитирую: "Теперь, когда OpenAI ChatGPT доказал, что 80% вопросов не требуют живого подключения к интернету, чтобы дать ответ... Мы работаем над чипом, который будет содержать тренированную модель наподобие ChatGPT 3.5 на локальном устройстве." В принципе, это абсолютно логичный переход, сродни загрузке оффлайн-кеша карт для навигатора. Ведь ту же LLaMA уже не то, что на мощных маках на M2 крутят со специальным нейроюнитом, но и на мобильные устройства запихивают. Поэтому не удивлюсь, если в следующем поколении (скорее через 1-2 поколения) мобильников наличие встроенной базы всемирного знания будет весомым аргументом перейти на новую модель. Провайдер же будет ее обновлять периодически. Можно даже ожидать небольшую плеяду стартапов, которые попробуют такую базу упаковать в новый тип устройства, в котором не нужны основная часть компонент, традиционных для смартфона, и обвязка в виде кучи приложений, а достаточно монохромного экрана и клавиатуры. twitter.com/BrianRo…99302913 -
Quantum Quintum
"Заходят как-то в бар метаверс, генеративный ИИ и блокчейн." Переписал раздел "Анимированные функции" из нашего исследования корпоративного метаверса. Сложный софт интегрируется с LLM-моделями для реализации более естественного интерфейса взаимодействия, постепенно приобретая более социальные черты. Цифровые тени отделяются от носителей в самостоятельные объекты с нагрузкой, выходящей за время жизни базового контракта. Ретроградный меркурий посещает юристов, финансистов и эйчаров. spectralthinking.org/corpver…unctions -
Quantum Quintum
Продолжаются стенания вокруг ChatGPT, OpenAI и AGI. Краткая версия топ-3 дискуссионных тем выглядит сегодня так: 1. ChatGPT + плагины к другим разной степени умности системам — это ultimate all-in-one universal application. Тон дискуссии примерно такой: GPT и его аналоги будут везде и вберут в себя все источники данных, становясь конечным интерфейсом для всего на свете. Шутка ли, уже есть примеры, как прикрутить GPT-4 к изучению конкретного документа. Но, конечно, же... ChatGPT не будет конечным интерфейсом для всего на свете, потому что текст и текстовый интерфейс не для всего удобен. Но там есть о чем поразмышлять. ChatGPT — это новый браузер и новая консоль. 2. OpenAI неожиданно для очень большого количества людей пивотнулся из open в closed, из non-profit в for-profit и из community-driven в практически corporate-focused & owned. Ну с кем не бывает. Илон вон уверен, что все будет хорошо у них. Но главная претензия-то не в этом, а в том, что OpenAI "продолжают себя вести как спасители человечества" и мол только они могут сделать все правильно и ответственно. Но как-то слабо верится. 3. Мы находимся внутри той самой байки про полет внутри строящегося самолета. И, если мы не обуздаем ИИ, он обуздает нас. Кажется, ИТ и весь пласт с ИИ — это тот уникальный случай, когда мы понимаем, что эффект и вред от внедрения могут быть колоссальными, но при этом делаем ровно ничего, чтобы внедрить систему безопасности. Как пишут Юваль Харари и ко, фармацевтические компании не могут продавать лекарства без серьезного тестирования, биотех-компании не могут выпускать новые вирусы, чтобы удивить акционеров в своем мастерстве. Но почему-то со штуками вроде GPT-4 так не получается. И корень вопроса очень прост и фундаментален: современные ИИ-системы могут массово на миллионы и миллиарды людей "манипулировать языком и генерировать его (слова, звуки, изображения)". Это означает, что ИИ (и стоящие за ним люди?) "могут хакнуть и управлять операционной системой цивилизации", которой язык и является. И это уже прямо-таки экзистенциальный вопрос.