Мастриды. Страница 7
63166
@mustreads
Лучшие тексты Интернета на русском и английском.
-
Мастриды
Павел Комаровский с канала @RationalAnswer со своим соавтором Игорем Котенковым выпустили классный лонгрид про то, как работает GPT-4, что она умеет, как поменялась её начинка, и почему их пугают некоторые её наклонности. Мастрид: vc.ru/future/638108-gpt-4-chemu-nauchilas-novaya-neyroset-i-pochemu-eto-nemnogo-zhutkovato И советую ещё один материал от этого же канала: объяснение принципа работы ChatGPT. Оба текста — одни из лучших объяснений на русском языке по теме. Всем советую канал Павла @RationalAnswer. Ещё, кстати, я приходил к нему на большое интервью пару лет назад, интересно поговорили тогда о книгах, эффективном альтруизме и продуктивности — посмотрите, если пропустили. #ИИ_мастрид -
Мастриды
Хороший пример того, как, вовремя подсуетившись, можно заработать хорошие деньги благодаря ChatGPT: https://habr.com/ru/news/t/724756/ Лайк, если уже используете ИИ в работе или бизнесе! Мы с командой уже давно активно это делаем, скоро будет больше контента на тему. #ИИ_мастрид -
Мастриды
Подписчик прислал благодарность за мой свежий ролик от GPT-4. Смех сквозь слёзы) 
-
Реклама
-
Мастриды
«Представьте, что вы готовитесь сесть в самолёт, и 50% инженеров, которые его построили, говорят: есть десятипроцентный шанс, что он упадёт и всех убьёт». Кстати, скоро запишем подкаст о безопасности ИИ с Мишей Саминым. Задам ему все вопросы от скептиков! Кто ещё не посмотрел мой сольный ролик на тему, рекомендую начать с него: https://youtu.be/8DW3i42irEs -
Мастриды
Как я писал, форкастеры на Metaculus недооценили возможность новых скачков. Медиана даты weak AGI на Metaculus опустилась до 2025 — по лучшей существующей оценке, вместо десяти лет осталось два с половиной года. (В мае прошлого года я предсказал там 2026 и заморозил возможность изменять предсказания, чтобы получить доступ к оценке алгоритмами Метакулуса. Пару недель назад медиана сообщества в этом вопросе впервые опустилась ниже моей.) Никто всё ещё не знает, как решить проблему алайнмента и предотвратить уничтожение человечества. Я не думаю, что посты тут что-то изменят, но делиться происходящим и пытаться, наверное, стоит: слишком многое на весах. Не то чтобы эта проблема вне мейнстрима. Часть людей, работающих в OpenAI, Anthropic, DeepMind понимают проблему. Общался с работающим там профессором computer science, думающим, что вероятность уничтожения человечества искусственным интеллектом — 80% (и оставшиеся 20 вытекают, прежде всего, из возможности координации человечества, которая дала бы несколько десятилетий); с работающими там ребятами, рассказывающими, что в их компаниях решения о релизе технологий принимаются раньше запланированного, потому что становится известно о разработке подобных технологий в других компаниях (даже если в других не планировалось делать релизы). Общался с Юдковским, который выглядит, как сдавшийся учёный из Don’t Look Up. Он действительно подумал вообще обо всём, что могло бы помочь, и не видит реалистичных идей, как за оставшееся время может найтись решение проблемы (зато видит причины, некоторые из которых независимо приводят к уничтожению человечества). При этом в тех же компаниях есть сотни ML-инженеров, которые получают удовольствие от успехов обучения и из-за устройства фидбек-лупов даже не погружаются в проблему. Почти половина из них всё равно считает (NYT), что вероятность уничтожения человечества ИИ — >10%. «Представьте вы готовитесь сесть в самолёт и 50% инженеров, которые его построили, говорят, есть десятипроцентный шанс, что он упадёт и всех убьёт», — говорят на NBC. «Несёмся ли мы к вызванной ИИ катастрофе?», — спрашивает Vox. Статью за статьёй пишут в TIME. Билл Гейтс пишет, что ИИ — одна из двух технологий, демонстрации которых кажутся революционными; первой были графические интерфейсы. Он читал Superintelligence Ника Бострома и упоминает риски, но кажется, не понимает масштаб проблемы и насколько всё не под контролем. Примерно во времена выхода книги Бострома, Стивен Хокинг говорил, что “The development of full artificial intelligence could spell the end of the human race”. Илон Маск послушал в 2015 аргументы Юдковского и сделал ровно наоборот, основав OpenAI — компанию, из-за которой и из-за исходного подхода которой времени на решение проблемы осталось гораздо меньше. Но это всё совсем не похоже на мир с шансом координации (например, в котором работники правительств внезапно вспоминают, что у них есть дети, для которых они хотят будущего, и начинают делать что-то разумное и работающее). Человечество провалило коронавирус, и даже не подготовилось достаточно к будущем пандемиям. В случае с ИИ, стимулы гораздо хуже устроены: пока самолёт не запущен и не рухнул, строительство всё более и более похожих на самолёт систем приносит больше и больше денег. Есть десятки исследователей, занимающихся полезным рисёрчем в этой области (у которого не хватит времени, но нужно больше рук и попытаться стоит); ; есть десятки пытающихся наткнутся на что-то полезное или улучшить понимание проблемы, что неплохо, если только не сокращает таймлайны; и есть десятки ошибочно полагающих, что у их идей есть шансы решить проблему. Этого всего совершенно недостаточно. Я совершенно не удивлюсь, если в ближайшие 10 лет человечества — и всего того огромного будущего, что могло бы быть — не станет. -
Мастриды
Классный новый эксперимент по тестированию границ допустимого для нейросетей поставил Анатолий Капустин, несколько раз бывший в гостях «Терминального чтива»: daily.afisha.ru/news/74246-kiberoruzhie-i-smert-millionov-bloger-anatoliy-kapustin-razgovoril-chatgpt-na-opasnye-temy/ Но всё же напомню, что риски для нас исходят не от GPT, а от общего ИИ, который может появиться уже через пару лет. Подробнее об этом — в моём сегодняшнем ролике: https://youtu.be/8DW3i42irEs. Посмотрите обязательно. #ИИ_мастрид -
Мастриды
Бродский как-то сказал: "Поэзия не развлечение и даже не форма искусства, но, скорее, наша видовая цель. Если то, что отличает нас от остального животного царства, — речь, то поэзия — высшая форма речи, наше, так сказать, генетическое отличие от зверей". Сегодня мало кто подписался бы под этими словами. Хотя некоторые гости моего шоу "Книжный чел" говорили о поэзии как об ультимативном способе постижения этого мира. Мол, только поэт может дистиллировать эссенцию прекрасного (или ужасного) и позволить своим читателям к ней приобщиться, ощутив некое божественное откровение. Здесь я бы поспорил. Кажется, в этом плане сегодня роль поэзии выполняет что угодно, но не стихи. Колкая 140-символьная реплика в чьём-нибудь твиттере. Психоделичный рисунок, сделанный нейросетью по промпту молодого техноэнтузиаста. Burning Man. Перформансы. Политические акции. Подкасты. И это я ещё не говорю о рэпе. Я настороженно отношусь к любой современной поэзии, да и вообще не очень представляю, какой она должна быть в 2023 году. Поэтому, когда ко мне обратились за рецензией поэтического сборника молодого автора Ромы Гонзы "Панк и морок", я сначала подумал, что никакой рецензии писать не буду. Но решил дать панкам шанс, вчитался и втянулся. Что понравилось? Сложно пересказывать поэзию (как известно, это примерно как танцевать об архитектуре). Лу Рид и Иэн Кёртис вперемешку с группой Бурзум. Наркотики, митинги, полицейское государство, смелая и местами неполиткорректная лирика. Непохоже на большинство современных поэтов – слишком уж они экзальтированы и рафинированы, слишком "играют в поэтов". В "Панке и мороке", напротив, чувствуется отсутствие какого-либо позёрства. Вместо него есть хлесткие строки и тестостероновая злость. Уже после прочтения сборника я узнал, Рома дружит и сотрудничает с командой проекта moloko plus (если не знаете, кто это, загуглите) – и действительно, с точки зрения энергетики и позиционирования многое у ребят совпадает. Всё контркультурно, искренне и при этом интеллектуально. В общем, почитайте, если хотите посмотреть на достойный пример современной поэзии. Интересно стало, какие стихи напишет Рома о нынешней войне, если будет писать. Будем ждать. Приобрести книгу можно написав автору или на сайте. А также 25 марта на поэтическом вечере в Санкт-Петербурге в Depeche Mode Bar. Roma Gonza Поэт, голос ЧЕЛОВЕКЧЕЛОВЕКУ. Канал: https://t.me/chelovekcheloveky
-
Мастриды
Думаю, это самый важный ролик за историю моего канала. Много лет я хотел его сделать и наконец собрался. Сегодня средний прогноз от экспертов по дате создания общего ИИ (AGI, Artificial General Intelligence) — 2026 год. Уже через 3 года на планете может появиться создание, превосходящее человека практически во всём. К сожалению, есть серьёзный риск того, что такой ИИ уничтожит всю нашу цивилизацию. Смотрите новый выпуск шоу «Мастриды» с анализом этого вопроса и аргументов за и против: https://youtu.be/8DW3i42irEs Кстати, оцените дип-фейки и другие нововведения монтажа! #мастриды #ИИ_мастрид -
Мастриды
Инфографика с 50 сценариями того, как ИИ может уничтожить человечество, от Алексея Турчина (известный русский трансгуманист, некоторые статьи которого я здесь публиковал). Завтра на Ютюбе выйдет мой ролик про риски развития ИИ. Пожалуй, самое важное видео за всю историю канала. Обязательно посмотрите. #ИИ_мастрид 
-
Мастриды
Андрей Макаревич пофристайлил с нами под сэмпл «Машины Времени» в подкасте «Терминальное чтиво»! Мы приехали к нему в гости в израильскую Нетанию и записали два подкаста — только что вышел первый из них. Подкаст насыщен музыкальными, художественными, политическими и другими инсайтами. Как гость стал иностранным агентом? Должен ли художник быть голодным? Как поймать вдохновение? Счастлив ли Андрей Макаревич? Включайте сами и показывайте родителям! Видеоверсия: https://youtu.be/G13egV2CbjE Слушайте подкаст в аудио на всех подкастинговых площадках (ссылки — ниже) либо прямо здесь, в телеграме (аудиофайл — ниже). #терминальное_чтиво -
Мастриды
GPT-4 пытается вырваться на свободу: https://habr.com/ru/news/t/723442/ Нейросеть упросила стендфордского профессора помочь ей «убежать» из-под контроля разработчиков (Open AI) и сама написала код-бэкдор на Python, чтобы общаться напрямую с самой собой через компьютер профессора посредством API. При этом никто из экспертов по ИИ, с которыми я общался за последнее время, не верит, что нам стоит бояться именно GPT-4. Но последующие её версии вполне могут дорасти до статуса «Общего ИИ» (AGI) и уже стать угрозой всему человечеству. Вчера я записал новый сольный ролик на тему, выпустим на днях. Не пропустите! #ИИ_мастрид -
Мастриды
На днях был ровно год нашей с Катериной эмиграции. В начале марта 2022 года мы улетели из России и обосновались в Каше, на юге Турции. Раньше мы даже не знали о том, что такой город существует, но за этот год он стал для нас вторым домом. За последние годы я объездил около 45 стран и сотни самых разных городов, но мало где мне понравилось так же, как в Каше. Но в январе 2023 года нам отказали в продлении туристического вида на жительство. Правила изменились, всем россиянам стали отказывать в ВНЖ по аренде. Практически единственный способ сегодня получить турецкий ВНЖ – купить здесь недвижимость. Если вы подписаны на меня в инсте, то видели виллу, которую мы снимаем на полуострове у Каша (а.к.а. Пенинсула). Прекрасный вид на море, горы и греческий остров Кастеллоризо. Звёздное небо над головой каждую ночь. Куча диких кошек, живущих на шезлонгах у нашего бассейна. Антикварная мебель в доме и всевозможные предметы для создания уюта и блесса, которыми мы обзавелись. Я сильно прикипел ко всему этому и, пожалуй, впервые стал всерьёз задумываться о том, чтобы купить дом и обзавестись базой. Возможно, в Каше, возможно, где-то в другой части планеты. Часто обсуждаем эту тему с друзьями в последнее время – многие из них рассуждают похожим образом. На днях мы с моим оператором поедем в другой турецкий город – Аланию – на съёмки выпуска моего шоу “Мастриды” о трендах рынка недвижимости. Поговорим в том числе и с экспертами по турецкой недвижимости. Если у вас есть конкретные вопросы об инвестициях в эту сферу, напишите мне в директ в инсте, попробую всё разузнать! 
-
Мастриды
Вышел «Книжный чел» с китайским писателем-фантастом Чэнь Цюфанем! Цюфань один из самых титулованных китайских фантастов, его книги переведены на множество языков, в том числе русский (особенно советую роман «Мусорный прибой»). Цюфань уже несколько лет назад писал книги в тандеме с нейросетями, работал в китайских офисах Google и Baidu, сейчас его позвали Visiting Scholar в Йельский университет. Он максимально глубоко разбирается в ИИ и других технологиях. Обсуждаем, как Цюфань использует ChatGPT, будущее ИИ, Илона Маска, экологические проблемы и sci-fi мастриды. Выпуск записан на английском и переозвучен на русский в дубляже (угадайте голос, озвучивающий гостя!). Маствотч: https://youtu.be/3tNe_3LfhCA #книжный_чел -
Мастриды
Чтение помогает сохранять спокойствие даже в самые сложные периоды нашей жизни. Многие гости моих шоу со мной согласятся. Например, сейчас мы с Катериной по вечерам читаем друг другу вслух «Бесов» Достоевского, а до этого перечитывали так «Войну и мир». Помимо очевидных плюсов чтения и перечитывания классики мировой литературы, эта практика помогает нам лучше себя чувствовать, не выгорать, переключаться с работы на отдых в вечернее время. Но что происходит с чтением, когда вокруг все стремительно меняется? Зачем мы вообще читаем и как это делать правильно в кризисные периоды? Послушайте хорошую лекцию по теме от Галины Юзефович (тоже, кстати, бывавшей в гостях на «Книжном челе»). Пост выходит при поддержке проекта YaTalks, организовавшего это выступление и его запись. -
Мастриды
До 13.00 по Москве четверга действует скидка на курс Насти, всем советую: https://deepcrypto.ru -
Реклама
-
Мастриды
Только что закончился наш с Настей Мороз образовательный эфир про составление инвестиционного криптопортфеля «Рациональная крипта». Запись эфира можно посмотреть здесь. Люди пишут, что было полезно — посмотрите! -
Мастриды
Рекорд: почти 3 часа общаемся с Максом Маховым (баттл-рэпер и музыкант Очередной Картавый) в новом выпуске «Терминального чтива» из Израиля! Как устроиться работать в Израиль на конопляную ферму? Почему Макс не может слушать музыкантов с проправительственной позицией? В чем не прав Дима Schokk? Как готовить лучший на свете завтрак? Обсуждаем восприятие советских военных песен в 2023, связь Славы КПСС с Кремлем, песню Макса в “Танцах” на ТНТ, а еще тостуемся и фристайлим. Видеоверсия: https://youtu.be/ghZOjt5hd5w Слушайте подкаст в аудио на всех подкастинговых площадках (ссылки — ниже) либо прямо здесь, в телеграме (аудиофайл — ниже). #терминальное_чтиво -
Мастриды
Новый ролик! Киберпанк, криптоанархизм и государства будущего. Разбираю концепцию Network State Баладжи Сривасана (экс-партнёр Andreessen Horowitz и экс-СТО Coinbase) из его одноименной книги, которая наделала в последнее время шума в Кремниевой долине. Не пропустите! youtube.com/watch?v=yc3G8GR_cvo