Обложка канала

Технологии, медиа и общество. Страница 7

45780 @brodetsky
Открыть

Канал о новостях из мира медиа и информационных технологий и исследованиях социальных сетей.

  • Технологии, медиа и общество

    👨🏻‍💻 Нещодавно мав цікавий досвід — бізнес-школа KSE провела спільний буткемп з Центром підприємництва МІТ, де я був одним з менторів. Розповів про це детальніше в LinkedIn. Дуже зацінив програму "Disciplined Entrepreneurship" від керівника цього центру. В її основі проста ідея: підприємництво це не мистецтво і не дар, а звичайне ремесло, якому можна навчитись. В МІТ студентам дають детальний фреймворк, який допомагає людям з технічним/інженерним мисленням розвинути мислення бізнесове/продуктове: хто користувач, які його потреби, як він приймає рішення, скільки можна заробити на цьому ринку, як порахувати юніт-економіку і т.д. Суперпрактичні і корисні речі для фаундерів. Без жодного натяку на фігню з поп-книжок про позитивне мислення та квадранти грошового потоку. Купа прикладів, таблиць, питань та детальних пояснень. Все класно структуровано, читаєш і кайфуєш. Такий фірмовий МІТ style — from nerds for nerds. Ну а про власне буткемп і команди написав на LinkedIn, лінк вище, а на фото спойлер.

  • Технологии, медиа и общество

    Якщо вас теж лякають графіки про те, як мовні моделі справляються з різними інтелектуальними задачами, цей текст дозволить трохи розслабитись. По-перше, деякі з бенчмарків, на яких тестували GPT-4, були в навчальному датасеті (це називається training data contamination). При тестуванні на нових аналогічних тестах GPT-4 показує зовсім інші результати (0/10 замість 10/10). Тобто, інколи нейромережа класно проходить тест лише тому, що запам'ятала буквально його питання і відповіді. По-друге, проходження професійного тесту далеко не дорівнює наявності професійних компетенцій. Professional exams, especially the bar exam, notoriously overemphasize subject-matter knowledge and underemphasize real-world skills, which are far harder to measure in a standardized, computer-administered way. In other words, not only do these exams emphasize the wrong thing, they overemphasize precisely the thing that language models are good at. Ну а ще будь-який бенчмарк стає ціллю для тренування, і перестає бути корисним, тому що все тренування перетворюється в підгонку результату під конкретний тест — емпіричне правило, відоме як закон Гудхарта. В кінці є лінки на джерела про недоліки тестів для LLMs та альтернативні підходи до оцінювання їх продуктивності. Виходить, ввів вас в оману цим графіком від Open AI, вибачаюсь! Краще перечитайте ще один текст від пана Нараянана з Прінстона, щоб краще помічати такі маніпуляції.
    GPT-4 and professional benchmarks: the wrong answer to the wrong question

    OpenAI may have tested on the training data. Besides, human benchmarks are meaningless for bots.

    AI Snake Oil

  • Технологии, медиа и общество

    В коментарях спитали про лист із закликом загнати джина в пляшку. Мій короткий коментар: не спрацює, хоча речі там озвучуються раціональні. Базова теорія ігор: домінантна стратегія для кожного з гравців в даній ситуації — продовжувати свої розробки, що б там не робили конкуренти. Якщо вони припинять, ти їх переженеш, якщо не припинять — принаймні не відстанеш. Тому не спрацює.
    Pause Giant AI Experiments: An Open Letter - Future of Life Institute

    We call on all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT-4.

    Future of Life Institute

  • Реклама

  • Технологии, медиа и общество

    Brave new world of communication

  • Технологии, медиа и общество

    Google відкриває доступ до свого AI-асистента Bard. Поки доступно в US/UK. Записався в waiting list через VPN. Коли отримаю доступ, порівняю його з Bing AI і поділюсь враженнями. Який би з сервісів не став кращим в довгостроковій перспективі, динаміка мені подобається. Користувачам ця конкуренція між гігантами приносить лише нові потужні сервіси. Звісно, кости на підтримання такого сервісу зовсім інші, ніж для звичайного пошуку, відповідно і прибутковість такого пошуку нижча. Пізніше проаналізую дані і напишу про це.
    Try Bard and share your feedback

    Bard is an early experiment from Google that lets you collaborate with generative AI. If you’re in the U.S. and U.K., you can sign up to try it.

    Google

  • Технологии, медиа и общество

    Особливості національного бізнесу. Або як Uber заводить водіям кеш. ain.ua/2023/03…nd-taksi
    БЕБ викрило сервіс таксі на ухиленні від сплати податків. Це український партнер Uber

    Детективи Бюро економічної безпеки (БЕБ) України викрили схему ухилення від сплати податків на суму 52 млн грн посадовими особами українського представництва всесвітньо відомого бренду таксі. За ін…

    AIN.UA

  • Технологии, медиа и общество

    The Model That Changes Everything: Alpaca Breakthrough (ft. Apple's LLM, BritGPT, Ernie and AlexaTM)

    8 years of cost reduction in 5 weeks: how Stanford's Alpaca model changes everything, including the economics of OpenAI and GPT 4. The breakthrough, using self-instruct, has big implications for Apple's secret large language model, Baidu's ErnieBot, Amazon's attempts and even governmental efforts, like the newly announced BritGPT. I will go through how Stanford put the model together, why it costs so little, and demonstrate in action versus Chatgpt and GPT 4. And what are the implications of short-circuiting human annotation like this? With analysis of a tweet by Eliezer Yudkowsky, I delve into the workings of the model and the questions it rises.

    YouTube

  • Технологии, медиа и общество

    Компанію MindGeek, яка володіє Pornhub та іншими популярними порно-стрімінгами, купив новий канадський private equity фонд з іронічною назвою Ethical Capital Partners. Переглянув лінкедіни його топів, там люди з цікавими бекграундами: директор мережі канабіс-клінік, кримінальний адвокат, керівник держагентства з обігу наркотиків, фіндиректор канабіс-стартапу. Досвідчені профі ринків етичного капіталу! До речі, заплутану схему з реальними власниками MindGeek кілька років тому викрили в розслідуванні FT, писав про це. Для розуміння масштабу: revenue MindGeek за 2018 рік — $460 млн, profit margin — 50%. Вері гуд бізнес. З компанією досі судяться за незаконні відео, на яких вона заробляла роками.
    Subscribe to read | Financial Times

    News, analysis and comment from the Financial Times, the worldʼs leading global business publication

    Ft

  • Технологии, медиа и общество

    🤝 В четвер буду тут. Має бути непоганий нетворкінг, тож якщо працюєте в VC чи будуєте стартап, зверніть увагу. == 23 березня в Unit.City (та онлайн) відбудеться Challenger AI Accelerator | Demo Day, під час якого 8 команд презентують свої рішення в Digital & AI/ML сфері. Серед учасників: Elomia Health, CheckEye, BeHolder, Softbrik, AirLaw, ParkingAround, Scally, GetPin. Ви також матимете нагоду послухати панельну дискусію на тему стійкості української бізнес-екосистеми та персонально поспілкуватись із командами, міжнародними інвесторами та представниками корпорацій. Реєстрація: bit.ly/challenger_AI_DemoDay
    Challenger AI Accelerator | Demo Day | LinkedIn

    🚀Join us for an exciting glimpse into the future of AI/ML startups! Demo Day, hosted by the largest non-equity startup accelerator platform in CEE CHALLENGER, will be held on Thursday, March 23, 2023. This pivotal event marks the end of a 4-months Challenger AI Accelerator Program aimed at supporting growth of young promising Digital & AI/ML-based startups. You can join offline in Kyiv or online worldwide to meet our AI/ML batch of startups, network with industry players, hear insights on startup ecosystem resilience from panel discussion and key-note speaker! Our Demo Day agenda: 🕔 17:00 - Registration and Welcome Drinks 🕔 17:45 - Panel discussion 🕕 18:15 - Startups Pitching and Q&A 🕖 19:30 - Keynote speaker 🕖 19:50 - Closing ceremony and winner announcement 🕘 20:00 - Networking with snacks, wine and light music Presenting startups: 1. Elomia Health — AI mental health chatbot therapist for people struggling with depression & anxiety. 2. Softbrik — transforming Customer Experience & Engagement with Voice…

    Linkedin

  • Технологии, медиа и общество

    Microsoft інтегрує AI-асистента в свої офісні сервіси. А тепер давайте згадаємо про беззаперечну перевагу Microsoft над конкурентами в дистрибуції. У Office 345 млн платних користувачів. Багато компаній зараз працюють над офісними застосунками з AI, і дехто може зробити продукт, кращий ніж у Microsoft. Але хто зможе викатити його на таку кількість користувачів? Здається, ніхто. Google теж працює над AI-фічами для свого офісного пакета, але має лише 9 млн платних користувачів-організацій. Памятаєте, колись був популярним Slack? Коли під час пандемії всі переходили на ремоут, Microsoft запустив по своїм каналам дистрибуції Teams. Тепер у нього 270 млн користувачів, а у Slack — 18 млн. Microsoft має шанс стати лідером в ніші AI productivity apps суто за рахунок потужної ринкової позиції.
    Introducing Microsoft 365 Copilot | Your Copilot for Work

    With Microsoft 365 Copilot, we are bringing the power of next-generation AI to work. Microsoft 365 Copilot isn’t just a better way of doing the same things. It’s an entirely new way of working. For the audio description version: https://youtu.be/7zIIQcWiWbM Learn more: https://www.microsoft.com/en-us/microsoft-365/blog/?p=269470 #Microsoft #Microsoft365

    YouTube

  • Технологии, медиа и общество

    Далі — лекція професора Стенфорда, фахівця з обчислювальної лінгвістики Крістофера Поттса. Складність — середня. Погляд на LLMs з точки зору NLP. З 6 хвилини — цікавий фрагмент про стрімкий прогрес мовних моделей за останні роки, і особливо цікавий слайд про те, як драматично зростає здібність моделей виконувати певні задачі зі зростанням їх розміру (див.ілюстрацію). Висвітлено механізм навчання ChatGPT, виклики і можливі підходи до використання мовних моделей для універсальних задач. Серед океану інфошуму про LLMs фахівців з обчислювальної лінгвістики незаслужено обходять увагою. Хоча, здавалось би, саме до них треба іти за поясненнями цього феномену в першу чергу.

  • Технологии, медиа и общество

    До речі, щодо відкритості OpenAI. Цей проект починався як неприбуткова дослідницька організація, яка публікувала всі свої дослідження у відкритому доступі. Хороша тенденція, яку започаткували AI-лабораторії тех-гігантів, і яка сприяла швидкому поширенню cutting edge знань. З часом відкритості в OpenAI ставало менше. Пізніше компанія перестала бути некомерційною. А щоб залучати фінансування, стартапу потрібно показувати вражаючі демо. Такі як ChatGPT. (Це я продовжую переказувати ідеї ЛеКуна з розмови в попередньому пості.) Якщо в технічних пейперах по GPT-3 та InstructGPT можна знайти багато подробиць про навчання, датасет моделі (див. ілюстрацію) та ручне шліфування відповідей, то в пейпері по GPT-4 розробників та дослідників з усього світу чекало розчарування: Given both the competitive landscape and the safety implications of large-scale models like GPT-4, this report contains no further details about the architecture (including model size), hardware, training compute, dataset construction, training method, or similar. Здається, час перейменовувати компанію на Closed AI.

  • Технологии, медиа и общество

    Продовжуємо занурюватись в тему LLMs. Зараз буде пачка відбірного, щільного контенту по темі. Спочатку для розминки — Ян ЛеКун про обмеження LLMs. Рівень складності — базовий. Легка розмова з журналістом, можна слухати замість подкасту. Бесіда фокусується не суто на LLMs, а на питанні "наскільки це близько до AGI". Тому цікаво послухати міркування такого фахівця як ЛеКун, про те, чого не вистачає мовним моделям на шляху до AGI — зокрема внутрішніх моделей світу та здатності планувати (=оперувати поняттям часу та складати послідовності дій з причинно-наслідковими зв'язками). Деякі з його ідей раніше публікував в текстовому форматі. До речі він там зауважує ще багато правильних речей. Наприклад, що трансформери багато в чому побудовані на результатах відкритих досліджень ШІ-лабораторій Alphabet/Meta. Але самі тех-гіганти не стали першими випускати такий продукт як ChatGPT. Саме тому що для таких компаній висока ціна помилки — Meta уже випускала раніше мовну модель навчену на наукових текстах; всього за два дні інтернет-спільнота розмовляла з моделлю про користь споживання битого скла та інший треш, і експеримент швидко закрили. OpenAI натомість позиціонувала себе як маленьку дослідницьку компанію, тому могла дозволити собі випустити чатбота, який інколи видає нісенітницю, без репутаційних ризиків. Послухайте, там багато цікавого.
    Is ChatGPT A Step Toward Human-Level AI? — With Yann LeCun, Meta Chief AI Scientist

    Yann LeCun is the chief AI scientist at Meta, a professor of computer science at NYU, and a pioneer of deep learning. He joins Big Technology Podcast to put Generative AI in context, discussing whether ChatGPT and the like are a step toward human-level artificial intelligence, or something completely different. Join us for a fun, substantive discussion about this technology, the makeup of OpenAI, and where the field heads next. Stay tuned for the second half, where we discuss the ethics of using others' work to train AI models.

    YouTube

  • Технологии, медиа и общество

    Ну що, як вам GPT-4? (демо / пейпер) Нові можливості дійсно вражають: текст генерується краще, тести проходяться краще (див. ілюстрацію). Проте недоліки залишились: галюцинації, обмежений контекст, відсутність навчання з досвіду. Роботу з графікою ще не тестував. До речі, я уже кілька тижнів використовую GPT-4 безкоштовно — саме він під капотом нового Bing, який завдяки цьому набрав 100 млн DAU.

  • Технологии, медиа и общество

    Колеги з Ukrainian Tech Ecosystem поділились крутою можливістю для стартапів — поїхати у складі української делегації на головний захід у США з просування прямих іноземних інвестицій — SelectUSA Summit. Шукають стартапи з MVP і планами вийти на ринок США, в пріоритеті — CleanTech, FinTech, MedTech та SaaS. Якщо підходите за критеріями, подавайтесь без вагань, дедлайн завтра.

  • Реклама

  • Технологии, медиа и общество

    Інсайд дня. Напередодні початку великої війни казахстанський фінтех‑гігант Kaspi.kz ледь не купив дітище Чечоткіних. Сума угоди, що не відбулася, ніколи не оголошувалася. Проте троє співрозмовників Forbes кажуть, що Rozetka оцінили в суму між $1 млрд і $3 млрд. «Їм лишалося кілька тижнів до того, щоб «помацати мільярд», – каже підприємець, знайомий із перебігом перемовин.
    За крок до мільярда. Владислав Чечоткін майже продав Rozetka фінтех-гігантові Kaspi.kz, але війна обнулила плани. Як вдалося врятувати компанію

    Якими принципами керувався найбільший інтернет-продавець України у довоєнний період та як закінчилася історія з продажом Rozetka фінтех-гігантові Kaspi.kz?

    Forbes

  • Технологии, медиа и общество

    🎭 Український стартап Reface круто нашумів свого часу — захопив заголовки всіх медіа, очолив App Store в США, залучив інвестиції від a16z... Але досі не знайшов стійку бізнес-модель. Ось гарний текст про це, буде корисно почитати тим, хто робить продукт. Навіть з крутою технологією і цікавим продуктом ключове питання — як на цьому заробити (= кому це може дати цінність, як знаходити та утримувати клієнтів, чи сходиться юніт-економіка і тд).
    Зміна обличчя. Попри понад 200 млн завантажень і багатомільйонний виторг український Reface не став «єдинорогом». На що стартап робить ставку тепер

    Історія взлету та падіння української зірки сфери машинного навчання. Що відбувається з колись найгарячішим українським стартапом Reface?

    Forbes

  • Технологии, медиа и общество

    🏦 Топ-тема у світі тех і фінансів — падіння Silicon Valley Bank, який обслуговував величезну кількість американських фондів та тех-компаній. В 2021 році в умовах нульових ставок банк придбав багато довгострокових бондів з низьким купоном. Потім Федрезерв підняв ставки, ці бонди стали виглядати непривабливим активом, ціни на них впали. Банк був змушений продати їх за низькими цінами і зафіксував великі збитки. Потім оголосив про випуск акцій, щоб покращити баланс, але не прокомунікував це нормально і клієнти кинулись забирати свої депозити. Стався класичний bank run. Наразі в банку діє тимчасова адміністрація. Дивлячись на те, скільки top tier фондів та високо оцінених компаній мали там депозити, я впевнений, що банкрутства не буде, уряду США зараз не потрібен такий удар по тех-сектору — ефект доміно, банкрутства фондів, тех-компаній... Швидше за все SVB викуплять банки, зацікавлені у венчурі, наприклад JPMorgan. Ну і звісно є питання, чому в 16-му за обсягом активів банку США такий поганий interest rate risk management. Це навіть не програма CFA, ми це з одногрупниками на магістратурі КШЕ рахували — duration і convexity, чутливість ціни портфоліо бондів до зміни облікової ставки... Не знайшли куди припаркувати надмірну ліквідність рекордного 2021-го, а тепер і банку немає. Гарний привід перечитати про модель Даймонда-Дибвіга, які досліджували роль банків у фінансовій системі. Банки — ключові інститути, які перетворюють "довгі" гроші інвесторів на ліквідність для позичальників; Bank run — ситуація, коли вкладники панічно кидаються забирати свої депозити, бо вірять, що банк має збанкрутувати; це може бути (як в даному випадку) self-fulfilling prophecy, тобто без паніки не було б і банкрутства. За дослідження на цю тему Даймонд і Дибвіг минулого року отримали премію імені Нобеля з економіки, ось тут писав про них.
    Бро

    За що дали Нобелівську премію з економіки? Якщо коротко — за дослідження того, як утворюються bank runs — cитуації, коли вкладники масово приходять в банк за депозитами і створюють проблеми з ліквідністю. А також дослідження механізмів їх уникнення. В цій статті можна ознайомитись з ідеями двох лауреатів премії (третій — професор Прінстону, екс-глава ФРС Бен Бернанке).

    Telegram