Обложка канала

Клуб CDO. Страница 22

1243 @cdo_club

Сообщество профессионалов в области работы с данными и ИИ

  • Клуб CDO

    Clickhouse, конечно, это большой успех Yandex и эта система хранения данных довольно популярна не только в России, но и за рубежом. В этой статье от компании Neoflex описывается опыт построения хранилища на этой базе данных. https://habr.com/ru/company/neoflex/blog/688126/
    Особенности построения хранилища данных на базе ClickHouse в Yandex Cloud

    В данной статье делимся опытом внедрения решения на базе СУБД ClickHouse и сервисов Yandex Cloud. Мы не коснёмся тонких настроек ClickHouse или его масштабирования, но затронем достаточно интересные...

    Хабр
  • Клуб CDO

    Data Quality Automation at Twitter

    In this post, we share how Twitter implemented a Data Quality Platform that gave customers the ability to have automated data quality checks.

    Twitter
  • Клуб CDO

    💬Борис Зингерман, руководитель Ассоциации разработчиков и пользователей ИИ в медицине «Национальная база медицинских знаний», выступил сегодня на сессии «Есть ли место “цифровым песочницам” в медицине. Опыт и проблематика запуска первых ЭПР»: «Важным вопросом при рассмотрении инициативы Data MATRIX по установлению ЭПР в области данных рутинной клинической практики был вопрос "обогащения" данных. Дело в том, что основной задачей ЭПР является возможность собирать максимально полные обезличенные медицинские данные по определенным случаям лечения пациентов. Эти данные могут быть использованы для глубокого анализа и повышения эффективности и безопасности определенных видов лечения для будущих пациентов. И эта безопасность и эффективность будущего лечения — важнейшая задача данного проекта. На мой взгляд, это требует максимально полного объема данных, в том числе обогащенных информацией из других медицинских и даже немедицинских источников, что позволило бы связать эффективность лечения в том числе с образом жизни, привычками, местом проживания, покупками, транспортными маршрутами. В этом отношении обогащение всем массивом данных (еще раз подчеркиваю, обезличенных) крайне важно для оценки эффективности лечения. При этом большинство экспертов на заседании экспертной группы АНО “Цифровая экономика” подчеркивали важность данного предложения именно как эксперимента, который позволит "расшить" неразрешимую сегодняшнюю проблему получения для исследования обезличенных медицинских данных, без письменного согласия пациента в ситуациях, когда найти этого пациента уже не представляется возможным. Именно в ходе предложенного эксперимента предстоит нащупать разумную грань между эффективностью и безопасностью, что очень важно для улучшения существующего нормативного регулирования. Я надеюсь, что этот баланс все-таки будет найден, потому что “цифровые песочницы” мы построили, а вот “песка” ещё не насыпали».
  • Реклама

  • Клуб CDO

    Еще одна попытка разложить по полочкам концепцию Confidential Cloud Computing и содержательно поговорить о конфиденциальных вычислениях в Web 3. На самом деле там опять про Intel SGX :) https://habr.com/ru/post/690892/
    Просто о сложном: Confidential Cloud Computing

    Сегодня мы попробуем разложить по полочкам концепцию Confidential Cloud Computing и содержательно поговорить о конфиденциальных вычислениях в Web 3. Облачные вычисления Термин «облако» несколько...

    Хабр
  • Клуб CDO

    В каком то из постов выше в комментариях просили больше делиться материалами по теме применения данных в медицине. Вот, как заказывали :) https://habr.com/ru/post/689352/
    Актуальные проблемы интерпретации медицинских данных

    Привет, Хабр! Думаю, все здесь в курсе, что данные — это новая нефть. Однако нефть мало чего стоит сама по себе, нужно уметь ее перерабатывать. Если говорить об использовании искусственного...

    Хабр
  • Клуб CDO

    ML System Design - Практическое применение машинного обучения.

    Страница курса: https://ods.ai/tracks/ml-system-design-22 Course Fest: https://ods.ai/events/course_season_autumn_22

    YouTube
  • Клуб CDO

    Денис Цветцих. Чистая Архитектура и DDD 10 лет спустя

    В 2012 году Дядя Боб опубликовал в своем блоге статью о Чистой Архитектуре. Всего через год ВонВернон опубликовал знаменитую «красную книгу» о DDD. Авторы работали независимо, но разрабатывали одну и ту же тему — как сделать качественный монолит. Сегодня эта тема актуальная и для стартапов, и для средних проектов, и для отдельно взятого микросервиса в микросервисной системе, и для модуля в модульном монолите. Мы посмотрим по каким вопросам авторы Чистой Архитектуры и DDD давали похожие рекомендации, а в чем они расходились. И проверим, актуальны ли эти рекомендации сегодня, ровно 10 лет спустя после своего выпуска, а если найдем чем их можно дополнить и улучшить — сделаем это! Презентация: https://disk.yandex.ru/i/1ZSKE-_4wqkMBQ Codefest: https://codefest.ru

    YouTube
  • Клуб CDO

    Вышел свежий и шикарный отчет об ИИ - State of AI Report 2022, вот яркие хайлайты из него 1. Академическая наука передает эстафету децентрализованным исследовательским коллективам, финансируемые из криптосферы, которые делают свои исследования более доступными для общественности. 2. Новая область исследований, которая быстро созрела — это Neural Radiance Field (NeRF), нейронная сеть, которая может генерировать новые виды сложных 3D-сцен на основе частичного набора 2D-изображений. 3. Требования к вычислительным ресурсам для крупномасштабных экспериментов с ИИ увеличились в 300 000 раз за последнее десятилетие. За тот же период доля этих проектов, управляемых учеными, упала с ~60% почти до 0%. 4. Трансформеры стали еще более распространенными, став по-настоящему кросс-модальными, укрепляя свои позиции в моделях мира и многозадачных вопросах. 5. Тем временем все, кроме одного автора знаменательной статьи, в которой были представлены нейронные сети на основе трансформаторов, покинули Google, чтобы создать свои собственные стартапы в области AGI, диалоговых агентов, биотехнологии с ИИ и блокчейна. 6. чипы NVIDIA остаются лидирующими по сравнению с TPU Google. NVIDIA исследователи используют в 78 раз больше. NVIDIA — мощная монополия, превосходно работающая как в аппаратном, так и в программном обеспечении, а также в применении ИИ для разработки своих чипов следующего поколения. Полностью отчёт можно посмотреть здесь.
    State of AI Report 2022

    The State of AI Report analyses the most interesting developments in AI. Read and download here.

    www.stateof.ai
  • Клуб CDO

    На рынке представлено множество предложений по замене западных аналитических систем на отечественные аналоги, но что делать, если привычка к определенному качеству, функционалу и возможностям решений не позволяют сделать выбор в пользу какой-либо из них? Коллеги из компании Navicon выложили запись вебинара «Дельта BI – привычный уровень BI на новой платформе», который прошел в формате онлайн 17 мая. https://www.youtube.com/watch?v=TfZJroCpP14&t=1583s
    Дельта BI – привычный уровень BI на новой платформе

    Сегодня бизнесу необходимы аналитические инструменты, которые могли бы оперативно закрыть потребность в быстрой и удобной обработке и визуализации данных. Однако, уход западных вендоров поставил пользователей Tableau, Power BI и Qlik в непростое положение, при котором сохранение накопленной информации и моделей данных становится не менее приоритетной задачей, чем дальнейшая поддержка бизнеса. На рынке представлено множество предложений по замене западных аналитических систем на отечественные аналоги, но что делать, если привычка к определенному качеству, функционалу и возможностям решений не позволяют сделать выбор в пользу какой-либо из них? Мы приглашаем посмотреть запись вебинара «Дельта BI – привычный уровень BI на новой платформе», который прошет в формате онлайн 17 мая. На вебинаре вы узнаете о возможностях уникальной российской платформы для анализа и визуализации данных, которая предоставляет обширный функционал и качество, не уступающее западным системам. Кроме того, мы предложим вам решение, которое обеспечит легкий и быстрый переход с Tableau, Power BI и Qlik.

    YouTube
  • Клуб CDO

    Что нужно и не нужно делать для реализации подхода Data Mesh от компании BlaBlaCar, которая делиться своим практическим опытом в этой заметке. medium.com/blablac…f1662c2d
    Do’s and Don’ts of Data Mesh

    Are you considering data-mesh your organisation? Here are some tips on how to do it right — and what to avoid at all costs .

    Medium
  • Клуб CDO

    Через 30 минут начинается онлайн трансляция первого дня конференции ProductSense, просмотр доступен в YouTube просто по ссылке, без каких либо регистраций https://www.youtube.com/watch?v=zHxz7GaTZ3I
    ProductSense'22. Трансляция докладов 9 октября

    Открытая онлайн-трансляция 5 докладов с конференции ProductSense'22. Доступна только 9 октября! Расписание https://productsense.io/#schedule Доступ ко всем докладам конференции https://productsense.io/#tickets 11:00-11:30 Отлично, вы нашли a-ha момент, что дальше? Владимир Тетерин, Product Marketing Lead, Яндекс Музыка + Кинопоиск 11:30-12:00 Советы для быстрого и конверсионного онбординга на маркетплейсе. Кейс YouTravel.me Антон Иванов, Senior Product Manager, YouTravel.me 12:00-12:30 Внедрение аналитики как функции, эффективно развивающей продукт Сергей Панюшкин, Head of Monetization, Analytics and Growth, Яндекс/Едадил 12:30-13:00 Сходи погуляй, спортом займись или как топу жить с депрессией Евгений Князев, CEO, Antro 13:00-13:30 Мыслить шире: как использовать методы трендвотчинга и сценарного проектирования для создания востребованных продуктов Ольга Еремина, Founder, pro-TrendWatching

    YouTube
  • Клуб CDO

    Мысли после прочтения очередного отчета Gartner

    Gartner вместо одного MQ по ландшафту DS/ML теперь говорит о том, что рынок платформ DS/ML более сложный, и выпускает отчеты по разным сегментам этого рынка. Ранее делился мыслями про отчет “Market Guide for Multipersona Data Science and Machine Learning Platforms” тут. А сегодня немного мыслей возникших после прочтения отчета “Market Guide for DSML Engineering Platforms” (он переопубликован на страницах разных причастных к теме вендоров, например, тут). Disclaimer: так получилось, что мысли плавно перетекли…

    Telegraph
  • Клуб CDO

    Дайджест статей 08/10/22 Сравнение FineBI и Power BI https://habr.com/ru/post/691420/ Data Warehouse and Data Lake Modernization: From Legacy On-Premise to Cloud-Native Infrastructure dzone.com/article…nization Data Quality Monitoring — You’re Doing It Wrong dzone.com/article…it-wrong Building Blocks for Modern Data Management: Data Subassemblies and Data Products – Part 1 www.datasciencecentral.com/buildin…s-part-1 Serverless asynchronous Iceberg data ingestion www.matano.dev/blog/20…-iceberg
    Сравнение FineBI и Power BI

    За последнее время, на рынке BI-услуг все чаще можно услышать упоминание нового игрока в лице китайской компании FanRuan. Основанная в 2006 году, она является китайским лидером в продвижении систем...

    Хабр
  • Клуб CDO

    👍 Российским компаниям дадут возможность обезличивать персданные перед передачей их в Национальную систему управления данными Минцифры подготовило новые поправки к 152-ФЗ, пишет Forbes со ссылкой на «Ведомости». Похоже, борьба за порядок сбора данных завершена. 😱 Ранее предполагалось, что данные будут обезличивать на стороне НСУД Источники рассказывали, что компании хотели сохранить за собой право обезличивать данные своих клиентов и пользователей. Министерства же настаивали на том, чтобы обезличивать их централизованно. Наш техдиректор Никита Назаров доволен исходом спора. Обезличивать данные самостоятельно, только потом передавая в информационную систему, надежнее с точки зрения защиты от утечек. 📚 Для контекста: НСУД будет объединять уйму данных из самых разных источников В 2019 году правительство одобрило Концепцию создания единой системы данных. Она предполагала с 2022 года унификацию процессов их сбора, обработки, хранения и использования. В мае 2021 года Минэкономразвития и Минцифры разработали законопроект о создании НСУД в качестве единой платформы. На ней планировалось объединить данные из сотен госсистем, реестров и баз, чтобы ими могли обмениваться ведомства и бизнес. В мае 2022 года министерства представили доработанный законопроект, им предлагалось предоставить бизнесу возможность на платной основе получать национальные данные и пользоваться инфраструктурой НСУД. http://bit.ly/3SUXaLE @hflabs_official
    Бизнес сможет обезличивать персональные данные перед передачей в единую госсистему

    Российским компаниям дадут возможность самостоятельно обезличивать персональные данные перед передачей их в Национальную систему управления данными. Такое право им предоставят поправки в закон о персональных данных, разработанные Минцифры. Они реглам

    Forbes.ru
  • Клуб CDO

    я смотрю, что после пары тройки лет торможения с НСУД и попытках осмыслить идею, мы активно побежали по Китайскому сценарию уже не оглядываюсь и не задумываясь.
  • Реклама

  • Клуб CDO

    Шахматы и вопрос разумности больших языковых моделей

    Масштабирование больших языковых моделей (LLM) является захватывающей темой, поскольку рассматривается как один из лучших кандидатов на пути к ИИ человеческого уровня. Уже сейчас LLM могут отвечать...

    Хабр
  • Клуб CDO

    Если вы выбираете инфраструктуру для своего Web3.0 проекта - рекомендую обратить внимание на TON, которая становиться не только сетью для коинов, но и полноценной основой для Web3.0. Вообще в эту команду верю, так же как в Ethereum. telegra.ph/TON-saj…si-09-22
    TON-сайты, TON WWW и TON-прокси

    В рамках проекта TON разработан не только блокчейн, но также и уникальная сетевая технология. Новые сетевые протоколы создавались в первую очередь именно для блокчейна, с той целью, чтобы узлы могли находить друг друга и обмениваться данными. На текущий момент созданные сетевые решения настолько универсальны и мощны, что позволяют создать полноценный интернет нового поколения. TON-сеть интересна сама по себе даже в отрыве от блокчейна, поскольку она представляет реализацию децентрализованной, безопасной и приватной…

    Telegraph
  • Клуб CDO

    Если пропустили, на прошлой неделе Коммерсант выпустил приложение Review Think big data - набор статей про данные и их использование. Что из интересного: - сразу несколько авторов пишут или упоминают про совместные конфиденциальные вычисления - в этой теме замечена компания HFLabs, которая ранее вроде подобными темами не занималась, при этом коллега отмечает, что Intel SGX для CC использовать не обязательно и что "не все, кто говорит что у них под капотом CC, на самом деле имеют эти технологии под капотом" (на кого то намекает?) - и все равно все пока говорят о SCC в основном в контексте Intel SGX, сильно Intel эту тему забустила https://www.kommersant.ru/apps/145887?from=doc
    "Review Think big data". Приложение №177/П от 26.09.2022: Последние новости России и мира - Коммерсантъ

    "Review Think big data". Приложение №177/П от 26.09.2022: Актуальные новости, объективный анализ и эксклюзивные комментарии о важнейших событиях и трендах

    www.kommersant.ru