Обложка канала

Main ML_KZ. Страница 14

Основные посты с чатика про машинное обучение в Казахстане:

  • Main ML_KZ

    Маленький input так как благодарна за то что этот чат существует:)
    Хочу рассказать о нахождении практике data science в европе. (полезно будет только только начинающим).
    Сейчас заканчиваю магистратуру ДС, в Аальто унив, Финляндии. Одновременно я data science trainee at Neste (oil refining and marketing company). Тут за trainee платят столько как из джунам, поэтому и практику найти трудновато. Во время магистратуры я учила все подряд bayesian stats, reinforcement learning, graph and networking, comp vision, плюс к тому кучу курсов, udemy + andrew ng. Но это все занимает кучу времени и я советую нацелиться на чтото одно. Если например data analyst или BI то статс, матем, визу и плюс например тут требуют знать финский т к много работать с клиентами и датой на финском. Я например хотела искала в сфере Reinforcemnet learning но там больше research oriented and software skills should be top.
    Сейчас я все еще не определилась с тем что хочу. Но вот судя по тому что я делаю на практике я больше как bi and data analyst (и мне это нравиться). С нас уже ожидаеться знания SQL, time series analysis, LSTM. Все делаем на google cloud platform где есть AI platform на котором можно использовать R, Python и все лайбрарис для тьюнинга.
    В основном делаем EDA, обсуждаем бизнес values, плотим, визуализируем.
    Вообще было трудно найти практику/работу т к в Финляндии networking is the main source. На мои онлайн подачи даж не отвечали. Приходилост писать в Linkedine в личку всяким CEO или рекрутерам дс компаний. Но в универе были хорошие career fairs, и есть несколько компаний например как Academic work, они помогают найти работу студентам бесплатно (но их сайт почему то на финском). Через них я кстати и нашла. Nokia тут рекрутит много и игровый компании Rovio, Unity (им как раз нужен reinforcement learning)
    На интервью у меня спрашивали много ML основ (for example random forests, algorithms for timer series data)и всегда они спрашивают что ты действительно хочешь делать в компании. И даж если ты супер пупер ДС но возможно, они видят что тебе будет тогда неинтересно делать их работу, то они не возьмут тебя.
  • Main ML_KZ

    Квиз-плиз по Большим данным
    Сразитесь в онлайн-квизе для специалистов по Data Science

    Когда: 29-ого мая (пятница) в 20:00 по мск
    Участие: бесплатно
    Регистрация: quizplease.ru/corp-page?id=lfsED

    Призы: колонки JBL и толстовки Big Data.
  • Main ML_KZ

    Ревью резюмех
    Реферы в faang-компании (>200 leetcode-задач)
    Может кому интересно будет. Все бесплатно

    Телеграмм: t.me/joinchat/IbdS5BeFWaGca-2D-C95wQ
    Сайт подготовки к собесам: interviews.school
  • Реклама

  • Main ML_KZ

    Увидел сообщение выше по поводу отзыва на компанию.
    Не совсем в курсе, как обстоят дела в других отделах в компании, но обозначу несколько позитивных моментов по поводу работы в команде Big-Data Beeline KZ:

    1) количество данных, которыми обладает телеком компании, все-таки большой плюс работы, так как всегда найдется, что проанализировать, презентовать и поставить в продуктив
    2)С большими данными нужен стек соответствующих технологий, таких как спарк, kafka, nifi , hadoop, hive т.п., а также довольно большой кластер - это в Билайне КЗ имеется и постоянно поддерживается
    3) Команда(менеджера, аналитики и разработчики) собрана достаточно компетентная
    4) Под задачи относительно быстро можно решить вопросы, касаемые недостающей инфраструктуры
    5) Некоторые компании на момент короновируса сокращают персонал и в особенности для людей, оставшихся без работы, будет плюсом возможность устроиться и набраться скиллов
  • Main ML_KZ

    Для тех, кто in academia.

    Недавно узнал про интересный способ попасть на IJCAI, одну из топовых конференций по AI.

    1) Сначала публикуете статью в журнале Journal of Artificial Intelligence Research (Impact Factor = 1.820), что само по себе неплохо, т.к. это тоже один из сильных журналов по AI, но в него вполне реально попасть, и там очень дружелюбная ред. коллегия.
    2) На следующий год получаете приглашение отправить укороченную версию статьи на IJCAI, отправляете.
    3) С огромной вероятностью ваша IJCAI статья принимается. Done.

    Так произошло с нашей (совместно с Rustem) статьей "Context Vectors are Reflections of Word Vectors in Half the Dimensions".

    На дворе 2020-й год, word2vec погиб, и мы по сути пинаем его труп, но мы все равно рады такой халяве :)
  • Main ML_KZ

    Ответ @atokanov в треде про переоценность/недооцененность карьеры в IT

    https://www.facebook.com/permalink.php?story_fbid=10216576829115739&id=1309358542&comment_id=10216577072521824&reply_comment_id=10216579679947008&__cft__[0]=AZU-XTLH93j67b-VT7DkYOzIIq0Mrk-NDKi3y-4KqBH2IUZy2km9hpcjq494Oj9sQgl7B32XwLKo-ItK7jbN_-0tN3Y7Qcf9RP9tL0rBHizhicCA34YlTV60uM7snk77m-Gu2iUTxEkG3z1lxMfVJyXb&__tn__=R

    Согласен на 100%. Более того, добавлю, что результаты не бинарны - между условным младшим инженером в сайто-клепальной конторе в Астане и основателем единорога в Долине есть целый спектр промежуточных остановок и перевалов.

    Для тех кто не попал со скамьи МФТИ/ВМК МГУ сразу в Гугл, существует резонная альтернатива которая выглядит примерно так:
    сайто-клепательная контора в Астане -> сайто-клепательная контора в Москве -> офис в России/Восточной Европе ИТ-аутсорсинговой компании (в индустрии ласково именуемые "галерами") -> переезд в офис в Западной Европе/США той же галеры -> хороший местный стартап -> Гугл и все кто рядом.

    Причем таких историй в коридорах ИТ-гигантов, навскидку, даже наверное больше - даже если вероятность успеха несколько меньше, чем у условных физтеховцев с медалями, разница в размерах популяций делает свое дело. На все Гуглы физтеховцами не напасешься.

    Более того, заметьте, что каждый следующий уровень, как правило, предполагает заметное улучшение по сравнению с предыдущим (кратное увеличение компенсации, уровень задач ощутимо выше), поэтому даже "застрять" где-то на полпути - тоже вполне себе прогресс. Это как раз тот случай где shoot for the moon and land among the stars. Поэтому верная ментальная модель "покорения Долины" - не прыжок в неизвестность, а увлекательный квест с частыми сохранениями в промежутках и возможностью попробовать снова.

    Вообще, у меня есть pet theory о том, что несмотря на хайп вокруг ИТ индустрии, карьера программиста все еще дико недооценена как раз как способ выйти в мидл класс для ребят и девушек без особых альтернативных перспектив. Благодаря глобализованному рынку труда, высокой маржинальности индустрии, и, вследствие, дружелюбной к работнику обстановки с наймом, заставляющей нанимателей быть не сильно разборчивыми с формальными критериями, у большого количества людей есть способ увеличить свой заработок от нескольких до нескольких десятков раз (и чем более в бедственном положении человек, тем сильнее вероятность того, что это будут десятки).

    С точки зрения возврата на риск, усилия, и финансовые вложения, сравнимой альтернативы просто нет - всюду либо прыжки в неизвестность малого бизнеса, либо десятки лет учебы академика или доктора, либо MBA за двести тысяч долларов. У человека должна быть хорошая причина НЕ задуматься об этом варианте. Казахские мамы должны повторять за еврейскими.
  • Main ML_KZ

    Глава IV. Благодарности

    Спасибо жене и дочери, которые терпели меня в приступах выполнения домашек (иначе как приступы это со стороны не выглядит).

    Спасибо университету, в котором была возможность заниматься олимпиадным движением по математике и программированию, что сильно мне помогло в ШАДе.

    Спасибо ипотеке и Аймолдину Ануару, которые сподвигли меня сменить место работы, где я достаточно быстро подтянул DL благодаря классной команде.

    Спасибо начальству на работе, которое до сих пор меня не уволило за выполнение домашек.

    Спасибо карантину, который позволил закрыть последний семестр.

    Спасибо Аймолдину Ануару (он первый из моих знакомых закончил ШАД) и Шокетаевой Надире (она хоть и не закончила ШАД, но туда поступила, а сейчас работает в Яндексе). Именно они подтолкнули меня поступить в ШАД. Хотя я уже возможно был "слишком стар для этой фигни".
  • Main ML_KZ

    4 семестр:
    Этот семестр можно назвать очень ёмко: 60 дней ШАДа или как короновирус мне помог закрыть семестр в ШАДе. Без него я бы был уже в академе. Слушаем умных и одновременно нехороших людей, которые кричат - бери self driving car. Но он полусеместровый. Поэтому в пару надо брать нейробайес. Конечно, что может быть лучше, чем взять продожение предмета, который ты плохо освоил? Надо окончательно убедиться, что ты ни в чем там не разобрался! Это получился самый насыщенный семестр. По 4 предметам получилось 27 домашних заданий. Каждое заданий отнимает минимум 1 рабочий день. Максимум доходил до 5 рабочих дней. С момента выхода на карантин с 16 марта до 16 мая (60 дней) я занимался ШАДом каждый день, кроме где-то 10 дней, которые я не открывал ничего связанного с ШАДом. Потратил порядка 400 часов.

    Deep Learning: простой и понятный курс. В целом, это единственный курс, где я сдал все домашки в срок, потому что наконец наладился постоянный контакт с другим заочником, который всегда за неделю до сдачи писал: "Привет. Смотрел домашку?" Эти магические слова позволяли найти мне время между 9 вечера (когда приходил с работы) и 9 утра (когда уходил на работу) в любой день недели. Отдельное ему спасибо! Правда некоторые домашки я делал очень долго (бывало до 4 рабочих ночей). Но я их именно делал, а не страдал (пример ниже).
    Понравилось: 5
    Сложность: 3
    Моя оценка: 4-5 (жду проверки)

    Reinforcement Learning: непростой, но понятный курс. Здесь я конечно расслабился. Видя прямую аналогию с NLP, напропускал много домашек, в надежде закрыть их потом. А выяснилось, что больше одной домашки в два дня я не могу делать. А дней всё меньше и меньше. В итоге я смог заняться этим предметом только при выходе на карантин. Среднее время выполнения одной домашки: 2-3 рабочих дня.
    Понравилось: 5
    Сложность: 4
    Моя оценка: 4-5 (жду проверки)

    Нейробайес: сложный курс как для понимания, так и для набора баллов. Одну из домашек делал 4 дня. И всё равно получил только 6,4 из 10. Опять же - не с кем общаться, если чего-то не понимаешь. Смотришь случайные материалы по теме, они не помогают. Грустишь. Самое обидно, что в глубине чувствуешь, что это жутко классные вещи. Но когда тебе дают интерфейсы, которые вообще никак не вяжутся ни с формулами в этом же ноутбуке, ни с лекциями, ни с семинарами, просто грустишь и благодаришь близких, что они всё еще терпят твой дурацкий ШАД.
    Понравилось: 3
    Сложность: 5
    Моя оценка: 3

    Self Driving Car: хорошие по задумке, но плохие по оформлению 3 домашки из 6. Бывают предметы, где понятно, что нужно решить и понятно каким методом надо решить. Бывают предметы, где понятно, что нужно решить, но не понятно, как решать. А быват SDC: пойми телепатией, что от тебя хотят. Первая домашка: сделал за вечер. Вторая домашка: потратил 2 отдельных рабочих дня, так и не понял как делать домашку и что от меня хотят. Третья домашка: потратил 4 дня и понял только на третий день, что хотят (в итоге полчата так и не поняло судя по личным сообщениям мне). Самая ужасная постановка за все домашки шада. А в итоге мои 30 рабочих часов конвертируются в 7 баллов из 10 - круто да? Четвертая домашка: уже лучше, чётко понятно что надо сделать. Не понятно как. Просидел 2 дня, не смог побить базовое решение (а за это ты получишь только 4 балла из 10). В этот момент у меня было (по моим прикидкам): 10+0+7+4=21 балл из 40. И почти 60 часов потраченного времени. Спасибо близким - они вытерпели. Лучше всего данную ситуацию характеризует фраза одного из участников чата: "тут просто домашки такие, что я не понимаю, как на тройку набрать". Учитывая сроки (1 домашка в неделю) и то, что у тебя есть как минимум еще 3 других предмета, я считаю, что домашка должна делаться максимум за 1-2 рабочих дня на полный балл.
    Понравилось: 3
    Сложность: 4
    Моя оценка: 3-4 (жду проверки)
  • Main ML_KZ

    3 семестр:
    Продолжая работать 6 дней в неделю, я решил рискнуть и усложнить версию прохождения, пройдя 4 предмета вместо 3 обязательных. Это было ошибкой, хорошо, что не фатальной. Пришлось даже взять отпуск на работе, чтобы вылазить из долговой ямы. Потратил порядка 300 часов.

    Машинное обучение 2: очень понятный и хороший курс, но уступает по качеству 1 части. Помимо технических проблем у организаторов (все сроки сдвинулись ближе к началу декабря - это моё самое нелюбимое время в ШАДе). Потратил много времени на конкурсы (4 дня на первый и 2 дня второй) и получил, что то близкое к нулю. Домашки требуют очень много времени (пишешь 10 строчек кода, ждешь 10 минут, пока они выполнятся). В общем, получая баллы только за те домашки, которые можно выполнить за адекватное время (1-2 дня), получаешь очень мало баллов.
    Понравилось: 4
    Сложность: 4
    Моя оценка: 3

    Natural Language Processing: очень понятный и хороший курс. Это курс, который действительно не напрягает на тему как набрать баллы, а можно сосредоточиться на интересных домашках. Разумеется, запас баллов для любой оценки просто сумасшедший. А самое главное, много шаблонов с валидацией - я до этого с таким не был знаком. Понравилось.
    Понравилось: 5
    Сложность: 3
    Моя оценка: 5

    Архитектура ЭВМ: хороший курс для очного прохождения, плохой курс для заочного. Посмотрел на первые несколько домашек: я их студентам задавал еще лет 7 назад. Вперёд! Но чем дальше домашки, тем сложнее их отлаживать. А они начинают быть завязаны друг на друге (чтобы сделать 8 домашку, надо взять рабочий код от 7 домашки). Была домашка, где я не смог отдебагать код модельной ОС на ASM в течении 4 рабочих дней. А нормально попросить помощи от преподавателей непонятно как. В общем я так и не сдал этот курс. Было очень обидно: 4 недели мучения в ущерб другим предметам (да, 4 рабочих дня это было 4 недели на тот момент). В целом, именно из-за этого предмета пришлось срочно брать отпуск на работе и закрывать другие предметы. Почти наверняка без него смог бы намного лучше закырться по машинному обучению и по Байсовским методам.
    Понравилось: 4
    Сложность: 5
    Моя оценка: незачет

    Байeсовские методы: хороший курс, требует очень-очень вдумчивого просмотра лекций. Изначально взял как запасной вариант. Но пришлось в спешном порядке делать его основным. В целом показался сложным - требуется больше времени и желательно общение, потому что некоторые детали так и остались в тумане.
    Понравилось: 4
    Сложность: 5
    Моя оценка: 3
  • Main ML_KZ

    2 семестр:
    Зимой 2019 случилось важное личное событие. Я ушел с полной ставки в университете и перешел в отдел Data Science одной IT компании. При этом оставил полставки в универистете. То есть теперь я работал 8 часов в день 5 дней в неделю в одном месте и 1 рабочий день в университете. На ШАД остается 1 рабочий день. Поэтому выбрал стратегию: выбрать максимально простой вариант прохождения семестра. Потратил порядка 100 часов.

    Машинное обучение: очень понятный и классный курс. До этого момента, я не слушал ни одного аналогичного курса, даже не знал, что такое sklearn, pytorch и прочее. И тем не менее мне абсолютно достаточно оказалось смотреть лекции и семинары ШАДа. Очень сильно помогла стратегия не откладывать на последний день. Много задавал вопросов по почте семинаристам - это сильно помогает. В частности, дико благодарен, когда смогли всё таки проверить домашку, которая не отправилась из-за глюка системы для сдачи домашек anytask'а. Супер продуманные домашки. Можно сделать только домашки без конкурсов и набрать на 5, можно классно сыграть только конкурсы и получить 5.
    Понравилось: 5
    Сложность: 3
    Моя оценка: 5

    Мат.статистика: было очень больно. Я честно пытался сделать все домашки до последней. Решить каждую задачу. Но как набрать на 5 я так и не понял. Приходилось искать много дополнительной литературы, чтобы понять, что вообще хотят в домашке. Причем если в первых домашках это было сделать реально для меня, то в последних - за гранью моих возможностей. Лекции помогают плохо, семинары помогают лучше, но только для половины задач. Отдельно заслуживает внимания неудобная форма сдачи (нужно делать в jupyter notebook но при этом пишешь невменяемые формулы в TeX'e на 10 страниц и 1 строчку кода)
    Понравилось: 3
    Сложность: 4
    Моя оценка: 4

    Сложность алгоритмов: очень простой и хороший курс для расширения кругозора. Просто, интересно, понятно.
    Понравилось: 5
    Сложность: 2
    Моя оценка: 4
  • Main ML_KZ

    Глава III. Применение опыта.

    Вторая попытка пройти игру под названием ШАД началась с набором 2018. Здесь помимо краткого описания я оценил курс по 5 бальной шкале: на сколько понравилось, на сколько он сложен лично для меня и какую оценку получил. Потратил порядка 300 часов.

    1 семестр.
    Алгоритмы:
    один из лучших курсов ШАДа. Делал всё по плану и заранее. Тратил много времени (иногда по 10-15 часов на 1 задачу - когда падает на 100 тесте). Получил огромное удовольствие лекций и от обратной связи проверяющих code review. Очень сильно повысил свой уровень на плюсах.
    Понравилось: 5
    Сложность: 5
    Моя оценка: 5

    Python: хороший курс с одной противной домашкой. Сдавая мелкие домашки постоянно мониторил чат, когда начнут шевелиться очники на счет больших домашек. Сдал 2 больших домашки (40 часов рабочего времени на интерпретатор питона, 40 часов рабочего времени на модель map reduce). Очень было обидно, что не смог осилить 3 большую домашку (как выяснилось - ни разу она не большая - написать телеграм бота). И снова это было начало декабря, и снова я залез в командировки с олимпиадами и профориентацией от университета. Очень было приятно, что преподаватели помогали находить мотивацию делать гигантские домашки, когда домашки не получились.
    Понравилось: 5
    Сложность: 4
    Моя оценка: 4

    Дискретная математика (0.5 семестра): простой предмет с проверкой на внимательность. Домашки делал в 2 вариантах: на бумажке, на питоне. Сверяю ответы. Смог решить одну сложную задачу очень красивым способом, который предполагали авторы, потратил на неё целую ночь. Дальнейшее обсуждение в чате показало, что люди просто нашли задачу в задачнике и списали решение которое никак не относилось к теме семинара - и им не хотели его засчитывать. Потешил своё самолюбие - значит есть еще порох в пороховницах.
    Понравилось: 4
    Сложность: 3
    Моя оценка: 5

    Теория вероятности (0.5 семестра): аналогично предыдущему.
    Понравилось: 4
    Сложность: 3
    Моя оценка: 5
  • Main ML_KZ

    Учёба в ШАДе абсолютно полностью соответствует слогану "Будет сложно - тебе понравится".

    ------------------------------

    Глава I. Поступление

    Имея, как мне казалось, хорошую подготовку по математике и программированию, даже поступить ШАД у меня не получилось с первого раза. Университет я закончил в далеком 2012 году (ВМК МГУ). После окончания пошел преподавать в филиал МГУ в Астане. В основном вёл курсы по программированию на 1 и 2 курсе ВМК и мехмат. Про ШАД я узнал в 2015 году, когда туда поступила моя студентка (на 3 курс по учебной программе студенты едут в Москву). Это было очень приятно, и я решил не отставать.

    Первая попытка состоялась в 2016 году. Легко прошёл первый онлайн тест и неожиданно для себя провалил второй онлайн тест, потому что ... не перепроверил ответы и много отвлекался во время теста. Везде, где я ошибся, были арифметические ошибки. Обидно, конечно, но как оказалось, это только начало страданий. Опыт №1 получен: проверяй арифметику.

    Год спустя (набор 2017) я узнал, что к экзамену, оказывается, люди готовятся и прорешивают варианты прошлых лет. Я решил совместить приятное с полезным, а именно ничего не менять в своей деятельности и продолжил готовить студентов своего университета к олимпиадам по математике (IMC) и программированию (ACM). Да простят меня студенты...

    К обоим онлайн тестированиям я подошёл во всеоружии: вольфрам, питон, плюсы (на тот момент больше писал именно на плюсах) и полная тишина. Прошел оба этапа. Очень порадовал момент, что одну из задач, где надо было вычислить двумерный несобственный интеграл получилось посчитать через Монте Карло, когда не смог решить взять его аналитически. На этапе устного собеседования мне попалась очень приятная сотрудница из ШАДа. Формат предполагал 3 задачи: по мат.статистике (справился хорошо), на алгоритмы (справился хорошо) и по линейной алгебре (застрял). На последней задаче начал прямо паниковать - всё просто, понятно, но тяжело решать задачу под взглядом со скайпа, когда хочется просто минут 10 молча подумать, а надо что-то говорить. Вот тут и проявилась простая человеческая помощь в формате "посмотри самый простой случай" привела меня в чувство. В итоге со скрипом, но решил третью задачу.
  • Main ML_KZ

    Глава II. Получение опыта

    Первый семестр начался с проблем почти сразу. Я абсолютно не разобрался с форматом сдачи заданий на курсе "Алгоритмы". Наивная стратегия - выполняй задания в порядке выдачи и можно их делать за 3-4 дня до дедлайна дала сбой уже в октябре. Я проспал 2 дедлайна (далеко не всегда оптимально выполнять задания в том порядке как выдают). Ну не беда - я ведь умею решать задачки на алгоритмы. Это было ошибкой. Если в первых домашках я мог сделать все 5 задач из 5, то в последних домашках я даже не пытался делать то, что сдало меньше 10 человек из 200 человек набора. Самые сложные вполне сравнимы с задачами финала ACM. В общем, опыт №2 говорит, что надо внимательно изучать поведение очников и делать то, что делают они, а не то, что ты планируешь. И как оказалось, про это было рассказано в видео, которое я очень невнимательно посмотрел.

    К началу ноября пришли проверенные задания по другому предмету - дискретная математика. И опять моё жуткое олимпиадное прошлое дало сбой (главное - идея, а за детали типа арифметических ошибок много не снимут). Решил 9 задач из 10 и получил 30% баллов. Всё было обложено арифметическими ошибками. По правилам курса эта домашка получала 0 баллов (дискретная ведь математика, округляем!). Чуть позже я узнал, что на этом предмете у очников в ШАДе является абсолютно нормальным явление сверять все ответы. У меня горело. Сильно. В общем, опыт №3 приобретен - чем больше ты общаешься с другими студентами, тем лучше ты учишься. Но этим опытом я в последствии пользовался редко и многократно за это получал заниженные баллы.

    В ноябре я уже получил проблемы по всем трем предметам. Python не предвещал никакой беды. Делал домашки раз в неделю (за 1 вечер). Сказали, что будет большая домашка (интерпретатор питона на питоне) - выделили 2 рабочих дня на неё. И получил обухом по голове - не успел даже на минимальный зачётный балл. Опыт №4 говорит: планируй большие домашки начинать сильно-сильно заранее.

    Тут же подобрались рабочие командировки (олимпиады и профориентации от университета) и я выпал из ШАДа на 2 недели начала декабря. Когда я вернулся, я получил опыт №5: в ШАДе неравномерная нагрузка по неделями. В конце ноября - начале декабря очень много важных дедлайнов. Надо откладывать всю другую деятельность и делать только ШАД. Единственно, что я смог сделать - взять академ.

    ------------------------------
  • Main ML_KZ

    Поздравляем Алена Баева (@bayev_alen) с окончанием Школы Анализа Данных (ШАД)!

    Ниже прилагается его отзыв на школу, который как мне кажется будет интересен сообществу
  • Main ML_KZ

    #hello Я Нуржан, адроид разработчик.

    Несколько месяцев назад увлекся Deep Learning-гом. Решил постигать азы через Keras. Мне была интересна тема синтеза речи, в частности хотел попробовать синтезировать казахскую речь. Поковырял tacotron-ы, wavenet, и еще несколько моделей. Они мне показались сложными для понимания. Затем наткнулся на имплементацию этой модели https://arxiv.org/abs/1710.08969 (основана только сверточных сетях) на чистом tensorflow 1.3 и решил переписать его под версию 2.1, но уже через Keras API. Таким образом убить 2 зайца: изучить сам tensorflow, ну и Keras.

    Логика построения глубоких нейронных сетей на Керас мне очень понравилась. Достаточно понятно для новичка.
    Сперва поиграл с английским датасетом Линды Джонсон. Этот датасет весьма большой (24 часа). Из-за специфики английского языка он и должен быть большим, так как в их словах буквы произносятся (или не произносятся) в зависимости от того, где и как они расположены (ну Вы сами знаете). Чтобы нейронку этому научить применяют механизм attention (подробнее есть в доках). Грубо говоря, этот механизм "указывает", как звучит та или иная буква (тут я могу ошибаться).

    Ко мне закралась идея, что казахскому языку потребуется гораздо меньшие датасет и время на обучение. Решил пробовать.
    Создал небольшой датасет (1 ч. 25 мин.) и прогнал через сеть. Так и есть! Чтобы сносно (на 3) говорить на казахском языке нейронке требуется около часа тренировки на GPU Tesla T4. Конечно все зависит от качества датасета.


    Послушать примеры можно в клетке Synthesyze в самом низу.


    Я не спец в питоне, так что архитектура кода так себе )
    https://colab.research.google.com/drive/1iEpFDknQBJYlEmYB4AP0cWZXd4VlQbVl?usp=sharing
  • Реклама

  • Main ML_KZ

    Доброе утро, ребята. Являясь новичком в сфере DS, выложил свою первую работу в Kaggle, Data Visualization с данными о COVID-19. Буду признателен если оцените мою работу, хочу получить реальный отзыв. Критика приветствуется, даже обязательно) https://www.kaggle.com/louter/covid-19-data-visualization-10-05-2020
  • Main ML_KZ

  • Main ML_KZ

    Всем привет. Недавно на coursera появилась нова специализация - AI for Medicine (https://www.coursera.org/specializations/ai-for-medicine). Она состоит из трёх курсов. Первый курс AI for Medical Diagnosis повествует о работе с картинками и рассчитан на 3 недели или 20 часов. Хочу поделиться с вами мением о нём.

    Закончил я его примерно за день. Чего точно не стоит ждать от курса: объяснения основ нейроннок, рассказа о том как лучше учить сети, к слову тут их вообще учить не придётся. В одном задании будет код для обучения юнета, но запускать его не обязательно для выполненяи задания.

    Код писать тоже особо не дадут, все упражнения представляют собой написание кода (Keras) в уже готовый жупитер ноутбук в отмеченное место. Многие вещи, как например GradCam вообще не объясняют, а дают просто запустить и посмотреть результат.

    Из плюсов - хорошая секция про оценку моделей. Хорошая, потому что там дают хороший код, который можно переиспользовать у себя. Самому лень было писать такое.

    Так же из плюсов отмечу, что если вы уже проходили курсы или умеете в нейронные сети, то AI for Medical Diagnosis станет неплохим дополнением для вас. При условии, что тема медицины для вас интересна.

    Сложилось мнение, что Ын просто замутил хайповую специализацию, рассчитанную на широкую аудиторию.

    Жду когда откроются следующие курсы: AI for Medical Prognosis и AI For Medical Treatment. Надеюсь они будут интереснее и полезнее.