Эксклюзив [OTUS] Pазработчик BigData. Модуль 4 из 5 (2018)

Тема в разделе "OTUS", создана пользователем afrikanec, 14 авг 2020.

  1. afrikanec

    afrikanec Администратор

    Регистрация:
    8 сен 2014
    Сообщения:
    3.895
    Симпатии:
    730
    [OTUS] Pазработчик BigData. Модуль 4 из 5 (2018)

    О курсе
    В настоящее время каждый сервис или устройство генерируют огромное количество данных. С помощью методов машинного обучения из данных стало возможным извлекать полезные знания. По этой причине данные становятся самым ценным ресурсом в бизнесе, а умение извлекать из данных информацию - одним из самых востребованных умений. Для того, чтобы внедрять использование данных в бизнесе, необходимо обладать набором специальных знаний и навыков. Цель курса - освоить основные темы и инструменты, позволяющие находить полезную информацию в данных и внедрять ее использование в боевое окружение. В нашем курсе мы научим основам анализа данных: расскажем о предобработке данных, типичных задачах и основных алгоритмах машинного обучения, а также научимся обрабатывать объемы данных, для обработки которых недостаточно одной машины. Все задачи будут проработаны на практике как на учебных, так и на реальных данных. Также будут рассмотрены типичные задачи, встречающиеся в разных видах компаний. В результате прохождения курса слушатель сможет самостоятельно реализовывать весь процесс от поиска знаний в данных до построения процесса по обработке данных в боевом окружении, будет обладать знаниями, необходимыми для изучения более сложных методов машинного обучения.

    [​IMG]
    Программа курса:
    Большую часть времени любого разработчика процессов анализа данных занимает разработка самого процесса по преобразованию данных на разных этапах. Предполагаются этапы сбора, очистки, агрегации данных, построения модели и предсказания характеристик.
    В четвертом модуле рассматриваются возможности построения надежных процессов преобразования данных.В более крупных компаниях данные превышают возможности одной типичной разработческой машины. Появляется потребность работы с алгоритмами, обрабатывающими данные в потоке, а также с кластером.
    В четвертом модуле разбираются процессы преобразования данных, слои данных, потоки данных и различные способы хранения и преобразования таких данных на кластере. Разберем возможности построения моделей на кластере. К концу модуля слушатели смогут уверенно использовать стек технологий Hadoop: писать задачи на MapReduce с использованием Java или Hadoop Streaming, использовать Hive и Spark для быстрого преобразования данных, расчета статистик, построения моделей на кластере.

    Занятие 25: Процесс CRISP-DM. Выбор хранилища, запросы к базе (Реляционная, нереляционная). Большие данные и параллельные вычисления.
    Кластер, hdfs, запросы к hdfs. Map Reduce, Java, Python, Необходимость в кластерных вычислениях. Парадигма MapReduce. Инструменты работы с большими данными. Hadoop, Spark, обзор других компонентов экосистемы. Развертывание кластера Hadoop локально для выполнения учебных примеров. Выполнение учебных примеров на кластере.
    ДЗ
    Настройка окружения для локальной работы с кластером. Выполнение на локальном кластере набора учебных задач.

    Занятие 26: Vowpal Wabbit для обучения линейных моделей на одной машине

    Занятие 27: MapReduce на Java, Hadoop Streaming - MapReduce на Python, bash
    ДЗ
    Реализация алгоритма с использованием MapReduce.

    Занятие 28: Пайплайны. Способы выстроить поток задач, обеспечить выполнение. Отказоустойчивость, мониторинг.

    Занятие 29: Слои данных для оптимизации процессов использования данных. Hive.
    ДЗ
    Реализация алгоритма с использованием Hive.

    Занятие 30: Организация хранения данных для решения задач машинного обучения

    Занятие 31: Spark
    Spark как инструмент быстрого доступа к данным. Spark как инструмент для машинного обучения.

    ДЗ
    Реализация алгоритма с использованием Spark.

    Занятие 32: Обзор решений для аналитики больших данных
    Vertica, Clickhouse. Основные преимущества и недостатки, для хранения и обработки данных.
    Агрегация, управление, эксперименты, анализ, визуализация и BI

    ПРОДАЖНИК
    otus.ru/lessons/bigdata/?
    СКАЧАТЬ МАТЕРИАЛ ПО ССЫЛКЕ НИЖЕ