Arenadata Hyperwave
Arenadata Hyperwave (ADH) — это универсальная гибридная платформа, основанная на компонентах с открытым исходным кодом и проприетарной разработке, предназначенная для хранения, обработки и анализа данных любой структуры и объема.
ТОП-10 популярных статей
Список требований к программному обеспечению для работы c кластером Arenadata Hyperwave.
Обзор Apache Iceberg — открытого формата таблиц для больших хранилищ данных, который обеспечивает ACID-транзакции, перемещение во времени (time travel), изменение схемы (schema evolution), изменение партиции (partition evolution) и предоставляет другие возможности работы с данными.
Таблицы с сетевыми требованиями к установке Arenadata Hyperwave: порты сервисов ADH, порты JMX, переопределяемые со стороны Kerberos порты, клиентские порты.
В статье описан процесс создания и запуска вашего первого DAG с использованием файлов CSV. Этот DAG будет имитировать процесс ETL (Extract, Transform, Load).
Обзор архитектуры HDFS (Hadoop Distributed File System) — распределенной файловой системы, которая обеспечивает высокую отказоустойчивость на оборудовании с низкой стоимостью.
Описание основных концепций (DAG, task, operator) и архитектурных компонентов Airflow (Web server, Metadata database, Scheduler, Executor, Worker). Airflow — это платформа, позволяющая разрабатывать, планировать, запускать и отслеживать выполнение сложных процессов обработки данных (workflow).
Обзор механизма репликации SSM, который можно использовать для синхронизации данных в Hive Metastore (HMS), расположенных в разных кластерах ADH. В статье приведены основные концепции репликации, показан рабочий процесс, а также пошаговый сценарий репликации данных.
Описание наиболее распространенных HDFS-команд с примерами.
Обзор сервиса Ozone — распределенного хранилища объектов, использующего формат ключ/значение и оптимизированного для работы как с сервисами Hadoop, так и с хранилищами S3.
Обзор сервиса Kyuubi — распределенного многопользовательского JDBC-интерфейса для обработки и анализа больших данных.