Релизы ADH
3.3.6.2
Дата: 31.01.2025
Ozone 1.4.1_arenadata1
Также были включены следующие патчи: Патчи Ozone
|
Trino 468_arenadata1
|
Core configuration
|
HUE обновлен до версии 4.11.0_arenadata2 Обновления HUE
|
Kyuubi обновлен до версии 1.9.2_arenadata2 Обновления Kyuubi
|
Spark3 обновлен до версии 3.5.2_arenadata2 Обновления Spark3
|
Реализована SPNEGO-аутентификация для сервиса Impala |
Реализована поддержка RedOS 7.3 в Enterprise-версии бандла ADH |
Реализована возможность импортировать кластер ADH в ADS для настройки Kafka tiered storage |
Действия Add, Remove, Shrink, Expand, Move заменены одним действием Add/Remove components для сервисов Kyuubi, Sqoop, Airflow, ADPG, Solr, Impala, SSM, Zeppelin, ZooKeeper, Flink и HBase |
Удален отображаемый пароль при активированном Samba Kerberos |
Из логов убраны пустые и логически ненужные задачи, связанные с Kerberos при удалении компонентов |
Исправлены сервисы, в которых не используется |
Исправлено название действий Maintenance/Decommiss DataNodes и Decommiss/Recommiss NodeManagers в HDFS |
Улучшено удобство использования параметра Enable custom ulimits |
В HUE добавлена возможность управлять log.conf через ADCM |
В HUE добавлена возможность управлять impalad_flags для интерпретатора Impala через ADCM |
Улучшена работа с файлами *-env.sh в HBase |
Для Solr Добавлена кастомная настройка файлов ranger-solr-audit.xml, ranger-solr-security.xml и ranger-solr-policymgr-ssl.xml в ADCM |
Для Impala добавлена возможность управлять шаблонами |
Для HUE добавлено создание БД, пользователя и грантов при запуске действия Restart с активным флагом Metastore DB schema init/upgrade |
Добавлена возможность настраивать следующие параметры в группе настроек Hive:
|
HDFS не перезапускался после отключения шифрования с помощью действия Manage credential encryption |
Интерфейс JDBC не поддерживал извлечение метаданных таблиц из ADB/Greenplum в HUE |
Страница задач Impala отображалась некорректно при включенном SSL в HUE |
Невозможность запускать команды в Hive JDBC после перемещения Kyuubi на новый хост |
Невозможность выполнить |
Невозможность выполнить |
Параметр |
ZooKeeper не выключался после перемещения/удаления с хостов |
Соединение JDBC не работало c режимом |
Keystore и truststore не скрывались после активации шифрования |
Действия Add/Remove без изменения распределения компонентов по хостам запускали лишние задачи |
ADCM status checker не запускался вместе с хостом |
Опция |
Ошибка при запуске действия Add Server(s) для Solr на пустом хосте со включенным SSL |
Действие Manage credential encryption завершалось с ошибкой, если один из выбранных сервисов не был установлен в кластере |
Сервисы Hadoop не имели прав доступа к директории /var/lock/subsys/ во время установки |
Для Trino необходима Java 23. Требуется провести установку на хосте вручную и добавить путь в конфигурациях кластера ( |
Для керберизации Ozone необходимо установить его в уже керберизованный кластер |
Минимальная версия ADCM — 2.3.0 |
Помечены как deprecated и будут удалены в следующих версиях — Spark 2, Sqoop, Spark3 Thrift Server (компонент Spark3) |
При апгрейде на данную версию необходимо вручную добавить сервис Core configuration |
3.3.6.1
Дата: 30.10.2024
HDFS обновлен до версии 3.3.6_arenadata1 с патчами, перечисленными ниже. Патчи Hadoop
|
Hive обновлен до версии 4.0.0_arenadata1 с патчами, перечисленными ниже. Патчи Hive
|
Tez обновлен до версии 0.10.3_arenadata1 |
Сервис Impala обновлен до версии 4.4.0_arenadata2 с патчами, перечисленными ниже. Патчи Impala
|
Spark 3 обновлен до версии 3.5.2_arenadata1 с патчами, перечисленными ниже. Патчи Spark 3
|
ADQM Spark Сonnector обновлен до версии 1.0.0_3.5.2 |
ADB Spark Connector обновлен до версии 1.0.5_3.5.2 |
Flink обновлен до версии 1.19.1_arenadata1 с поддержкой Hive 4.0.0 |
HBase обновлен до версии 2.5.10_arenadata1 с поддержкой Hive 4.0.0 |
hbase-operator-tools обновлен до версии 1.2.0_arenadata3 |
phoenix-queryserver обновлен до версии 6.0.0_arenadata3 |
Phoenix обновлен до версии 5.2.0_arenadata1 |
Iceberg обновлен до версии 1.5.2_arenadata1 |
SSM обновлен до версии 2.0.0-alpha со следующими улучшениями:
|
Сервис Kyuubi обновлен до версии 1.9.2_arenadata1 со следующими улучшениями:
|
Solr обновлен до версии 8.11.3_arenadata1 |
ZooKeeper обновлен до версии 3.8.4_arenadata1 |
Sqoop обновлен до версии 1.4.7_arenadata3 |
ADPG обновлен до версии 16 |
Добавлена поддержка Ubuntu 22.04.2 LTS |
Добавлено новое кластерное действие — Manage Credential Encryption. Оно позволяет шифровать конфиденциальные данные в конфигурационных файлах сервисов HDFS, YARN, Hive, HBase, Spark, Impala, Zeppelin, Kyuubi и Solr |
Реализована возможность активации протокола SSL/TLS для межкомпонентной коммуникации внутри сервиса Flink |
Реализована поддержка SPNEGO для HUE |
Дистрибутив включает в себя следующие расширения и форматы для Flink:
|
В ADCM добавлена настройка логов для Livy |
Добавлен параметр-чекбокс Custom nginx.conf с шаблоном для сервиса Hive |
Теперь все параметры HDFS |
Тип конфигурационного параметра |
Свойство classpaths было изменено на массив для Flink, Spark, Hive, Kyuubi и Hive |
Действия Add, Remove, Shrink, Expand и Move заменены на одно действие Add/Remove components для Spark2, Spark3, Hive и YARN |
Теперь Hive использует ADPG в качестве metastore по умолчанию во время установки |
|
Актуализирована конфигурация Flink:
|
Добавлены новые секции параметров YARN в ADCM: mapred-env.sh, Custom mapred-env.sh |
Параметр YARN |
Действие Remove для Airflow и Zeppelin было добавлено в community-версию дистрибутива |
Добавлен параметр Custom yarn-env.sh в конфигурацию YARN |
Добавлены уведомления для сервисов, которые сообщают пользователям о необходимости перезапуска при изменении топологии зависимого сервиса |
Ошибки при подключении внешней базы данных к сервису SSM |
Сервис SSM записывал неверный ID процесса в PID-файл |
Ошибка, связанная с необъявленной переменной при включении плагина Ranger YARN |
Не перезапускался Spark3 Thrift Server |
Kyuubi: действие Check завершалось с ошибкой, если был включен только REST-протокол |
Ошибка |
Неверные права у бинарного файла container-executor |
Impala: плагин Ranger не активировался для некоторых топологий |
HUE: бандл не изменял значение |
Flink: лишние параметры на хосте при выключенном режиме HA |
Неверные правила auth-to-local в работе Spark3 History Server |
Неверная настройка LDAP-аутентификации для Airflow |
Мажорная версия SSM обновилась и стала несовместима с предыдущей. Во время обновления все настройки безопасности будут изменены, а хранилище метаданных очищено и мигрировано |
Минимальная совместимая версия ADPS теперь 1.2.0_b1 |
Минимальная совместимая версия ADCM теперь 2.2.0 |
3.2.4.3
Дата: 23.07.2024
Добавлен новый сервис HUE |
Версия Zeppelin обновлена до 0.11.1_arenadata1 |
Версия Spark3 обновлена до 3.4.3_arenadata1, и исправлено регулярное выражение для версии Hive |
Версия Kyuubi обновлена до 1.9.0_arenadata1, также был добавлен алиас Impala для движка JDBC |
Версия Impala обновлена до 4.4.0_arenadata1, включая следующие патчи:
|
Добавлен плагин Kyuubi AuthZ для Spark3 |
Введена поддержка доменного контроллера Samba |
Введена поддержка Apache Iceberg для Spark3 |
Введена поддержка Apache Iceberg для Hive |
Введена поддержка Spark3 и PySpark для Zeppelin |
Разработана LDAP-аутентификация для Kyuubi |
Разработана LDAP-аутентификация для Impala |
Вместо Enable/Disable SSL добавлено новое действие Manage SSL, позволяющее более удобно управлять SSL-шифрованием для сервисов кластера ADH |
Значения, установленные в Custom-параметрах, теперь переписывают существующие, даже если они read-only |
Добавлена возможность создавать дополнительный Livy Server для Spark3 |
Добавлена возможность указывать несколько директорий в параметре |
Теперь сервис Arenadata PostgreSQL нельзя удалить при установленном Airflow2 |
Теперь параметр |
Теперь параметр |
Более нет необходимости устанавливать системную переменную |
Не было возможности изменить веб-порт для Solr |
Не применялись изменения конфигурационного файла log4j для сервиса HBase |
Параметры Kerberos пропадали из файла конфигурации после перезапуска компонента Spark3 History Server |
Действие Restart YARN не работало при недоступных |
Ошибки во время установки Impala на Red Hat |
Конфигурация сервиса Impala не применялась при запуске кластера |
Установка значения |
3.2.4.2
Дата: 27.04.2024
Устранена необходимость устанавливать Axiom JDK при использовании Astra Linux |
Добавлена возможность устанавливать пользовательское значение переменной |
При конфигурации Shiro Simple Authentication явно отображались пароли |
Конфликт пакетов при обновлении ADH и установке сервиса SSM |
Дата: 27.03.2024
Добавлен новый сервис SSM |
Добавлен новый сервис Kyuubi |
Добавлены JDBC-проверки |
Сервисное действие Manage Ranger plugin теперь более кастомизируемое и понятное |
ADQM Spark connector теперь включен в бандл ADH |
Добавлен компонент Spark Connect для сервиса Spark3 |
Изменены права на директории и файлы в бандле для поддержки установки продукта на файловую систему со значением umask равным |
Возможность управления системными переменными в Hive |
Возможность управления системными переменными в HBase |
Обновлена версия Spark до 3.4.2_arenadata1 |
Обновлена версия Hive до 3.1.3_arenadata6 |
Обновлена версия ADB Spark connector до 1.0.5-spark-3.4.x |
Неверно генерировался файл hdfs-site.xml во время действия Manage Ranger plugin в YARN |
Spark3 не подхватывал настройки SSL после действий Remove/Install |
Различные ошибки ADB PySpark connector |
LDAP не работал в Airflow2 |
Ошибка удаления Spark2 в ADH 3.2.4 |
Ошибка балансировщика HDFS на Astra Linux |
Неправильные пути логов Impala в ADH v3.1.2_arenadata1_b1-2 |
HiveServer2 не запускался после обновления ADH до версии 3.2.4 из-за SAN-секции в сертификатах |
Сервис SSM находится на стадии технологического превью и не предназначен для промышленного использования. Он все еще находится в разработке и представлен пользователям для ознакомления |
Путь к интерпретатору Python для сервисов Spark 2/3 изменен с /opt/python3.10/bin/python3 на /opt/pyspark3-python/bin/python3. Следует принять это во внимание при установке параметра |
Для установки Impala на Red Hat необходимо вручную установить пакет |
Теперь минимально поддерживаемая версия ADCM — 2.0 |
3.2.4.1
Дата: 26.12.2023
Flink обновлен до версии 1.17.1_arenadata1 с патчем FLINK-32976 |
Tez обновлен до версии 0.10.1_arenadata1 |
ADB Spark Connector обновлен до версии 1.0.5-spark-3.3.x с улучшением производительности и безопасности, а также исправлением ошибок |
Добавлен пакет jdbc-tools версии 1.0 |
Spark2 обновлен до версии 2.3.2_arenadata2 с патчем SPARK-31644 |
Hadoop обновлен до версии 3.2.4_arenadata1 со следующими патчами:
|
Добавлена поддержка zstd в HDFS |
Добавлена поддержка PMDK в HDFS |
Spark3 обновлен до версии 3.3.2_arenadata1 с патчем SPARK-39910 (внутренняя разработка) |
Обновлен Spark3 Livy до версии 0.7.2_arenadata5 |
Обновлен Sqoop до версии 1.4.7_arenadata2 |
Обновлен Phoenix Query Server до версии 6.0.0_arenadata2 |
Обновлен Phoenix до версии 5.1.3_arenadata2 |
Обновлен HBase operator tools до версии 1.2.0_arenadata2 |
Обновлен Hive до версии 3.1.3_arenadata5 со следующими патчами:
|
Обновлен HBase до версии 2.4.17_arenadata1 |
Обновлен Airflow до версии 2.6.3 |
Исключены уязвимости в библиотеке log4j вплоть до версии 2.15 |
В ADCM добавлены настройки логирования для Solr |
В ADCM добавлены настройки логирования для ZooKeeper |
Airflow1 удален из бандла |
Добавлен компонент Thrift Server для Spark3 |
Добавлен шаблон изменения Ulimits на странице конфигурации компонентов в ADCM |
Добавлена поддержка AstraLinux 1.7 SE "Орел" |
Изменены настройки подключения Hive к базе данных Metastore для повышения гибкости |
Обновлен драйвер Postgres JDBC, поставляемый в дистрибутиве |
Существующие keytab-файлы больше не пересоздаются полностью при установке/расширении сервисов |
Ошибка при добавлении ролей в shiro.ini при настройке Zeppelin |
Spark3 Server не запускался после обновления |
Из-за прекращения поддержки Airflow 1 данный сервис требуется удалить из кластера при обновлении. Вместо него можно установить Airflow 2 |
Минимальная версия ADPS — 1.1.0 |
3.1.2.1
Дата: 30.11.2023
Дата: 20.10.2023
Flink обновлен до версии 1.16.2 |
Добавлены следующие обновления из upstream:
|
Solr обновлен до версии 8.11.2 с исправленными уязвимостями библиотеки log4j |
Sqoop обновлен до версии 1.4.7 с исправленными уязвимостями библиотеки log4j |
HBase обновлен до версии 2.2.7 |
Phoenix обновлен до версии 5.13 |
Добавлена поддержка Impala |
ADB Spark3 Connector теперь включен в бандл ADH |
Реализован HBase-компонент hbck2 |
Представлен Maintanence mode, позволяющий удалить любую ноду из кластера |
Представлено автоматическое управление High Availability для сервисов ADH |
Добавлен компонент SQL Gateway для Flink |
Добавлен PySpark 3 для пользовательской установки |
Добавлена поддержка авторизации через Knox SSO для Zeppelin |
Изменено управление Kerberos (отключение, включение, конфигурация) |
В ADCM добавлены настройки логирования для Spark |
В конфигурацию кластера добавлен новый параметр Precheck packages, который включает/отключает проверку пакетов. По умолчанию проверка пакетов отключена |
В ADCM добавлены настройки логирования для Sqoop |
Сервисы Airflow 2 не запускались после керберизации и перезапуска |
Проблемы со статистикой и метаданными в Hive |
Конфигурация Hive не происходила без установленного ZooKeeper в Community Edition |
Проблема с config groups в Hive |
Не происходила проверка наличия Spark 3, если не установлен Spark 2 |
Spark 3 не удалялся без распределения компонент |
Проблема с HDFS-балансировщиком при включенном Kerberos |
Минимальная версия ADPS — 1.0.5 |
Минимальная версия ADCM — 2023.10.10.08 |
2.1.10
Дата: 21.06.2023
Добавлена возможность выбора версии TLS для сервисов ADH |
Добавлена поддержка пользовательских интерпретаторов Zeppelin |
Добавлен новый компонент Spark History Server для Spark3 |
Добавлены следующие обновления из upstream:
|
Режим высокой доступности для ResourceManager активируется автоматически |
Добавлена возможность использования кастомного Hive Metastore для Spark |
Добавлена поддержка SSL для Hive Metastore |
Добавлено действие Remove для сервиса MariaDB со статусом |
Версия Spark3 обновлена до 3.3.2 |
На странице сервиса ZooKeeper в ADCM добавлены ссылки на Admin Server endpoints |
Улучшено выполнение действия Move |
Исправлено: при наличии Airflow 2 невозможно удалить сервис Airflow 1, если установка последнего завершилась с ошибкой |
Zeppelin: исправлена JDBC-строка подключения для сервиса Hive при включенном режиме высокой доступности |
Hive: исправлена временная зона для |
Исправлена ошибка |
Исправлены ограничения GROUPING/DISTINCT для таблиц Hive с 64 столбцами и более |
Hive: исправлена ошибка |
ZooKeeper: изменен порт по умолчанию для Admin Server |
2.1.8
Дата: 02.03.2023
Airflow2: добавлен режим высокой доступности |
Airflow2: добавлена поддержка аутентификации/авторизации с помощью LDAP |
Airflow2: добавлена возможность внешней конфигурации брокера |
Hive обновлен до версии 3.1.3 |
Добавлены следующие обновления из upstream:
|
Дефолтное значение |
Убрана переменная |
HDFS: удалены RW-права из свойства |
Spark3: добавлен ADH python пакет в installation routine |
Реализована кастомная конфигурация файла container-executor.cfg |
Исправлены CORS-ошибки в ResourceManager UI2 |
Исправлено: отсутствие повторных попыток для задачи Disable balancer при сжатии HBase |
Исправлено: отсутствие меток времени в ansible-логе в ADCM |
Исправлено: настройки для checker-thriftserver не перезаписываются после повторной конфигурации |
Исправлено: действие |
Исправлено: status checker не запускается для сервиса Spark3 после повторной установки |
Исправлен конфликт checker-thriftserver с другим сервисами |
Исправлено некорректное значение параметра |
Исправлен процесс остановки NodeName для действия JournalNode expand |
Исправлено: HDFS не останавливается, если включен Kerberos |
Исправлены проблемы с Hive-Main JDBC |
Исправлены разрешения для .jceks-файлов |
Исправлено: импорт Sqoop Hive не работает при включенном Ranger-плагине |
Исправлено поведение при остановке NameNode |
Airflow2: исправлена поддержка соединения с внешними базами данных |
Airflow2: исправлена конфигурация Redis |
Airflow2: исправлено использование шаблонов для airflow.cfg (cfg_properties_template) |
Airflow2: исправлены права для каталога конфигураций Redis |
Airflow2: исправлен список уровней логирования |
Исправлена неудачная проверка в случаях, если TEZ submit создает запись в Timelineserver |
Исправлена ошибка в ZooKeeper zkCli.sh при включенном Kerberos |
Исправлено: неудачные проверки Spark после выполнения операции YARN expand |
Исправлены ошибки с отключением Kerberos |
ADH MySQL Service: изменено отображаемое имя и версия |
Исправлено описание параметра |
Исправлено описание параметра |
Обновлено поведение |
Обновлены версии offline-пакетов |
2.1.7
Дата: 20.12.2022
Компонент livy-spark3 добавлен в сервис Spark3 |
Добавлен токен делегирования Hive |
Добавлена опция Apply configs from ADCM для всех сервисов |
Доступна сборка Flink 1.15.1 |
Добавлена возможность подключения к Flink JobManager в режиме высокой доступности (high availability) |
Выполнена оптимизация по проверке пакетов для процесса установки |
Добавлена очистка учетных данных MIT после отключения Kerberos в кластере ADH для следующих сервисов:
|
Спрятаны пароли для действий Config check, Enable SSL для следующих сервисов:
|
Выполнен рефакторинг параметров имперсонации Livy |
Добавлена возможность настройки имперсонации Livy |
Добавлен дополнительный параметр |
Действие Disable HA HiveServer2 использует команду |
Выполнена оптимизация действий |
Добавлена возможность удаления сервиса в состоянии |
Исправлена активация режима высокой доступности для YARN ResourceManager |
Исправлено: сбой при включении SSL для Airflow2 на AltLinux |
Исправлено: Flink TaskManager не запускается в режиме высокой доступности |
Исправлено: отсутствие метрик при установке сервиса мониторинга в неправильном порядке |
Исправлено: отсутствие действий в Spark3 Add Spark3 Livy, Remove Spark3 Livy |
Исправлено: сбой при обновлении Flink с версии 2.1.6 на 2.1.7, если Job Manager и HDFS клиент расположены не на одном узле |
Исправлено: отсутствует параметр |
Исправлено: сбой при установке Flink |
Исправлено действие Manage ranger plugin в HBase |
Исправлены настройки SSL для следующих сервисов:
|
Исправлено: сбой действия Enable SSL из-за отсутствия ranger-hbase-plugin |
Исправлен сбой при обновлении с версии 2.1.6.b4-1 на 2.1.7.b1-pre_rc |
Исправлено: неверная минимальная версия для обновления |
Исправлено: действия Enable HA/Disable HA приводят к несовпадению файлов конфигурации hive-site.xml на серверах |
Исправлен сбой при действии Disable HA HiveServer2 |
Исправлена ошибка HBase SASL при подключении к керберизированному ZooKeeper (без hbase-jaas.conf) |
Исправлена ошибка при расширении Hive Server 2 на хосте с Hive Metastore |
Исправлено действие Add Hive Metastore |
Исправлено: отсутствует описание для поля Reliability Control → timeout |
Исправлено: тип Scheduler не передается в фильтр yarn_scheduler_jmx |
Исправлено: отображение паролей в Ansible-логе во время действия Enable SSL |
Исправлено: неверное значение Spnego keytab при расширении Hive Server 2 |
Исправлен список компонентов на странице Hosts - Components |
Исправлено: необходимость установки драйвера jdbc-mysql на узлы, где присутствует сервис hive-client при использовании внетренней MariaDB |
Действие Enable Ranger plugin для Hive приводит к сбою, если в Ranger не определены сервис Yarn и политики |
Исправлено: повторное включение SSL приводит к сбою |
Исправлено: не удается выполнить проверку Spark Thriftserver из-за использования FairScheduler |
Исправлено: реконфигурация YARN приводит к сбою, если включен FairScheduler |
Исправлены ошибки с порядком вывода хостов из эксплуатации (decommissioning) |
Исправлен баг, связанный с невозможностью запуска Flink на YARN |
Добавлен флаг |
Исправлено наименование конфигураций сервисов (HDFS, HBase, Hive) |
Исправлено наименование действий ADH-сервисов (HDFS, HBase, Hive) |
Исправлены наименование и опечатки для действий по установке ADH |
Изменен порядок действий при установке кластера, Kerberos и SSL |
2.1.6
Дата: 16.09.2022
Добавлена поддержка AltLinux 8.4 |
Добавлена поддержка настройки ldap.conf через ADCM |
Добавлена возможность керберизации кластера с помощью FreeIPA |
Улучшена обработка ошибок с помощью cURL |
Выполнен рефакторинг процесса логирования для Hive |
Исправлено: невозможно изменить параметры в ranger-yarn-policymgr-ssl.xml (YARN) |
Исправлено: невозможно изменить свойство |
Исправлено имя конфигурации после перезапуска Flink |
Исправлена ошибка отсутствия пользователя Zeppelin при включении Ranger для YARN |
Исправлено: невозможно изменить nameservice при установке с ошибкой (HDFS) |
Исправлено: обновление кластера всегда переключает состояние на |
Исправлено: обновление Spark 3 не отключает старые репозитории в Alt Linux |
Исправлено: для действия Reconfigure Kerberos отсутствует атрибут |
Исправлено: YARN Resource Manager не запускается на Alt 8.4 |
Исправлено |
Исправлено несоответствие между настройками безопасности в конфигурациях Spark и Spark3 |
Изменен код проверки в связи с обновлением версии Scala |
2.1.4
Дата: 08.08.2022
Добавлена возможность указания внешних nameservices |
Добавлена возможность подключения к HiveServer2 в отказоустойчивом режиме |
Выполнен рефакторинг состояний компонентов кластера |
Изменен порядок действий Stop, Start и Restart для сервиса HDFS |
Улучшен процесс сбора метрик мониторинга для YARN-очередей |
Удален read-only атрибут из свойства |
Исправлена ошибка статуса керберизации кластера после обновления бандла |
Исправлено: переменная Ansible недоступна во время установки HDFS |
Параметр |
Исправлены разрешения для каталога |
Дата: 16.06.2022
Добавлена возможность установки компонентов ADH из кастомного Docker registry |
Добавлена опция Rewrite current service SSL parameters для действия Enable SSL |
Добавлены новые параметры для интерпретатора Zeppelin Hive — для включения SSL и Kerberos |
Реализованы повторные попытки создания принципалов Kerberos |
Пользовательская аутентификация (LDAP/AD) включена для Hive2Server |
Добавлено действие Move для Spark Livy Server |
Добавлено действие Move для Spark History Server |
Добавлено действие Move для Flink Job Manager |
Добавлено действие Move для Sqoop Metastore |
Добавлено действие Move для YARN Timeline Server |
Добавлено действие Move для YARN MapReduce History Server |
Добавлен Ranger-плагин для авторизации Solr |
Добавлена возможность удалять сервисы из кластера |
Добавлена возможность кастомизации конфигурационных файлов через ADCM |
Добавлена поддержка Kerberos REALM |
Соединение Solr для аудита изменено с сервера Solr на узел ZK |
Изменение типа свойства с |
Параметры конфигурации SSL по умолчанию изменены с невидимых на доступные только для чтения |
Исправлено: повторяющиеся ключи словаря в файле config.yaml, которые не позволяли пройти новую проверку YAML в ADCM |
Исправлено: ошибка установки Zeppelin без Hive |
Исправлено: пользователи могли изменять в сервисах некоторые параметры, связанные с Kerberos, доступные только для чтения |
Исправлены сбои задач при включении свойства GPU on YARN |
Исправлена ошибка с применением действия Remove service к Spark3 |
Исправлена ошибка с некорректным значением в interpereter.json в Zeppelin при отключенном SSL |
Исправлено: после включения SSL политики не работали в Ranger |
Исправлено: формат Container DN при использовании Enable Kerberos |
Исправлена ошибка с некорректным сохранением значения |
Исправлено: YARN не удается скопировать container-executor.cfg |
Исправлено: статус задачи и результат не совпадали при удалении необязательных (опциональных) настроек в конфигурации сервиса ZooKeeper |
Исправлено: действие Check, применяемое к Flink, завершалось неудачно, если хосты в ADCM имели заглавные буквы |
Исправлено: сервисы не собирали политики Ranger в режиме SSL |
Исправлено: применение действия Remove internal database фактически удаляло сам сервис |
Добавлен фиксированный репозиторий плагинов Ranger Solr для ADH 2.1.4 |
Порядок обновления бандлов изменен с частного на общий |
Реализованы зависимости между компонентами и сервисами на уровне ADCM |
Плагины Ranger обновлены до версии 1.0.3 |
Добавлена возможность загрузки offline-пакетов ADH из исходного каталога Arenadata в прокси-репозиторий клиента |
Дата: 31.03.2022
Аутентификация Kerberos включена для веб-интерфейса |
Добавлена поддержка SSL для Ranger-плагинов |
Добавлена поддержка SSL для Flink |
Добавлена поддержка SSL для Sqoop |
Операция отката доступна при сбое процесса керберизации |
Добавлена поддержка SSL для Zeppelin |
Добавлена поддержка SSL для Airflow |
Добавлена поддержка SSL для Spark |
Добавлена поддержка SSL для Solr |
Добавлена поддержка SSL для Hive |
Добавлена поддержка SSL для HBase |
Добавлена поддержка SSL для YARN |
Добавлена возможность настройки SSL в кластерах Hadoop |
Добавлена поддержка SSL для HDFS |
Блок настроек Custom hive-site.xml размещается после блока hive-site.xml в настройках конфигурации |
Ссылки на NameNodes и HttpFS перемещены в начало списка веб-ссылок HDFS |
Порядок действий по остановке кластера изменен на обратный |
Действие Reconfig and restart заменено действием Restart, которое выполняет три операции: останавливает сервис, применяет параметры конфигурации и запускает сервис |
Возможность выполнения действия resourcemanager_enable_ha без изменения |
Возможность выполнения действия resourcemanager_expand без включения высокой доступности (HA) отключена для Resource Manager, так как он не работает без включения режима высокой доступности |
Исправлено: параметры из конфигурационного файла httpfs-site.xml не применялись к сервису HttpFS |
Исправлено: SQL-запросы, запущенные из Spark3 или Spark2, работали некорректно при включенном плагине Ranger Hive |
Исправлено: параметры |
Исправлено: Phoenix Query Server не мог работать в thin-режиме в керберизированной среде |
Исправлено: ошибка запуска spark-thrift-server-checker после включения и отключения Kerberos |
Исправлено: ошибка сохранения параметров конфигурации Flink после установки в керберизированной среде |
Возможность работы с кластерами ADH с поддержкой Kerberos исправлена для операционной системы Windows |
Исправлена ошибка |
Исправлена ошибка с проверкой доступа к схеме |
Исправлены ошибки установки кластера на этапе HBase check |
Исправлено: логи приложений были недоступны в устаревшем интерфейсе Resource Manager в кластерах с поддержкой Kerberos |
Исправлено: сбой керберизации в AD, если были установлены два экземпляра Ranger Admin |
Добавлена настройка параметров SSL перед включением SSL в автотестах |
Веб-ссылки переписаны для поддержки изменения схемы http/https |
Дата: 21.12.2021
Выполнен рефакторинг базы данных для проверок Hive Metastore |
Исправлена ошибка с установкой параметра |
Исправлена ошибка, возникавшая в керберизированном кластере при запуске MapReduce-задач не под пользователем |
Исправлено: подключенные, но не установленные сервисы вызывали ошибки при установке других сервисов |
Режим HTTP добавлен для HiveServer2 |
Добавлена авторизация AD/LDAP/SIMPLE для Zeppelin |
Компонент HBase REST Server добавлен для HBase |
Реализована возможность использования Active Directory в качестве хранилища Kerberos |
Добавлена возможность установить Kerberos-принципал для запуска Spark-задач через YARN.
До этого Spark всегда запускал задачи с использованием принципала |
Исправлена ошибка с расширением DataNodes с помощью действия Add DataNode в керберизированной среде |
Исправлена ошибка работы интерпретатора Livy в керберизированной среде |
Исправлена ошибка работы интерпретатора Hive в керберизированной среде |
Исправлена ошибка с проверками Zeppelin после активации Kerberos |
Исправлена ошибка с удалением компонента мониторинга jmxtrans |
Исправлено: действие Enable Resource Manager HA не выполнялось в кластерах с включенным плагином Kerberos и Ranger |
Исправлена ошибка установки Airflow в керберизированной среде |
Исправлена ошибка с включением Kerberos после его отключения (включение → отключение → включение) |
Добавлено полное тестирование стека для использования корпоративной лицензии RedHat 7.9 в ADH |
Дата: 01.11.2021
Реализовано действие Reinstall status-checker. Запускает скрипты деплоя status-checker для сервисов, а также для контейнеров Docker |
Изменена проверка Solr: вместо списков сравнивается количество живых Nodes |
Увеличено количество тайм-аутов/повторных попыток для проверки Zeppelin |
Исправлено: ошибка обновления версии бандла |
Исправлено: Ranger-плагин работал некорректно при использовании определенных символов в имени кластера |
Исправлено: ошибка с непостоянным состоянием обслуживания DataNodes после обновления ADH с 2.1.3 до 2.1.4 |
Исправлено: Keytab-разрешения изменялись при определенных действиях |
Исправлено: ошибка при per-service установке в керберизированных кластерах ADH |
Исправлено: ошибка парсинга списка контейнеров при использовании Docker status checker в Airflow |
Исправлена ошибка с тестом размера heap |
Исправлена несовместимость с текущей версией ADCM для разработчиков |
Изменена тестовая логика per-service установки в керберизированных кластерах ADH: перед установкой каждого сервиса необходимо добавить сервис в кластер и добавить компоненты сервиса на хосты (вместо добавления всех компонентов на все хосты) |
Дата: 30.09.2021
Интеграция MIT Kerberos реализована в ADCM |
Реализована возможность добавления кастомного порта для Kerberos Server |
Интегрированы Ranger-плагин и YARN с поддержкой Kerberos |
Интегрированы Ranger-плагин и Hive с поддержкой Kerberos |
Интегрированы Ranger-плагин и HBase с поддержкой Kerberos |
Интегрированы Ranger-плагин и HDFS с поддержкой Kerberos |
Ranger-плагин теперь работает в сервисах с поддержкой Kerberos |
Добавлен параметр разделения памяти (split) для сервиса Hive: параметры управления ресурсами можно настроить отдельно для HiveMetastore и HiveServer2 |
Добавлена опция редактирования размера памяти для компонентов Flink |
Добавлена опция редактирования размера памяти для компонентов Solr |
Добавлена опция редактирования размера памяти для компонентов Sqoop |
Добавлена опция редактирования размера памяти для компонентов Spark |
Добавлена опция редактирования размера памяти для компонентов Zeppelin |
Добавлена опция редактирования размера памяти для компонентов HBase |
Добавлена опция редактирования размера памяти для компонентов YARN |
Действия Add/Remove добавлены для YARN Timeline server |
Действия Add/Remove добавлены для Sqoop Metastore |
Добавлена опция редактирования размера памяти для компонентов HDFS |
Добавлена опция управления памятью ADH |
Действия Add/Remove добавлены для Flink Job Manager |
Действия Add/Remove добавлены для Spark Thrift Server |
Действия Add/Remove добавлены для Spark Livy Server |
Действия Add/Remove добавлены для Spark History Server |
Действия Add/Remove добавлены для Hive Tez UI |
Действие Move добавлено для YARN MapReduce History Server |
Добавлена реализация Kerberos для ADH в ADCM |
Добавлена возможность перемещения любого сервисного компонента на другую Node или удаления его из кластера |
Удалена ненужная проверка репозитория/пакетов на этапе установки HDFS для ADH EE |
Путь к файлам docker-status-checker изменен |
Исправлена ошибка с задачей |
Исправлена ошибка, из-за которой Solr не работал после применения действий хоста |
Исправлена ошибка с действием Enable Resource Manager HA в керберизированной среде |
Исправлена ошибка с расширением/сжатием Spark в керберизированной среде |
Исправлена ошибка со сжатием Solr в керберизированной среде |
Исправлена ошибка с расширением YARN Node Manager в керберизированной среде |
Исправлена ошибка |
Исправлена ошибка с расширением/сжатием Flink Server |
Исправлена ошибка с доступностью порта 6123 Flink JobManager Server |
Исправлена ошибка с расширением Sqoop в керберизированной среде |
Исправлена ошибка с расширением/сжатием сервера YARN |
Исправлено: роль Solr пыталась импортировать отсутствующую роль мониторинга даже если мониторинг-сервис не установлен |
Исправлена ошибка с запуском сервисного действия Install для Solr |
Исправлена ошибка с расширением сервера Spark Livy в керберизированной среде |
Исправлена ошибка с отключением Spark Thrift Server в керберизированной среде |
Исправлена ошибка резервирования общей памяти Solr |
Исправлена ошибка с керберизацией Solr без добавления сервисов Hadoop |
Исправлена ошибка запуска jmxtrans после перезагрузки хоста |
Исправлен неверный URL-адрес веб-интерфейса Hive Server |
Исправлена ошибка с открытием ссылки на HiveServer2 UI после установки ADH |
Исправлена ошибка с доступностью действий хоста после обновления кластера с 2.1.3.0 до 2.1.4.b2 |
Исправлено: сбой установки Enterprise-кластера при per-service действиях |
Исправлено: сбой действия Reconfig and restart для сервиса мониторинга с установленным Airflow |
Исправлено: процесс Spark ThriftServer не останавливался после удаления контекста Spark |
Для ускорения автотестов и процесса разработки проверка пакетов сделана необязательной для определенных сред |
Версии http и реестра перенесены на текущую версию ET-релиза |
Добавлены спецификации для новых действий Spark и YARN MapReduce History Server |
Дата: 20.07.2021
Добавлена возможность использовать внешний MySQL в AirFlow |
Добавлена возможность использовать внешний PostgreSQL в AirFlow |
Действия хоста добавлены для сервиса Spark3. Действия хостов здесь и ниже означают действия, управляемые на уровне хоста |
Действия хоста добавлены для сервиса мониторинга |
Действия хоста добавлены для сервиса Sqoop |
Действия хоста добавлены для сервиса Airflow |
Действия хоста добавлены для сервиса Solr |
Действия хоста добавлены для сервиса Flink |
Действия хоста добавлены для сервиса Zeppelin |
Действия хоста добавлены для сервиса Spark |
Действия хоста добавлены для сервиса MySQL |
Действия хоста добавлены для сервиса Hive |
Действия хоста добавлены для сервиса HBase |
Действия хоста добавлены для сервиса YARN |
Действия хоста добавлены для сервиса HDFS |
Действие Sqoop Check изменено в соответствии с новыми переменными внешней базы данных Hive |
Действия хоста переименованы |
Удален файл solr-tools.jar из подмодуля Solr в бандле, так как он вызывал ошибки в CI |
Исправлена ошибка с offline-установкой в операционной системе RH 7.9 |
Исправлена ошибка с применением действия Reconfig and restart к сервису мониторинга |
Исправлена ошибка с установкой MySQL на хост, с которого этот сервис был удален ранее |
Исправлена ошибка с метрикой YARN |
Исправлена ошибка с действием Maintenance DataNode, возникавшая из-за некорректного содержимого файла dfs.hosts (если ранее другой DataNode был переведен в состояние обслуживания) |
Для отладки возможных проблем через Allure-отчеты реализован сбор логов для сервиса Airflow |
Исправлено неверное описание в автотесте, реализующем миграцию на внешнюю базу данных MySQL |
Изменены спецификации для тестирования действий хоста |
Добавлены тесты для действий хоста |
Добавлены спецификации и автотесты для сценариев сжатия ADH |
Дата: 22.06.2021
Добавлена возможность определять кастомные переменные для среды HBase |
Добавлено действие по удалению MySQL из кластера ADH |
Добавлена возможность использовать внешний PostgreSQL в Hive Metastore |
Добавлена возможность изменения значений |
Добавлена возможность настройки Java Heap для HiveServer2 |
Добавлена возможность добавлять/изменять/удалять параметры конфигурации из файла httpfs-site.xml через ADCM |
Добавлены стартовые проверки для JournalNodes и NameNodes |
Spark 3.1.1 реализован для ADH 2.X |
Добавлена возможность offline-установки для ADH |
Действие Check улучшено для Sqoop |
Изменен процесс сборки Solr: вместо внешних репозиториев Maven используются репозитории Arenadata |
Реализована возможность использования Docker Registry из репозитория Arenadata |
Для установки сервисов (например, Airflow) без DNS реализовано разрешение имен хостов в Docker-контейнерах |
Реализована установка Airflow без DNS |
Реализована проверка/ожидание принадлежности DN к кластеру от самого DN |
Spark History Server стал обязательным |
Проведен рефакторинг сервиса ZooKeeper |
Исправлено: сбой установки Hive при добавлении компонента Tez без TezUI |
Исправлено: повторяющийся ключ |
Исправлено: YARN-приложения не могли запускать задачи после включения Ranger-плагина |
Исправлена ошибка с действием Enable Resource manager HA в ADH Community Edition |
Исправлена ошибка установки Sqoop после установки Ranger |
Исправлены проблемы с HBase-логированием |
Образы Docker в спецификациях пакетов изменены в соответствии с новым соглашением об именовании |
Пакеты для релиза 2.1.4 загружены в репозиторий Google |
Исправлен сбор логов для HttpFS во время автотестов |
Создан репозиторий для версии продукта 2.1.4 |
Добавлена возможность обновления бандла без пересборки пакетов |
Ненужные файлы удалены из архива сборки пакета |
Для решения проблемы ansible с |
Добавлены тесты для проверки интеграции ADH и Ranger |
Создана сборка ADH 2.1.3.1 |
2.1.3
Дата: 14.01.2021
Добавлены действия Remove/Add Hive Tez |
Добавлены действия Add diamond и Remove diamond |
Переработана логика расширения YARN Resource Manager |
Логика проверки для клиента Spark изменена с |
Интеграция с ADPS: новый бандл ADPS, содержащий Ranger, необходимо повторно интегрировать с ADH после перемещения Ranger из него |
Исправлена ошибка с закрытием задач Hive после завершения проверок |
Проверки Livy временно отключены |
Исправлена ошибка с неверным именем кластера, возникавшая при создании сервиса HDFS через Ranger Admin |
Исправлена ошибка с действием HDFS Remove Client |
Исправлены неудачные проверки Hive CLI после включения плагина Ranger |
Исправлена ошибка с подключением нескольких кластеров к одному ADPS |
Репозиторий для плагинов добавлен в бандл релиза |
Пакеты для релиза 2.1.3.0 загружены в репозиторий Google |
Доступна сборка ADH 2.1.3.0 |
ADH обновлен до версии 2.1.3.0 |
Добавлены новые репозитории для плагинов Ranger |
Отредактированы спецификации обхода ошибки с расширением HBase после расширения HDFS |
Разработаны спецификации по расширению сервисов ADH |
2.1.2
Дата: 19.11.2020
Добавлены клиентские компоненты для Flink |
Добавлены клиентские компоненты для HDFS |
Добавлены клиентские компоненты для YARN |
В автотестах увеличено время ожидания для |
Изменен номер порта по умолчанию для MySQL в Airflow Metastore |
Увеличено пространство для конфигураций Hadoop (например, /etc/hadoop/conf/, /etc/hive/conf и так далее) в образах Docker с Airflow |
Исправлено состояние гонки в проверках Sqoop (часть 2 — с несколькими клиентами) |
Исправлена ошибка установки кластера, возникавшая при установке MySQL |
Исправлена ошибка установки кластера, возникавшая после проверки установки Spark |
Пакеты релиза 2.1.2.5 загружены в репозиторий Google |
Добавлена сборка offline-пакета для ADH в репозиторий ADH |
ADH обновлен до версии 2.1.2.5 |
Добавлены тесты для клиентов YARN/HDFS |
Добавлены спецификации для автотестов для клиентов YARN/HDFS |
Внесены изменения в тесты Hadoop, связанные с загрузкой бандлов |
Созданы автотесты для Airflow |
В автотестах все обращения к файлам стали независимыми в текущей рабочей директории |
Dev-репозиторий для ADH 2.1.2.5 инициализирован |
Дата: 15.09.2020
Бандлы ADH разделены на версии Community и Enterprise |
Реализован режим высокой доступности (High Availability, HA) для NameNode |
Исправлена ошибка, возникавшая на этапе Restart NameNodes при выполнении действия Remove NameNode |
Исправлена ошибка с проверкой Hive Tez на нескольких хостах |
Исправлена ошибка с включением динамического выделения ресурсов |
Исправлено: ZKFC игнорировал параметр |
Пакеты для релиза 2.1.2.3 загружены в репозиторий Google |
Все спецификации, относящиеся к ADH20, перемещены в файл prj_adh. Изменен процесс публикация артефактов |
Релизные и develop-репозитории разделены в бандлах |
Дата: 05.06.2020
Установка |
Исправлено состояние гонки в проверках Sqoop |
Исправлена ошибка с запуском кластерного действия Check |
Пакеты релиза 2.1.2.2 загружены в репозиторий Google |
ADH обновлен до версии 2.1.2.2 |
Nginx скопирован из репозитория Epel в репозиторий ADH2 |
Дата: 21.05.2020
Развертывание Sqoop перенесено на ALT Linux |
Развертывание Solr перенесено на ALT Linux |
Развертывание Flink перенесено на ALT Linux |
Создан публичный репозиторий ALT Linux для ZooKeeper 3.4.14 |
Развертывание Airflow перенесено на ALT Linux |
Добавлена возможность устанавливать лимиты |
Sqoop добавлен в бандлы ADH |
Созданы пакеты ADH 2.x для ALT Linux |
Solr 8.2.0 добавлен для ADH 2.2 |
Проведен рефакторинг процесса развертывания ADH для ALT Linux |
Исправлена ошибка ввода/вывода Nodes из эксплуатации через ADCM |
Исправлена ошибка |
Исправлен порядок общих компонентов |
Исправлено: веб-ссылки в ADCM не обновлялись после сжатия HDFS DataNodes или YARN Node Manager |
Исправлена ошибка, возникавшая с YARN 3.1.2 в ALT Linux при выполнении ansible-задач |
Исправлено отсутствие |
Каталог /var/run/sqoop создан для Sqoop Metastore |
Добавлена отсутствующая зависимость для пакетов, связанных с Flink |
Исправлена ошибка установки HBase и Solr при использовании внешнего ZooKeeper |
Развертывание Airflow отключено (отображаемое в ADCM и только для ALT Linux) |
Изменен релизный публичный репозиторий |
Пакеты для релиза 2.1.2.1 загружены в репозиторий Google |
Изменения для libisal смерджены |
Изменения для bigtop-groovy, bigtop-jsvc, bigtop-tomcat и bigtop-utils смерджены |
Изменения для Bigtop смерджены |
Изменения для Livy смерджены |
Изменения для ZooKeeper смерджены |
Изменения для Zeppelin смерджены |
Изменения для Spark смерджены |
Изменения для Phoenix смерджены |
Изменения для Tez смерджены |
Изменения для Hive смерджены |
Изменения для HBase смерджены |
Изменения для Hadoop смерджены |
Ветки Bigtop для CentOS и ALT linux смерджены вручную |
URL репозитория изменен на 2.1.2 |
Проверены автотесты для ADH-сервисов в соответствии с текущей версией стека |
Дата: 19.02.2020
Добавлена возможность настройки Hive ACID |
SELinux отключен для всех компонентов во время установки |
Реализована поддержка Flink 1.8.0 для ADCM |
Flink добавлен в бандл ADH |
Улучшена логика действия Shrink |
Поддержка GPU включена для YARN |
Airflow добавлен в бандл ADH |
Ссылка на пользовательский интерфейс Solr добавлена на главную страницу ADCM |
Действия Shrink/Expand реализованы для HDFS HttpFS |
Реализованы проверки HDFS HttpFS |
Реализован облачный режим для Solr |
Реализовано развертывание Solr |
Solr добавлен в бандл ADH |
Библиотеки Tez установлены на клиентских узлах Hive |
Исправлено: невозможность использования Hive с Tez из-за несоответствия конфигурации |
Исправлена ошибка с сохранением конфигураций для HDFS и YARN |
Исправлена ошибка с проверками HBase после установки |
Исправлена ошибка с проверками YARN в режиме высокой доступности |
Добавлены тесты/примеры DAG для проверки функциональности Airflow |
Добавлены тесты для проверки работоспособности Solr |
2.1.1
Дата: 21.11.2019
Реализована конфигурация планировщика YARN |
Реализован HDFS-mover |
В пользовательский интерфейс ADCM добавлена кнопка Install на уровне кластера |
Добавлена возможность определения внешнего ZooKeeper в файле core-site.xml |
Добавлена возможность добавления кастомных/расширенных параметров конфигурации в файлы *-site.xml |
Реализованы метки (labels) YARN Node |
Реализован HDFS HttpFS |
Реализована функция локального чтения для HDFS (HDFS Short-Circuit Local Reads) |
Реализован балансировщик дисков HDFS (HDFS Disk Balancer) |
Реализован балансировщик HDFS (HDFS Balancer) |
Файлы *-site.xml приведены к общему виду |
Функции assert и fail заменены на adcm_check |
Выполнен рефакторинг мониторинга: унифицированы код/панели инструментов, переработаны метрики и так далее |
Переменная имени хоста удалена из определения PID Zeppelin |
Дашборд HDFS разделен на панели HDFS и YARN в Grafana |
Изменены имена файлов Hadoop PID |
Выполнено ручное тестирование установки ADH 2.1 согласно документации |
2.1.0
Дата: 10.10.2019
Добавлена возможность получения статуса для следующих сервисов:
|
Добавлено управление следующими сервисами:
|
Добавлены скрипты развертывания для следующих сервисов:
|
Реализованы проверки для следующих сервисов:
|
Реализовано развертывание следующих сервисов:
|
Доступны следующие сборки:
|
Для следующих сервисов реализованы функции мониторинга:
|
Добавлены необходимые настройки для Hive/Tez |
В файл config.yml добавлен блок |
Добавлены необходимые настройки для сервисов Hadoop |
Добавлены быстрые ссылки на сервисы |
HDFS rack awareness реализовано с помощью кастомных скриптов |
Сервисы YARN и MapReduce объединены в один |
Реализован режим высокой доступности для Resource Manager |
Реализованы проверки на вывод из эксплуатации/повторный ввод в эксплуатацию (Decommission/Recommission) для NodeManagers |
Реализованы проверки на вывод из эксплуатации/повторный ввод в эксплуатацию (Decommission/Recommission) для DataNodes |
Zeppelin обновлен до версии 0.8.1 |
Поддержка Zeppelin реализована для ADCM |
Поддержка Tez UI реализована для ADCM |
Реализована возможность добавления нового Node Manager в ADH |
Реализована возможность добавления новых DataNodes в кластеры ADH |
Поддержка Spark реализована для ADCM |
Ranger обновлен до версии 1.1 |
Добавлена конфигурация кворума ZooKeeper |
Роль MySQL добавлена в бандл ADH (в виде сервиса) |
Реализовано несколько каталогов конфигурации для Nodes |
Включена агрегация журналов YARN |
Были пересмотрены роли Spark и Hive |
Роль Hadoop разделена на HDFS, YARN, MapReduce |
Роль Hadoop для ADCM изменена |
Добавлены отдельные роли для Hadoop |
Роль ZooKeeper-сервиса перенесена из ADS-бандла |
Выполнен рефакторинг базовых функций сервиса YARN |
Исправлена ошибка с отсутствием параметра |
Выполнена предрелизная подготовка для ADH 2.1.0 |
Файл EULA.txt добавлен в корень бандла |
Репозиторий для пакетов ZooKeeper добавлен в ADH |
Все подмодули ADH-бандла переключены в Master |
Подготовлена документация по выведению из эксплуатации/восстановлению/режиму высокой доступности (Decommission/Recomission/HA) |
Подготовлена документация по развертыванию HBase через ADCM |
Подготовлена документация по развертыванию Spark через ADCM |
Подготовлена документация по развертыванию Hive через ADCM |
Подготовлена документация по развертыванию YARN через ADCM |
Подготовлена документация по развертыванию HDFS через ADCM |
Подготовлена документация для ADH-бандла |
Реализованы автотесты для Spark |
Реализованы автотесты для Hive |
Реализованы автотесты для YARN |
Реализованы автотесты для HDFS |
Подготовлены smoke-тесты для проверки сервиса Livy Server |
Подготовлены smoke-тесты для проверки сервиса Spark Thrift Server |
Подготовлены smoke-тесты для проверки сервиса Livy Server |
Подготовлены smoke-тесты для проверки сервиса Spark Server |
Подготовлены smoke-тесты для проверки сервиса MySQL |
Подготовлены smoke-тесты для проверки сервиса HBase |
Подготовлены smoke-тесты для проверки сервиса Phoenix |
Подготовлены smoke-тесты для проверки сервиса Hive |
Подготовлены smoke-тесты для проверки сервиса HDFS |
Подготовлены последние стабильные сборки для ADH |