Кластерные действия

Дарья Барышева

Обзор

Управление кластером ADB осуществляется на странице Clusters в web-интерфейсе Arenadata Cluster Manager (ADCM).

Страница Clusters
Страница Clusters

Страница Clusters содержит таблицу со следующими столбцами:

  • Name — имя, присвоенное кластеру при создании.

  • State — текущий статус кластера.

  • Product — имя продукта.

  • Version — версия продуктового бандла, который был использован для установки или последнего обновления кластера.

  • Description — описание кластера, указанное при его создании.

  • Concerns. Если в конфигурации кластера обнаружены критичные ошибки или запущено блокирующее действие, в столбце отображается иконка concern red dark concern red light — при наведении на нее курсора показывается окно с описанием ошибки и ссылкой, по которой можно перейти, чтобы выполнить необходимую настройку или получить подробную информацию.

  • Actions. В столбце показываются иконки для управления кластером:

    • actions default dark actions default light — открывает список действий, доступных для работы с кластером.

      Открытие списка кластерных действий ADB
      Открытие списка доступных действий

    • upgrade default — указывает, доступна ли новая версия бандла, и позволяет запустить обновление кластера до новой версии.

    • delete default — удаляет информацию о кластере из ADCM (не удаляет ADB и не производит никаких изменений на хостах, относящихся к кластеру).

Используя приведенные выше иконки, можно запускать соответствующие кластерные действия в ADCM. При выборе действия отображается диалоговое окно для его подтверждения. В этом диалоговом окне можно установить флажок Verbose, чтобы просмотреть дополнительную информацию о выполнении действия на странице Jobs.

Стандартное окно для подтверждения действий без параметров
Стандартное окно для подтверждения действий без параметров

Для некоторых действий предварительно требуется ввести дополнительные параметры в отдельном окне. Начиная с версии ADCM 2.1.0 для подтверждения таких действий вместо отдельного окна, изображенного выше, используется вкладка Confirmation текущего окна, в котором вводятся параметры действия.

Вкладка Confirmation для подтверждения действий с параметрами
Вкладка Confirmation для подтверждения действий с параметрами

После того как действие запущено, ADCM отображает процесс его выполнения и результат на странице Jobs. С этой страницы можно перейти на страницу отдельной задачи (кликнув по имени задачи), чтобы увидеть внутренние этапы ее выполнения и проанализировать ошибки в случае их возникновения.

Страница задачи
Страница задачи

Набор кластерных действий (доступных при нажатии иконки actions default dark actions default light) определяется текущим статусом кластера ADB.

Доступные действия в зависимости от статуса ADB
Статус Условие Доступные действия

created

Кластер ADB создан в ADCM, но еще не установлен

installed

Кластер ADB успешно установлен в ADCM и запущен

stopped

Кластер ADB успешно установлен в ADCM и остановлен

activating_standby

В результате выполнения действия Activate standby активация резервного координатора выполнена успешно, но в процессе последующей настройки возникли некоторые ошибки

Действия Precheck и Install подробно описаны в статье Установка кластера. Прочие действия, доступные для уже установленного кластера, приведены ниже.

Activate standby

 

Действие Activate standby активирует резервный (standby) координатор в случае сбоев на действующем координаторе.

ВАЖНО

  • Активация standby-координатора возможна, когда хост действующего координатора недоступен. Если же хост координатора доступен, для переключения на standby необходимо предварительно остановить сервис ADB и установить флаг force activation в параметрах действия Activate standby. В иных случаях запуск действия завершается ошибкой.

  • При выполнении действия Activate standby сервисы ADB Control и ADBM должны быть запущены, т.к. требуется их реконфигурация. В противном случае запуск действия завершается ошибкой (однако ошибку можно исправить, запустив сервисы и применив действие Activate standby postprocess).

При выборе действия Activate standby открывается диалоговое окно, в котором можно указать следующие параметры:

  • force activation — флаг, определяющий необходимость принудительного переключения на резервный координатор, когда хост действующего координатора доступен, но процесс координатора внутри операционной системы остановлен;

  • run analyze — флаг, определяющий необходимость запуска ANALYZE после переключения на резервный координатор во всех базах кроме template0, template1 и postgres.

Окно для ввода параметров действия Activate standby
Окно для ввода параметров действия Activate standby

Для редактирования какого-либо параметра нажмите на его текущее значение и в открывшемся окне выберите новое значение, после чего нажмите кнопку Apply.

Ввод нового значения параметра
Ввод нового значения параметра

Для запуска действия Activate standby нажмите Run в исходном окне с параметрами, а затем подтвердите действие в открывшемся стандартном окне.

Во время выполнения действия кластер ADB находится в статусе activating_standby. Если действие завершается успешно, кластер переводится в статус running. Если активация standby выполнена, но в процессе последующей настройки возникают некоторые ошибки — кластер остается в статусе activating_standby, а в списке кластерных действий становится доступно действие Activate standby postprocess. В этом случае необходимо определить причину ошибки на странице Jobs, внести необходимые исправления и запустить Activate standby postprocess.

Постобработка

 

  • Для того чтобы на новом координаторе были созданы необходимые cron-задачи, примените следующие действия после завершения Activate standby:

    • Действие Reconfigure parameter archiving для кластера ADB — чтобы выгружать конфигурации ADB в соответствии с расписанием, настроенным с помощью кластерных параметров Parameter archiving/Parameter archiving job setting.

    • Действие Reconfigure для сервиса ADB — чтобы запускать скрипты, взаимодействующие со схемой arenadata_toolkit.

  • После того, как хост прежнего координатора вновь станет доступен (или сразу после завершения действия Activate standby, если переключение на резервный координатор не связано с недоступностью этого хоста), выполните на нем следующие шаги:

    • Удалите задачи cron, подключившись к хосту под администратором ADB (gpadmin по умолчанию). Это необходимо для предотвращения обращений к незапущенному процессу устаревшего координатора:

      $ sudo su - gpadmin
$ crontab -r

    • Переименуйте или удалите каталог координатора (/data1/master по умолчанию) для того, чтобы случайно не запустить устаревший координатор и иметь возможность расположить на этом хосте новый резервный координатор в будущем.

  • После переключения на standby-координатор старый координатор перестает участвовать в работе кластера ADB. При этом резервного координатора больше нет, так как он стал основным. Для создания нового standby-координатора необходимо запустить действие Init Standby Master.

Activate standby postprocess

 

Действие Activate standby postprocess становится доступно, если в результате выполнения Activate standby активация резервного координатора проведена успешно, но в процессе последующей настройки возникли некоторые ошибки. После их устранения необходимо запустить Activate standby postprocess, чтобы завершить обработку и перевести кластер ADB в работающее состояние (running).

При выборе действия Activate standby postprocess открывается диалоговое окно, в котором можно указать параметр run analyze, описание которого приведено выше для действия Activate standby.

Окно для ввода параметров действия Activate standby postprocess
Окно для ввода параметров действия Activate standby postprocess

Для запуска действия Activate standby postprocess нажмите Run в окне с параметрами, а затем подтвердите действие в открывшемся стандартном окне.

Init Standby Master

 

Действие Init Standby Master предназначено для добавления либо удаления резервного (standby) координатора из кластера ADB. После выбора действия необходимо выполнить следующие шаги:

  1. На вкладке Configuration открывшегося окна заполните параметры:

    • Reboot new servers after installation — флаг, определяющий необходимость автоматической перезагрузки хостов ADB после выполнения действия Init Standby Master. Если флаг сброшен, перезагрузку потребуется выполнить вручную.

    • Reboot timeout, sec — время ожидания перезагрузки хостов (в секундах).

      Окно для ввода параметров действия Init Standby Master
      Окно для ввода параметров действия Init Standby Master

      Для редактирования какого-либо параметра нажмите на его текущее значение и в открывшемся окне выберите новое значение, после чего нажмите кнопку Apply.

      Ввод нового значения параметра
      Ввод нового значения параметра

  2. Нажмите Next.

  3. На открывшейся вкладке Host - Component выполните одно из действий:

    • При добавлении резервного координатора — разместите компонент ADB Standby на отдельном хосте. Для этого нажмите Add hosts в секции компонента и выберите хост в открывшемся диалоговом окне.

      ПРИМЕЧАНИЕ

      Для размещения standby-координатора можно использовать хост, на котором ранее располагался основной координатор — до применения действия Activate standby. Для этого требуется предварительно переименовать или удалить каталог координатора (/data1/master по умолчанию) на выбранном хосте.
      Добавление Standby Master
      Добавление Standby Master

    • При удалении резервного координатора — нажмите Remove для хоста, назначенного компоненту ADB Standby.

      Удаление Standby Master
      Удаление Standby Master

  4. Нажмите Run.

  5. Подтвердите действие в открывшемся стандартном окне, нажав Run.

Move Host Segment

 

Действие Move Host Segment доступно в Enterprise-версии ADB и предназначено для перемещения сегментов с одного хоста кластера ADB на другой. После выбора действия необходимо выполнить следующие шаги:

  1. На вкладке Configuration открывшегося окна заполните параметры:

    • Source host — исходный хост, с которого требуется переместить сегменты с данными. Для выбора доступны хосты текущего кластера ADB, на которых установлен компонент ADB Segment.

    • Destination host — целевой хост, на который планируется переместить сегменты с исходного хоста. Для выбора доступны хосты текущего кластера ADB без компонента ADB Segment.

    • Reboot new segment host after installation — флаг, определяющий необходимость автоматической перезагрузки нового сегмент-хоста ADB после выполнения действия Move Host Segment. Если флаг сброшен, перезагрузку потребуется выполнить вручную для применения конфигурационных настроек.

    • Reboot timeout, sec — время ожидания перезагрузки сегмент-хоста (в секундах).

      Окно для ввода параметров действия Move Host Segment
      Окно для ввода параметров действия Move Host Segment

      Для редактирования какого-либо параметра нажмите на его текущее значение и в открывшемся окне выберите новое значение, после чего нажмите кнопку Apply.

      Выбор нового значения параметра
      Выбор нового значения параметра

  2. Нажмите Next.

  3. Подтвердите действие в открывшемся стандартном окне, нажав Run.

ПРИМЕЧАНИЕ

Наряду с непосредственным перемещением сегментов, в процессе выполнения действия Move Host Segment на новом сегмент-хосте автоматически осуществляется следующее:

  • Подготовка окружения, включая установку бинарных файлов ADB, применение необходимых конфигураций и т.д.

  • Установка дополнительных компонентов, присутствующих на сегмент-хостах текущего кластера (PXF, агенты ADB Control/ADBM, мониторинг и другое).

Expand

 

Действие Expand осуществляет расширение кластера ADB путем добавления новых сегмент-хостов.

Подготовка

Перед началом выполнения расширения кластера:

  1. Создайте и настройте необходимые хосты на странице Hosts в ADCM, используя один из доступных хостпровайдеров.

  2. Если хост был создан с помощью хостпровайдера SSH, примените действия Check connection и Install statuschecker. Проверьте, что действия завершены успешно и все хосты доступны.

  3. Убедитесь, что хосты добавлены в выбранный кластер ADB.

Новые хосты на странице Hosts
Новые хосты на странице Hosts
ВНИМАНИЕ

Если в кластере ADB используется зеркалирование (mirroring), число новых хостов должно быть достаточным для применения одной из его политик: spread или group. Если количество новых хостов больше числа сегментов на хост в используемой конфигурации, во время расширения кластера применяется spread-зеркалирование, иначе — group. При использовании политики зеркалирования group требуется не менее 2 новых хостов, в противном случае запуск действия завершится ошибкой: Not enough hosts for grouped mirroring. You must have at least 2.

Запуск действия

После выбора действия Expand необходимо выполнить следующие шаги:

  1. На вкладке Configuration открывшегося окна переведите в активное состояние переключатель Show advanced и заполните приведенные ниже параметры:

    • Reboot new servers after installation — флаг, определяющий необходимость автоматической перезагрузки хостов ADB с новыми компонентами после выполнения действия Expand. Перезагрузка требуется для применения значений некоторых параметров, изменяемых в процессе установки. Если флаг сброшен, перезагрузку потребуется выполнить вручную.

    • Reboot timeout, sec — время ожидания перезагрузки хостов (в секундах).

    • Additional primary segments count — количество primary-сегментов, которые необходимо дополнительно добавить на все хосты в кластере (включая уже существующие). Например, если в исходной конфигурации указано два primary-сегмента на хост и значение параметра 2 — на уже существующие хосты кластера будут добавлены два дополнительных primary-сегмента, на новые — четыре. Дополнительно, если в кластере используется зеркалирование, для каждого нового primary-сегмента также будут добавлены mirror-сегменты. Если увеличение количества сегментов не требуется, следует оставить значение по умолчанию — 0.

    • Attach new data catalog (optional) — директория, которая будет использоваться для хранения данных новых сегментов. Все используемые data-каталоги должны содержать одинаковое количество сегментов во избежание неравномерной нагрузки на дисковую подсистему. В ином случае подготовка к расширению завершается ошибкой. Если поле не заполнено (по умолчанию), сегменты равномерно распределяются по существующим каталогам данных.

    • Storage for data catalog (optional) — имя блочного устройства хранения данных для монтирования к директории Attach new data catalog (optional) на новых сегмент-хостах. Например, sdc (без указания префикса /dev).

    • Specify path for every non-default tablespace — пути к директориям для хранения данных табличных пространств (tablespace). Пути необходимо указать, если заполнен параметр Attach new data catalog (optional).

    • Check array — флаг, определяющий необходимость проверки того, что все сегмент-хосты имеют одинаковое количество primary-сегментов и сегментов-зеркал, а также одинаковые суффиксы имен сегментов вида -<n> (-1, -2, -3 и т.д.).

    • Directory for gpexpand tar file (optional) — полный путь к директории на сегмент-хостах, куда утилита gpexpand копирует временный TAR-архив. Архив содержит файлы базы данных, используемые для создания сегментов. По умолчанию используется домашняя директория пользователя.

      Окно для ввода параметров действия Expand
      Окно для ввода параметров действия Expand

      Для редактирования любого параметра (за исключением поля Specify path for every non-default tablespace, описанного ниже) нажмите на его текущее значение и в открывшемся окне выберите новое значение, после чего нажмите кнопку Apply.

      Ввод нового значения параметра
      Ввод нового значения параметра

      Для заполнения параметра Specify path for every non-default tablespace (как и любого иного, представляющего собой массив значений) разверните узел с именем параметра и нажмите Add property. В открывшемся диалоговом окне укажите имя tablespace в поле Enter field name и путь к директории в поле Enter field value. Нажмите Apply для сохранения данных.

      Переход к заполнению пути для tablespace
      Переход к заполнению пути для tablespace
      Заполнение пути для tablespace
      Заполнение пути для tablespace

  2. Нажмите Next.

  3. На открывшейся вкладке Host - Component сопоставьте компоненту ADB Segment новые сегмент-хосты. Для этого нажмите Add hosts в секции компонента и выберите хосты в открывшемся диалоговом окне.

    Назначение новых хостов компоненту ADB Segment
    Назначение новых хостов компоненту ADB Segment
    ВАЖНО

    Если в кластере используются сервисы PXF или Chrony, их компоненты (PXF, NTP Slave) также необходимо разместить на новых сегмент-хостах для корректного функционирования системы.

  4. После завершения распределения компонентов нажмите Run для запуска действия Expand.

  5. Подтвердите действие в открывшемся стандартном окне, нажав Run.

В ходе выполнения действия Expand запускается ряд проверок, после чего на добавленные хосты устанавливаются необходимые пакеты и производится их настройка. Затем в базе данных postgres создается временная схема gpexpand, объекты которой будут использоваться для хранения метаданных о таблицах, подлежащих перераспределению между сегментами кластера. После расширения кластера запустите действие Redistribute — оно становится доступным в сервисе ADB, если кластерное действие Expand было успешно выполнено. Запуск перераспределения необходим, поскольку в противном случае таблицы продолжат работать в пределах прежних сегмент-хостов без какого-либо увеличения производительности.

Синхронизация конфигураций PXF

Если в кластере ADB используется сервис PXF, после выполнения действия Expand необходимо скопировать конфигурационные файлы с профилями PXF на новые сегмент-хосты. В противном случае сторонние (foreign) таблицы перестанут работать. Для синхронизации PXF-конфигураций на всех сегмент-хостах можно выполнить следующие шаги:

  1. Подключитесь к хосту координатора ADB под пользователем gpadmin, который создается по умолчанию. Все команды, приведенные на шагах ниже, запускаются исключительно на хосте координатора:

    $ sudo su - gpadmin

  2. Для синхронизации конфигурационных файлов PXF на всех хостах кластера ADB выполните команду:

    $ pxf cluster sync

    Результат:

    Syncing PXF configuration files from coordinator host to standby coordinator host and 2 segment hosts...
PXF configs synced successfully on 3 out of 3 hosts

  3. Перезапустите сервис PXF:

    $ pxf cluster restart

    Результат:

    Restarting PXF on coordinator host, standby coordinator host, and 2 segment hosts...
PXF restarted successfully on 4 out of 4 hosts

Reinstall

 

Действие Reinstall переустанавливает кластер ADB. При выборе действия открывается диалоговое окно, в котором можно ввести следующие параметры:

  • Reboot cluster servers after installation — флаг, определяющий необходимость автоматической перезагрузки хостов ADB после выполнения действия Reinstall. Если флаг сброшен, перезагрузку потребуется выполнить вручную.

  • Reboot timeout, sec — время ожидания перезагрузки хостов (в секундах).

Окно для ввода параметров действия Reinstall
Окно для ввода параметров действия Reinstall

Для редактирования какого-либо параметра нажмите на его текущее значение и в открывшемся окне выберите новое значение, после чего нажмите кнопку Apply.

Ввод нового значения параметра
Ввод нового значения параметра

Для запуска действия Reinstall нажмите Run в исходном окне с параметрами, а затем подтвердите действие в открывшемся стандартном окне.

Reinstall statuschecker

 

Действие Reinstall statuschecker перенастраивает и перезапускает службу проверки состояния (statuschecker) для всех сервисов кластера. Используется в случае миграции кластера под управление нового сервера ADCM.

После выбора действия открывается стандартное окно подтверждения, в котором следует нажать Run. Ввод дополнительных параметров не требуется.

Reconfigure Vault integration

 

Действие Reconfigure Vault integration доступно в Enterprise-версии ADB и предназначено для применения изменений к параметрам Vault integration, редактирование которых доступно на вкладке Configuration на странице кластера. Эти параметры определяют необходимость хранения секретов сервисов ADB в HashiCorp Vault.

После выбора действия открывается стандартное окно подтверждения, в котором следует нажать Run. Ввод дополнительных параметров не требуется.

ВАЖНО

  • Перед вводом интеграционных параметров убедитесь, что Vault предварительно установлен и сконфигурирован.

  • После каждого изменения и сохранения значений параметров из секции Vault integration необходимо запускать кластерное действие Reconfigure Vault integration.

  • В настоящий момент Vault может использоваться для хранения параметров аутентификации сервисов ADB Control и ADBM.

  • При необходимости сохранения в Vault учетных данных для баз данных ADB Control Query DB и Metrics DB эти базы должны быть настроены как внешние.

Reconfigure parameter archiving

 

Действие Reconfigure parameter archiving предназначено для применения изменений к параметрам Parameter archiving/Parameter archiving job setting, редактирование которых доступно на вкладке Configuration на странице кластера. Эти параметры определяют необходимость выгрузки конфигураций ADB в соответствии с настроенным расписанием.

После выбора действия открывается стандартное окно подтверждения, в котором следует нажать Run. Ввод дополнительных параметров не требуется.

ВАЖНО

После каждого изменения и сохранения значений полей Parameter archiving и Parameter archiving job setting необходимо запускать кластерное действие Reconfigure parameter archiving.

Check

 

Действие Check проверяет соответствие настроек хостов, сервисов и компонентов требованиям кластера ADB (аналогично действию Precheck) и дополнительно анализирует, работают ли установленные компоненты кластера правильно.

После выбора действия открывается стандартное окно подтверждения, в котором следует нажать Run. Ввод дополнительных параметров не требуется.

Start

 

Действие Start запускает все сервисы остановленного кластера ADB.

После выбора действия открывается стандартное окно подтверждения, в котором следует нажать Run. Ввод дополнительных параметров не требуется.

После успешного применения действия Start кластер ADB переводится в статус running.

Stop

 

Действие Stop останавливает все сервисы работающего кластера ADB. При выборе действия открывается диалоговое окно, в котором можно выбрать режим остановки кластера ADB shutdown mode:

  • fast — принудительная остановка кластера после прерывания и отката выполняющихся транзакций, а также закрытия всех активных соединений. Этот режим используется по умолчанию.

  • smart — остановка только в случае отсутствия клиентских соединений к базе данных. Иначе действие завершается с предупреждением.

  • immediate — принудительное завершение процессов postgres без корректной обработки активных транзакций. Этот режим не рекомендуется к использованию, так как в некоторых случаях может привести к повреждению базы данных.

Окно для ввода параметров действия Stop
Окно для ввода параметров действия Stop

Для редактирования режима остановки кластера нажмите на текущее значение поля ADB shutdown mode и в открывшемся окне выберите новое значение, после чего нажмите кнопку Apply.

Выбор режима остановки кластера
Выбор режима остановки кластера

Для запуска действия Stop нажмите Run в исходном окне с параметрами, а затем подтвердите действие в открывшемся стандартном окне.

После успешного применения действия Stop кластер ADB переводится в статус stopped.

Upgrade

 

Для обновления кластера ADB выполните следующие шаги:

  1. Загрузите бандл ADB нужной версии (см. разделы Шаг 1. Загрузка бандла и Шаг 2. Загрузка бандла в ADCM в статье Создание кластера). В результате бандл отображается на странице Bundles в ADCM.

    Бандл ADB на странице Bundles
    Бандл ADB на странице Bundles

  2. На странице Clusters нажмите на иконку upgrade default в строке с кластером ADB, который требуется обновить. Иконка становится активной после успешной загрузки бандла на предыдущем шаге. При этом версия загруженного бандла должна быть больше, чем текущая версия кластера.

    Нажатие на иконку Upgrade
    Нажатие на иконку Upgrade

  3. В открывшемся диалоговом окне выберите версию бандла в поле Upgrade to version и нажмите Upgrade.

    Запуск обновления
    Запуск обновления

  4. Подтвердите действие в открывшемся окне, нажав Run.

    Подтверждение запуска обновлению
    Подтверждение запуска обновления

    В случае успешного обновления версия кластера ADB актуализируется на странице Clusters.

    Действие Upgrade завершено
    Действие Upgrade завершено
Нашли ошибку? Выделите текст и нажмите Ctrl+Enter чтобы сообщить о ней