Конфигурационные параметры Ozone

Для конфигурации сервиса используйте следующие параметры, доступные в ADCM.

ПРИМЕЧАНИЕ
  • Некоторые из перечисленных параметров становятся доступны в UI ADCM после установки флага Advanced.

  • Значения, установленные в Custom-параметрах, перепишут текущие значения параметров, даже если они read-only.

Параметр Описание Значение по умолчанию

ad-runtime-utils

Файл конфигурации YAML, содержащий параметры установки Java: версию, путь установки и переменную среды

ozone-env.sh

Содержимое файла ozone-env.sh, в котором заданы индивидуальные переменные окружения сервиса Ozone

Topology script

Содержимое скрипта, который должен быть вызван при разрешении DNS-имен в NetworkTopology-имена. Пример: скрипт принимает в качестве аргумента host.foo.bar и возвращает в качестве результата /rack1

 — 

Topology data

Необязательный дополнительный текстовый файл со списком соответствий сетевых имен и номеров стоек для скрипта топологии. Будет расположен в /etc/hadoop/conf/topology.data

 — 

Ranger plugin enabled

Определяет, включен ли плагин Ranger для Ozone

false

ozone-site.xml
Параметр Описание Значение по умолчанию

ozone.administrators

Список разделенных запятыми принципалов пользователей, имеющих права администратора в Ozone

om

ozone.administrators.groups

Список разделенных запятыми групп пользователей, участники которых имеют права администратора в Ozone

hadoop

ozone.replication

Фактор репликации данных в Ozone по умолчанию. Более высокие значения обеспечивают более высокую избыточность

3

ozone.service.id

Уникальный идентификатор сервиса Ozone, используемый для мультикластерных конфигураций

 — 

ozone.http.basedir

Базовая директория HTTP Jetty server для извлечения компонентов

/srv/ozone/meta/webserver

ozone.network.topology.aware.read

Определяет необходимость чтения данных из ближайшего пайплайна

false

ozone.security.enabled

Определяет использование безопасных подключений для Ozone

false

hadoop.security.authentication

Механизм аутентификации для Hadoop и Ozone

simple

ozone.security.http.kerberos.enabled

Определяет использование HTTP-аутентификации на основе Kerberos для сервисов Ozone

false

ozone.http.filter.initializers

Инициализатор HTTP-фильтра для Kerberos-аутентификации

 — 

ozone.http.policy

Определяет инициализатор HTTP-фильтра для Kerberos-аутентификации

HTTP_ONLY

hdds.grpc.tls.enabled

Определяет, используется ли TLS для коммуникации HDDS GRPC-сервера

false

ozone.https.client.need-auth

Определяет, должны ли HTTPS-клиенты использовать сертификаты для аутентификации

false

ssl-server.xml
Параметр Описание Значение по умолчанию

hdds.prometheus.endpoint.enabled

Включает эндпоинт Prometheus для HDDS

false

ssl.server.keystore.location

Путь к файлу keystore

 — 

ssl.server.keystore.password

Пароль к файлу keystore

 — 

ssl.server.truststore.location

Путь к файлу truststore

 — 

ssl.server.truststore.password

Пароль для файла truststore

 — 

ranger-ozone-audit.xml
Параметр Описание Значение по умолчанию

xasecure.audit.destination.solr.batch.filespool.dir

Путь к spool-каталогу

/srv/ranger/ozone_plugin/audit_solr_spool

xasecure.audit.destination.solr.urls

URL сервера Solr для сохранения аудит-событий. Оставьте значение пустым или установите значение NONE при использовании ZooKeeper для подключения к Solr

 — 

xasecure.audit.destination.solr.zookeepers

Указывает строку для подключения ZooKeeper к Solr

 — 

xasecure.audit.destination.solr.force.use.inmemory.jaas.config

Определяет, использовать ли in-memory JAAS-файл для соединения с Solr

 — 

xasecure.audit.is.enabled

Активирует аудит Ranger

true

xasecure.audit.jaas.Client.loginModuleControlFlag

Определяет требование к успешному завершению работы модуля. Возможные значения: required, requisite, sufficient, optional

 — 

xasecure.audit.jaas.Client.loginModuleName

Имя класса-аутентификатора

 — 

xasecure.audit.jaas.Client.option.keyTab

Имя keytab-файла, из которого необходимо получить секретный ключ принципала

 — 

xasecure.audit.jaas.Client.option.principal

Имя используемого принципала

 — 

xasecure.audit.jaas.Client.option.serviceName

Имя пользователя или сервиса, для которого выполняется вход

 — 

xasecure.audit.jaas.Client.option.storeKey

Установите значение true, чтобы keytab-файл или ключ принципала сохранялись в учетных данных субъекта

false

xasecure.audit.jaas.Client.option.useKeyTab

Установите значение true, чтобы модуль получал ключ принципала из keytab-файла

false

ranger-ozone-security.xml
Параметр Описание Значение по умолчанию

ranger.plugin.ozone.policy.rest.url

URL для Ranger Admin

 — 

ranger.plugin.ozone.service.name

Имя сервиса Ranger, хранящего политики для данного экземпляра Ozone

 — 

ranger.plugin.ozone.policy.cache.dir

Директория, в которой хранятся политики Ranger после успешного извлечения из источника

/srv/ranger/ozone/policycache

ranger.plugin.ozone.policy.pollIntervalMs

Период проверки политик на актуальность в миллисекундах

30000

ranger.plugin.ozone.policy.rest.client.connection.timeoutMs

Тайм-аут соединения клиента Ranger REST в миллисекундах

120000

ranger.plugin.ozone.policy.rest.client.read.timeoutMs

Тайм-аут чтения клиента Ranger REST в миллисекундах

30000

ranger.plugin.ozone.policy.rest.ssl.config.file

Путь к конфигурационному файлу RangerRestClient SSL-плагина Hive

/etc/hbase/conf/ranger-hbase-policymgr-ssl.xml

ranger-ozone-policymgr-ssl.xml
Параметр Описание Значение по умолчанию

xasecure.policymgr.clientssl.keystore

Путь к keystore-файлу, который использует Ranger

 — 

xasecure.policymgr.clientssl.keystore.credential.file

Путь к файлу с паролями для keystore-файла

/etc/ozone/conf/ranger-ozone.jceks

xasecure.policymgr.clientssl.truststore.credential.file

Путь к truststore-файлу с учетными данными

/etc/ozone/conf/ranger-ozone.jceks

xasecure.policymgr.clientssl.truststore

Путь к truststore-файлу, который использует Ranger

 — 

xasecure.policymgr.clientssl.keystore.password

Пароль для доступа к keystore-файлу

 — 

xasecure.policymgr.clientssl.truststore.password

Пароль для доступа к truststore-файлу

 — 

Credential encryption
Параметр Описание Значение по умолчанию

Encryption enable

Определяет использование шифрования для учетных данных

false

Credential provider path

Путь к провайдеру учетных данных для создания .jceks-файлов, содержащих закрытые ключи

jceks://file/etc/ozone/conf/ozone.jceks

Ranger plugin credential provider path

Путь к провайдеру учетных данных плагина Ranger

jceks://file/etc/ozone/conf/ranger-ozone.jceks

Custom jceks

Определяет, используются ли кастомные .jceks-файлы, расположенные по пути провайдера учетных данных (true) или автосгенерированные (false)

false

Password file name

Имя файла пароля в classpath сервиса, если файл пароля выбран в настройках credstore

ozone_credstore_pass

Другие параметры
Параметр Описание Значение по умолчанию

Custom ozone-site.xml

В этой секции вы можете указать значения для кастомных параметров, которые не отображаются в интерфейсе ADCM, но могут присутствовать в конфигурационном файле ozone-site.xml

 — 

Custom ssl-server.xml.xml

В этой секции вы можете указать значения для кастомных параметров, которые не отображаются в интерфейсе ADCM, но могут присутствовать в конфигурационном файле ssl-server.xml.xml

 — 

Custom ranger-ozone-audit.xml

В этой секции вы можете указать значения для кастомных параметров, которые не отображаются в интерфейсе ADCM, но могут присутствовать в конфигурационном файле ranger-ozone-audit.xml

 — 

Custom ranger-ozone-security.xml

В этой секции вы можете указать значения для кастомных параметров, которые не отображаются в интерфейсе ADCM, но могут присутствовать в конфигурационном файле ranger-ozone-security.xml

 — 

Custom ranger-ozone-policymgr-ssl.xml

В этой секции вы можете указать значения для кастомных параметров, которые не отображаются в интерфейсе ADCM, но могут присутствовать в конфигурационном файле ranger-ozone-policymgr-ssl.xml

 — 

Компонент Ozone Datanode
ozone-site.xml
Параметр Описание Значение по умолчанию

hdds.datanode.http-address

HTTP-адрес веб-интерфейса Datanode

0.0.0.0:9882

hdds.datanode.https-address

HTTPS-адрес веб-интерфейса Datanode

0.0.0.0:9883

ozone.scm.datanode.id.dir

Путь к директории, в которой Datanode хранит свой файл с уникальным идентификатором

/srv/ozone/meta/node

hdds.datanode.dir

Определяет, где в локальной файловой системе Datanode должен хранить свои блоки. Если указаны несколько каталогов, то данные будут храниться во всех именованных каталогах, как правило, на разных устройствах. Каталоги должны быть помечены соответствующими типами хранилища (SSD/DISK/ARCHIVE/RAM_DISK). Типом хранилища по умолчанию служит DISK, если каталог не имеет явного тега типа хранилища. Несуществующие каталоги будут созданы, если имеются соответствующие права локальной файловой системы

/srv/ozone/data:DISK

hdds.datanode.container.db.dir

Определяет, где в локальной файловой системе Datanode должен хранить файлы контейнеров БД. Если указаны несколько каталогов, то данные будут храниться во всех именованных каталогах, как правило, на разных устройствах. Каталоги должны быть помечены соответствующими типами хранилища (SSD/DISK/ARCHIVE/RAM_DISK). Типом хранилища по умолчанию служит DISK, если каталог не имеет явного тега типа хранилища. Несуществующие каталоги будут созданы, если имеются соответствующие права локальной файловой системы

/srv/ozone/data/db:DISK

hdds.container.ratis.datanode.storage.dir

Путь к директории для хранения логов Ratis для Datanode

/srv/ozone/data/logs

hdds.container.ratis.enabled

Определяет, используется ли Ratis для Datanode для обеспечения режима высокой доступности и для репликации

true

hdds.container.ratis.datastream.enabled

Определяет, поддерживается ли DataStream в Ratis для эффективного обмена данными между экземплярами Datanode

true

hdds.container.ratis.datastream.port

Порт, используемый для Ratis DataStream на Datanode

9855

ozone.fs.datastream.enabled

Определяет, используется ли для Ozone обмен данными через файловую систему

true

ozone.container.cache.size

Размер кеша контейнера для метаданных и других часто используемых данных, в мегабайтах

8192

ozone.container.cache.lock.stripes

Количество lock stripe для кеша контейнера. Используется для управления параллельным доступом

8192

hdds.datanode.du.factory.classname

Определяет фабричный класс для подсчета использования дискового пространства на Datanode

org.apache.hadoop.hdds.fs.DedicatedDiskSpaceUsageFactory

hdds.container.report.interval

Интервал, через который Datanode отправляет в Storage Container Manager отчеты о контейнерах

10m

hdds.container.ratis.leader.pending.bytes.limit

Ограничение на количество ожидаемых данных для ведущего Ratis в Datanode

2GB

ozone.recon.address

Адрес для подключения к серверу Recon для передачи метрик и отчетов Datanode

{{ groups['ozone.ozone_recon'][0] | d('0.0.0.0') }}:9891

dfs.datanode.kerberos.principal

Kerberos-принципал сервиса Datanode

 — 

dfs.datanode.kerberos.keytab.file

Путь к keytab-файлу, который демон Datanode использует как принципал сервиса для авторизации

 — 

hdds.datanode.http.auth.type

Механизм аутентификации для HTTP-сервера Datanode

 — 

hdds.datanode.http.auth.kerberos.principal

Принципал сервиса HTTP-сервера Datanode

 — 

hdds.datanode.http.auth.kerberos.keytab

Путь к keytab-файлу, который HTTP-сервер Datanode использует как принципал сервиса для авторизации

 — 

Другие параметры
Параметр Описание Значение по умолчанию

Custom ozone-site.conf

В этой секции вы можете указать значения для кастомных параметров, которые не отображаются в интерфейсе ADCM, но могут присутствовать в конфигурационном файле ozone-site.xml

 — 

Enable custom ulimits

Включение этой опции позволяет указать ограничения на использование ресурсов для процесса (ulimits). Если значения не указаны, будут использованы системные настройки по умолчанию. Настройки ulimit описаны в таблице ниже

[Service]
LimitCPU=
LimitFSIZE=
LimitDATA=
LimitSTACK=
LimitCORE=
LimitRSS=
LimitNOFILE=
LimitAS=
LimitNPROC=
LimitMEMLOCK=
LimitLOCKS=
LimitSIGPENDING=
LimitMSGQUEUE=
LimitNICE=
LimitRTPRIO=
LimitRTTIME=
Ulimit settings
Параметр Описание Соответствующая опция команды ulimit в CentOS

LimitCPU

Ограничение в секундах на количество процессорного времени, которое может потреблять процесс

cpu time ( -t)

LimitFSIZE

Максимальный размер файлов, которые может создать процесс, в блоках по 512 байт

file size ( -f)

LimitDATA

Максимальный размер сегмента данных процесса, в килобайтах

data seg size ( -d)

LimitSTACK

Максимальный размер стека, выделенный процессу, в килобайтах

stack size ( -s)

LimitCORE

Максимальный размер файла дампа (core dump) в байтах, который процесс может сохранить, в блоках по 512 байт

core file size ( -c)

LimitRSS

Максимальное количество памяти RAM (resident set size), которое может быть выделено процессу, в килобайтах

max memory size ( -m)

LimitNOFILE

Максимальное количество дескрипторов открытых файлов, разрешенное для процесса

open files ( -n)

LimitAS

Максимальный размер виртуальной памяти (адресного пространства) процесса, в килобайтах

virtual memory ( -v)

LimitNPROC

Максимальное количество процессов

max user processes ( -u)

LimitMEMLOCK

Максимальный размер памяти, который может быть заблокирован для процесса, в килобайтах. Блокировка памяти гарантирует, что память всегда находится в оперативной памяти (RAM) и файл подкачки не используется

max locked memory ( -l)

LimitLOCKS

Максимальное количество файлов, заблокированных процессом

file locks ( -x)

LimitSIGPENDING

Максимальное количество сигналов, ожидающих доставки в вызывающий поток

pending signals ( -i)

LimitMSGQUEUE

Максимальное количество байтов в очередях сообщений POSIX. Очереди сообщений POSIX позволяют процессам обмениваться данными в форме сообщений

POSIX message queues ( -q)

LimitNICE

Максимальный уровень приоритета NICE, который может быть назначен процессу

scheduling priority ( -e)

LimitRTPRIO

Максимальный приоритет планирования в реальном времени

real-time priority ( -r)

LimitRTTIME

Максимальный размер буфера конвейера (pipe), в блоках по 512 байт

pipe size ( -p)

Компонент Ozone HttpFS
httpfs-env.sh
Параметр Описание Значение по умолчанию

HTTPFS_CONFIG

Путь к директории с конфигурационными файлами HttpFS

${OZONE_CONF_DIR}

HTTPFS_LOG

Путь к директории с журналами HttpFS

${OZONE_LOG_DIR}

HTTPFS_TEMP

Путь к временной директории HttpFS

${OZONE_LOG_DIR}

HADOOP_PID_DIR

Путь к директории, в которой HttpFS хранит файлы идентификаторов процессов

${OZONE_LOG_DIR}

HDFS_HTTPFS_OPTS

Опции JVM для сервиса HttpFS

-Xms700m -Xmx8G

httpfs-site.xml
Параметр Описание Значение по умолчанию

httpfs.http.port

Порт сервиса HttpFS

14001

hadoop.http.temp.dir

Путь к временной директории сервиса HttpFS

${hadoop.tmp.dir}/httpfs

httpfs.hadoop.config.dir

Путь к конфигурационной директории Hadoop для HttpFS

/etc/ozone/conf

httpfs.http.administrators

Список администраторов сервиса HttpFS

*

httpfs.proxyuser.om.groups

Список групп пользователей для аутентификации Ozone Manager в HttpFS

*

httpfs.proxyuser.om.hosts

Список хостов для аутентификации Ozone Manager в HttpFS

*

httpfs.proxyuser.hue.groups

Список групп пользователей для аутентификации HUE в HttpFS

*

httpfs.proxyuser.hue.hosts

Список хостов для аутентификации HUE в HttpFS

*

httpfs.hadoop.authentication.kerberos.keytab

Файл keytab для Kerberos-аутентификации Ozone Manager в HttpFS

 — 

httpfs.hadoop.authentication.kerberos.principal

Принципал Kerberos для аутентификации Ozone Manager в HttpFS

 — 

httpfs.hadoop.authentication.type

Механизм аутентификации для Ozone Manager

simple

hadoop.http.authentication.kerberos.keytab

Путь к файлу keytab для Kerberos-аутентификации HttpFS

 — 

hadoop.http.authentication.kerberos.principal

Принципал Kerberos для аутентификации HttpFS

 — 

hadoop.http.authentication.type

Механизм аутентификации для HttpFS

simple

httpfs.ssl.enabled

Определяет, используется ли SSL для HttpFS

false

Другие параметры
Параметр Описание Значение по умолчанию

Custom httpfs-env.sh

В этой секции вы можете указать значения для кастомных параметров, которые не отображаются в интерфейсе ADCM, но могут присутствовать в конфигурационном файле httpfs-env.sh

 — 

Custom httpfs-site.xml

В этой секции вы можете указать значения для кастомных параметров, которые не отображаются в интерфейсе ADCM, но могут присутствовать в конфигурационном файле httpfs-site.xml

 — 

Enable custom ulimits

Включение этой опции позволяет указать ограничения на использование ресурсов для процесса (ulimits). Если значения не указаны, будут использованы системные настройки по умолчанию. Настройки ulimit описаны в таблице ниже

[Service]
LimitCPU=
LimitFSIZE=
LimitDATA=
LimitSTACK=
LimitCORE=
LimitRSS=
LimitNOFILE=
LimitAS=
LimitNPROC=
LimitMEMLOCK=
LimitLOCKS=
LimitSIGPENDING=
LimitMSGQUEUE=
LimitNICE=
LimitRTPRIO=
LimitRTTIME=
Ulimit settings
Параметр Описание Соответствующая опция команды ulimit в CentOS

LimitCPU

Ограничение в секундах на количество процессорного времени, которое может потреблять процесс

cpu time ( -t)

LimitFSIZE

Максимальный размер файлов, которые может создать процесс, в блоках по 512 байт

file size ( -f)

LimitDATA

Максимальный размер сегмента данных процесса, в килобайтах

data seg size ( -d)

LimitSTACK

Максимальный размер стека, выделенный процессу, в килобайтах

stack size ( -s)

LimitCORE

Максимальный размер файла дампа (core dump) в байтах, который процесс может сохранить, в блоках по 512 байт

core file size ( -c)

LimitRSS

Максимальное количество памяти RAM (resident set size), которое может быть выделено процессу, в килобайтах

max memory size ( -m)

LimitNOFILE

Максимальное количество дескрипторов открытых файлов, разрешенное для процесса

open files ( -n)

LimitAS

Максимальный размер виртуальной памяти (адресного пространства) процесса, в килобайтах

virtual memory ( -v)

LimitNPROC

Максимальное количество процессов

max user processes ( -u)

LimitMEMLOCK

Максимальный размер памяти, который может быть заблокирован для процесса, в килобайтах. Блокировка памяти гарантирует, что память всегда находится в оперативной памяти (RAM) и файл подкачки не используется

max locked memory ( -l)

LimitLOCKS

Максимальное количество файлов, заблокированных процессом

file locks ( -x)

LimitSIGPENDING

Максимальное количество сигналов, ожидающих доставки в вызывающий поток

pending signals ( -i)

LimitMSGQUEUE

Максимальное количество байтов в очередях сообщений POSIX. Очереди сообщений POSIX позволяют процессам обмениваться данными в форме сообщений

POSIX message queues ( -q)

LimitNICE

Максимальный уровень приоритета NICE, который может быть назначен процессу

scheduling priority ( -e)

LimitRTPRIO

Максимальный приоритет планирования в реальном времени

real-time priority ( -r)

LimitRTTIME

Максимальный размер буфера конвейера (pipe), в блоках по 512 байт

pipe size ( -p)

Компонент Ozone Manager
ozone-site.xml
Параметр Описание Значение по умолчанию

ozone.om.address

Адрес Ozone Manager

0.0.0.0:9862

ozone.om.enable.filesystem.paths

Определяет, используются ли операции path-style в файловой системе

true

ozone.om.http-address

HTTP-адрес веб-интерфейса Ozone Manager

0.0.0.0:9874

ozone.om.https-address

HTTPS-адрес веб-интерфейса Ozone Manager

0.0.0.0:9875

ozone.om.ratis.port

Порт для коммуникации с Ratis, используемый Ozone Manager

9858

ozone.om.db.dirs

Путь к директории, в которой Ozone Manager хранит свои файлы БД

/srv/ozone/meta/db

ozone.om.db.dirs.permissions

Определяет режим доступа к директории, заданной в параметре ozone.om.db.dirs

750

ozone.metadata.dirs

Путь к директории для хранилища общих метаданных в Ozone

/srv/ozone/meta

ozone.metadata.dirs.permissions

Определяет режим доступа к директории, заданной в параметре ozone.metadata.dirs

750

ozone.om.snapshot.diff.db.dir

Путь к директории для хранения БД различий между снепшотами для Ozone Manager

/srv/ozone/meta/snapshot

ozone.om.ratis.enable

Определяет, используется ли основанная на Ratis репликация для Ozone Manager для обеспечения режима высокой доступности

true

ozone.om.service.ids

Идентификаторы для сервисов Ozone Manager, используемые в инсталляциях с множественными экземплярами для обеспечения режима высокой доступности

 — 

ozone.om.kerberos.principal

Принципал сервиса Ozone Manager

 — 

ozone.om.kerberos.keytab.file

Путь к keytab-файлу, который демон Ozone Manager использует как принципал сервиса для авторизации

 — 

ozone.om.http.auth.type

Механизм аутентификации для HTTP-сервера Ozone Manager

simple

ozone.om.http.auth.kerberos.principal

Принципал сервиса HTTP-сервера Ozone Manager при включенном SPNEGO

 — 

ozone.om.http.auth.kerberos.keytab

Путь к файлу keytab, который HTTP-сервер Ozone Manager использует как принципал сервиса для авторизации при включенном SPNEGO

 — 

Другие параметры
Параметр Описание Значение по умолчанию

Custom ozone-site.conf

В этой секции вы можете указать значения для кастомных параметров, которые не отображаются в интерфейсе ADCM, но могут присутствовать в конфигурационном файле ozone-site.xml

 — 

Enable custom ulimits

Включение этой опции позволяет указать ограничения на использование ресурсов для процесса (ulimits). Если значения не указаны, будут использованы системные настройки по умолчанию. Настройки ulimit описаны в таблице ниже

[Service]
LimitCPU=
LimitFSIZE=
LimitDATA=
LimitSTACK=
LimitCORE=
LimitRSS=
LimitNOFILE=
LimitAS=
LimitNPROC=
LimitMEMLOCK=
LimitLOCKS=
LimitSIGPENDING=
LimitMSGQUEUE=
LimitNICE=
LimitRTPRIO=
LimitRTTIME=
Ulimit settings
Параметр Описание Соответствующая опция команды ulimit в CentOS

LimitCPU

Ограничение в секундах на количество процессорного времени, которое может потреблять процесс

cpu time ( -t)

LimitFSIZE

Максимальный размер файлов, которые может создать процесс, в блоках по 512 байт

file size ( -f)

LimitDATA

Максимальный размер сегмента данных процесса, в килобайтах

data seg size ( -d)

LimitSTACK

Максимальный размер стека, выделенный процессу, в килобайтах

stack size ( -s)

LimitCORE

Максимальный размер файла дампа (core dump) в байтах, который процесс может сохранить, в блоках по 512 байт

core file size ( -c)

LimitRSS

Максимальное количество памяти RAM (resident set size), которое может быть выделено процессу, в килобайтах

max memory size ( -m)

LimitNOFILE

Максимальное количество дескрипторов открытых файлов, разрешенное для процесса

open files ( -n)

LimitAS

Максимальный размер виртуальной памяти (адресного пространства) процесса, в килобайтах

virtual memory ( -v)

LimitNPROC

Максимальное количество процессов

max user processes ( -u)

LimitMEMLOCK

Максимальный размер памяти, который может быть заблокирован для процесса, в килобайтах. Блокировка памяти гарантирует, что память всегда находится в оперативной памяти (RAM) и файл подкачки не используется

max locked memory ( -l)

LimitLOCKS

Максимальное количество файлов, заблокированных процессом

file locks ( -x)

LimitSIGPENDING

Максимальное количество сигналов, ожидающих доставки в вызывающий поток

pending signals ( -i)

LimitMSGQUEUE

Максимальное количество байтов в очередях сообщений POSIX. Очереди сообщений POSIX позволяют процессам обмениваться данными в форме сообщений

POSIX message queues ( -q)

LimitNICE

Максимальный уровень приоритета NICE, который может быть назначен процессу

scheduling priority ( -e)

LimitRTPRIO

Максимальный приоритет планирования в реальном времени

real-time priority ( -r)

LimitRTTIME

Максимальный размер буфера конвейера (pipe), в блоках по 512 байт

pipe size ( -p)

Компонент Ozone Recon
ozone-site.xml
Параметр Описание Значение по умолчанию

ozone.recon.db.dir

Путь к директории, в которой Recon хранит свои файлы БД для метрик и отчетов

/srv/ozone/recon/db

ozone.recon.task.pipelinesync.interval

Интервал для задачи синхронизации информации конвейеров от компонента Storage Container Manager

120s

ozone.recon.task.missingcontainer.interval

Интервал, используемый для запуска проверки отсутствующих контейнеров в кластере и формирования отчетов об этом

3600s

ozone.recon.http-address

HTTP-адрес веб-интерфейса Recon, используемый для просмотра метрик и отчетов для кластера Ozone

0.0.0.0:9888

ozone.recon.https-address

HTTPS-адрес веб-интерфейса Recon

0.0.0.0:9889

ozone.recon.kerberos.principal

Принципал сервиса Recon

 — 

ozone.recon.kerberos.keytab.file

Путь к keytab-файлу, который демон Recon использует как принципал сервиса для авторизации

 — 

ozone.recon.http.auth.type

Механизм аутентификации для HTTP-сервера Recon

simple

ozone.recon.http.auth.kerberos.principal

Принципал сервиса HTTP-сервера Recon для Kerberos-аутентификации

 — 

ozone.recon.http.auth.kerberos.keytab

Путь к файлу keytab, который HTTP-сервер Recon использует как принципал сервиса для авторизации

 — 

Другие параметры
Параметр Описание Значение по умолчанию

Custom ozone-site.conf

В этой секции вы можете указать значения для кастомных параметров, которые не отображаются в интерфейсе ADCM, но могут присутствовать в конфигурационном файле ozone-site.xml

 — 

Enable custom ulimits

Включение этой опции позволяет указать ограничения на использование ресурсов для процесса (ulimits). Если значения не указаны, будут использованы системные настройки по умолчанию. Настройки ulimit описаны в таблице ниже

[Service]
LimitCPU=
LimitFSIZE=
LimitDATA=
LimitSTACK=
LimitCORE=
LimitRSS=
LimitNOFILE=
LimitAS=
LimitNPROC=
LimitMEMLOCK=
LimitLOCKS=
LimitSIGPENDING=
LimitMSGQUEUE=
LimitNICE=
LimitRTPRIO=
LimitRTTIME=
Ulimit settings
Параметр Описание Соответствующая опция команды ulimit в CentOS

LimitCPU

Ограничение в секундах на количество процессорного времени, которое может потреблять процесс

cpu time ( -t)

LimitFSIZE

Максимальный размер файлов, которые может создать процесс, в блоках по 512 байт

file size ( -f)

LimitDATA

Максимальный размер сегмента данных процесса, в килобайтах

data seg size ( -d)

LimitSTACK

Максимальный размер стека, выделенный процессу, в килобайтах

stack size ( -s)

LimitCORE

Максимальный размер файла дампа (core dump) в байтах, который процесс может сохранить, в блоках по 512 байт

core file size ( -c)

LimitRSS

Максимальное количество памяти RAM (resident set size), которое может быть выделено процессу, в килобайтах

max memory size ( -m)

LimitNOFILE

Максимальное количество дескрипторов открытых файлов, разрешенное для процесса

open files ( -n)

LimitAS

Максимальный размер виртуальной памяти (адресного пространства) процесса, в килобайтах

virtual memory ( -v)

LimitNPROC

Максимальное количество процессов

max user processes ( -u)

LimitMEMLOCK

Максимальный размер памяти, который может быть заблокирован для процесса, в килобайтах. Блокировка памяти гарантирует, что память всегда находится в оперативной памяти (RAM) и файл подкачки не используется

max locked memory ( -l)

LimitLOCKS

Максимальное количество файлов, заблокированных процессом

file locks ( -x)

LimitSIGPENDING

Максимальное количество сигналов, ожидающих доставки в вызывающий поток

pending signals ( -i)

LimitMSGQUEUE

Максимальное количество байтов в очередях сообщений POSIX. Очереди сообщений POSIX позволяют процессам обмениваться данными в форме сообщений

POSIX message queues ( -q)

LimitNICE

Максимальный уровень приоритета NICE, который может быть назначен процессу

scheduling priority ( -e)

LimitRTPRIO

Максимальный приоритет планирования в реальном времени

real-time priority ( -r)

LimitRTTIME

Максимальный размер буфера конвейера (pipe), в блоках по 512 байт

pipe size ( -p)

Компонент Ozone S3G
ozone-site.xml
Параметр Описание Значение по умолчанию

ozone.s3g.http-address

HTTP-адрес шлюза S3, который предоставляет S3-совместимый API для Ozone

0.0.0.0:9878

ozone.s3g.https-address

HTTPS-адрес шлюза S3

0.0.0.0:9879

ozone.s3g.volume.name

Название тома, используемого шлюзом S3 для хранения S3-совместимых бакетов в Ozone

s3v

ozone.s3g.client.buffer.size

Размер буфера клиента, используемого шлюзом S3 для передачи данных

4KB

ozone.s3g.kerberos.principal

Принципал сервиса шлюза S3

 — 

ozone.s3g.kerberos.keytab.file

Путь к keytab-файлу, который шлюз S3 использует как принципал сервиса для авторизации

 — 

ozone.s3g.http.auth.type

Механизм аутентификации для HTTP-сервера S3G

simple

ozone.s3g.http.auth.kerberos.principal

Принципал сервиса HTTP-сервера шлюза S3 при включенном SPNEGO

 — 

ozone.s3g.http.auth.kerberos.keytab

Путь к файлу keytab, который HTTP-сервер шлюза S3 использует как принципал сервиса для авторизации при включенном SPNEGO

 — 

Другие параметры
Параметр Описание Значение по умолчанию

Custom ozone-site.conf

В этой секции вы можете указать значения для кастомных параметров, которые не отображаются в интерфейсе ADCM, но могут присутствовать в конфигурационном файле ozone-site.xml

 — 

Enable custom ulimits

Включение этой опции позволяет указать ограничения на использование ресурсов для процесса (ulimits). Если значения не указаны, будут использованы системные настройки по умолчанию. Настройки ulimit описаны в таблице ниже

[Service]
LimitCPU=
LimitFSIZE=
LimitDATA=
LimitSTACK=
LimitCORE=
LimitRSS=
LimitNOFILE=
LimitAS=
LimitNPROC=
LimitMEMLOCK=
LimitLOCKS=
LimitSIGPENDING=
LimitMSGQUEUE=
LimitNICE=
LimitRTPRIO=
LimitRTTIME=
Ulimit settings
Параметр Описание Соответствующая опция команды ulimit в CentOS

LimitCPU

Ограничение в секундах на количество процессорного времени, которое может потреблять процесс

cpu time ( -t)

LimitFSIZE

Максимальный размер файлов, которые может создать процесс, в блоках по 512 байт

file size ( -f)

LimitDATA

Максимальный размер сегмента данных процесса, в килобайтах

data seg size ( -d)

LimitSTACK

Максимальный размер стека, выделенный процессу, в килобайтах

stack size ( -s)

LimitCORE

Максимальный размер файла дампа (core dump) в байтах, который процесс может сохранить, в блоках по 512 байт

core file size ( -c)

LimitRSS

Максимальное количество памяти RAM (resident set size), которое может быть выделено процессу, в килобайтах

max memory size ( -m)

LimitNOFILE

Максимальное количество дескрипторов открытых файлов, разрешенное для процесса

open files ( -n)

LimitAS

Максимальный размер виртуальной памяти (адресного пространства) процесса, в килобайтах

virtual memory ( -v)

LimitNPROC

Максимальное количество процессов

max user processes ( -u)

LimitMEMLOCK

Максимальный размер памяти, который может быть заблокирован для процесса, в килобайтах. Блокировка памяти гарантирует, что память всегда находится в оперативной памяти (RAM) и файл подкачки не используется

max locked memory ( -l)

LimitLOCKS

Максимальное количество файлов, заблокированных процессом

file locks ( -x)

LimitSIGPENDING

Максимальное количество сигналов, ожидающих доставки в вызывающий поток

pending signals ( -i)

LimitMSGQUEUE

Максимальное количество байтов в очередях сообщений POSIX. Очереди сообщений POSIX позволяют процессам обмениваться данными в форме сообщений

POSIX message queues ( -q)

LimitNICE

Максимальный уровень приоритета NICE, который может быть назначен процессу

scheduling priority ( -e)

LimitRTPRIO

Максимальный приоритет планирования в реальном времени

real-time priority ( -r)

LimitRTTIME

Максимальный размер буфера конвейера (pipe), в блоках по 512 байт

pipe size ( -p)

Компонент Ozone Storage Container Manager
ozone-site.xml
Параметр Описание Значение по умолчанию

ozone.scm.http-address

HTTP-адрес веб-интерфейса Storage Container Manager

0.0.0.0:9876

ozone.scm.https-address

HTTPS-адрес веб-интерфейса Storage Container Manager

0.0.0.0:9877

ozone.scm.ratis.port

Порт для коммуникации с Ratis, используемый Storage Container Manager для обеспечения режима высокой доступности

9894

ozone.scm.db.dirs

Путь к директории, в которой Storage Container Manager хранит свои файлы БД

/srv/ozone/scm/db

ozone.scm.db.dirs.permissions

Определяет режим доступа к директории, заданной в параметре ozone.scm.db.dirs

750

ozone.scm.ha.ratis.storage.dir

Путь к директории для хранения логов Ratis при использовании режима высокой доступности в Storage Container Manager

/srv/ozone/scm/ratis

ozone.scm.ha.ratis.snapshot.dir

Путь к директории для хранения снепшотов Ratis в Storage Container Manager

/srv/ozone/scm/ratis/snapshot

ozone.scm.service.ids

Идентификаторы для сервисов Storage Container Manager, используемые в инсталляциях с множественными экземплярами для обеспечения режима высокой доступности

 — 

ozone.scm.primordial.node.id

Идентификатор первого узла Storage Container Manager в кластере

{{ groups['ozone.ozone_scm'][0] }}

ozone.scm.names

Список разделенных запятыми полных доменных имен (FQDN) узлов Storage Container Manager в кластере

{{ groups['ozone.ozone_scm'] | join(',') }}

ozone.scm.client.address

Список разделенных запятыми адресов клиентов Storage Container Manager. Как правило, представляют собой полные доменные имена узлов Storage Container Manager

{{ groups['ozone.ozone_scm'] | join(',') }}

ozone.scm.ratis.enable

Определяет, включена ли репликация, основанная на Ratis, для Storage Container Manager для обеспечения режима высокой доступности

true

ozone.scm.datanode.pipeline.limit

Максимальное количество конвейеров в Storage Container Manager, в которых может участвовать каждый Datanode

10

ozone.scm.pipeline.owner.container.count

Максимальное количество контейнеров, принадлежащих каждому конвейеру

10

ozone.scm.pipeline.creation.auto.factor.one

Определяет, должен ли Storage Container Manager автоматически создавать конвейеры с фактором репликации, равным 1

false

ozone.scm.container.placement.impl

Определяет политику размещения контейнеров для Storage Container Manager, обычно для оптимизации использования пространства в зависимости от доступных ресурсов

org.apache.hadoop.hdds.scm.container.placement.algorithms.SCMContainerPlacementCapacity

ozone.scm.kerberos.principal

Принципал сервиса Storage Container Manager

 — 

ozone.scm.kerberos.keytab.file

Путь к keytab-файлу, который демон Storage Container Manager использует как принципал сервиса для авторизации

 — 

ozone.scm.http.auth.type

Механизм аутентификации для HTTP-сервера Storage Container Manager

simple

ozone.scm.http.auth.kerberos.principal

Принципал сервиса HTTP-сервера Storage Container Manager при включенном SPNEGO

 — 

ozone.scm.http.auth.kerberos.keytab

Путь к файлу keytab, который HTTP-сервер Storage Container Manager использует как принципал сервиса для авторизации при включенном SPNEGO

 — 

Другие параметры
Параметр Описание Значение по умолчанию

Custom ozone-site.conf

В этой секции вы можете указать значения для кастомных параметров, которые не отображаются в интерфейсе ADCM, но могут присутствовать в конфигурационном файле ozone-site.xml

 — 

Enable custom ulimits

Включение этой опции позволяет указать ограничения на использование ресурсов для процесса (ulimits). Если значения не указаны, будут использованы системные настройки по умолчанию. Настройки ulimit описаны в таблице ниже

[Service]
LimitCPU=
LimitFSIZE=
LimitDATA=
LimitSTACK=
LimitCORE=
LimitRSS=
LimitNOFILE=
LimitAS=
LimitNPROC=
LimitMEMLOCK=
LimitLOCKS=
LimitSIGPENDING=
LimitMSGQUEUE=
LimitNICE=
LimitRTPRIO=
LimitRTTIME=
Ulimit settings
Параметр Описание Соответствующая опция команды ulimit в CentOS

LimitCPU

Ограничение в секундах на количество процессорного времени, которое может потреблять процесс

cpu time ( -t)

LimitFSIZE

Максимальный размер файлов, которые может создать процесс, в блоках по 512 байт

file size ( -f)

LimitDATA

Максимальный размер сегмента данных процесса, в килобайтах

data seg size ( -d)

LimitSTACK

Максимальный размер стека, выделенный процессу, в килобайтах

stack size ( -s)

LimitCORE

Максимальный размер файла дампа (core dump) в байтах, который процесс может сохранить, в блоках по 512 байт

core file size ( -c)

LimitRSS

Максимальное количество памяти RAM (resident set size), которое может быть выделено процессу, в килобайтах

max memory size ( -m)

LimitNOFILE

Максимальное количество дескрипторов открытых файлов, разрешенное для процесса

open files ( -n)

LimitAS

Максимальный размер виртуальной памяти (адресного пространства) процесса, в килобайтах

virtual memory ( -v)

LimitNPROC

Максимальное количество процессов

max user processes ( -u)

LimitMEMLOCK

Максимальный размер памяти, который может быть заблокирован для процесса, в килобайтах. Блокировка памяти гарантирует, что память всегда находится в оперативной памяти (RAM) и файл подкачки не используется

max locked memory ( -l)

LimitLOCKS

Максимальное количество файлов, заблокированных процессом

file locks ( -x)

LimitSIGPENDING

Максимальное количество сигналов, ожидающих доставки в вызывающий поток

pending signals ( -i)

LimitMSGQUEUE

Максимальное количество байтов в очередях сообщений POSIX. Очереди сообщений POSIX позволяют процессам обмениваться данными в форме сообщений

POSIX message queues ( -q)

LimitNICE

Максимальный уровень приоритета NICE, который может быть назначен процессу

scheduling priority ( -e)

LimitRTPRIO

Максимальный приоритет планирования в реальном времени

real-time priority ( -r)

LimitRTTIME

Максимальный размер буфера конвейера (pipe), в блоках по 512 байт

pipe size ( -p)

Нашли ошибку? Выделите текст и нажмите Ctrl+Enter чтобы сообщить о ней