MapReduce CLI

Все MapReduce-команды вызываются скриптом bin/mapred. Запуск скрипта mapred без аргументов выводит описание для всех команд.

Использование скрипта показано ниже:

$ mapred [SHELL_OPTIONS] COMMAND [GENERIC_OPTIONS] [COMMAND_OPTIONS]

В Hadoop есть инфраструктура парсинга параметров, в которой используются общие параметры анализа, а также запуск классов.

Базовая структура MapReduce shell
Параметры команды Описание

SHELL_OPTIONS

Общие shell-параметры

GENERIC_OPTIONS

Общие shell-параметры, поддерживаемые несколькими командами

COMMAND_OPTIONS

Различные команды с параметрами

Пользовательские команды

Команда Описание

archive

Создает Hadoop-архив

archives-logs

Объединяет логи YARN в Hadoop-архив

classpath

Выводит classpath

distcp

Используется для копирования больших файлов и каталогов внутри и между кластерами

job

Позволяет работать с MapReduce-задачами

pipes

Запускает pipe-задачу

queue

Позволяет взаимодействовать с очередями и получать информацию об очередях задач

version

Выводит текущую версию Hadoop

envvars

Выводит вычисленные переменные окружения Hadoop

Административные команды

Команда Описание

historyserver

Запускает JobHistoryServer

hsadmin

Запускает клиент MapReduce HSAdmin

frameworkuploader

Агрегирует JAR-файлы фреймворка

Нашли ошибку? Выделите текст и нажмите Ctrl+Enter чтобы сообщить о ней