Тестовая установка

В документе описана тестовая установка Почты VK WorkSpace на одну виртуальную машину. Под тестовой установкой подразумевается быстрая установка с базовыми настойками для демонстрации возможностей почтовой системы.

• Знание Linux на уровне системного администратора.
• Знание основ работы Систем управления базами данных (СУБД).
• Знание основ работы служб каталогов (Directory Service).
• Понимание основ контейнеризации.
• Знание основ работы сетей и сетевых протоколов.
• Знание основных инструментов для работы в командной строке: bash, awk, sed.
• Знание основ работы инфраструктуры доставки почты.

Инструкция по установке обновлений Почты — в документе содержится информация по обновлению Почты.

Что делать, если при входе в панель администратора появляется ошибка «Неверный пароль»

Выпуск SSL-сертификатов с Let's Encrypt

Как обновить лицензионный ключ

Перед установкой убедитесь, что инфраструктура соответствует требованиям к инфраструктуре Почты VK WorkSpace. Там описаны поддерживаемые операционные системы, требования к CPU, виртуализации, дискам и сети, протоколы и порты, DNS-записи, SSL-сертификаты, настройки ОС, SELinux, антивирус и синхронизация времени, а также то, что нужно подготовить до начала установки.

Тестовая версия корпоративной почты устанавливается на один сервер со следующей конфигурацией:

• 24 vCPU;
• 96 GB RAM;
• 400 GB SSD.

Версия ядра — от 5.15; архитектура системы — x86_64.

Весь процесс установки можно разделить на два этапа:

1. В командной строке на сервере выполняются действия для запуска установщика.
2. Последующая установка производится в специальном веб-интерфейсе.

1. В командной строке выполните последовательность команд:

   Astra Linux

   РЕД ОС

    
   sudo -i# Задаем пароль и создаем пользователя deployerDEPLOYER_PASSWORD=PASSWORDuseradd -G astra-admin -U -m -s /bin/bash deployerecho deployer:"$DEPLOYER_PASSWORD" | chpasswd# Игнорируем ошибку "НЕУДАЧНЫЙ ПАРОЛЬ: error loading dictionary"# в случае, если она появилась# Перелогиниваемся под пользователем deployersudo -i -u deployerssh-keygen -t rsa -N ""# Нажимаем Enter (согласиться с вариантом по умолчанию)# Копируем ssh-ключ в нужную директориюcat /home/deployer/.ssh/id_rsa.pub >> /home/deployer/.ssh/authorized_keyschmod 600 /home/deployer/.ssh/authorized_keys# Опционально: проверяем, что сами к себе можем зайти без пароляssh deployer@localhostexit

    
   sudo -i# Задаем пароль и создаем пользователя deployerDEPLOYER_PASSWORD=PASSWORDuseradd -G wheel -U -m -s /bin/bash deployerecho deployer:"$DEPLOYER_PASSWORD" | chpasswd# Перелогиниваемся под пользователя deployersudo -i -u deployerssh-keygen -t rsa -N ""# Нажимаем Enter (согласиться с вариантом по умолчанию)# Копируем ssh-ключ в нужную директориюcat /home/deployer/.ssh/id_rsa.pub >> /home/deployer/.ssh/authorized_keyschmod 600 /home/deployer/.ssh/authorized_keys# Опционально: проверяем, что сами к себе можем зайти без пароляssh deployer@localhostexit

2. Выполните команду sudo visudo.

3. В файле /etc/sudoers уберите # в начале следующей строки:

   Astra Linux

   РЕД ОС

    
   # %astra-admin       ALL=(ALL)       NOPASSWD: ALL

    
   # %wheel        ALL=(ALL)       NOPASSWD: ALL

4. Выйдите из Vim c сохранением файла.

То же самое можно сделать с помощью редактора nano:

 
sudo EDITOR=nano visudo# Находим нужную строку, удаляем # в ее начале {params[number=1;position=prefix;anchor=nakhodim_nuzhnuyu_stroku_udalyaem_v_ee_nachale]}# Выходим из nano c сохранением изменений {params[number=2;position=prefix;anchor=vykhodim_iz_nano_c_sokhraneniem_izmeneniy]}

1. Распакуйте дистрибутив под пользователя deployer (в директорию /home/deployer). Вы можете распаковать архив с дистрибутивом и в другую папку или создать подпапку. Нет разницы, каким архиватором пользоваться. Ниже приведен пример для unzip:

   Astra Linux

   РЕД ОС

    
   # Если на машину не установлен unzip, скачиваем его:sudo apt-get install unzipexport UNZIP_DISABLE_ZIPBOMB_DETECTION=trueunzip -o <имя_архива>

    
   # Если на машину не установлен unzip, скачиваем его:sudo yum install unzip# Если в вашей версии РЕД ОС нет yum, то используйте dnfexport UNZIP_DISABLE_ZIPBOMB_DETECTION=trueunzip -o <имя_архива>

2. Если при создании пользователя вы следовали инструкциям из Шага 1, то вам не нужно создавать директорию `/home/deployer', она уже создана.

    
   mkdir -p /home/deployercd /home/deployer

3. Распакуйте основной архив deployer.tar:

    
   tar -xf deployer.tar

4. Создайте директорию для статики и распакуйте архив:

    
   tar -xf static.tar.gz

5. Подготовьте Docker-репозиторий

    
   cp registry/mail/dockerRepo.tar source/

6. Скопируйте файлы md5:

    
   cp registry/mail/dockerRepo.md5 source/

InfraKit входит в состав дистрибутива. Отдельно скачивать его не нужно. После распаковки дистрибутива на сервере, где будет запускаться установщик, файлы InfraKit расположены по следующим путям:

• Запускаемый файл: /home/deployer/configs/infrakit/infrakit-bin
• Файл конфигурации: /home/deployer/configs/infrakit/project-spec.yaml

Чтобы запустить проверку:

1. Откройте файл /home/deployer/configs/infrakit/project-spec.yaml и настройте параметры подключения к серверам в секции hosts в простом или расширенном формате. Подробнее смотрите в разделе Форматы описания хостов.

2.  Выполните команду на сервере с распакованным дистрибутивом, заменив <IP_адрес_сервера> на внешний IP-адрес этого сервера:

    
   /home/deployer/configs/infrakit/infrakit-bin --project-specific /home/deployer/configs/infrakit/project-spec.yaml --infrakit.bind 0.0.0.0:5555 --infrakit.url <IP_адрес_сервера>

3. После завершения проверок отчет выводится в консоль. В нем указан статус каждой проверки и описание ошибок при их возникновении.

InfraKit проводит следующие проверки:

Дополнительная информация о работе с InfraKit и расшифровке его отчетов представлена в разделе Проверки инфраструктуры.

Для корректной работы установщика и почтовой системы в настройках SSH должен быть разрешен TCP Forwarding.

Чтобы изменить настройку TCP Forwarding, нужно в файле /etc/ssh/sshd_config установить следующее значение:

 
AllowTcpForwarding yes

Установщик onpremise-deployer_linux рекомендуется запускать как сервис. При таком запуске не придется прибегать к дополнительным мерам (screen, tmux, nohup), позволяющим установщику продолжить работу в случае потери соединения по SSH.

Чтобы запустить установщик как сервис, выполните команду (подходит для Astra Linux и РЕД ОС):

 
sudo ./onpremise-deployer_linux -concurInstallLimit 5  \  -serviceEnable -serviceMake -serviceUser deployer

По умолчанию выставлен лимит в 5 потоков, при необходимости вы можете увеличить количество потоков до 10, однако это увеличит и нагрузку на систему. Использование более чем 10 потоков не рекомендуется.

Ответ в случае успешного запуска установщика выглядит следующим образом:

 
deployer.service was added/updatessee status: <systemctl status deployer.service>can`t restart rsyslog services: [exit status 5]OUT: Failed to restart rsyslog.service: Unit rsyslog.service not found.deployer.service was enable and startedsee status: <systemctl status deployer.service>

 
deployer.service was added/updatessee status: <systemctl status deployer.service>can`t restart rsyslog services: [exit status 5]OUT: Failed to restart rsyslog.service: Unit rsyslog.service not found.deployer.service was enable and startedsee status: <systemctl status deployer.service>

Если веб-интерфейс не открывается по адресу http://server-ip-address:8888, то проверьте журналы:

 
journalctl -u deployer

И убедитесь, что порт 8888 слушают:

 
ss -lanp|grep :8888

1. Перейдите в веб-интерфейс установщика, в адресной строке браузера укажите адрес: http://server-ip-address:8888. Если перейти по этому адресу не удается, убедитесь, что firewall был отключен.

2. На стартовой странице нажмите на кнопку Установить.

   

1. Введите лицензионный ключ или укажите путь к файлу лицензии .lic.

   

2. Нажмите кнопку Сохранить.

3. Нажмите на кнопку Далее.

Информацию о том, как обновить лицензионный ключ или проверить сроки действия лицензий по продуктам VK WorkSpace, вы сможете найти в разделе с дополнительной документаци.

1. Включите флаги Диск VK WorkSpace и Почта VK WorkSpace.
2. Нажмите на кнопку Далее.
3. Включите нужные вам компоненты в разделе Администрирование.

6. Включите продукты VK Kubernetes и Логирование. Логирование позволяет сохранять историю логов пода, но потребуется больше дискового пространства.

   

7. Нажмите на кнопку Далее.

8. Включите нужные вам компоненты в разделе Почта VK WorkSpace.

 
<info>

Есть компоненты, настройка которых производится в административной панели (biz.<почтовый домен>), но включить их нужно при установке. Например, Система расширенных транспортных правил и Система миграции Диска VK WorkSpace из внешних сервисов.

 
</info>

6. Нажмите на кнопку Далее. 7. Включите нужные вам компоненты в разделе Диск VK WorkSpace.

8. Нажмите на кнопку Далее.

1. Нажмите на кнопку Добавить.

2. В выпадающем меню выберите Сервер.

   

   Откроется окно добавления гипервизора:

   

3. Заполните поля:

   • IP-адрес — адрес машины, на которую производится установка.

   • Имя сервера — укажите имя сервера (гипервизора) или оставьте поле пустым. В случае если вы оставите поле незаполненным, имя гипервизора будет взято из hostname -s и добавится автоматически. В документации будет использовано имя hypervisor1.

   • Имя пользователя — укажите имя того пользователя, под которым запущен установщик. В рассматриваемом примере это пользователь deployer.

4. Заполните поле Метки:

   1. Напротив server, в выпадающем меню выберите опцию control-plane.
   2. Напротив DC укажите любое название дата-центра.
   3. Напротив project выберите опцию mail.
   4. В поле type выберите опции: monitoring, registry, storage, database и frontend.

   

5. Добавьте SSH-ключ, сгенерированный на машине с установщиком:

   1. В поле Приватный ключ выберите Добавить новый ключ.

      

   2. В поле Имя ключа введите название ключа для его дальнейшей идентификации, например: deployerRSA.

   3. Перейдите в консоль.

   4. Выполните команду cat ~/.ssh/id_rsa и скопируйте ключ.

   5. Затем вставьте его в поле Приватный ключ. Его нужно указать полностью, включая:

      -----BEGIN RSA PRIVATE KEY----- и -----END RSA PRIVATE KEY-----

   6. Поле Пароль ключа оставьте пустым.

   7. Кликните по кнопке Добавить.

   8. Новый ключ должен отобразится в панели справа.

      

   9. Нажмите Закрыть.

6. При необходимости настройте дополнительные поля:

   • Пароль — необходимо ввести пароль пользователя, под которым запущен установщик, если он был задан при создании. Появлется, если в поле Приватный ключ выбрана опция Использовать авторизацию по паролю.
   • Пропустить проверку некритичных требований — если отметить чекбокс, будет пропущена проверка версии ядра и флагов процессора (sse2, avx). В большинстве случаев выбор чекбокса не требуется.
   • Сервер во внешней (dmz) зоне — Оставьте чекбокс пустым.

7. После заполнения полей нажмите на кнопку Добавить сервер — гипервизор отобразится в веб-интерфейсе установщика.

При добавлении сервера реализована проверка на наличие команд tar, scp и необходимых инструкций виртуализации на процессорах. Если при проверке они не будут найдены, то сервер не будет добавлен, а администратор получит сообщение об ошибке.

 
</info>

8. Нажмите на зеленую кнопку Далее в правом верхнем углу для перехода к следующему шагу.

В открывшемся окне нажмите Запустить проверки. Будут выполнены следующие проверки:

• Проверка ОС, дистрибутива и параметры ядра.
• Проверка архитектуры CPU, количества ядер и обязательных фич.
• Проверка общего объема и характеристик оперативной памяти.
• Проверка размеров и параметров файловых систем.
• Проверка производительности дисковой подсистемы по IOPS.
• Проверка доступности и состояния обязательных портов.
• Проверка DNS-серверов и записей.
• Проверка активного tuned профиля.
• Проверка наличия и состояния swap.

После успешного выполнения всех проверок нажмите Далее.

Чтобы настроить Kubernetes кластер перейдите в раздел Настройки -> Kubernetes. Или по адресу http://server-ip-address:8888/config/main/k8s/commonTab, если оно не откроется автоматически.

В разделе Общие настройки укажите:

• Режим маршрутизации: VXLAN.
• Namespace по умолчанию — пространство имен, в котором будут работать сервисы Почты.
• Домен в кластере K8s.
• Использовать WG — установщик самостоятельно установит и настроит WireGuard на серверах на шаге enable_hybrid_bgp.
• Tunnel CIDR — диапазон адресов для интерфейсов WireGuard или tunl0.
• Версия Kubernetes.

Заполните поля в разделе Настройки кластеров. Пример заполнения полей для трех кластеров:

На вкладке Доменные имена необходимо заполнить все поля:

• Название вашей компании — введите название компании, которое будет отображаться в интерфейсе почты.
• Сайт вашей компании — укажите сайт вашей компании.
• Основной домен для сервисов — в поле необходимо указать ранее созданный основной домен для почты.
• Домен для облачных хранилищ — в поле введите ранее созданный домен для облачных хранилищ.

Когда все поля будут заполнены, нажмите на кнопку Сохранить для перехода к следующему шагу.

После сохранения доменных имен появятся ошибки. Они пропадут после добавления SSL-сертификатов на следующем шаге.

1. Нажмите на кнопку Добавить сертификат под заголовком SSL-сертификаты.

   

2. В открывшейся форме введите сертификат и ключ. Их необходимо указать полностью, включая:

   -----BEGIN CERTIFICATE----- и -----END CERTIFICATE----- и -----BEGIN PRIVATE KEY----- и -----END PRIVATE KEY-----.

3. Кликните по кнопке Сохранить.

   

Есть второй вариант:

1. Нажмите на кнопку Выбрать файл.
2. Укажите путь к файлу с сертификатом .crt.
3. Укажите путь к файлу с ключом .key.
4. Кликните по кнопке Сохранить.

Если все верно, в интерфейсе не будет отображаться ошибок и красной подсветки. Нажмите на зеленую кнопку Далее.

1. Нажмите на логотип в левом верхнем углу веб-интерфейса, чтобы перейти к общей строке состояния.

2. Кликните по кнопке Play (треугольник) рядом с общей строкой состояния в верхней части экрана.

   

3. Подтвердите запуск автоматической установки, нажав на кнопку Запустить. Перед запуском автоматической установки оставьте включенными все проверки. Подробнее о работе проверок можно прочитать здесь: Диагностика системы в веб-интерфейсе установщика

   

4. Дождитесь завершения установки гипервизора. Пока процесс идет, рядом со строкой состояния будет отображаться красная кнопка Stop.

   

В процессе установки и настройки системы происходят изменения конфигурации. Виртуальная машина может перезагрузиться, и потребуется повторный запуск автоматической установки.

Для повторного запуска нажмите на кнопку Play в верхней общей строке состояния или рядом с названием гипервизора.

В релизе 26.3 секреты из main.yaml хранятся в vault — специализированном хранилище секретов от HashiCorp. Это хранилище типа «ключ-значение», данные в котором хранятся в зашифрованном виде. Для отказоустойчивости несколько инстансов vault объединяются в кластер по алгоритму распределенного консенсуса (RAFT).

Для начала работы с хранилищем его необходимо инициализировать: при инициализации указывается, сколько ключей для разблокировки (unseal keys) сгенерировать и сколько из них требовать для распечатки. Инициализация возвращает токен суперпользователя (rootToken) и ключи для распечатки (unseal keys), которые необходимы для дальнейшей работы с хранилищем.

Каждый перезапуск vault приводит его в состояние «запечатан» (sealed), и его надо распечатать (unseal).

Пример работы с ключами

Есть 10 доверенных сотрудников, при создании хранилища мы создаем 10 ключей и раздаем каждому сотруднику по одному ключу. Чтобы распечатать хранилище, будем требовать 3 ключа. Поэтому, когда нужно будет распечатать vault, нам потребуется 3 сотрудника, чтобы его распечатать.

Чтобы добавить и инициализировать хранилище:

1. Нажмите кнопку Добавить внизу главной страницы веб-интерфейса установщика.

2. Выберите опцию Хранилище секретов.

3. Выберите контейнер vault с помощью чекбокса.

4. В списке гипервизоров отметьте гипервизоры, на которых будут размещены инстансы vault.

5. Нажмите на кнопку Добавить.

6. Запустите автоматическую установку — после ее завершения инстансы vault будут запущены.

7. Перейдите в раздел Обслуживание -> Хранилище секретов или по адресу http://server-ip-address:8888/service/vault.

8. Если vault устанавливается впервые, нажмите кнопку Инициализировать Хранилище и задайте параметры инициализации:

   • Всего ключей для распечатывания — сколько ключей сгенерировать.
   • Минимум ключей для распечатывания — сколько ключей потребуется ввести для распечатки (unseal) хранилища. Значение не должно превышать общее количество ключей.
   • Сохранить ключи в Deployer — включите опцию, чтобы установщик сохранил ключи и мог распечатывать хранилище в автоматическом режиме.

9. После инициализации в веб-интерфейсе отобразятся ключи для распечатки и токен суперпользователя. Сохраните эту информацию.

При инициализации установщик автоматически распечатает хранилище. Если вы обновляете инсталляцию с версии 26.2.3, миграция старых секретов из main.yaml произойдет автоматически.

Распечатка хранилища

Если при инициализации вы включили опцию Сохранить ключи в Deployer, установщик будет автоматически распечатывать хранилище при каждом своем перезапуске и запуске задачи up_container. В этом случае ключи для распечатывания сохраняются на машине с установщиком в файле /home/deployer/workmail/.secStoreKeys.yaml. Если установщику не удалось распечатать хранилище, установка будет заблокирована.

Чтобы распечатать хранилище вручную:

1. Перейдите на страницу http://server-ip-address:8888/service/vault.
2. В блоке Распаковка Хранилища секретов введите ключи, полученные при инициализации.
3. Нажмите кнопку Распаковать (unseal).

В кластерной установке инициализация выполняется только на одном инстансе vault — остальные инстансы подключатся к нему и инициализируются самостоятельно. Распечатка выполняется на каждом инстансе.

Проверка состояния хранилища

На странице http://server-ip-address:8888/service/vault отображается состояние каждого инстанса vault: запущен ли он, инициализирован, запечатан или распечатан, готов ли к работе. Также отображаются «Количество ключей для распечатывания», «Количество необходимых секретов» и «Количество доступных секретов» — последние два значения должны совпадать.

Инстанс готов к работе, когда он запущен, инициализирован и распечатан, а количество доступных секретов совпадает с количеством необходимых.

Установщик автоматически проверяет актуальность секретов при каждом перезапуске и распечатке хранилища и при необходимости мигрирует или добавляет их.

1. Нажмите на кнопку Сгенерировать автоматически, чтобы добавить по одному контейнеру для каждой роли.

   

   На экране начнут появляться сгенерированные контейнеры. В случае появления ошибок используйте раздел Логи и полезные команды.

   Через некоторое время в правом верхнем углу появится кнопка Далее, напротив гипервизора появится кнопка Play.

   

2. Кликните по кнопке Play напротив гипервизора.

3. Подтвердите автоматический запуск задач на гипервизоре, нажав на кнопку Запустить.

   

4. На генерацию требуется время. Подождите, пока исчезнет кнопка Play напротив гипервизора.

5. Нажмите на кнопку Далее для перехода к следующему шагу.

Кликните по значку и перейдите в раздел Описание сервисов, чтобы посмотреть развернутую информацию о назначении ролей, их дублируемости, зависимостях и т.п. В этом же выпадающем меню вы найдете дополнительную документацию, сможете включить или выключить продукты (внутри раздела Продукты) и обновить лицензионный ключ.

При появлении ошибок на гипервизоре на нем появится тег Не отвечает, а на контейнерах, относящися к этому гипервизору — Не отвечает гипервизор.

Затем перейдите в командную строку и устраните ошибку. По завершении необходимо нажать на шестеренку в строке гипервизора и еще раз на странице списка шагов на гипервизоре.

В окне настроек гипервизора нажмите на кнопку Обновить.

Повторно запустите автоматическую установку.

Для установки на одну машину достаточно автоматического распределения по дисковым парам, поэтому дополнительная настройка не требуется, нажмите на кнопку Далее.

На вкладке Шардирование и репликация БД нажмите на кнопку Далее.

Шардирование (сегментирование) БД используется в кластерной установке для обеспечения отказоустойчивости и масштабируемости, в моноинсталляции не используется.

1. Кликните по кнопке Play рядом c общей строкой состояния в верхней части экрана.

2. Подтвердите запуск автоматической установки, нажав на кнопку Запустить.

   

   В зависимости от этапа генерации будет меняться цвет индикатора:

   • Серый — в ожидании начала генерации;
   • Синий — в процессе генерации;
   • Желтый — шаг необходимо повторить (установщик делает это самостоятельно);
   • Красный — ошибка.

3. Ожидайте завершения установки. Пока процесс идет, рядом со строкой состояния будет отображаться красная кнопка Stop.

Если в процессе установки и настройки системы происходят изменения конфигурации, некоторые задачи могут потребовать повторного выполнения.

Для повторного запуска необходимо нажать на кнопку Play в общей строке состояния в верхней части экрана или рядом с названием конкретного контейнера.

Когда установка будет завершена, соответствующий статус отобразится в строке состояния.

1. Нажмите на кнопку Далее.

   

2. Введите имя почтового домена и нажмите на кнопку Добавить.

С версии 1.24 в Почте VK WorkSpace все домены проверяются на соответствие лицензии. Если домен не входит в лицензию — пользователи этого домена не смогут обмениваться сообщениями. Это условие также распространяется на синонимы доменов.

 
</warn>![add domain](/ru/assets/mail/assets/installation-assets/11createpostdomain.png)Откроется новая вкладка, на которой необходимо авторизоватьcя:- Имя пользователя — **admin@admin.qdit**.- Пароль находится в файле — **bizOwner.pass**, для его просмотра введите в консоли команду: `cat <путь до директории с установщиком>/bizOwner.pass`.<info>

Пароль пользователя admin@admin.qdit хранится зашифрованным в базе данных. Он записывается в файле bizOwner.pass в открытом виде только для администратора при первичной установке. Скопируйте пароль в надежное место, и удалите bizOwner.pass, чтобы злоумышленники не могли получить пароль. Если пароль администратора утерян, то создайте новый с помощью инструкции: Как изменить пароль пользователя admin@admin.qdit?.

 
</info>![first login](/ru/assets/insiders-mail-install/11enterthepassword.png)Если логин и пароль были введены правильно, вы попадете в панель администратора.

3. Нажмите на кнопку Проверить сейчас, чтобы проверить MX-запись.

 
![проверка МХ](/ru/assets/insiders-mail-install/11checkthemx.png)

При успешно пройденной проверке появится уведомление о том, что MX-запись настроена верно.

После проверки MX-записи установку можно считать оконченной.

При тестовой установке необязательно иметь правильную MX-запись, вы можете проверить ее другим способом, чтобы работать с локальным трафиком:

1. Перейдите по адресу https://biz.server-address/admin/misc/pdd/domain/.

2. Кликните по домену в списке.

   

3. В поле Mx status выберите пункт Есть необходимая MX-запись.

   

4. Сохраните изменения.

В панели администратора появится уведомление о том, что MX-запись настроена верно:

Симптомы:

Шаг create_and_upload_S3_docs_onprem или другой шаг создания бакетов S3, например create_S3_bucket, завершается с ошибкой.

Диагностика:

В командах ниже <namespace> — пространство имен, указанное в параметре Namespace по умолчанию при настройке кластера Kubernetes.

1. Найдите поды streamer-hotbox:

    
   kubectl get pods -n <namespace> | grep streamer-hotbox

2. Проверьте, есть ли в логах подов ошибка NO_ROUTE_TO_BUCKET:

    
   kubectl logs -n <namespace> <имя_пода> -c streamer-hotbox | grep NO_ROUTE_TO_BUCKET

   Пример ошибки:

    
   2026-09-27T20:04:04.752119697+03:00 [ERRO] Not commit transaction for pair: 1, hash: 72A2DA223EEF53EC18212623F4A953173F924BAC, err: not started transaction for move file: pair - 1, hash - 72A2DA223EEF53EC18212623F4A953173F924BAC, err: time to all retries is reached, last error: INTERNAL: [nil] Request to FileDB failed: {"bucket_id":469550,"code":9,"type":"ShardingError","message":"Bucket 469550 cannot be found. Is rebalancing in progress?","name":"NO_ROUTE_TO_BUCKET"} (0x20) [2et3AqwTf]2026-09-27T20:04:04.916872554+03:00 [ERRO] Nylon fail func: nylon.api.storage.hash_download, need_retry: false, attemt: 2/10, err: time to all retries is reached, last error: INTERNAL: [nil] FileDB failed communication: {"bucket_id":469550,"code":9,"type":"ShardingError","message":"Bucket 469550 cannot be found. Is rebalancing in progress?","name":"NO_ROUTE_TO_BUCKET"} (0x20) [2UFwD5edU]

   Ошибка означает, что роутер vshard в сервисе nylon не знает, где хранится часть данных FileDB. Бакеты в тексте ошибки — это виртуальные бакеты vshard, они не связаны с бакетами S3.

3. Если ошибка есть, откройте консоль в поде nylon, например nylon1-0:

    
   kubectl exec -it -n <namespace> nylon1-0 -c nylon -- bash

4. Подключитесь к консоли Tarantool:

    
   tarantoolctl connect /var/run/tarantool/tarantool.sock

5. Выполните команду:

    
   vshard.router.info()

6. Проверьте параметр alerts в конце вывода. Если роутер видит все бакеты, список пуст: alerts: []. Если часть бакетов не обнаружена, их количество указано в параметре unknown блока bucket, а в alerts есть предупреждение UNKNOWN_BUCKETS:

    
   bucket:    unreachable: 0    available_ro: 0    unknown: 13    available_rw: 1048563  identification_mode: uuid_as_key  status: 1  alerts:  - ['UNKNOWN_BUCKETS', '13 buckets are not discovered']...

   Если подов nylon несколько, проверьте каждый.

Решение:

1. В веб-интерфейсе установщика выполните шаг up_container для каждого контейнера nylon, в поде которого есть предупреждение UNKNOWN_BUCKETS. Имя контейнера совпадает с именем пода без суффикса -0: поду nylon1-0 соответствует контейнер nylon1.
2. Когда шаг завершится, снова выполните vshard.router.info() в поде и убедитесь, что список alerts пуст.
3. Повторно выполните шаг, который завершился с ошибкой.

1. Перезапуск установщика:

    
   sudo systemctl restart deployer

2. Логи установщика:

    
   sudo journalctl -fu deployer

3. Список запущенных подов:

    
   kubectl get pods -n <namespace>

   Добавьте флаг -o wide, чтобы увидеть, на каких нодах размещены поды.

4. Список подов, которые не перешли в состояние Running:

    
   kubectl get pods -n <namespace> --field-selector=status.phase!=Running

5. Состояние нод кластера:

    
   kubectl get nodes -o wide

6. Логи конкретного пода:

    
   kubectl logs -n <namespace> <имя_пода>

   Полезные флаги:

   • -f — следить за логом в реальном времени.
   • --tail=100 — вывести только последние 100 строк.
   • --previous — логи предыдущего запуска. Пригодится, если под успел перезапуститься и логи упавшего экземпляра уже не отдаются.
   • -c <имя_контейнера> — выбрать контейнер, если в поде их несколько.

7. Подробная информация о поде — события, причина перезапуска, ограничения по ресурсам:

    
   kubectl describe pod -n <namespace> <имя_пода>

8. События в пространстве имен в порядке возникновения:

    
   kubectl get events -n <namespace> --sort-by=.lastTimestamp

9. Консоль внутри пода:

    
   kubectl exec -it -n <namespace> <имя_пода> -- bash

10. Перезапуск пода:

     
    kubectl delete pod -n <namespace> <имя_пода>

11. Перезапуск всех подов сервиса:

     
    kubectl rollout restart -n <namespace> deployment/<имя_сервиса>

     
    kubectl rollout restart -n <namespace> statefulset/<имя_сервиса>

Технический писатель: Груздев Никита