VK Private Cloud logo
Помощь
Обновлена 17 июля 2026 г. в 15:55

Подготовка окружения

Подготовка сетевого ландшафта

Перед установкой Платформы необходимо создать сети с IP-адресами согласно паспорту проекта (см. таблицу 1).

Таблица 1 — Требования к сетевому ландшафту

Название

Доступ из корп. сети

MTU

Мин. пропускная способность

Management

Администраторам

1500

10 Гбит/с

Private API Loopbacks

Нет

1500

10 Гбит/с

Public API Transport

Пользователям

1500

10 Гбит/с

Public API Loopbacks

Пользователям

1500

10 Гбит/с

K8s Internal (нужно только зарезервировать IP-адреса)

Нет

1450

Cloud External

Пользователям

1500

10 Гбит/с

Сeph External

Нет

9050

10 Гбит/с

Сeph Internal

Нет

9050

10 Гбит/с

Описание перечисленных выше сетей приведено далее.

  • Management: Сеть для внутреннего взаимодействия компонентов Платформы. Подключается на каждом хосте инфраструктуры облака. Сеть для взаимодействия компонентов Платформы между собой, а так же для работы администраторов и управления на высоком (веб-интерфейс) и низком (SSH) уровне Платформой. Конечным пользователям доступ до этой сети не предоставляется.
  • Private API Loopbacks: Сеть для доступа компонентов к API. Указывается три BGP IP.
  • Public API Transport: Транспортная сеть для Public API Loopbacks. Сеть для взаимодействия проекта Платформы с пользователем. Тут находится точка входа для пользователей (UI и API), через которую он управляет своим проектом. Для организации точки входа пользователей выделяются три BGP IP через сеть Public API Loopbacks.
  • Public API Loopbacks: Сеть для доступа пользователей к порталу самообслуживания и API. Указывается три BGP IP.
  • K8s Internal: Внутренняя сеть Kubernetes. Используется для назначения сетей для подов и сервисов кластера Kubernetes.
  • Cloud External: Сеть для внешних интерфейсов ВМ (корпоративная сеть). Используется для взаимодействия пользователей со своими ВМ и подобными развёрнутыми ресурсами в Платформе. Например, тут публикуются на сторону пользователей «Плавающие IP». Также используется для резервного копирования БД в хранилище S3. Для этого обеспечивает доступ до S3 из внешней сети, подключённой к маршрутизатору внутренней сети, где размещён инстанс БД.
  • Сeph External: Сеть для доступа к данным СХД/Ceph. Высокопроизводительная сеть для взаимодействия серверов Controllers и Compute с серверами Storage — то есть через данную сеть ВМ в Compute получают доступ к виртуальным дискам на Storage. Именно из-за объёма информации данная сеть вынесена в отдельную, а так же там добавлена скорость и увеличен MTU.
  • Сeph Internal: Кластерная сеть Ceph. Используется для синхронизации распределенных данных кластера Ceph между собой. Вынесена в отдельную сеть для обеспечения большей надёжности.

Сетевая составляющая каждой роли

  • Deploy:

    • IPMI (если деплой-нода является физическим сервером).
    • Management.
  • Controlplane:

    • IPMI.
    • Management.
    • Cloud External.
    • Public API Transport.
    • Ceph External.
  • Compute:

    • IPMI.
    • Management.
    • Cloud External.
    • Ceph External.
  • Ceph:

    • IPMI.
    • Management.
    • Ceph External.
    • Ceph Internal.
  • Route Server (RS):

    • IPMI.
    • Management.
  • Logging/Monitoring:

    • IPMI.
    • Management.

Сетевые доступы

Обеспечьте доступ из сети Management до следующих сервисов:

  • DNS.
  • LDAP.
  • NTP.

Обеспечьте доступ из сети Cloud External в сеть Public API Loopbacks по следующим портам:

  • 80.
  • 443.
  • 5000.
  • 35672.

Откройте порт 179 / TCP от серверов Controller до BGP-коммутаторов и обратно.

Подготовка оборудования

Выполните подготовку оборудования согласно минимальным требованиям, описанным в таблице ниже (Таблица 2).

Таблица 2 — Минимальные требования к оборудованию

Серверная роль

Физический сервер / ВМ

Кол-во серверов

RAM (ГБ)

CPU (кол-во / модель / частота / кол-во ядер)

Storage (кол-во / тип / размер)

Сетевые интерфейсы (кол-во / протокол / скорость)

Deploy

Физический или ВМ

1

64

2 × Xeon E5-2620v2

2 × 480 ГБ SSD + 2 × 1 ТБ HDD

2 × 10 ГБ LACP, 1x1 ГБ

Controlplane (Controller, Networking, Billing, Public API Transport, LMA)

Физический

3

64

2 × Xeon E5-2620v2

2 × 480 ГБ SSD

2 × 10 ГБ LACP, 1 × 1 ГБ

Compute

Физический

2

64

2 × Xeon E5-2620v2

2 × 480 ГБ SSD

2 × 10 ГБ LACP, 1x1 ГБ

Ceph

Физический

3

64

2 × Xeon E5-2620v2

2 × 480 ГБ SSD + 2 × 960 ГБ SSD

2 × 10 ГБ LACP, 1 × 1 ГБ

Route Server (RS)

Физический

2

64

2 × Xeon E5-2620v2

2 × 480 ГБ SSD

2 × 10 ГБ LACP, 1 × 1 ГБ

Monitoring

Logging

Физический

1

64

2 × Xeon E5-2620v2

2 × 480 ГБ SSD + 2 × 1 ТБ HDD

2 × 10 ГБ LACP, 1 × 1 ГБ

Установка и настройка ОС

Установите ОС CentOS 7.6.1810 (ссылка на скачивание) на все хосты через IPMI или PXE и настройте сетевые интерфейсы, исходя из списка раздела Сетевая составляющая каждой роли. На каждом хосте должен быть только один основной шлюз из сети Management.

Имена хостов

Имена хостов, на которых производится установка, в дальнейшем используются в качестве DNS-имен этих хостов. Имена должны соответствовать следующим требованиям:

  • Содержат не более 63-х символов.
  • Содержат только строчные буквы, цифры, '-' и '.'
  • Начинаются с буквы или цифры.
  • Заканчиваются буквой или цифрой.

Настройка сети

Сеть настраивается стандартными средствами ОС Linux согласно Техпаспорту проекта.

Рекомендации по разбивке дисков

Необходимо обеспечить отказоустойчивость диска с ОС при помощи RAID1 или LVM mirror учитывая следующие рекомендации:

  • На диске создается 1 раздел, монтируется в /.
  • Swap отключен.

Отключение SELinux

Необходимо отключить SELinux на всех серверах. Для этого выполните следующую команду:

setenforce 0

Отключение firewalld

Необходимо отключить firewalld, так как он приводит к конфликтам с iptables. Для этого сначала необходимо остановить firewalld, а затем отключить:

systemctl stop firewalldsystemctl disable firewalld

Создание учётной записи

Чтобы использовать несуперпользовательскую УЗ (root):

  1. Создайте нового пользователя на всех хостах.
  2. Настройте для него возможность выполнения команд через sudo без пароля.
  3. Настройте беспарольный доступ для выбранного пользователя с помощью ssh-ключа на все серверы Платформы.

Предстартовая проверка

Для предстартовой проверки:

  1. Проверьте состояние инсталляции:

    • На всех хостах платформы развёрнута ОС с корректно настроенным сетевым доступом:
      • До DNS-серверов.
      • До NTP-серверов.
      • Между хостами.
    • Отсутствуют неисправности в оборудовании.
  2. Выполните все пункты из чек-листа, приведенного в таблице 3.

  3. Если какая-либо проверка не будет успешной, исправьте все возникшие ошибки перед продолжением установки Платформы. В противном случае правильная работа инсталлятора и/или Платформы не гарантируется.

Таблица 3 — Чек-лист предстартовой проверки

Требование

№ пункта Техпаспорта

Статус

Комментарий

Проверяющая сторона

Проверку выполнил

Действия для проверки

1

Доступ от Deploy node до серверов в Management сети предоставлен и протестирован

В случае отсутствия SSH-доступа до любого из серверов Платформы установка завершится с ошибкой

Исполнитель

2

Доступ, в сетях Сeph External и Management, от всех серверов до СХД предоставлен и протестирован

Исполнитель

3

Доступ между всеми серверами по сети Management предоставлен и протестирован

Исполнитель

4

Доступ от серверов до DNS-сервера через сети Management и Cloud External предоставлен и протестирован

Исполнитель

5

Доступ от серверов до NTP-сервера через сети Management и Cloud External предоставлен и протестирован

Исполнитель

6

Доменные имена VIP интерфейсов в DNS занесены и протестированы

2.5

Исполнитель

7

SSL сертификаты получены

3.1

Исполнитель

8

Скорость передачи данных между серверами протестирована и соответствует пропускной способности сети

Проверка с помощью утилиты iperf

Исполнитель

9

MTU в сетях настроен корректно

Проверка с помощью команды ping -M do -s 9000 -c1 <IP>

Исполнитель

10

Скорость передачи данных от серверов до СХД протестирована и соответствует пропускной способности сети

Проверка передачей файлов и отслеживания скорости передачи

Исполнитель

11

На дисках серверов отсутствуют ошибки

Исполнитель

12

Доступ серверов к хранилищу S3 (при наличии) предоставлен и протестирован

Исполнитель