Подготовка окружения
Перед установкой Платформы необходимо создать сети с IP-адресами согласно паспорту проекта (см. таблицу 1).
Название | Доступ из корп. сети | MTU | Мин. пропускная способность |
|---|---|---|---|
| Администраторам | 1500 | 10 Гбит/с |
| Нет | 1500 | 10 Гбит/с |
| Пользователям | 1500 | 10 Гбит/с |
| Пользователям | 1500 | 10 Гбит/с |
| Нет | 1450 | — |
| Пользователям | 1500 | 10 Гбит/с |
| Нет | 9050 | 10 Гбит/с |
| Нет | 9050 | 10 Гбит/с |
Описание перечисленных выше сетей приведено далее.
Management: Сеть для внутреннего взаимодействия компонентов Платформы. Подключается на каждом хосте инфраструктуры облака. Сеть для взаимодействия компонентов Платформы между собой, а так же для работы администраторов и управления на высоком (веб-интерфейс) и низком (SSH) уровне Платформой. Конечным пользователям доступ до этой сети не предоставляется.Private API Loopbacks: Сеть для доступа компонентов к API. Указывается три BGP IP.Public API Transport: Транспортная сеть для Public API Loopbacks. Сеть для взаимодействия проекта Платформы с пользователем. Тут находится точка входа для пользователей (UI и API), через которую он управляет своим проектом. Для организации точки входа пользователей выделяются три BGP IP через сетьPublic API Loopbacks.Public API Loopbacks: Сеть для доступа пользователей к порталу самообслуживания и API. Указывается три BGP IP.K8s Internal: Внутренняя сеть Kubernetes. Используется для назначения сетей для подов и сервисов кластера Kubernetes.Cloud External: Сеть для внешних интерфейсов ВМ (корпоративная сеть). Используется для взаимодействия пользователей со своими ВМ и подобными развёрнутыми ресурсами в Платформе. Например, тут публикуются на сторону пользователей «Плавающие IP». Также используется для резервного копирования БД в хранилище S3. Для этого обеспечивает доступ до S3 из внешней сети, подключённой к маршрутизатору внутренней сети, где размещён инстанс БД.Сeph External: Сеть для доступа к данным СХД/Ceph. Высокопроизводительная сеть для взаимодействия серверовControllersиComputeс серверамиStorage— то есть через данную сеть ВМ в Compute получают доступ к виртуальным дискам наStorage. Именно из-за объёма информации данная сеть вынесена в отдельную, а так же там добавлена скорость и увеличен MTU.Сeph Internal: Кластерная сеть Ceph. Используется для синхронизации распределенных данных кластера Ceph между собой. Вынесена в отдельную сеть для обеспечения большей надёжности.
-
Deploy:
IPMI(если деплой-нода является физическим сервером).Management.
-
Controlplane:
IPMI.Management.Cloud External.Public API Transport.Ceph External.
-
Compute:
IPMI.Management.Cloud External.Ceph External.
-
Ceph:
IPMI.Management.Ceph External.Ceph Internal.
-
Route Server (RS):
IPMI.Management.
-
Logging/Monitoring:
IPMI.Management.
Обеспечьте доступ из сети Management до следующих сервисов:
- DNS.
- LDAP.
- NTP.
Обеспечьте доступ из сети Cloud External в сеть Public API Loopbacks по следующим портам:
80.443.5000.35672.
Откройте порт 179 / TCP от серверов Controller до BGP-коммутаторов и обратно.
Выполните подготовку оборудования согласно минимальным требованиям, описанным в таблице ниже (Таблица 2).
Серверная роль | Физический сервер / ВМ | Кол-во серверов | RAM (ГБ) | CPU (кол-во / модель / частота / кол-во ядер) | Storage (кол-во / тип / размер) | Сетевые интерфейсы (кол-во / протокол / скорость) |
|---|---|---|---|---|---|---|
Deploy | Физический или ВМ | 1 | 64 | 2 × Xeon E5-2620v2 | 2 × 480 ГБ SSD + 2 × 1 ТБ HDD | 2 × 10 ГБ LACP, 1x1 ГБ |
Controlplane (Controller, Networking, Billing, Public API Transport, LMA) | Физический | 3 | 64 | 2 × Xeon E5-2620v2 | 2 × 480 ГБ SSD | 2 × 10 ГБ LACP, 1 × 1 ГБ |
Compute | Физический | 2 | 64 | 2 × Xeon E5-2620v2 | 2 × 480 ГБ SSD | 2 × 10 ГБ LACP, 1x1 ГБ |
Ceph | Физический | 3 | 64 | 2 × Xeon E5-2620v2 | 2 × 480 ГБ SSD + 2 × 960 ГБ SSD | 2 × 10 ГБ LACP, 1 × 1 ГБ |
Route Server (RS) | Физический | 2 | 64 | 2 × Xeon E5-2620v2 | 2 × 480 ГБ SSD | 2 × 10 ГБ LACP, 1 × 1 ГБ |
Monitoring Logging | Физический | 1 | 64 | 2 × Xeon E5-2620v2 | 2 × 480 ГБ SSD + 2 × 1 ТБ HDD | 2 × 10 ГБ LACP, 1 × 1 ГБ |
Установите ОС CentOS 7.6.1810 (ссылка на скачивание) на все хосты через IPMI или PXE и настройте сетевые интерфейсы, исходя из списка раздела Сетевая составляющая каждой роли. На каждом хосте должен быть только один основной шлюз из сети Management.
Имена хостов, на которых производится установка, в дальнейшем используются в качестве DNS-имен этих хостов. Имена должны соответствовать следующим требованиям:
- Содержат не более 63-х символов.
- Содержат только строчные буквы, цифры, '-' и '.'
- Начинаются с буквы или цифры.
- Заканчиваются буквой или цифрой.
Сеть настраивается стандартными средствами ОС Linux согласно Техпаспорту проекта.
Необходимо обеспечить отказоустойчивость диска с ОС при помощи RAID1 или LVM mirror учитывая следующие рекомендации:
- На диске создается 1 раздел, монтируется в /.
- Swap отключен.
Необходимо отключить SELinux на всех серверах. Для этого выполните следующую команду:
setenforce 0
Необходимо отключить firewalld, так как он приводит к конфликтам с iptables. Для этого сначала необходимо остановить firewalld, а затем отключить:
systemctl stop firewalldsystemctl disable firewalld
Чтобы использовать несуперпользовательскую УЗ (root):
- Создайте нового пользователя на всех хостах.
- Настройте для него возможность выполнения команд через
sudoбез пароля. - Настройте беспарольный доступ для выбранного пользователя с помощью ssh-ключа на все серверы Платформы.
Для предстартовой проверки:
-
Проверьте состояние инсталляции:
- На всех хостах платформы развёрнута ОС с корректно настроенным сетевым доступом:
- До DNS-серверов.
- До NTP-серверов.
- Между хостами.
- Отсутствуют неисправности в оборудовании.
- На всех хостах платформы развёрнута ОС с корректно настроенным сетевым доступом:
-
Выполните все пункты из чек-листа, приведенного в таблице 3.
-
Если какая-либо проверка не будет успешной, исправьте все возникшие ошибки перед продолжением установки Платформы. В противном случае правильная работа инсталлятора и/или Платформы не гарантируется.
№ | Требование | № пункта Техпаспорта | Статус | Комментарий | Проверяющая сторона | Проверку выполнил | Действия для проверки |
|---|---|---|---|---|---|---|---|
1 | Доступ от Deploy node до серверов в | — | — | В случае отсутствия SSH-доступа до любого из серверов Платформы установка завершится с ошибкой | Исполнитель | — | — |
2 | Доступ, в сетях | — | — | — | Исполнитель | — | — |
3 | Доступ между всеми серверами по сети | — | — | — | Исполнитель | — | — |
4 | Доступ от серверов до DNS-сервера через сети | — | — | — | Исполнитель | — | — |
5 | Доступ от серверов до NTP-сервера через сети | — | — | — | Исполнитель | — | — |
6 | Доменные имена VIP интерфейсов в DNS занесены и протестированы | 2.5 | — | — | Исполнитель | — | — |
7 | SSL сертификаты получены | 3.1 | — | — | Исполнитель | — | — |
8 | Скорость передачи данных между серверами протестирована и соответствует пропускной способности сети | — | — | Проверка с помощью утилиты | Исполнитель | — | — |
9 | MTU в сетях настроен корректно | — | — | Проверка с помощью команды | Исполнитель | — | — |
10 | Скорость передачи данных от серверов до СХД протестирована и соответствует пропускной способности сети | — | — | Проверка передачей файлов и отслеживания скорости передачи | Исполнитель | — | — |
11 | На дисках серверов отсутствуют ошибки | — | — | — | Исполнитель | — | — |
12 | Доступ серверов к хранилищу S3 (при наличии) предоставлен и протестирован | — | — | — | Исполнитель | — | — |