Как oohvat держит отклик DSP-платформы под 100 мс при 10 000 запросов в секунду на VK Cloud

<a href="https://oohvat.com" target="_blank">oohvat</a> — DSP-платформа для наружной рекламы: сервис самостоятельного размещения рекламы на цифровых экранах по всей России. Рекламодатели и агентства запускают кампании напрямую, без посредников, и платят за показы. Сеть охватывает более 32 000 экранов в 560+ городах при участии 220+ операторов-партнеров.

Платформа состоит минимум из двух сервисов. Основной бэкенд хранит данные рекламодателей и кампаний, а бид-сервис обрабатывает аукционные запросы от экранов, которые приходят через SSP (систему на стороне операторов экранов) по протоколу OpenRTB: запрос пришёл, oohvat ответил ставкой, показ состоялся. Для рекламодателя это значит, что он может размещать рекламуна экранах в любом городе и в любое нужное ему время. Полный цикл — от запроса экрана до показа — должен укладываться в 300 мс, а на ответ со стороны oohvat выделено не больше 100 мс. Для этого важен не только правильно подобранный фреймворк для бид-сервиса, но и стабильная сеть без скачков задержки. Поэтому компания рассматривала только серверы внутри страны и выбирала зону доступности рядом со своим SSP-партнёром — сейчас это московская зона.

Платформа работает на VK Cloud с конца 2023 года. При выборе провайдера решающими оказались три вещи: удобство управления, уверенность в надежности серверов и полнота продуктовой линейки. Любая задача решается в том же облаке, без поиска еще одного поставщика под новую услугу. Благодаря этому oohvat обходится без выделенной DevOps команды: всей облачной инфраструктурой управляют лишь два человека. Дело не в нехватке людей. По словам команды, облако закрывает все вопросы до такой степени, что держать под них отдельный штат попросту незачем.

Сейчас у oohvat 13 облачных серверов под разные роли: часть отвечает за основной бэкенд и бид-сервис, часть — за собственную CRM-систему, которую команда разработала под свою специфику и разместила рядом с остальной инфраструктурой. Каждому серверу отведен диск для временных файлов и документов, а рекламные ролики, которые загружают на модерацию перед показом на экранах, лежат в объектном хранилище. Данные хранятся на выделенных серверах с базами данных, а поток событий от экранов логируется в ClickHouse.

Ежедневно через платформу проходит около 200 000 показов, а бид-сервис принимает порядка 10 000 запросов в секунду. При такой нагрузке uptime инфраструктуры держится выше 99,9%. Сбои здесь недопустимы в принципе: каждая секунда простоя — это потерянные показы для рекламодателя и упущенные деньги для самой компании, потому что выручка считается в реальном времени, от показа к показу.

У oohvat три направления развития. **Первое** — обучить собственную языковую модель и в ближайшие шесть месяцев развернуть её на выделенных GPU-серверах. Сейчас сервис обращается к облачным моделям через API, но команде нужно защитить данные клиентов и не зависеть от внешних провайдеров, чтобы решение оставалось стабильным. Поэтому модель должна быть своя, на собственном сервере. **Второе** — принцип «AI-native» в стратегии. Команда понимает тенденции рынка и трезво оценивает, как AI изменит индустрию, поэтому закладывает его в основу всех процессов. Уже сейчас oohvat выстраивает с участием AI все: от разработки, отчетности и бизнес-задач до функций в самой системе. На каждом шаге пользователю помогает искусственный интеллект — собрать адресную программу, построить аналитику и прогнозы, скорректировать отклонения и запустить DOOH-рекламу самым эффективным способом. Так результат приходит быстрее и предсказуемее. **Третье** — выход на другие рынки: контекстной и баннерной рекламы, , а также Smart TV. Он начнется, когда цели в наружной рекламе будут достигнуты, а процессы станут AI-native. Подходы,, отточенные на практике в наружной рекламе, oohvat стремится перенести в другие сферы digital-рекламы. Под эту задачу команда перейдёт на Managed Kubernetes, чтобы распределить возросшую нагрузку по нодам и сохранить отказоустойчивость.