Балансировщик нагрузки
Условие
Продукт вырос: обычная нагрузка теперь 1200 запросов в секунду, а по вечерам — вдвое больше. На одном узле «сервер приложения» нельзя держать больше 5 инстансов (ограничение организации), поэтому нужны несколько групп серверов и балансировщик перед ними. Балансировщик делит запросы поровну между подключёнными серверами приложения. Тариф базы данных подберите под нагрузку: запись в 3 раза дороже чтения.
Ограничения
- p95 ≤ 300 мс, ошибки ≤ 0,1 %, бюджет $2400/мес, ≤ 5 инстансов на узел.