Кэш
Условие
Лента новостей: 3000 запросов в секунду, почти всё — чтения (85 %). Даже самая большая база данных держит не больше 3000 единиц в секунду, а запись стоит 3 единицы — значит, чтения база сама не вытянет. Подключите к серверу приложения кэш: часть чтений (60–95 % в зависимости от объёма памяти) не доходит до базы. Промахи кэша идут в базу. Нагрузку распределите балансировщиком по нескольким группам серверов.
Ограничения
- p95 ≤ 250 мс, ошибки ≤ 0,1 %, бюджет $2800/мес, ≤ 5 инстансов на узел.