RPS одинаковый, но p95 по TTFT хуже в 2,7 раза: что round-robin делает с KV-cache +8
Публикации с тегом маршрутизация запросов
RPS одинаковый, но p95 по TTFT хуже в 2,7 раза: что round-robin делает с KV-cache +8
Что умеет и где ломается Jev: большое тестирование +3
Один Telegram‑бот, три сервиса, один 301: как я сделал webhook‑router вместо монолита +2
Service Desk — дружелюбный сосед: как мы настраивали единую точку входа для поддержки в банке +9
Сократили пол-поддержки — 6 инструментов, чтобы разгрузить тех, кто остался +7
Что скрывает ваш API Gateway +7
