Вы гоняете нагрузочный тест, и p50 вашего API упрямо держится на отметке, которая на глаз кратна какому-то круглому числу миллисекунд — и не сдвигается, сколько ни оптимизируй код обработчика. Если это число похоже на 40 мс, 100 мс или 200 мс и не зависит от размера ответа, а зависит только от того, что запрос и ответ маленькие — вы, скорее всего, столкнулись не с багом в своём коде, а с сорокалетним компромиссом внутри стека TCP. Разбираемся, откуда берётся эта задержка и как её выключить одной строчкой.
Подробнее →