Операция выполнена!
Закрыть
Хабы: Java, Микросервисы

Практическая статья на основе проекта vthreads: Spring Boot 4.1.2, JDK 25, PostgreSQL 17, Kafka 3.9. Один и тот же профиль нагрузки прогоняется дважды — с виртуальными потоками и без них — а затем профили потоков совмещаются на одном графике вместе с нагрузкой.

Репозиторий https://github.com/maxmiracle/vthreads

Содержание

1. Проблема: thread-per-request и блокирующий I/O

2. Как устроены виртуальные потоки

3. Виртуальные потоки в Spring Boot Web

4. Что именно блокируется в этом проекте

5. Схема обработки запроса

6. Методика эксперимента

7. Результаты

7.1. График VT ON

7.2. График VT OFF

7.3. Совмещённый график

8. Объяснение результатов

9. Выводы

10. Ограничения и на что обратить внимание

1. Проблема: thread-per-request и блокирующий I/O

Классическая модель Spring MVC/Tomcat — один запрос на один платформенный (OS) поток. Пока запрос ждёт ответа от базы, Kafka, HTTP-клиента или файловой системы, поток блокируется: он остаётся занятым, но ничего не делает. Пул потоков Tomcat ограничен (server.tomcat.threads.max, по умолчанию 200), поэтому при большом числе одновременных «медленных» запросов:

новые соединения ждут в очереди accept;

растёт latency;

каждый поток занимает память под стек и требует переключения контекста на уровне ОС;

увеличивать пул до тысяч потоков экономически невыгодно.

Именно поэтому долгое время для I/O-нагрузок предлагали reactive-стек (WebFlux) или асинхронные API. Виртуальные потоки (JDK 21+, в JDK 25 — стабильная и доработанная технология) позволяют сохранить привычный императивный код и при этом не держать платформенный поток на каждое ожидание.

2. Как устроены виртуальные потоки

Виртуальный поток (VT) — это поток, планируемый JVM, а не ОС. Он выполняется на небольшом пуле carrier-потоков (по умолчанию ForkJoinPool, parallelism = числу доступных процессоров). Когда виртуальный поток упирается в блокирующую операцию, поддерживаемую JDK (LockSupport.park, CompletableFuture.get, Socket I/O, Thread.sleep и т.п.), JVM размонтирует его: carrier освобождается и выполняет другие виртуальные потоки. Когда ожидание завершается, VT ставится в очередь планировщика и снова монтируется на свободный carrier.

Читать далее
Читайте также
НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro