Попробуйте nginx-sticky-module
Маршрутизирует по собственной куке. Если нода отваливается, то пользователь идет на др ноду (таймауты настраиваются). Соответственно, томкаты должны хранить сессию в базе. Я делал балансировку на nginx+jetty — серьёзных проблем пока не было. Единственная проблема — по умолчанию этот модуль в nginx не включен.

E>Интересует вопрос. Есть stateful веб сервис, развернут на томкате. Рассчитан на N пользователей. Нужно этот сервис отмасштабировать, чтоб он держал K*N пользователей.
E>Итого, нужен load balancer, который всегда определенного юзера гарантированно будет отправлять строго на определенный сервер, переключаясь на другой только в случае падения. То есть в моем случае (у меня spring security используется для аутентификации) нужно для каждого запроса прочитать данные аутентификации и в соответствии с этим перебросить запрос на соответствующий сервер. Такой балансер в принципе написать большого труда не составит, вот только вопрос — а нет ли какого балансера, который делает базовые вещи по балансировке, и который можно кастомизировать под мои требования?