Привет, Форум!
Нужно запустить спринговое приложение в Спарке.
В сети куча примеров как работать со Спарком локально, вроде как уже голову здесь сломал и что-то начал понимать.
Поделитесь опытом как правильно запаковать спринг (спринг бут) приложение с депенденсями и запускать его через spark-submit в кластере.
По запуску спрингового приложения через spark-submit есть несколько вопросов:
1. насколько я понял, спринг бутовый uber jar со всеми депенденси и класслоадером внутри напрямую для spark-submit не подходит.
Прошу меня поправить если это не так?
2. насколько я понял, полученный спринг бут uber jar нужно explode (разворачивать) в какую-нибудь общедоступную папку на сервере и затем давать путь в spark-submit типа как
"--jars /path-to-jars/spring-blabla.jar,/path-to-jars/spring-blablabla.jar"
или
"--jars /path-to-jars/*"
Правильно?
Вообще какие есть варианты?
Я не уверен что в спарк кластере у меня будет папка где можно вот так все либы приложения распаковать.
3. Кто-то реально использует shaded jar чтобы запустить аппликуху с депенденси в spark-submit?
Мне этот путь видится рискованным.
4. Кто как борется с депенденси-библиотеками приложения пересекающимися с библиотеками которые есть в Спарке?
Эксклюдим все пересекающиеся библиотеки и юзаем только те версии что предлагает Спарк?
Есть ли возможность как то это обойти?
Спасибо