spark-submit запустить Spring приложение на Spark/Hadoop
От: Antei США  
Дата: 04.05.21 22:40
Оценка:
Привет, Форум!

Нужно запустить спринговое приложение в Спарке.
В сети куча примеров как работать со Спарком локально, вроде как уже голову здесь сломал и что-то начал понимать.
Поделитесь опытом как правильно запаковать спринг (спринг бут) приложение с депенденсями и запускать его через spark-submit в кластере.

По запуску спрингового приложения через spark-submit есть несколько вопросов:

1. насколько я понял, спринг бутовый uber jar со всеми депенденси и класслоадером внутри напрямую для spark-submit не подходит.
Прошу меня поправить если это не так?

2. насколько я понял, полученный спринг бут uber jar нужно explode (разворачивать) в какую-нибудь общедоступную папку на сервере и затем давать путь в spark-submit типа как
"--jars /path-to-jars/spring-blabla.jar,/path-to-jars/spring-blablabla.jar"

или
"--jars /path-to-jars/*"


Правильно?
Вообще какие есть варианты?
Я не уверен что в спарк кластере у меня будет папка где можно вот так все либы приложения распаковать.

3. Кто-то реально использует shaded jar чтобы запустить аппликуху с депенденси в spark-submit?
Мне этот путь видится рискованным.

4. Кто как борется с депенденси-библиотеками приложения пересекающимися с библиотеками которые есть в Спарке?
Эксклюдим все пересекающиеся библиотеки и юзаем только те версии что предлагает Спарк?
Есть ли возможность как то это обойти?

Спасибо
spark hadoop spring
 
Подождите ...
Wait...
Пока на собственное сообщение не было ответов, его можно удалить.