По роду деятельности приходится иметь дело с очень громоздкими вычислениями — при обучении нейросетей больших размеров так сказать, а еще на больших обучающих выборках... в общем на локальной машине приходится пару суток смотреть на медленно сменяющиеся цифры числа циклов обучения...
Суперкомпьютеры мне, понятно, недоступны. Вот и появилась необходимость в применении распределенных вычислений на задаче обучения нейросети.
Проблема только в том, где и как, собственно, разделить вычисления? Есть идеи? Буду рад и предложениям по реализации самого "распределения".
Заранее спасибо