S>Допустим, даете задачу и нейросеть ее решает. Вам нужно узнать на основе каких входящих данных она смогла ее решить, была ли в база такая же задача или похожая.

Зачем мне это знать? Этим датасаентисты занимаются.

S>Куда вы будете ставить брейкпоинт?

А если запрос к БД тормозит или выдает неожиданный результат, куда брэйкпоинт ставить? Или есть другие способы решения?

S>>>Если вы задаете вопрос (входящие данные) — то все нейроны всех слоев (или большая часть нейронов) — вносят свой небольшой вклад в ответ.
M>>Звучит похоже на алгоритм discrete Fourier transform.
M>>Наверное для тебя это тоже магия.
S>А что магического? В чем вопрос, на который нет и не может быть ответа?

Это я у тебя хочу узнать что тут магического? Тут тоже каждая каждый кусочек входных данных влияет на все части результата.