Здравствуйте, Khimik, Вы писали:

K>1) Правильно ли я понимаю, что обучение нейронной сети подобно эволюции – серия последовательных мелких изменений, каждое из которых должно быть адаптивным?

В целом, нет. Чаще всего после каждой эпохи обучения меняются сразу все веса нейросети, а её структура остаётся неизменной.

K>2) Существуют ли сети, обладающие такой же возможностью – можно повредить 0.1% её узлов и это практически не скажется на её работе?

Да, примерно так и есть, но зависит от места повреждения. Посмотри на современную нейросеть (это GoogLeNet) для детекции объектов:

	большая картинка

Если вредить где-то посередине, то немного испортится выделение какого-то признака или какая-то обобщающая способность на каком-то уровне абстракции. Не больше, объекты всё равно будут распознаваться.