Здравствуйте, Code, Вы писали:

C>Давайте обозначим эпоху переменной — Age.

Эпохи всегда так и назывались — epoch.

Здравствуйте, Code, Вы писали:

Согласен, способы вычислеия ошибок можно (и нужно) виртуализировать. В последнем по задумке варианте сама сеть вычисляет свою ошибку, что вполне подойдет пока.

Список неплохих лекций, дает последовательное и довольно-таки полное изложение:

http://alife.narod.ru/lectures/neural/Neu_ch01.htm
http://alife.narod.ru/lectures/neural/Neu_ch02.htm
http://alife.narod.ru/lectures/neural/Neu_ch03.htm
http://alife.narod.ru/lectures/neural/Neu_ch04.htm
http://alife.narod.ru/lectures/neural/Neu_ch05.htm
http://alife.narod.ru/lectures/neural/Neu_ch06.htm
http://alife.narod.ru/lectures/neural/Neu_ch07.htm
http://alife.narod.ru/lectures/neural/Neu_ch08.htm
http://alife.narod.ru/lectures/neural/Neu_ch09.htm
http://alife.narod.ru/lectures/neural/Neu_ch10.htm
http://alife.narod.ru/lectures/neural/Neu_ch11.htm
http://alife.narod.ru/lectures/neural/Neu_ch12.htm

Еще:
Многослойный персептрон (1-я часть)
Многослойный персептрон (2-я часть)

Обратное распространение
Быстрое распространение
Градиентный спуск

С указанных страниц ведут ссылки и на другие способы обучения.
-----

Топ с гугла по теме: http://www.google.com/Top/Computers/Artificial_Intelligence/Neural_Networks/Software/

сабж