Предлагаю обсуждение терминологии вести в этой подветке.

---

Нейронные сети пользуются терминологией напрямую из биологии.

Кратко:

Аксон (Axon) — окончание нейрона, которое передает сигнал другим нейронам или "исполнительным механизмам". Предлагаю так называть идентификаторы, относящиеся к выходным сигналам.

Дендрит (Denrite, Dendrite) — входной рецептор нейрона.

Синапс (Synapse) — место и способ контакта входного дендрита и источника сигнала, от св-в синапса зависит коэф. передачи входного сигнала дендриту. Предлагаю этим термином именовать коэф. при входном контакте нейрона.

Передаточная ф-ия, ф-ия активации — функция преобразования суммы входных сигналов в выходной сигнал. (Наиболее популярна т.н. сигма-функция, близкая по характеристику к природной ф-ии). Предлагаю идентификаторы: ActivationFunc или Sigmoid.

Остальные термины наверняка самопонятные:
Neuron, Layer, Network.