Здравствуйте, sharpcoder, Вы писали:

S>Идею понял, да. Спасибо. Так действительно можно усосать нейросеть. Другое дело, что сколько выходных нейронов нужно если в нейросети миллиард связей? — миллиард.
S>Но мысль понятна — нужна защита от подобного хака.

Не от подобного, это лишь Proof of concept. Такое можно сделать , неким кодовым датасетом регулируя,
вес какой связи какого нейрона какого слоя нам нужен, а хитрая сеть будет
прогонять его без изменений до выхода.

Т.к. нейросети полны по Тьюрингу, на них можно реализовать любой алгоритм и ничего с этим не поделать.
Даже если жестко задавать выбор возможных функций в нейронах, реализация дампера лишь слегка усложнится.