Здравствуйте, sharpcoder, Вы писали:

S>Идею понял, да. Спасибо. Так действительно можно усосать нейросеть. Другое дело, что сколько выходных нейронов нужно если в нейросети миллиард связей? — миллиард.
S>Но мысль понятна — нужна защита от подобного хака.

Не от подобного, это лишь Proof of concept. Такое можно сделать не увеличивая количество нейронов вовсе,
просто неким кодовым датасетом регулируя, вес какой связи какого нейрона какого слоя нам нужен, а хитрая сеть будет
прогонять его без изменений до выхода.

Здравствуйте, sharpcoder, Вы писали:

S>Идею понял, да. Спасибо. Так действительно можно усосать нейросеть. Другое дело, что сколько выходных нейронов нужно если в нейросети миллиард связей? — миллиард.
S>Но мысль понятна — нужна защита от подобного хака.

Не от подобного, это лишь Proof of concept. Такое можно сделать , неким кодовым датасетом регулируя,
вес какой связи какого нейрона какого слоя нам нужен, а хитрая сеть будет
прогонять его без изменений до выхода.

Т.к. нейросети полны по Тьюрингу, на них можно реализовать любой алгоритм и ничего с этим не поделать.
Даже если жестко задавать выбор возможных функций в нейронах, реализация дампера лишь слегка усложнится.