Здравствуйте, SomeOne_TT, Вы писали:

SO_>Здравствуйте, sharpcoder, Вы писали:

S>>Я подумаю как от этого защититься.
S>>Из очевидного — деньгами, ведь каждое обращение к нейросети требует криптомонет, если у нейросети ярд связей то попытка выкачать их все будет стоить дороже чем просто купить данные.
S>>На тему других методов надо покреативить. У тебя нет идей?

SO_>Идея в том, что это принципиальный и неустранимый недостаток системы. Внешний аудит невозможен (а если бы и был возможен, то крайне затруднен анализ), "множественные обращения к сети" это лишь недостаток предложенного метода, современные глубокие сети содержат ну максимум сотни слоев (CNN какие-нибудь), а дампить по слою зараз не так уж и сложно.

Сложно Сто слоев, сто лямов связей.
Связей между слоями — квадрат от к-ва нейронов, или около того. Так что нужно много выходных нейронов чтобы это считать.

Но угроза есть. Либо надо аудит устройства нейросети проводить (желательно автоматический), либо внешний.


SO_>Кроме всего прочего, не сильно понимаю, каким образом осуществляется защита сети на уровне железа (это уже про взгляд со стороны клиентов). Да, можно безопасно пересылать веса между нейронами, но в момент свертки весов и генерации нового веса все значения связей нейрона будут в памяти компов компании и снять их оттуда несложно. Расчет только на репутацию?

Да.