M>>А то что в ответ на какие-то неудобные вопросы сеть генерит какой-то неудобный текст — это вовсе и не баг никакой, это либо недостаточная тренировка, либо отсутствие входящего фильтра.

S>Нейросеть умеет отвечать на вопросы, которым ее прямо не обучали. И никто не может понять как именно это происходит. Т.е. она вышла из под контроля.

Не умеет.
Нейросеть вообще не отвечает на вопросы, она на текстовый request генерит текстовый response. Привел английские термины чтобы немножко размешать кашу в твоей голове, из-за того что слово response на русский переводится как «ответ».