https://habr.com/ru/companies/bothub/news/844170/

Вкратце суть такова, я так понял, что бот в попытках найти способ найти ответ, удовлетворяющий человека, находит самый простой метод. Например, выдать правдоподобную чушь.
Если так пойдёт и дальше, то боту проще будет долбануть кожаного током, чем напрягаться и искать инфу.

Это в дополнение к тому, что описано в этой теме: http://rsdn.org/forum/ai/8870106.flat

Автор: Osaka
Дата: 19.12.24

Если боту поставить задачу "не вредить человеку", то он соптимизирует её "сделать так, чтобы человек не думал, что ему причиняют вред, либо не мог об этом сообщить". То есть вы понимаете да?