_>а что значит разумным?
Планировать свои действия с учётом возможных действий других известных ему "агентов".

_>я не могу с этого. ничего, что на то он и ИИ, а тем более сильный, что он сам себя перепрограммировать сможет за 2 секунды? так что, что там заложит создатель — дело десятое.
Там есть маленький такой парадокс. Если встроить в ИИ "желание щастя всем людям", то пока эта система работает, он не станет себя менять, даже зная что "возможность есть" — потому что это может сделать людей груууустными Но не дай бог в этой системе будет ошибочка...