Мы привыкли к первой эре технологии, которую можно охарактеризовать приятным термином — детерминированность.

Когда на вход системы поступают данные — она всегда выдает ожидаемый ответ, получение которого можно отследить пошагово. Если же что-то пошло не так — можно пройтись дебаггером и понять почему что-то пошло не так, в каком именно месте система сработала неожиданным образом, найти причину и, при необходимости, исправить конкретную инструкцию.

Это была техника домагической эпохи.

Сейчас же, с внедрением систем ИИ в жизнь, мы входим в эру магии, когда система отработала так как отработала и пошагово понять почему произошло именно так — не представляется возможным. Вернее можно оценить систему статистически, но не детерминистически. Параметров слишком много, чтобы понять какой именно параметр к чему привязан и откуда взялся. Более того, дело даже не в количестве параметров а в необратимости некоторых функций — т.е. приходим к той же проблеме, что и поиск данных по имеющемуся крипто-хешу.

И вроде как другого выхода у нас нет. Хотелось бы чтобы техника оставалась предсказуемой и контролируемой — но нет, так не позволяет само естество нашего мира. Приходится выходить на новый уровень, вверять технике нового уровня управление теми или иными аспектами нашей жизни.

И основной вопрос — приняли ли вы уже это? Или же имеете внутреннюю неприязнь к ИИ и системам, построенным на его основе?