Здравствуйте, Muxa, Вы писали:

M>Погоди, так магия это «невозможность дебага» чтоли?
M>И чем так не понравился термин «невозможность дебага», что решил его заменить на новый?

Не только дебага — принцип другой. Нельзя отследить пошагово и установить почему модель решила повести себя именно так — какие именно данные на это повлияли.

S>>С LLM так нельзя в принципе — здесь уже нет контроля — чистая магия.
M>Почему там нельзя также подебажить?

Потому что изменился принцип — вместо последовательности команд имеет нейроны и связи между ними, вес связей. Если вы задаете вопрос (входящие данные) — то все нейроны всех слоев (или большая часть нейронов) — вносят свой небольшой вклад в ответ. Откуда взялись те или иные значения — отследить не возможно, т.к. обучение сети применяет необратимые алгоритмы.