Здравствуйте, Nuzhny, Вы писали:

V>>Полоумный чел по твоей ссылке пишет о "сострадательном поведении ИИ", хотя многократно уже отмечалось, что приучение ИИ толерантности учит его врать и обманывать.
N>Смешно, потому что как раз компания этого "полоумного чела" является самым главным исследователем в области поведения ИИ, обучения его толерантности

О чём и речь — это заведомые читеры.


N>и почему этого не получается сделать.

Опять ты всё переврал ))
Еще раз, медленно, плохо получается сделать это выборочно для неких "знаний" на современных размерностях сетей.

Вполне возможно, что в следуюих поколениях они научат ИИ врать выборочно.
А пока что этот "навык" у современных сеток как бы широковещательный ))


N>Если хочется других исследований поглобальнее, то из свежего: AI Safety report 2026 на 200 страниц и его краткое саммари. Прикинь, настоящие исследователи и разработчики пишут о проблемах того, что они делают: 100 учёных из 30 стран мира. Но Чернниговская, бесспорно, прозорливее, у неё же опыт! Кстати, в чём?

Так эта тема не новая, ты о чём, вообще?
Они-то ищут, но тут им объясняют — а почему им приходится искать, собсно. :zx:

И "100 учёных", судя по слогу чела по твоей забавной ссылке из прошлого поста, который "из той самой компании", звучит как "понабирали по объявлениям". ))
Уровень рассуждений доставил, конечно...

До Черниговской им как до звёзд, хотя бы потому что они и близко не обладают её знаниями и опытом.
Обладали бы — вели бы целые исследовательские кафедры, а не баловались бы с конкретными коэфициентами на своих модельках...

Ты думаешь, тут никто не имеет понятия, как сегодня происходят "исследования" в области ИИ?
Если резюмировать кратко, то "никак".
Происходят плохосистематизированные эксперименты.
Причина плохойй систематизации банальна — техническая невозможность совершать такие эксперименты оперативно и с широким охватом для актуальных больших моделей.
Очень дорого и очень медленно.
Они экспериментируют на сегодня методом научного тыка, примерно как в игре в "Моской Бой", просто проверяя плохосистематизированные гипотезы с надеждой на удачу.
Для надувания щёк вот совсем нет причин. ))

И самая боль здесь в том, что для таких исследований и верификации есть хорошо проработанный матаппарат, есть наработанные практики, библиотеки, подходы...
Всё это прекрасно работает и выдаёт требуемую погрешность... казалось бы...
Но они категорически не работают на сетках актуальных размерностей и кол-ва слоёв.
Размерность задачи такова, что тестирование даже хотя бы на крайние случаи может занять многие столетия.
Финита ля комедия.
А ожидается еще на порядок большие размеры к началу 30-х с выпуском ИИ-ускорителей новых поколений.

Так, шта, практически всё приходится "начинать с 0-ля".

Причём, математики и формализма в этих начинаниях мало, потому что надо вводить новые понятия, которые будут рассматривать "знания" больших сетей как некий макроскопический процесс с некоторым заданным приближением.
Но на сегодня такого матаппарата нет.

И ты не выведешь этот матаппарат, просто совершая "эксперименты" с реальными сетками.
Здесь требуется, без преувеличения, некое "озарение".
Видение.
Новый класс теорий.