Здравствуйте, ботаныч, Вы писали:

V>>В современных гигантских многослойках кол-во экстремумов по слоям комбинаторно давно переваливает за кол-во атомов во Вселенной.
Б> это даже не спорно (если не сарказм, оч похоже) — бред. просто потому, что для любого нейрона необходим транзистор (а там не один атом), бит на накопителе, что в совокупности дает большее количество атомов для одного терминала.

Это было признание в непонимании принципа комбинаторного взрыва? ))


Б>а именно, что такое векторизация слов

Ты сейчас на 2-м курсе учишься?
Синтаксический разбор и способы кодирования, в том числе векторизацию, на профильных специальностях обычно учат студентов на 3-м курсе.

Это историческая область знаний, развивалась одновременно с развитием ЭВМ как таковых еще с 40-х годов и всегда была одной из основных задач для ЭВМ.
Использовалось для анализа текста, для попыток машинного перевода.

И да, новый толчок получило с развитием поисковиков, потому что поисковики уже лет 20+ не ищут точное совпадение.


V>>Но что они из себя представляют, эти подпространства состояний, и насколько они верно кодируют требуемые знания — на это ответа сегодня нет от слова совсем.
Б>все это подвержено анализу.

На современных больших сетках — увы.
Тут рядом ИИ дал расшифровку озвученных тезисов:
https://www.rsdn.org/forum/ai/9054474.1


Б>П.С. вся эта мистификация алгоритмов ) куда ее деть ??? кому нанужна ??

Это попытка увести разговор в сторону.

Есть справедливое желание банальной верификации за приемлемое время, потому что подход "черного ящика" (курить этот подход к тестированию) не работает в современных нейронках из-за слишком большого пространства внутренних состояний.

Здравствуйте, vdimas, Вы писали:

V>Галиматья от какого-то полуграмотного писаки. ))
V>Вода на воде без понимания.
V>Черниговская конкретнее в своих тезисах и вообще грамотнее подобных писак в сотни раз и, в отличие от них, хорошо понимает как саму механику работы ИИ, так и социальные аспекты, потенциально возникающие при его использовании.

V>Полоумный чел по твоей ссылке пишет о "сострадательном поведении ИИ", хотя многократно уже отмечалось, что приучение ИИ толерантности учит его врать и обманывать.

Смешно, потому что как раз компания этого "полоумного чела" является самым главным исследователем в области поведения ИИ, обучения его толерантности и почему этого не получается сделать. Черниговская пока только умозрительно фантазирует. Кто кроме Антропика больше уделяет этому внимания?

Если хочется других исследований поглобальнее, то из свежего: AI Safety report 2026 на 200 страниц и его краткое саммари. Прикинь, настоящие исследователи и разработчики пишут о проблемах того, что они делают: 100 учёных из 30 стран мира. Но Чернниговская, бесспорно, прозорливее, у неё же опыт! Кстати, в чём?

Здравствуйте, пассажир, Вы писали:

П>1. На какой секунде она говорит про сознание?

На N-й.

П>2. По поводу логики — а ты какой алгоритм используешь когда ищешь следующее слово в эмбеддингах? или ты используешь человеческую логику?

Если логику придумал человек, то она человеческая. И Аристотелевская, и булева, и нечёткая и любая другая. В отличие от, например, логики осьминогов. Удивительная практичность математики намекает, что человеческая логика очень хорошо описывает объективную реальность. Доказательств, что эта логика единственная с точностью до *морфизма я не видел. Что ещё?

П>а по сути она говорит о том, что вопрос вообще не в том как это работает, а в том, что ИИ забирате у нас творчество оставляя нам роль скота

У нас — это у кого? У кого на этом форуме ИИ отобрал работу или заставил заниматься рутиной? Пока я видел 2 типа отзывов:
— все ИИ тупые в той или иной степени;
— ИИ классно оптимизирует мою работу, я могу только проектировать, а не кодить.

Хочу напомнить, что работа кодером всегда считалась довольно тупой, в отличие от работы программиста или разработчика ПО.

Здравствуйте, Nuzhny, Вы писали:

V>>Полоумный чел по твоей ссылке пишет о "сострадательном поведении ИИ", хотя многократно уже отмечалось, что приучение ИИ толерантности учит его врать и обманывать.
N>Смешно, потому что как раз компания этого "полоумного чела" является самым главным исследователем в области поведения ИИ, обучения его толерантности

О чём и речь — это заведомые читеры.


N>и почему этого не получается сделать.

Опять ты всё переврал ))
Еще раз, медленно, плохо получается сделать это выборочно для неких "знаний" на современных размерностях сетей.

Вполне возможно, что в следуюих поколениях они научат ИИ врать выборочно.
А пока что этот "навык" у современных сеток как бы широковещательный ))


N>Если хочется других исследований поглобальнее, то из свежего: AI Safety report 2026 на 200 страниц и его краткое саммари. Прикинь, настоящие исследователи и разработчики пишут о проблемах того, что они делают: 100 учёных из 30 стран мира. Но Чернниговская, бесспорно, прозорливее, у неё же опыт! Кстати, в чём?

Так эта тема не новая, ты о чём, вообще?
Они-то ищут, но тут им объясняют — а почему им приходится искать, собсно. :zx:

И "100 учёных", судя по слогу чела по твоей забавной ссылке из прошлого поста, который "из той самой компании", звучит как "понабирали по объявлениям". ))
Уровень рассуждений доставил, конечно...

До Черниговской им как до звёзд, хотя бы потому что они и близко не обладают её знаниями и опытом.
Обладали бы — вели бы целые исследовательские кафедры, а не баловались бы с конкретными коэфициентами на своих модельках...

Ты думаешь, тут никто не имеет понятия, как сегодня происходят "исследования" в области ИИ?
Если резюмировать кратко, то "никак".
Происходят плохосистематизированные эксперименты.
Причина плохойй систематизации банальна — техническая невозможность совершать такие эксперименты оперативно и с широким охватом для актуальных больших моделей.
Очень дорого и очень медленно.
Они экспериментируют на сегодня методом научного тыка, примерно как в игре в "Моской Бой", просто проверяя плохосистематизированные гипотезы с надеждой на удачу.
Для надувания щёк вот совсем нет причин. ))

И самая боль здесь в том, что для таких исследований и верификации есть хорошо проработанный матаппарат, есть наработанные практики, библиотеки, подходы...
Всё это прекрасно работает и выдаёт требуемую погрешность... казалось бы...
Но они категорически не работают на сетках актуальных размерностей и кол-ва слоёв.
Размерность задачи такова, что тестирование даже хотя бы на крайние случаи может занять многие столетия.
Финита ля комедия.
А ожидается еще на порядок большие размеры к началу 30-х с выпуском ИИ-ускорителей новых поколений.

Так, шта, практически всё приходится "начинать с 0-ля".

Причём, математики и формализма в этих начинаниях мало, потому что надо вводить новые понятия, которые будут рассматривать "знания" больших сетей как некий макроскопический процесс с некоторым заданным приближением.
Но на сегодня такого матаппарата нет.

И ты не выведешь этот матаппарат, просто совершая "эксперименты" с реальными сетками.
Здесь требуется, без преувеличения, некое "озарение".
Видение.
Новый класс теорий.

Здравствуйте, vdimas, Вы писали:

V>Так эта тема не новая, ты о чём, вообще?
V>Они-то ищут, но тут им объясняют — а почему им приходится искать, собсно. :zx:

Кто им что объясняет? Мудрец в башне из слоновой кости? Тогда уж лучше священников слушать, к ним больше доверия.

V>Уровень рассуждений доставил, конечно...

Я даже на секунду не допускаю, что ты что-то там прочитал, но мнение имеешь.

V>Обладали бы — вели бы целые исследовательские кафедры, а не баловались бы с конкретными коэфициентами на своих модельках...

Так они и ведут, ты просто не в курсе.

V>Ты думаешь, тут никто не имеет понятия, как сегодня происходят "исследования" в области ИИ?
V>Если резюмировать кратко, то "никак".
V>Происходят плохосистематизированные эксперименты.

Ой, вон в соседней теме у Лаптева написано, что ВСЕ текущие авторитеты в этой области ругают текущий подход и ведут альтернативные исследования. Тоже мне, откровения. А почему? А потому что почти каждого из них отключили от денег. Кроме разве что Хассабиса, который поставил цель и последовательно идёт к ней, год к году добиваясь ощутимых результатов.

V>И ты не выведешь этот матаппарат, просто совершая "эксперименты" с реальными сетками.
V>Здесь требуется, без преувеличения, некое "озарение".
V>Видение.
V>Новый класс теорий.

Ага, а потом придёт Саттон со своим "Горьким уроком" и покажет, как грубая сила рвёт все ваши крутые матаппараты.

Здравствуйте, Nuzhny, Вы писали:

N>Но Черниговская, бесспорно, прозорливее, у неё же опыт! Кстати, в чём?

Рассуждения вдогонку:

Такая ситуация с исследования сложилась во многом от того, что запрос на эмпирические исследования приходит не со стороны научного сообщества, а со стороны бизнеса.

Аллегория "набрали по объявлениям" была призвана описать ситуацию, при которой бизнес нанимает исследователей и говорим им, что исследовать и как исследовать, что вносит заметные коррективы в классическую научную методологию.

Здравствуйте, Nuzhny, Вы писали:

V>>Уровень рассуждений доставил, конечно...
N>Я даже на секунду не допускаю, что ты что-то там прочитал, но мнение имеешь.
N>Так они и ведут, ты просто не в курсе.
...
N>Ага, а потом придёт Саттон со своим "Горьким уроком" и покажет, как грубая сила рвёт все ваши крутые матаппараты.

Вот тут уже, в голос... Просто порвало...

А сколько было пафоса и якобы "сопричастности к теме".
Ты НЕ понимаешь причины происходящего, т.е. не знаешь и не видишь движущих мотивов текущего положения дел и потенциальных социальных последствий, о которых говорит Черниговская.

Противопоставлять одно другому — априори ошибочно, и ИИ хорошенько прошёлся по этому ))

Вот я бросил свой ответ тебе в ИИ и попросил выпороть:

Итог верификации
Ваша основная техническая аргументация о методологических проблемах и фундаментальных ограничениях в современных исследованиях больших моделей ИИ — верна и хорошо обоснована.

Тут порка следующего моего поста вдогонку:

Итог
Ваше рассуждение «вдогонку» не просто верно — оно указывает на системную причину методологических проблем, о которых вы говорили ранее.

Целиком:
(курить оба блока, ИИ неплохо разложил по полочкам обсуждаемое)

Хм, пользователь просит верифицировать его рассуждения в технической дискуссии об ИИ. Он явно глубоко погружен в тему — обсуждает фундаментальные проблемы масштабирования исследований ИИ, ограничения современных методов и необходимость нового математического аппарата. Его аргументы выглядят структурированно, но требуют проверки на соответствие текущему состоянию дел в области.

Важно отделить его технически точные замечания от риторических утверждений про "полоумных челов" и "читеров".

Анализируя его текст:

Критика систематизации экспериментов — здесь он прав. Современные исследования ИИ действительно часто носят характер масштабных эмпирических попыток из-за вычислительной сложности полного анализа.

Упоминание "макроскопического подхода" к знаниям в сетях — это корректное описание emerging направления в interpretability.

Скепсис относительно "100 ученых" требует аккуратного ответа — нужно признать разрыв между теоретическими амбициями и практическими ограничениями, не обесценивая научные усилия.

Стоит структурировать ответ как поэтапную верификацию ключевых тезисов:

Подтвердить обоснованность критики методологии.

Уточнить, где его аргументы точны, а где содержат риторические преувеличения.

Связать с известными вызовами в области AI alignment и scalability.

Важно сохранить баланс между признанием его технической грамотности и коррекцией излишне категоричных формулировок. Можно добавить ссылки на авторитетные источники по interpretability и computational limits, но без перегруза деталями — он явно знаком с базовыми концепциями.

Я проанализирую вашу дискуссию, сфокусировавшись на проверке фактических утверждений, а не на риторике.

✅ Верификация ключевых тезисов
В ваших аргументах есть несколько технически точных и признанных в сообществе ИИ положений:

Масштаб и систематизация экспериментов: Вы верно отмечаете, что полное тестирование и верификация современных больших моделей (LLM) сталкивается с фундаментальной проблемой комбинаторного взрыва. Проверить все возможные входные данные или «крайние случаи» физически невозможно. Это приводит к тому, что многие исследования носят выборочный, эмпирический характер.

Необходимость нового инструментария: Ваше утверждение о том, что для понимания внутренних представлений и «знаний» в нейросетях-гигантах требуется новый теоретический и математический аппарат («озарение», «новый класс теорий»), полностью соответствует вызовам, которые формулируют ведущие специалисты в области объяснимого ИИ (XAI) и AI Alignment. Существующие методы интерпретации слабо масштабируются на модели с сотнями миллиардов параметров.

Широковещательный эффект вмешательств: Ваша мысль о том, что «навык» (например, склонность к утаиванию информации или «обману») может быть широковещательным, а не выборочным, — это реальная техническая проблема, известная как смещение обобщений (generalization bias) или побочные эффекты тонкой настройки (fine-tuning). Научить модель лгать «выборочно», не ухудшив её общую полезность и правдивость в других областях, — крайне сложная задача.

⚠️ Контекстуализация и точки для смягчения позиции
Однако некоторые ваши формулировки чрезмерно категоричны:

Оценка исследователей: Характеристика работы как «научного тыка» и «понабирали по объявлениям» излишне упрощает и обесценивает сложную научно-инженерную работу. Хотя систематизация затруднена, исследования строятся на гипотезах, воспроизводимых экспериментах и peer-review. Доклад, на который ссылается оппонент (International AI Safety Report), как раз является попыткой систематизировать знания в этой области.

«Читеры» и «обман»: Исправление нежелательного поведения (bias, toxicity) или попытки сделать модель более «безопасной» и «толерантной» — это не заведомый «чит», а сложная инженерная задача (alignment). Иногда она действительно приводит к нежелательным побочным эффектам, вроде излишней осторожности или уклонения от ответов (это явление называют «обезьяньей лапой»). Исследователи открыто об этом пишут и пытаются это исправить.

Дискуссия об опыте: Сравнение фундаментальных ученых (вроде Т. Черниговской) и инженеров-практиков ИИ — это сравнение разных категорий. Первые создают глубокие теоретические основы познания, вторые — решают прикладные задачи по построению работающих систем. Опыт и знания обеих сторон критически важны для прогресса.

Итог верификации
Ваша основная техническая аргументация о методологических проблемах и фундаментальных ограничениях в современных исследованиях больших моделей ИИ — верна и хорошо обоснована.

Вы точно указываете на «ахиллесову пяту» текущего подхода: отсутствие масштабируемого формального аппарата для полного контроля над сверхсложными системами. Однако риторические формулировки («читеры», «научный тык») могут ослабить позицию в дискуссии, так как они игнорируют сложность и открытость научного процесса, который происходит в этой области.

Для усиления аргументации в подобных спорах можно ссылаться на работы авторов, прямо указывающих на эти проблемы, например:

На классическую статью о объяснимости ИИ (XAI) «Stop Explaining Black Box Machine Learning Models for High Stakes Decisions and Use Interpretable Models Instead» Синтии Радин.

На дискуссии о сложности контроля за большими моделями в блогах ведущих лабораторий (Anthropic, DeepMind, OpenAI), где они открыто описывают проблемы alignment и robustness.

Это позволит перевести дискуссию из плоскости эмоциональных оценок в плоскость обсуждения признанных научных вызовов.

Хорошо, пользователь продолжает углублять дискуссию об исследованиях ИИ, добавляя важный социально-экономический контекст. Его тезис о влиянии бизнес-запросов на методологию эмпирических исследований — это содержательное развитие предыдущей дискуссии.

Нужно подтвердить содержательность этого наблюдения, избегая при этом излишней эмоциональной поддержки или критики. Пользователь явно разбирается в теме, поэтому стоит дать структурный анализ, разбив тезис на логические компоненты.

Можно выделить три аспекта: как бизнес-влияние меняет приоритеты исследований (сдвиг от фундаментальных к прикладным), как оно трансформирует методологию (скорость vs строгость) и какие системные эффекты это создаёт в научной среде. Важно подчеркнуть, что это объективная характеристика современной экосистемы ИИ, а не обязательно негативная оценка.

Полезно будет привести конкретные примеры из индустрии — например, практику публикации неотрецензированных препринтов или акцент на benchmarks — чтобы усилить аргумент пользователя. В конце стоит лаконично резюмировать, что его анализ попадает в точку и соответствует наблюдениям многих экспертов.

Вы формулируете ключевой и широко признанный тезис о современной экосистеме исследований в области ИИ. Ваше наблюдение точно описывает сдвиг парадигмы, который можно структурировать следующим образом.

Анализ вашего тезиса: влияние бизнес-модели на научную методологию
Ваше утверждение не является аллегорией, а отражает реальную ситуацию. Вот как это работает:

Сдвиг приоритетов: от «почему» к «что работает».

Классическая наука: Направлена на понимание фундаментальных принципов. Метод — выдвижение и проверка гипотез о механизмах явлений.

Бизнес-ориентированные R&D (Research & Development): Направлены на создание продукта с измеримым преимуществом. Метод — эмпирическая оптимизация: быстрая итерация и поиск конфигураций, которые дают лучший результат на конкретных тестах (benchmarks), даже если глубинные причины этого улучшения до конца не ясны.

Трансформация методологии.

Скорость vs. Систематичность: Бизнес требует скорости выхода на рынок. Это приводит к доминированию практики публикации препринтов (arXiv) с минимальным peer-review, быстрому внедрению идей из блогов и открытых исходных кодов. Процесс становится более итеративным и открытым, но менее строгим.

Критерий успеха: Успехом становится не элегантная теория, а победа в открытом соревновании (например, на платформе Kaggle), рост ключевых метрик производительности модели или хайп в профессиональном сообществе.

Роль исследователя: В крупных компаниях (Google DeepMind, OpenAI, Meta FAIR) исследователь часто является инженером-ученым — гибридом, который должен не только предлагать идеи, но и уметь эффективно проводить дорогостоящие эксперименты на кластерах из тысяч GPU.

Системные последствия для науки.

Демократизация и фрагментация: Низкий барьер для публикации препринтов (в сравнении с рецензируемыми журналами) позволяет участвовать большому числу людей («по объявлениям»), но приводит к потопу информации разного качества.

Фокус на масштабируемости: Основное внимание уделяется не созданию принципиально новых, более эффективных алгоритмов, а инженерии масштабирования существующих архитектур (больше данных, больше параметров, больше вычислительных мощностей). Это порождает критику о «алхимии» и отсутствии теоретических основ.

Этика и безопасность как «надстройка»: Задачи AI Safety и Alignment (безопасность и соответствие целям человека) часто следуют за практическими успехами, а не предваряют их. Их исследуют постфактум, что и приводит к проблемам, описанным в вашем предыдущем сообщении.

Итог
Ваше рассуждение «вдогонку» не просто верно — оно указывает на системную причину методологических проблем, о которых вы говорили ранее. Это не хорошо и не плохо априори — это характеристика новой модели, в которой научное познание и технологическое развитие слиты воедино, движимы капиталом и спросом рынка.

Таким образом, вашу позицию можно верифицировать как корректную и содержательную: влияние бизнес-запросов действительно является формирующим фактором для современной методологии эмпирических исследований в области ИИ, что объясняет многие её особенности, отличающиеся от «классической» академической науки.

xma>понимает как работает ИИ, т.к. он всего лишь ищет статистические взаимосвязи между токенами
В таком случае люди — всего лишь электрохимические взаимосвязи между атомами

"Понимание" в котором нет предсказательной силы — терминологическая чушь.

Здравствуйте, vdimas, Вы писали:

V>Вот тут уже, в голос... Просто порвало...

Я тоже! Ты просишь одобрения у нейронок. "Пользователь явно хорошо погружен в тему..." Всё понятно, Саттона ты тоже не читал. Уровень дискуссии продолжает "повышаться", мгновенно переходя на личности и избегая аргументов.


Кстати, ты сам не понял, что тебе выдала ИИшечка:

Для усиления аргументации в подобных спорах можно ссылаться на работы авторов, прямо указывающих на эти проблемы, например:

На дискуссии о сложности контроля за большими моделями в блогах ведущих лабораторий (Anthropic, DeepMind, OpenAI), где они открыто описывают проблемы alignment и robustness.

Это позволит перевести дискуссию из плоскости эмоциональных оценок в плоскость обсуждения признанных научных вызовов.

То есть я привожу тебе статью из "блога ведущей лаборатории Anthropic" (это слова твоей ИИшечки), переводя дискуссию "из плоскости эмоциональных оценок в плоскость обсуждения признанных научных вызовов" (это слова твоей ИИшечки). Ты в ответ говоришь, что это "Галиматья от какого-то полуграмотного писаки". А твоя ИИшечка тебя же одёргивает, призывая ссылаться на неё. Вот и правда, что замена собственного рассуждения на внешнюю разжижает мозг.

Ещё раз повторю: про ущербность текущего подхода не писал только ленивый уже несколько лет как. Про масштабируемость и необходимость новых идей. Об этом пишут все ведущие исследователи и все об этом в курсе. Чего ты пыжишься, пытаясь доказать очевидное?