Здравствуйте, Shmj, Вы писали:

S>Сейчас же, с внедрением систем ИИ в жизнь, мы входим в эру магии, когда система отработала так как отработала и пошагово понять почему произошло именно так — не представляется возможным. Вернее можно оценить систему статистически, но не детерминистически. Параметров слишком много, чтобы понять какой именно параметр к чему привязан и откуда взялся.

А это то же самое, что работать с людьми, и вообще с живыми существами. Никогда не знаешь, кто когда насколько и как именно взбрыкнёт. Поэтому вся надежда на обратную связь.

S>И основной вопрос — приняли ли вы уже это? Или же имеете внутреннюю неприязнь к ИИ и системам, построенным на его основе?

Если всё равно есть средства ограничить рамки и последствия подобного поведения живого — а они обычно есть, отработаны тысячелетиями — то просто учитывать.

Здравствуйте, Pzz, Вы писали:

Pzz>Если я не ошибаюсь, именно Эдсгер Дейкстра ввел в обиход организацию ввода-вывода вокруг системы прерываний, вместе с чем ушла детерминированность. Раньше этого избегали. И это, на минуточку, середина 60-х.

Прерывания апппаратные или добавление аппаратного ГСЧ — это не то. Система имеет некий элемент случайности, но в довольно прогнозируемых рамках. Более того — это вся случайность применялась разве что для формирования крипто-ключей, в остальных случаях на жизнь не влияло.

Т.е. был секрет — но не было магии в IT. Сейчас появляется именно что магия — да до такой степени, что нельзя сказать мыслит ИИ и насколько сложные задачи оно само может решать.

Pzz>Это вообще нормально для инженерного дела, проектировать системы более сложные, чем мы в состоянии полностью измерить, проанализировать, осознать.

Для инженерного дела — норма, т.к. сама суть мира нашего — квантовый мир — не познан и, по сути, является тем что можно только принять на веру, но не понять (по крайней мере никому еще понять не удалось).

А вот для IT — магия была не нормой, ее не было. Она отрицалась, ее запрещали, отрицали. Магия была порицаема в IT. Все было доступно для понимания и отладки, для коррекции.

Сейчас же все, эти времена закончились и в IT входит магия.

Здравствуйте, Muxa, Вы писали:

M>Меряться интеллектуальной с силой с человеком, для которого любой хэллоу ворлд является магией из-за того что в нем используются необратимые операции &, |, + и т д, считаю занятием бессмысленным.

Ты сначала пойми о чем вообще разговор, прежде чем ерунду говорить.

Здравствуйте, Shmj, Вы писали:

A>>Смотреть на суть? Суть в том, что на утверждение "нет никакой магии, есть статанализ и ГСЧ", ты возразил, что ещё есть необратимые функции. То есть, магия должна быть в них. Но на самом деле ВСЕ реальные программы содержат ДОХЕРА необратимых функций.

A>>Это потому, что ты не понимаешь, что две из трёх возможных базовых функций — необратимые.

S>Суть нового этапа — этапа магии в IT — мы больше не контролируем программы. Мы — никто из людей на земле — больше не может сказать почему прога дала тот или иной ответ на поставленный вопрос. Речь об ИИ программах.

S>Дело не в кодовой базе программы — данные так же формируют связи и состояния — по сути сами данные — это и есть дописывание программы, причем основные состояния и связи — именно данно-формированные. А данных терабайты, это невозможно просто так проанализировать. Как-либо повернуть назад фарш и понять из какого куска мяса он произошел — так же не возможно.

S>Все текущие IT -системы, будь то ОС, браузер, HTTP-сервер — прозрачны и детерминистичны, даже если что-то пошло не так — всегда можно пройтись отладчиком и докопаться до причины.

Сначала проясни вот это:

Есть еще:

1. Петабайты входящих данных.
2. Необратимые функции.

Каждая занюханная программа состоит из необратимые функций. Дальше что?

Здравствуйте, netch80, Вы писали:

S>>Сейчас же, с внедрением систем ИИ в жизнь, мы входим в эру магии, когда система отработала так как отработала и пошагово понять почему произошло именно так — не представляется возможным. Вернее можно оценить систему статистически, но не детерминистически. Параметров слишком много, чтобы понять какой именно параметр к чему привязан и откуда взялся.

N>А это то же самое, что работать с людьми, и вообще с живыми существами. Никогда не знаешь, кто когда насколько и как именно взбрыкнёт. Поэтому вся надежда на обратную связь.

В живой природе элемент магии был всегда (никто не знает как работают фундаментальные частицы — мы просто верим что их свойства таковы, каковыми мы их видим в данный момент — почему так — мы не знаем). А вот в IT магии не было от слова вообще — любая попытка привлечь магию порицалась и пресекалась.

Сейчас же и тут мы вынуждены были прийти к магии.

Здравствуйте, Pzz, Вы писали:

Pzz>Если я не ошибаюсь, именно Эдсгер Дейкстра ввел в обиход организацию ввода-вывода вокруг системы прерываний, вместе с чем ушла детерминированность. Раньше этого избегали. И это, на минуточку, середина 60-х.

Зачем так сложно? Дейкстра, конгресс, немцы...

Сейчас разбирался с библиотекой (7 тысяч звёзд на гитхабе). Согласно документации, она должна генерить ивент 'next' при переходе на next. А она, собака, не генерит, зато генерит ивент 'changed'. Вот так, с одной стороны, в Интернете петабайты информации, а с другой — кто-то опять п@#$ит Почему он не пишет, что Интернет это недетерминированная машина лжи и была такой с самого появления? Потому что знает, как устроен Интернет (точнее, думает, что знает). А как устроены ЛЛМ он не знает, и знать не хочет, фантазирует тут, и впаривает свои фантазии таким же невеждам. И что самое интересное, находятся те, кому фантазии удаётся впарить.

Здравствуйте, Alekzander, Вы писали:

A>Каждая занюханная программа состоит из необратимые функций. Дальше что?

Сама программа — т.е. то что обрабатывало данные — оставалось фиксированным и контролировалось человеком. Всегда было можно разобраться почему программа отработала так, а не иначе — найти ошибку и устранить.

Сейчас же сама программа обработки данных — модель — не подконтрольна и не понятна человеку, нельзя сказать какой именно входной текст (какие данные из этих 100 терабайт) — повлияли на то или иное решение программы. Сейчас собирают вопросы чтобы понять какие задачи может решать та или иная модель а какие не может — люди сами этого не знают — чистая магия.

Здравствуйте, Shmj, Вы писали:

Pzz>>Если я не ошибаюсь, именно Эдсгер Дейкстра ввел в обиход организацию ввода-вывода вокруг системы прерываний, вместе с чем ушла детерминированность. Раньше этого избегали. И это, на минуточку, середина 60-х.

S>Прерывания апппаратные или добавление аппаратного ГСЧ — это не то. Система имеет некий элемент случайности, но в довольно прогнозируемых рамках. Более того — это вся случайность применялась разве что для формирования крипто-ключей, в остальных случаях на жизнь не влияло.

Оно очень влияло на вопросы корректной обработки асинхронных событий. Таких, как прерывания. Собственно, до Дейкстры не было понимания, как со всем этим жить.

S>Т.е. был секрет — но не было магии в IT. Сейчас появляется именно что магия — да до такой степени, что нельзя сказать мыслит ИИ и насколько сложные задачи оно само может решать.

Это тебе неясно. Специалистам по ИИ ясно.

Pzz>>Это вообще нормально для инженерного дела, проектировать системы более сложные, чем мы в состоянии полностью измерить, проанализировать, осознать.

S>Для инженерного дела — норма, т.к. сама суть мира нашего — квантовый мир — не познан и, по сути, является тем что можно только принять на веру, но не понять (по крайней мере никому еще понять не удалось).

Ты когда какашку в унитаз роняешь, не можешь знать наверняка, долетят брызги до попы или не долетят. Квантовость тут вообще не причем, но элементов случайности в мире много.

(Hint: если на поверхности воды плавает бумажка, она существенно ослабляет вывзанную какашкой волну и кумулятивного эффекта не возникает; попа остаётся сухой).

S>А вот для IT — магия была не нормой, ее не было. Она отрицалась, ее запрещали, отрицали. Магия была порицаема в IT. Все было доступно для понимания и отладки, для коррекции.

Скажи это программистам, использующим хитрый Win32 API.

S>Сейчас же все, эти времена закончились и в IT входит магия.

Неучи сейчас входят в IT стройными толпами, а не магия.

M>>Меряться интеллектуальной с силой с человеком, для которого любой хэллоу ворлд является магией из-за того что в нем используются необратимые операции &, |, + и т д, считаю занятием бессмысленным.

S>Ты сначала пойми о чем вообще разговор, прежде чем ерунду говорить.

Ну ок, я выполнил операцию & и получил 0 — обрати эту операцию.

Здравствуйте, Pzz, Вы писали:

Pzz>Это тебе неясно. Специалистам по ИИ ясно.

Каким именно? Уже были случаи когда специалисты по ИИ говорили о пределах, чего никогда не сможет LLM. И вот новая модель это берет и делает.

Некоторые думают что модель этому специально обучили и она не разобралась в сути вопроса а просто выдала готовый результат. По этому сейчас пошли на такой шаг — собрать 1000 секретных вопросов, которых 100% нет в интернете или книгах и которые нельзя внести в базу какой-либо LLM. А потом на основе этих секретных вопросов проверить думает оно или нет.

Здравствуйте, Muxa, Вы писали:

S>>Ты сначала пойми о чем вообще разговор, прежде чем ерунду говорить.
M>Ну ок, я выполнил операцию & и получил 0 — обрати эту операцию.

К данным в эру домагической эпохи применялись необратимые операции, к примеру сжатие рисунка с потерями.

Сам код же (то, что содержит инструкции по сжатию) всегда был фиксированным и контролировался человеком. Динамический код применялся разве что некоторыми вирусами для препятствия их обнаружения, чтобы сигнатура вируса не могла быть добавлена в базу — при этом инструкции всегда оставались фиксированными (просто добавлялся мусорный код, который ничего особо не делал).

Сейчас же, в эпоху магии — код, который обрабатывает данные — это модель. Модель — это массив коэффициентов и связей, от которого зависит как именно будут обработаны входящие данные. Т.е. это не входящие данные — это сама программа. И как именно устроена эта программа — человек уже сказать не может.

Здравствуйте, Shmj, Вы писали:

A>>Каждая занюханная программа состоит из необратимые функций. Дальше что?

S>Сама программа — т.е. то что обрабатывало данные — оставалось фиксированным и контролировалось человеком. Всегда было можно разобраться почему программа отработала так, а не иначе — найти ошибку и устранить.

S>Сейчас же сама программа обработки данных — модель — не подконтрольна и не понятна человеку, нельзя сказать какой именно входной текст (какие данные из этих 100 терабайт) — повлияли на то или иное решение программы. Сейчас собирают вопросы чтобы понять какие задачи может решать та или иная модель а какие не может — люди сами этого не знают — чистая магия.

Ты написал, что наличие необратимых функций отличает ИИ от обычных программ. Это глупость, а у тебя нет яиц её признать.

Здравствуйте, Alekzander, Вы писали:

S>>Сейчас же сама программа обработки данных — модель — не подконтрольна и не понятна человеку, нельзя сказать какой именно входной текст (какие данные из этих 100 терабайт) — повлияли на то или иное решение программы. Сейчас собирают вопросы чтобы понять какие задачи может решать та или иная модель а какие не может — люди сами этого не знают — чистая магия.

A>Ты написал, что наличие необратимых функций отличает ИИ от обычных программ. Это глупость, а у тебя нет яиц её признать.

Как ты не поймешь. Ранее необратимые функции могли быть в коде программы, они применялись к данным. Но сам код был всегда 100% фиксированным. Динамический код применялся разве что некоторыми вирусами для препятствия их обнаружения, чтобы сигнатура вируса не могла быть добавлена в базу — при этом инструкции всегда оставались фиксированными (просто добавлялся мусорный код, который ничего особо не делал).

Сейчас же модель — это не входящие данные — это и есть сама программа, которую вы применяете к входящим данным. Вот в чем фокус!

Модель — это не данные а код по трансформации данных!!!

И фишка в том что модель формирует не человек — она формируется на основе огромного массива данных. И из-за того, что при формировании модели применяются необратимые функции — мы не можем сказать почему тот или иной коэффициент в модели установлен в то или иное значение — какие именно данные или их сочетание к этому привели.

Здравствуйте, Shmj, Вы писали:

S>>Два анонимных непоймикто будут чем-то мерятся в Интернете? Это вы мощно задвинули, внушаить. Вот прям чувствуется, что тупым вы себя ну никак не можете считать.

S>А почему бы и нет?

Я бы посоветовал подумать. Но до сих пор у вас не получалось. Нет оснований думать, что получится сейчас.

if (input & 0x1)
  return input*2;
else
  return input+2;

Функция необратимая, выполнимая операция зависит от данных.
Это уже магия или еще нет?

Здравствуйте, Alekzander, Вы писали:

A>Сейчас разбирался с библиотекой (7 тысяч звёзд на гитхабе). Согласно документации, она должна генерить ивент 'next' при переходе на next. А она, собака, не генерит, зато генерит ивент 'changed'.

Нужно пройтись дебагером или добавить в код логирование пошагово — и найдете где проблема.

A>Вот так, с одной стороны, в Интернете петабайты информации, а с другой — кто-то опять п@#$ит Почему он не пишет, что Интернет это недетерминированная машина лжи и была такой с самого появления? Потому что знает, как устроен Интернет (точнее, думает, что знает).

Тексты в интернете — это не часть программы или протоколов интернета. Это просто тексты — мысли от живых людей. А человек никогда себя и не позиционировал как нечто логически действующее — всегда был элемент магии, просто не все об этом задумывались.

В компьютерном же деле доселе магия была под запретом и отрицалась.

A>А как устроены ЛЛМ он не знает, и знать не хочет, фантазирует тут, и впаривает свои фантазии таким же невеждам. И что самое интересное, находятся те, кому фантазии удаётся впарить.

Дело не в коде, который генерит модель. Дело в самой модели — модель это тоже код, правила для преобразования данных. Так вот как устроена модель 7 гигабайтовая или 700 гигабайтовая — не знает ни один человек на земле.

Здравствуйте, Muxa, Вы писали:

M>Функция необратимая, выполнимая операция зависит от данных.
M>Это уже магия или еще нет?

Вы можете взять входящие данные и пошагово пройтись именно с этими же данными в дебагере — и понять почему код отработал именно таким образом. Если что-то не так как вы хотели — найдете точку где именно эта проблема возникает.

С LLM так нельзя в принципе — здесь уже нет контроля — чистая магия.

Здравствуйте, Shmj, Вы писали:

S>Тексты в интернете — это не часть программы или протоколов интернета. Это просто тексты — мысли от живых людей. А человек никогда себя и не позиционировал как нечто логически действующее — всегда был элемент магии, просто не все об этом задумывались.

S>В компьютерном же деле доселе магия была под запретом и отрицалась.

У тебя какой-то талант портить вещи.

Мой комментарий был написан с целью посмотреть, как много людей ПОМИМО ТЕБЯ не знает, как устроены ЛЛМ. Для этого они должны были бы начать возмущаться сравнением с Интернетом.

И ты всё испортил.

Здравствуйте, Muxa, Вы писали:

M>

M>if (input & 0x1)
M>  return input*2;
M>else
M>  return input+2;
M>

M>Функция необратимая, выполнимая операция зависит от данных.
M>Это уже магия или еще нет?

Так ведь, "невозможно восстановить исходное значение из нуля". А тут какая-то подозрительная двойка. Надо посоветоваться с ЧатГПТ.

Здравствуйте, Alekzander, Вы писали:

A>Мой комментарий был написан с целью посмотреть, как много людей ПОМИМО ТЕБЯ не знает, как устроены ЛЛМ. Для этого они должны были бы начать возмущаться сравнением с Интернетом.

А вы на каком уровне знаете устройство LLM? Мне кажется ничего зазорного нет в том что кто-то чего-то не знает, ведь все знать не возможно.

Я участвовал в конкурсе по обработке данных с помощью LLM, не выиграл, хотя и выполнил задание — более-менее понятна суть, но, конечно, математика там достаточно не простая и просто так с налету я бы не смог доработать PyTorch или ATen — нужно лет несколько в этом вариться.

Сейчас нейронные сети решают и уникальные задачи, тех, которых в сети или в книгах нет. Вот в чем фокус. Как вы это объясните?