Мы привыкли к первой эре технологии, которую можно охарактеризовать приятным термином — детерминированность.

Когда на вход системы поступают данные — она всегда выдает ожидаемый ответ, получение которого можно отследить пошагово. Если же что-то пошло не так — можно пройтись дебаггером и понять почему что-то пошло не так, в каком именно месте система сработала неожиданным образом, найти причину и, при необходимости, исправить конкретную инструкцию.

Это была техника домагической эпохи.

Сейчас же, с внедрением систем ИИ в жизнь, мы входим в эру магии, когда система отработала так как отработала и пошагово понять почему произошло именно так — не представляется возможным. Вернее можно оценить систему статистически, но не детерминистически. Параметров слишком много, чтобы понять какой именно параметр к чему привязан и откуда взялся. Более того, дело даже не в количестве параметров а в необратимости некоторых функций — т.е. приходим к той же проблеме, что и поиск данных по имеющемуся крипто-хешу.

И вроде как другого выхода у нас нет. Хотелось бы чтобы техника оставалась предсказуемой и контролируемой — но нет, так не позволяет само естество нашего мира. Приходится выходить на новый уровень, вверять технике нового уровня управление теми или иными аспектами нашей жизни.

И основной вопрос — приняли ли вы уже это? Или же имеете внутреннюю неприязнь к ИИ и системам, построенным на его основе?

Я в эту эру ещё не перешёл. Поэтому судить не могу, для меня всё детерминированно.

Вообще если на эту тему рассуждать, я бы скорей сказал, что магия может возникать от недостатка образования у технических специалистов, а не от ИИ. К примеру недавно была проблема с нашим сайтом, я не был на связи и администраторы творили какую-то дичь, рандомно перезагружали сервисы, пытались отлаживать какие-то ошибки, которые даже ошибками не были и отношения к проблеме не имели. При том, что реально проблема была в перегрузке сервера БД и это можно было легко понять, если иметь хоть малейшее представление о том, что такое БД, что такое пул соединений, где посмотреть метрики, связанные с БД. И такое по моему опыту происходит во многих местах.

Я и сам в общем-то далеко не Эйнштейн. К примеру всё, что происходит внутри ядра, для меня — магия. К примеру была ситуация, когда терялись пакеты внутри ядра. Я долго ковырялся, но так и не смог понять, я могу мониторить "входы и выходы", а что внутри происходит — для меня это чёрный ящик, скомпилировать своё ядро, залезть туда дебаггером или как там это вообще делается — такой квалификацией я не обладаю. Хотя есть цель — закрыть этот пробел...

А ИИ — ну у меня оно дополняет код, в общем-то ничем от любой другой автодополнянки не отличается. В браузере использую как гугл. Тоже никаких чудес. Для меня ничего не изменилось в работе. Некоторые рабочие процессы слегка ускорились, к примеру однотипный код я могу написать чуть быстрей, чем раньше, процедуру поиска в интернете я могу заменить на запрос к ИИ и это тоже отработает чуть быстрей, чем раньше, но принципиально это ничего не поменяло.

vsb>Вообще если на эту тему рассуждать, я бы скорей сказал, что магия может возникать от недостатка образования у технических специалистов

ТС же рассказывал как-то что стал тупым от того что его учителя в школе гнобили, ну или по/крайней мере ему так казалось.

Здравствуйте, Muxa, Вы писали:

vsb>>Вообще если на эту тему рассуждать, я бы скорей сказал, что магия может возникать от недостатка образования у технических специалистов

M>ТС же рассказывал как-то что стал тупым от того что его учителя в школе гнобили, ну или по/крайней мере ему так казалось.

Похоже на то. Если раскрутить колесо рулетки, получишь непредсказуемый ответ. Это же не значит, что колесо рулетки — пыщь пыщь магия. Наоборот, физик должен хорошо понимать, что в устройстве колеса делает ответ непредсказуемым.

Невыносимо задрали люди, неспособные прочитать пару статей об устройстве ЛЛМ, чтобы понимать, что там нет никакой магии, есть статанализ и маленькая рулетка (ГСЧ).

Здесь ещё ладно, он один такой. И не предлагает подписаться на Телеграм-канал про ИИ. И не продаёт доступ из России к ИИ. В других местах просто все ленты позасирали этим говном.

Здравствуйте, vsb, Вы писали:

vsb>А ИИ — ну у меня оно дополняет код, в общем-то ничем от любой другой автодополнянки не отличается. В браузере использую как гугл. Тоже никаких чудес. Для меня ничего не изменилось в работе. Некоторые рабочие процессы слегка ускорились, к примеру однотипный код я могу написать чуть быстрей, чем раньше, процедуру поиска в интернете я могу заменить на запрос к ИИ и это тоже отработает чуть быстрей, чем раньше, но принципиально это ничего не поменяло.

Так а причем тут дополняет код то? Это временный вариант использования, который как бы проходи через старый добрый метод проверки — во всем виноват человек.

Вопрос в применении этих систем без контроля — те самые беспилотные авто, системы ставящие диагнозы без проверки врачом, роботы выдающие займы на основе анализа больших данных. Когда один чел. получил требуемый кредит а другой, по решению робота — не получил — и никто не знает почему, ведь было проанализировано 100500 параметров.

Здравствуйте, Muxa, Вы писали:

M>ТС же рассказывал как-то что стал тупым от того что его учителя в школе гнобили, ну или по/крайней мере ему так казалось.

Вы меня с кем-то путаете.

Школа всех людей делает одинаковыми — это не только ко мне относится. По этому и возможно то что сейчас происходит — взаимное уничтожение двух народов без всякого смысла.

Тупой или нет — я себя тупым не считаю, хотите померяться со мной интеллектуальной силой?

Здравствуйте, Alekzander, Вы писали:

A>Невыносимо задрали люди, неспособные прочитать пару статей об устройстве ЛЛМ, чтобы понимать, что там нет никакой магии, есть статанализ и маленькая рулетка (ГСЧ).

Есть еще:

1. Петабайты входящих данных.
2. Необратимые функции.

Нельзя в точности сказать какие задачи сможет решить ИИ на основе той или иной входящей базы а какие не смогут. По этому сейчас собирают список максимально сложных задач, чтобы попытаться пролить свет на этот вопрос.

Здравствуйте, Shmj, Вы писали:

S>2. Необратимые функции.

Где в ЛЛМ используют необратимые функции?

Здравствуйте, Shmj, Вы писали:

S>Тупой или нет — я себя тупым не считаю

Оно и заметно. В этом даже и сомневаться не приходится.

PS. Да, пока вы засираете RSDN своей тупизной смею возможным указывать вам на вашу тупизну.

Здравствуйте, Alekzander, Вы писали:

A>Где в ЛЛМ используют необратимые функции?

В больших языковых моделях (LLM) необратимые функции используются в различных компонентах архитектуры и процесса обучения. Вот где они применяются:

Функции активации:

ReLU (Rectified Linear Unit): Эта функция преобразует отрицательные значения в ноль. Поскольку невозможно восстановить исходное отрицательное значение из нуля, ReLU считается необратимой.
GELU (Gaussian Error Linear Unit): Хотя эта функция более гладкая, она также необратима из-за своей нелинейной природы.

Softmax:
Используется в выходном слое для преобразования логитов в вероятности. Softmax необратим, так как из выходных вероятностей невозможно точно восстановить исходные логиты.
...

— это вам для начала. Но и так понятно что по имеющейся модели нельзя восстановить данные, на которых она обучалась. Размер модели будет во много крат меньше самих данных, даже если данные сжать.

Здравствуйте, Shmj, Вы писали:

A>>Где в ЛЛМ используют необратимые функции?

S>

S>В больших языковых моделях (LLM) необратимые функции используются в различных компонентах архитектуры и процесса обучения. Вот где они применяются:

S>Функции активации:

S>ReLU (Rectified Linear Unit): Эта функция преобразует отрицательные значения в ноль. Поскольку невозможно восстановить исходное отрицательное значение из нуля, ReLU считается необратимой.
S>GELU (Gaussian Error Linear Unit): Хотя эта функция более гладкая, она также необратима из-за своей нелинейной природы.

S>Softmax:
S>Используется в выходном слое для преобразования логитов в вероятности. Softmax необратим, так как из выходных вероятностей невозможно точно восстановить исходные логиты.
S>...

S>- это вам для начала. Но и так понятно что по имеющейся модели нельзя восстановить данные, на которых она обучалась. Размер модели будет во много крат меньше самих данных, даже если данные сжать.

А ты знаешь, что a || b необратимая (в твоём смысле) функция? И a && b тоже необратимая. И только !a обратимая. Вот так. Практически любая программа — магия! Пыщь пыщь!

Здравствуйте, Alekzander, Вы писали:

A>А ты знаешь, что a || b необратимая (в твоём смысле) функция? И a && b тоже необратимая. И только !a обратимая. Вот так. Практически любая программа — магия! Пыщь пыщь!

Смотри на суть. Где в жизни тебе приходилось применять девайсы, которые подталкивают к принятию того или иного решения на основе неясных связей и данных (или же автономные девайсы, которые сами принимают то или иное решение на основе неясных данных и алгоритмов)? Т.е. когда ты даже при всем желании не сможешь проследить почему так, откуда взялось.

Ранее такого не было.

Был рандом — но только идиот будет жить по рандому — смысла нет.

Сейчас же на основе сжатых 100 терабайт данных делают модельку размером 7 Гб. и эта моделька типа мыслит. Но при этом не остается возможности понять почему именно она ответила так или иначе на тот или иной вопрос.

Здравствуйте, so5team, Вы писали:

S>Оно и заметно. В этом даже и сомневаться не приходится.
S>PS. Да, пока вы засираете RSDN своей тупизной смею возможным указывать вам на вашу тупизну.

Давайте поменяемся интеллектом. В какой сфере вы сильны?

Здравствуйте, Shmj, Вы писали:

S>>Оно и заметно. В этом даже и сомневаться не приходится.
S>>PS. Да, пока вы засираете RSDN своей тупизной смею возможным указывать вам на вашу тупизну.

S>Давайте поменяемся интеллектом.

Два анонимных непоймикто будут чем-то мерятся в Интернете? Это вы мощно задвинули, внушаить. Вот прям чувствуется, что тупым вы себя ну никак не можете считать.

S>В какой сфере вы сильны?

Разве что в боксе по переписке.

Здравствуйте, Shmj, Вы писали:

S>И основной вопрос — приняли ли вы уже это? Или же имеете внутреннюю неприязнь к ИИ и системам, построенным на его основе?

Принял, разумеется. Другого варианта нет, "любая достаточно сложная технология неотличима от магии".

Магические практики — единственная возможность что-то освоить в современном мире.
Докапываться как когда-то было до того "как все устроено на самом деле" больше не представляется возможным, если хочется оставаться хоть сколько-то эффективным.

Популярность Stack Overflow — как пример — там есть вопросы и ответы (заклинания по сути). Большинство не будет докапываться, "почему". Просто скипнут и "получат результат".
А с введением AI это все будет многократно преумножаться. Люди даже не будут пытаться разбираться.

Так всегда было — сначала человек просто учится "как сделать X"
Потом приходит понимание, что на самом деле X достигается путем внутренних операций Y Z, которые основаны на A B C, итд
При увеличении вложенности до размеров когда понимание всей системы уже не входит в голову и получается "магия".

Наше "понимание" это просто понимание работы до какого-то уровня вложенности этой системы.
Но даже сейчас при желании можно спуститься до квантовой физики например, где обычная логика вообще работает довольно слабо.

Здравствуйте, Shmj, Вы писали:

A>>А ты знаешь, что a || b необратимая (в твоём смысле) функция? И a && b тоже необратимая. И только !a обратимая. Вот так. Практически любая программа — магия! Пыщь пыщь!

S>Смотри на суть. Где в жизни тебе приходилось применять девайсы, которые подталкивают к принятию того или иного решения на основе неясных связей и данных (или же автономные девайсы, которые сами принимают то или иное решение на основе неясных данных и алгоритмов)? Т.е. когда ты даже при всем желании не сможешь проследить почему так, откуда взялось.

S>Ранее такого не было.

S>Был рандом — но только идиот будет жить по рандому — смысла нет.

S>Сейчас же на основе сжатых 100 терабайт данных делают модельку размером 7 Гб. и эта моделька типа мыслит. Но при этом не остается возможности понять почему именно она ответила так или иначе на тот или иной вопрос.

Смотреть на суть? Суть в том, что на утверждение "нет никакой магии, есть статанализ и ГСЧ", ты возразил, что ещё есть необратимые функции. То есть, магия должна быть в них. Но на самом деле ВСЕ реальные программы содержат ДОХЕРА необратимых функций.

Это потому, что ты не понимаешь, что две из трёх возможных базовых функций — необратимые.

Здравствуйте, Shmj, Вы писали:

S>Мы привыкли к первой эре технологии, которую можно охарактеризовать приятным термином — детерминированность.

Если я не ошибаюсь, именно Эдсгер Дейкстра ввел в обиход организацию ввода-вывода вокруг системы прерываний, вместе с чем ушла детерминированность. Раньше этого избегали. И это, на минуточку, середина 60-х.

Так что с пробуждением тебя, товарищ! Но ИИ тут не причем.

S>Сейчас же, с внедрением систем ИИ в жизнь, мы входим в эру магии, когда система отработала так как отработала и пошагово понять почему произошло именно так — не представляется возможным. Вернее можно оценить систему статистически, но не детерминистически. Параметров слишком много, чтобы понять какой именно параметр к чему привязан и откуда взялся. Более того, дело даже не в количестве параметров а в необратимости некоторых функций — т.е. приходим к той же проблеме, что и поиск данных по имеющемуся крипто-хешу.

Это вообще нормально для инженерного дела, проектировать системы более сложные, чем мы в состоянии полностью измерить, проанализировать, осознать.

Думаешь, средневековые строители готических соборов настолько хорошо владели сопроматом, чтобы полностью просчитать своё поделие? Я полагаю, они пользовались накопленным опытом и делали с запасом. И ведь до сих пор стоят соборы-то.

Думаешь, создатели ранних самолетов настолько глубоко владели аэродинамикой, чтобы полностью рассчитать самолет? Да и теперь, теоретическая база сильнее, опыта накоплено больше, но всё равно, новый самолет испытывают и нередко доделывают после испытаний.

Так что извини, но для инженера это нормально, когда модель слишком сложна, чтобы ее полностью теоретически понять, но делать всё равно надо и надо отвечать за результат.

А магия — удел недоучек, которые слишком плохо понимают, что они делают, и даже не в состоянии осознать, что это не нормально.

S>И основной вопрос — приняли ли вы уже это? Или же имеете внутреннюю неприязнь к ИИ и системам, построенным на его основе?

- Гиви, ты памыдоры любиш?
— Ест люблу, а так — нэт!

S>Тупой или нет — я себя тупым не считаю,
Покажи мне человека, который считает себя тупым.

S>хотите померяться со мной интеллектуальной силой?

Меряться интеллектуальной с силой с человеком, для которого любой хэллоу ворлд является магией из-за того что в нем используются необратимые операции &, |, + и т д, считаю занятием бессмысленным.

Здравствуйте, so5team, Вы писали:

S>Два анонимных непоймикто будут чем-то мерятся в Интернете? Это вы мощно задвинули, внушаить. Вот прям чувствуется, что тупым вы себя ну никак не можете считать.

А почему бы и нет? Не умеете — не обвиняйте в тупизне, лучше не переходите на личности.

Здравствуйте, Alekzander, Вы писали:

A>Смотреть на суть? Суть в том, что на утверждение "нет никакой магии, есть статанализ и ГСЧ", ты возразил, что ещё есть необратимые функции. То есть, магия должна быть в них. Но на самом деле ВСЕ реальные программы содержат ДОХЕРА необратимых функций.

A>Это потому, что ты не понимаешь, что две из трёх возможных базовых функций — необратимые.

Суть нового этапа — этап магии в IT — мы больше не контролируем программы. Мы — никто из людей на земле — больше не может сказать почему прога дала тот или иной ответ на поставленный вопрос. Речь об ИИ программах.

Дело не в кодовой базе программы — данные так же формируют связи и состояния — по сути сами данные — это и есть дописывание программы, причем основные состояния и связи — именно данно-формированные. А данных терабайты, это невозможно просто так проанализировать. Как-либо повернуть назад фарш и понять из какого куска мяса он произошел — так же не возможно.

Все текущие IT дмагического этапа — системы, будь то ОС, браузер, HTTP-сервер — прозрачны и детерминистичны, даже если что-то пошло не так — всегда можно пройтись отладчиком и докопаться до причины.