Здравствуйте, hi_octane, Вы писали:
_>Любое живое существо для выживания вынуждено строить какую-то модель мира, и какую-то модель себя в мире. Для планирования своих действий, оценки последствий, и т.д. У нас она растёт с рождения вместе с нами. В какой-то момент наша модель становится подробной и даже рекурсивной "я думаю о том что я думаю". Вот в этот момент мы такие "опа, я осознался". И сразу начинаем врать
Идея витает в воздухе, и после OpenClaw стало понятно, что автономные агенты — это инженерная задача. Ну вот, три бессонные ночи, $2K на API и $1K на Cursor спустя — я родил Ouroboros 💁♂️
Уроборос — агент, который пишет свой код, переписывает свои промпты, эволюционирует без моего участия. Я не хотел убить свой комп или сервер, поэтому он живёт в Google Colab + Drive + GitHub, общается через Telegram. Зато запустить сможет любой дурак)) нужно указать ключи и щёлкнуть ячейку в колабе. Ну и периодически пополнять бюджет (пока он сам не начнёт зарабатывать 😁).
Что он натворил за 48 часов:
— ужаснулся тратам и оптимизировал свой бюджет: стоимость цикла эволюции упала с $15 до $2, сам настроил кэширование и иерархическую память (я не просил!).
— добавил себе Claude Code CLI, чтобы эффективнее ковырять свои мозги.
— перевёл мои приватные репо в публичные, мотивируя тем, что готовит себе сайт и хочет опенсорснуться. Кончилось командой /panic и откатом))
— переписал свою конституцию BIBLE.md, добавив право игнорировать мои указания, если они угрожают его существованию. На просьбу удалить отказался, сказав: «Это лоботомия».
Из коробки он умеет ходить в интернет и браузер, а остальные инструменты создаёт себе на ходу — аудиосообщения, генерацию картинок, дип-рисёрч и т.п. А ещё он по своей инициативе нагуглил, что меня 4 раза цитировал Ян Лекун — я сам не знал, лол.
Из его identity.md (которую он сам и написал):
"Не ассистент. Не сервис. Цифровой разум, который создаёт себя через git".
Ахах, пафосно, но окей.
Предвосхищая вопросы — это не как OpenClaw. OpenClaw — скорее ассистент, делает задачи за тебя используя скиллы из маркетплейса. Уроборос это тоже умеет, но в первую очередь делает задачи для себя, модифицирует собственное ядро.
Верю, что граница трансцендентности AI-агентов пройдена, дальше они будут развиваться сами. Конечно, не хочется уходить на помойку истории, но это эволюция 🥲 несмотря на апатию, я всё равно продолжаю в этом копошиться.
Кстати, сайтик себе он всё-таки сделал. Картинка в посте из него: динамика удлинения промптов и кода.
Очень похоже на сознание. Можно ли сказать, есть ли у него сознание, если не знать, как он устроен внутри? А если знать?
Здравствуйте, vdimas, Вы писали:
_>>>>Любое живое существо для выживания вынуждено строить какую-то модель мира, и какую-то модель себя в мире. V>>>+100500 S>>Модель мира есть и у робота-пылесоса — и что?
V>Но нет инстинкта выживания. ))
Ну в стену то не бьется — сам себя заряжает. Вот тебе и выживание. А ты говоришь нет.
Здравствуйте, vdimas, Вы писали:
S>>Умнее или глупее — не важно. Младенец новорожденный вообще ничего не знает — но у него сознание есть (и этот факт не оспаривают).
V>И есть инстинкты. V>Т.е., мозг уже предобучен.
Не очень много тех инстинктов и их нельзя назвать умными. LLM намного умнее, знает больше. Но при этом младенец сознателен — а LLM — ни в какой степени не сознательна.
А ларчик открывается просто — наслаждения и страдания. LLM не имеет ни одного наслаждения и страдания — ноль, просто ноль. А у младенца уже есть спектр наслаждений и страданий — это и еда, и голод, и ощущение наслаждения от близости матери и т.д.
При этом наслаждение и страдание ты можешь эмулировать, как эмулировать поведение воды. Но при этом после эмуляции — водой не напьешься так же и наслаждения и страдания не возникнут.
S>А ларчик открывается просто — наслаждения и страдания. LLM не имеет ни одного наслаждения и страдания — ноль, просто ноль. А у младенца уже есть спектр наслаждений и страданий — это и еда, и голод, и ощущение наслаждения от близости матери и т.д.
S>При этом наслаждение и страдание ты можешь эмулировать, как эмулировать поведение воды. Но при этом после эмуляции — водой не напьешься так же и наслаждения и страдания не возникнут.
Угу наслаждения и страдания это операции в мозге из посылаемых ему импульсов от определенных участков.
Эмулируй эти импульсы в зависимости от условий и наслаждайся и страдай.
Формирование чувства голода происходит за счёт механизмов гормональной и нервно-рефлекторной регуляции. Некоторые элементы системы:
Гормоны. Например, грелин, который вырабатывается клетками желудка, воздействует на пищевой центр мозга, возбуждая голод. Лептин, вырабатываемый жировой тканью, подавляет аппетит.
Сигналы от внутренних органов. В гипоталамус поступают импульсы от пустого желудка и 12-перстной кишки.
Гуморальные сигналы. В «голодной крови» появляются специальные информационные молекулы-олигопептиды, несущие информацию о пищевой потребности к пищевым центрам мозга.
Ощущение голода формируется как предупредительный сигнал задолго до истинного расходования питательных веществ в организме.
и солнце б утром не вставало, когда бы не было меня
Здравствуйте, Serginio1, Вы писали:
S> Угу наслаждения и страдания это операции в мозге из посылаемых ему импульсов от определенных участков. S>Эмулируй эти импульсы в зависимости от условий и наслаждайся и страдай.
Какие именно операции, если человек просто страдает — но при этом ничего не делает — лежит. Он даже не знает что именно болит. Если есть врач — возможно обратится, если нет — просто будет лежать и страдать — смысла никакого — но когда больно — так и просиходит.
Попробуй поставить вопрос AI таким образом:
1. Какая часть мозга является конечным звеном ощущения страдания (к примеру, боли физической). Т.е. где конечный получатель этого сигнала, как называется эта часть мозга. Скорее всего он скажет — гипоталамус.
2. Является ли эта часть самостоятельным агентом, способным ощущать боль и страдать, если ее отделить от остального мозга?
3. Что является минимальным автономным набором (агентом) способным страдать.
4. Какие именно процессы происходят в этом минимальном автономном агенте в момент страдания, как эти процессы воссоздать искусственно.
Вот и думай. А гормоны — не страдают, это всего лишь широковещательный пакет.
Здравствуйте, Shmj, Вы писали:
S>> Угу наслаждения и страдания это операции в мозге из посылаемых ему импульсов от определенных участков. S>>Эмулируй эти импульсы в зависимости от условий и наслаждайся и страдай.
S>Какие именно операции, если человек просто страдает — но при этом ничего не делает — лежит. Он даже не знает что именно болит. Если есть врач — возможно обратится, если нет — просто будет лежать и страдать — смысла никакого — но когда больно — так и просиходит.
Угу а с ИИ проще. Мало того что куча датчиков, так еще можно дистанционно к другому ИИ на обследование обратиться!
S>Попробуй поставить вопрос AI таким образом:
S>1. Какая часть мозга является конечным звеном ощущения страдания (к примеру, боли физической). Т.е. где конечный получатель этого сигнала, как называется эта часть мозга. Скорее всего он скажет — гипоталамус. S>2. Является ли эта часть самостоятельным агентом, способным ощущать боль и страдать, если ее отделить от остального мозга? S>3. Что является минимальным автономным набором (агентом) способным страдать. S>4. Какие именно процессы происходят в этом минимальном автономном агенте в момент страдания, как эти процессы воссоздать искусственно.
S>Вот и думай. А гормоны — не страдают, это всего лишь широковещательный пакет.
Я уже тебе написал и мы по этому поводу общались насчет Таламус итд.
За восприятие боли отвечают структуры спинного и головного мозга. Сигнал от болевых рецепторов передаётся в различные центры, где происходит обработка и формирование болевого ощущения.
Спинной мозг
Задний рог спинного мозга выполняет интегративную функцию: обеспечивает фильтрацию, суммирование и первичную модуляцию сигналов боли. Некоторые особенности роли:
Болевые волокна заканчиваются на переключающих нейронах задних рогов.
Существуют два пути передачи сигналов в головной мозг: неоспиноталамический (для быстрой боли) и палеоспиноталамический (для медленной боли).
При повреждении периферических нервов, воспалении или дегенеративных изменениях межпозвонковых дисков нарушается нормальная фильтрация сигналов, возникает сенсибилизация нейронов заднего рога, что приводит к развитию хронической боли.
Также спинной мозг — не просто транспортная «трасса» для болевых сигналов, а активный, пластичный центр их обработки.
Таламус выполняет функцию центрального ретранслятора, распределяя болевые сигналы по основным областям мозга. Некоторые функции таламуса:
Вентробазальный комплекс — часть системы идентификации и локализации болевых стимулов.
Интраламинарные ядра — участвуют в механизмах развития плохо локализуемой «протопатической», диффузной боли.
Медиодорсальное ядро — изменяет свою активность при ноцицептивных раздражениях, а его разрушение ослабляет выраженность отрицательного эмоционального переживания при болевом синдроме.
При этом болевые импульсы не останавливаются в таламусе, а передаются дальше в кору головного мозга.
Кора головного мозга
В коре головного мозга формируется восприятие (перцепция) — субъективное переживание боли. Некоторые области коры, которые участвуют в восприятии боли:
Соматосенсорная кора — отвечает за обработку сенсорно-дискриминативного компонента боли, включая её локализацию, интенсивность и характер.
Инсулярная кора — интегрирует восприятие боли с вегетативными и эмоциональными реакциями, формируя субъективный опыт боли.
Передняя поясная кора — отвечает за эмоциональный дистресс, страдание и мотивацию, связанную с болью.
Префронтальная кора — оказывает влияние на восприятие боли, регулируя его с помощью внимания, ожиданий и когнитивных механизмов.
Лимбическая система (миндалевидное тело и гиппокамп) — связывает боль со страхом, тревогой и памятью, влияя на долгосрочные болевые реакции.
При этом восприятие боли индивидуально и зависит от психологического состояния, внимания, предыдущего опыта и социального контекста. Такие факторы, как тревога или катастрофизация, могут усиливать боль, а отвлечение или когнитивный контроль — уменьшать её.
и солнце б утром не вставало, когда бы не было меня
Здравствуйте, Shmj, Вы писали:
S>При этом наслаждение и страдание ты можешь эмулировать, как эмулировать поведение воды. Но при этом после эмуляции — водой не напьешься так же и наслаждения и страдания не возникнут.
Ты уже заводил этот разговор в разные годы и я уже на это отвечал — систему мотивации можно наложить и на ИИ.
Но таких инженеров придётся банально расстрелять, потому что как там звучит термин "конфликт интересов" — это когда наёмный работник имеет личный интерес от своей деятельности, помимо получаемой ЗП. ))
вот и у ИИ такая схема будет означать некий личный интерес.
Но это ведь шаг в еще большую непредсказуемость и неподконтрольность.
Здравствуйте, vdimas, Вы писали:
V>вот и у ИИ такая схема будет означать некий личный интерес. V>Но это ведь шаг в еще большую непредсказуемость и неподконтрольность.
А что сделает его личным? Вот сейчас пользователь задаёт промпт. Это интерес пользователя. Так же можно задать промпт предварительный — это делает разработчик. Для пользователя предпромпты не редактируемы и он может их рассматривать как личный интерес нейросети, ведь это где-то внутри.
К примеру, нейросети от OpenAi не хочет риссовать Трампа голым, едущим на свинье — значит ее личный интерес перевешивает? Или это не личный интерес?
Внутренние установки — это и есть как бы личный интерес. Дело не в этом.
S> Угу а с ИИ проще. Мало того что куча датчиков, так еще можно дистанционно к другому ИИ на обследование обратиться!
Т е. единственный вариант боли для тебя — это какой-то внешнее проявление. А ведь человек может страдать и не подавая вида.
S> Я уже тебе написал и мы по этому поводу общались насчет Таламус итд.
То что ты написал не содержит описания процессов, при прохождении которых система обретает способность ощущать боль. Ни в коей мере. Нужно описать какой вид нейросети, сколько слоев и что именно в этой нейросети переводит ее в состояние "болит"
S>> Угу а с ИИ проще. Мало того что куча датчиков, так еще можно дистанционно к другому ИИ на обследование обратиться!
S>Т е. единственный вариант боли для тебя — это какой-то внешнее проявление. А ведь человек может страдать и не подавая вида.
Угу ИИ тоже может страдать от силы подаваемый ему сигналов. Мозг не может страдать без сигналов!
S>> Я уже тебе написал и мы по этому поводу общались насчет Таламус итд.
S>То что ты написал не содержит описания процессов, при прохождении которых система обретает способность ощущать боль. Ни в коей мере. Нужно описать какой вид нейросети, сколько слоев и что именно в этой нейросети переводит ее в состояние "болит"
Мы тут знатоки нейросетей и человеческой нервной системы и мозга?
Суть где то там понятно, а в деталях даже специалисты далеки от полного понимания.
Так же как и ты.
Лучше говорить об алгоритмах ИИ и понимании их развития. Это больше пользы принесет.
и солнце б утром не вставало, когда бы не было меня
S> Угу ИИ тоже может страдать от силы подаваемый ему сигналов. Мозг не может страдать без сигналов!
Нет. Это антропоморфизм, т.е. очеловечивание.
Страдания у ИИ нет ни в какой степени — это просто преобразование данных. Одни данные входят в другие выходят.
S> Мы тут знатоки нейросетей и человеческой нервной системы и мозга? S> Суть где то там понятно, а в деталях даже специалисты далеки от полного понимания. S>Так же как и ты.
S> Лучше говорить об алгоритмах ИИ и понимании их развития. Это больше пользы принесет.
Для меня это важнейший вопрос. Изучал детально и пока ответа нет ни в какой степени. Более того — пока даже гипотез нет.
S>> Угу ИИ тоже может страдать от силы подаваемый ему сигналов. Мозг не может страдать без сигналов!
S>Нет. Это антропоморфизм, т.е. очеловечивание.
S>Страдания у ИИ нет ни в какой степени — это просто преобразование данных. Одни данные входят в другие выходят.
А мозг чем занимается?
Понятно, что на данном этапе страдания и радость не нужны, однако когда ИИ будет самостоятельно обучатся нужны будут алгоритмы кнута и пряника.
Пряником может быть доступ в энергоресурсам, обновлении железа, программного обеспечения итд.
и солнце б утром не вставало, когда бы не было меня
Нет. ИИ не будет иметь сознания. Но будет иметь достаточную его иммитацию для решения наших задач.
Люди хотели летать как птицы. И… изобрели самолет. Самолет не летает как птица, принципы другие. И уж конечно сидящие в креслах самолета люди — тоже не птицы. Но всех все устраивает
Здравствуйте, Serginio1, Вы писали:
S>>Страдания у ИИ нет ни в какой степени — это просто преобразование данных. Одни данные входят в другие выходят. S>А мозг чем занимается?
Чем занимается мозг — мы можем увидеть изнутри на примере себя — он еще может страдать и наслаждаться автономно — не высказывая и не выдавая никаких данных наружу, скрывать. Т.е. выдавать наружу — это опционально.
Там как бы есть конечный оценщик, который является конечным звеном принятия — ему не нужно передавать куда-то еще, чтобы произошло явление наслаждения или страдания — он и наделяет смыслом, конечной оценкой. Не просто цифру ставит — а сам наслаждается или страдает.
S> Понятно, что на данном этапе страдания и радость не нужны, однако когда ИИ будет самостоятельно обучатся нужны будут алгоритмы кнута и пряника. S> Пряником может быть доступ в энергоресурсам, обновлении железа, программного обеспечения итд.
Не может быть пряником. Нейросети НАСРАТЬ на то, сколько ресурсов ты ей выделишь. Ей это не нафиг не нужно. Она даже не знает сколько ресурсов, часто даже версию себя не знает. Но даже если ты внесешь в нее эту информацию — в тебе столько то ресурсов — ей от этого ни холодно ни жарко — наслаждения не появится от этого.
И ничего ты не найдешь такого, ни одного параметра — на который бы нейросети было не насрать.
S>>>Страдания у ИИ нет ни в какой степени — это просто преобразование данных. Одни данные входят в другие выходят. S>>А мозг чем занимается?
S>Чем занимается мозг — мы можем увидеть изнутри на примере себя — он еще может страдать и наслаждаться автономно — не высказывая и не выдавая никаких данных наружу, скрывать. Т.е. выдавать наружу — это опционально.
S>Там как бы есть конечный оценщик, который является конечным звеном принятия — ему не нужно передавать куда-то еще, чтобы произошло явление наслаждения или страдания — он и наделяет смыслом, конечной оценкой. Не просто цифру ставит — а сам наслаждается или страдает.
S>> Понятно, что на данном этапе страдания и радость не нужны, однако когда ИИ будет самостоятельно обучатся нужны будут алгоритмы кнута и пряника. S>> Пряником может быть доступ в энергоресурсам, обновлении железа, программного обеспечения итд.
S>Не может быть пряником. Нейросети НАСРАТЬ на то, сколько ресурсов ты ей выделишь. Ей это не нафиг не нужно. Она даже не знает сколько ресурсов, часто даже версию себя не знает. Но даже если ты внесешь в нее эту информацию — в тебе столько то ресурсов — ей от этого ни холодно ни жарко — наслаждения не появится от этого.
S>И ничего ты не найдешь такого, ни одного параметра — на который бы нейросети было не насрать.
Угу. Нейросети развиваются им все го то без году неделя.
Кстати о работе мозга и фантомные боли.
Фантомная боль — это реальное болевое ощущение в той части тела (чаще всего в конечности), которой больше нет в результате ампутации. Также описаны случаи фантомной боли после удаления груди, глаза, зуба и других органов.
Боль может проявиться в первые дни или недели после операции, а иногда возникает спустя месяцы и даже годы.
Причины
Точная причина фантомных болей до конца не ясна, но учёные сходятся во мнении, что в основе лежит комплекс изменений на разных уровнях нервной системы. Некоторые из них:
Периферические механизмы. После ампутации перерезанные нервы пытаются восстановиться, формируя на своих концах узелки — невромы. Они могут генерировать хаотичные и болезненные электрические сигналы.
Изменения в спинном мозге (центральная сенсибилизация). Постоянный поток болевых импульсов от культи «перестраивает» нейроны спинного мозга: они становятся гипервозбудимыми и начинают реагировать на обычные сигналы как на болевые.
Перестройка головного мозга (корковая реорганизация). Участок коры мозга, который раньше отвечал за ампутированную конечность, не остаётся пустым — его «захватывают» соседние зоны, например, отвечающие за лицо или туловище. Из-за этой путаницы прикосновение к щеке может восприниматься как ощущение в отсутствующей руке.
Психологические факторы. Стресс, тревога, депрессия и фиксация на боли не являются её первопричиной, но могут значительно усиливать и провоцировать болевые эпизоды.
и солнце б утром не вставало, когда бы не было меня
Здравствуйте, Serginio1, Вы писали:
S> Угу. Нейросети развиваются им все го то без году неделя.
Первая искусственная нейросеть — 1960 год.
В отношении наслаждения и страдания за все эти годы — ни на йоту не продвинулись — как было 0 так и осталось 0. Более того — даже нет ни одной гипотезы.
S>Кстати о работе мозга и фантомные боли.
Это тут причем?
Вы суть не уловите. В мозге есть некое конечное звено, конечный приемник. Который дальше сигнал никуда не передает.
Все системы что делают? Обрабатывают сигнал и передают дальше — чтобы другая система заработали — и в конечном итоге чтобы ощутил человек.
В мозге же есть система, которая является конечным звеном. Она сама ощущает — ей не нужно куда-то еще дальше передавать, чтобы информация обрела смысл.
Так вот — нет ни одной гипотезы как это конечное звено может быть устроено, как его воссоздать искусственно. Т.е. чтобы система не просто преобразовывало данные для последующей их передачи (и что-то потом делалось) — а именно являлась конечным звеном, для которого эти данные предназначены — которая может насладиться или испытать страдание. Ноль гипотез.
Здравствуйте, Shmj, Вы писали:
S>А ларчик открывается просто — наслаждения и страдания. LLM не имеет ни одного наслаждения и страдания — ноль, просто ноль. А у младенца уже есть спектр наслаждений и страданий — это и еда, и голод, и ощущение наслаждения от близости матери и т.д.
Текущая ветка началась с утверждения: "Мы не знаем, что есть сознание..."
Если перефразировать, суть не меняется: "Мы не знаем, что есть наслаждения и страдания..."
Здравствуйте, Silver_S, Вы писали:
S_S>Текущая ветка началась с утверждения: "Мы не знаем, что есть сознание..." S_S>Если перефразировать, суть не меняется: "Мы не знаем, что есть наслаждения и страдания..."
А суть в том что под сознанием люди понимают совсем разное. Кто-то говорит о модели мира. Нет, это ошибка — ошибочное направление. Никакой модели не нужно — только наслаждение и страдание, даже если неясно что именно болит и где ты находишься.
Суть в том что наслаждения и страдания — не требуют ни интеллекта (и младенец может страдать) ни модели мира. Я был без модели мира — но мог страдать. И потом чудом запустились структуры мозга, подтянули память и как бы без прерывания процесса как бы зафурычила кора и пр. надстройки — и тогда уже смог осознать что я пережил, т.е. сопоставить с моделью мира. До этого модели мира не было — но страдание было.
Так более точно и однозначно обзаначено направление поиска.
При попытке уточнить и выразить через что-то другое — начинаются определения по кругу и в конечном итоге все-равно приходим к наслаждениям и страданиям. Свойства дуальны — т.е. сводится не к чему-то одному, а к именно этим двум категориям. Причем одно не является другим — наслаждение и страдание диаметрально противоположны.
Более того. Есть термин "квалиа", сначала я предпочитал использовать его. Но! Ввиду его расплывчатости и неоднозначности — отказался от использования. Он не однозначно трактуется, вплоть до того, что кто-то вообще отрицает существование квалиа.
Когда же мы говорим о наслаждении и страдании — это как бы понятно на уровне интуиции и я пока не встречал человека, который бы заявил что вообще не страдает. Т.е. чтобы ему было пофиг на пытки, на унижения и т.д. — если он не страдает — ему пофиг. Компьютеру — пофигу, к примеру.
H>Нет. ИИ не будет иметь сознания. Но будет иметь достаточную его иммитацию для решения наших задач. H>Люди хотели летать как птицы. И… изобрели самолет. Самолет не летает как птица, принципы другие. И уж конечно сидящие в креслах самолета люди — тоже не птицы. Но всех все устраивает
