, заметил, что многие из отметившихся вообще не понимают как работают модели (верояности там и иже с ними). Для таких рекомендую курс молодого бойца от гугля.
Так вот пытаясь понять работу больших вероятностных моделей сложно не проводить аналогию с работой мозга. И здесь мы пересекаемся с "Трудная проблема сознания" (ТПС) и конечно же в ней не обойтись без ква-квалиа.
Отмечу, что вопрос квалиа относят сугубо к философскому направлению исследований, а ТПС признается дуальной — как философской, так и материально-научной.
Поскольку я считаю себя законченным материалистом, то попробую натянуть сову на глобус провести таки аналогию работы мозга с сетями, а также обозначить место сознания в этой конструкции.
Итак, с моей колокольни работа мозга отличается от работы больших вероятностных сетей в том аспекте что последние имитируют работу только "одной плоскости" мозга, а также отсутствием обратной связи — влияния окружающей среды и на окружающую среду. Грубо говоря, сети "плоские" и работают только в одном измерении — назову его "плоскостью рассуждений-выводов". Чтобы сеть приблизилась к человеческим возможностям познания ей прийдется добавить "объема", как минимум "плоскостей чувственных" измерений, которые принесут в себе дополнительную информацию (контекст). Это хорошо бы согласовывалось с "Теория интегрированной информации" и др. При этом переход в "объем" привел бы, скорее всего, к существенному уменьшению моделей в целом, за счет более плотной связности в пространстве и доменной структуре вместо слоеной. Вероятно, с ростом количества измерений и источников-датчиков познания окружающей реальности можно было бы превзойти человека. Сложно, правда, представить насколько реально реализовать-смоделировать подобную архитектуру на текущей элементной базе. С другой стороны, это напоминает классическое "зачем искусственно создавать человека, если любая баба может сделать его?", хотя и более хрупкого/ненадежного. Короче, "за шиной PCI будущее" генная инженерия и образмеривание черепов — наше все.
Собственно, возращаясь к квалиа, как к чувственному опыту, формирующему сознательный опыт. Оно представляется банально текущим состоянием весов участка мозговой сети, находящегося под давлением непрерывно меняющейся обстановки.
Здравствуйте, pva, Вы писали:
pva>Вероятно, с ростом количества измерений и источников-датчиков познания окружающей реальности можно было бы превзойти человека.
Тоже считаю, что искусственная личность, во всем превосходящая человека, вполне возможна.
Банально можно же оцифровать мозг существующего человека.
Другое дело, что человек — очень хорошо отлаженная система, и то — психиатры не остаются без работы.
Страшно представить сколько разнообразных багов предстоит разгребать разработчикам новой личности с нуля.
pva>Сложно, правда, представить насколько реально реализовать-смоделировать подобную архитектуру на текущей элементной базе. С другой стороны, это напоминает классическое "зачем искусственно создавать человека, если любая баба может сделать его?", хотя и более хрупкого/ненадежного. Короче, "за шиной PCI будущее" генная инженерия и образмеривание черепов — наше все.
А главное — зачем это существующим людям? Рождение и воспитание детей — это пока единственно доступная форма продолжения активного существования.
Но зачем создавать слишком разумных роботов, которые будут требовать себе прав и потом вытеснят людей как тупиковую ветвь эволюции?
Поэтому, считаю, надо развивать инструменты для увеличения возможностей существующих личностей, а не создавать искусственных.
pva:
pva>Грубо говоря, сети "плоские" и работают только в одном измерении — назову его "плоскостью рассуждений-выводов". Чтобы сеть приблизилась к человеческим возможностям познания ей прийдется добавить "объема", как минимум "плоскостей чувственных" измерений, которые принесут в себе дополнительную информацию (контекст).
Всё наоборот. Нейросети работают "догадками" (можно сказать и "чувственных" измерений", хотя не понял, что это ). Т.е. что за функции конкретно представляют собой веса больших нейросетей разобраться практически невозможно. Логика, арифметика и пр. — это одни из паттернов, которые нейросеть может выучить на некоторых данных.
pva:
pva>Итак, с моей колокольни работа мозга отличается от работы больших вероятностных сетей в том аспекте что последние имитируют работу только "одной плоскости" мозга, а также отсутствием обратной связи — влияния окружающей среды и на окружающую среду.
Не так. Есть сети с подкреплением. Получают из внешней среды сигнал, хорошо она поступает или плохо. Органы чувств — см. машинное зрение и пр.
Ты не понимаешь, что такое сознание (оно же квалиа, оно же душа). Ты его у себя не замечаешь.
«Ты сейчас не можешь меня понять из-за своей привычки думать так, как ты смотришь» — цитата из книги «Особая реальность» Карлоса Кастанеды.
Что я имею в виду. ты привык смотреть вокруг и видеть мир. И свое тело в этом мире. Для тебя внешний мир и его восприятие тобой тождественны. Ты эту идею, этот взгляд, осознал в детстве. И сейчас для тебя это уже абсолютная данность.
Тогда как в действительности ты никогда не видел мира. Все что ты наблюдаешь — это твое сознание. Эта вся картинка, звуки, ощущения.
Соответственно когда ты строишь модели мироздания, ты их создаешь сквозь свое сознание. Да, у тебя есть стройная картина с электронами и протонами, как они образуют все наблюдаемые структуры.
Но ты никогда не пробовал построить модель сознания. Что это такое? Что объединяет всю эту инфомрацию в химических процессах в визуальную картину? В единую картину? В картину, где ты существуешь и существует сама картина?
P.S. Вероятно ты не сможешь понять сути вопросов...
Здравствуйте, sharpcoder, Вы писали:
S>Тогда как в действительности ты никогда не видел мира. Все что ты наблюдаешь — это твое сознание. Эта вся картинка, звуки, ощущения.
Как ты быстро мне диагноз поставил и тут же накидал своих тараканов о необъективности познания.
S>Что объединяет всю эту инфомрацию в химических процессах в визуальную картину? В единую картину?
В единую картину всю эту информацию объединяет как раз "объемность" нашей сети. То что мы познаем мир одновременно через многообразие чувственных данных + опыт (память) + аналитическая обработка.
Ммм.. я бы сказал что в первом приближении проблема в том что текущие входы больших сетей — это тензоры размерности 3 (кубы), если не считать размерность батча. А человек работает с тензорами более высоких размерностей — по количеству чувств + может дополнительные размерности (интуиция = ф(опыта) и т.п).
S>В картину, где ты существуешь и существует сама картина?
Погодь, ты же выше писал что картина не существует без тебя, поскольку ты познаешь мир исключительно через субъективный опыт.
S>P.S. Вероятно ты не сможешь понять сути вопросов...
Да куда уж нам. Буду и дальше лаптем щи хлебать.
Здравствуйте, Bill Baklushi, Вы писали:
BB>Не так. Есть сети с подкреплением. Получают из внешней среды сигнал, хорошо она поступает или плохо. Органы чувств — см. машинное зрение и пр.
Нет сетей с подкреплением, есть обучение с подкреплением. "Машинное зрение и пр." — это одно измерение из многих.
Здравствуйте, pva, Вы писали:
pva>Здравствуйте, sharpcoder, Вы писали:
S>>Тогда как в действительности ты никогда не видел мира. Все что ты наблюдаешь — это твое сознание. Эта вся картинка, звуки, ощущения. pva>Как ты быстро мне диагноз поставил и тут же накидал своих тараканов о необъективности познания.
Давай посмотрим.
S>>Что объединяет всю эту инфомрацию в химических процессах в визуальную картину? В единую картину? pva>В единую картину всю эту информацию объединяет как раз "объемность" нашей сети.
Так давай тут остановимся. Плавают нейромедиаторы от нейрона к нейрону. Что все эти процессы объединяет в единую картинку, воспринимаемую от первого лица?
Это ведь разрозненные процессы, которые "не знают" друг о друге?
Что в этой информации общее?
pva>То что мы познаем мир одновременно через многообразие чувственных данных + опыт (память) + аналитическая обработка. pva>Ммм.. я бы сказал что в первом приближении проблема в том что текущие входы больших сетей — это тензоры размерности 3 (кубы), если не считать размерность батча. А человек работает с тензорами более высоких размерностей — по количеству чувств + может дополнительные размерности (интуиция = ф(опыта) и т.п).
Много слов но нет ответов. Мир логичен, объясним. Объясни с позиции материализма сознание. Это существующий феномен? Если да, то он должен иметь какое-то физическое воплощение?
S>>В картину, где ты существуешь и существует сама картина? pva>Погодь, ты же выше писал что картина не существует без тебя, поскольку ты познаешь мир исключительно через субъективный опыт.
S>>P.S. Вероятно ты не сможешь понять сути вопросов... pva>Да куда уж нам. Буду и дальше лаптем щи хлебать.
Суть такая что ты не можешь заметить сознание. Начать о нем мыслить как о существующем феномене. Ты продолжаешь глазами видеть мир вокруг себя. А ты посмотри на мир с мыслью что это не мир, это сознание, это "что?". Попробуй применить логику и анализ. Например, глядя на компьютерную графику ты можешь предположить мат-модель, которая стоит за этим изображением.
Прикол вопроса сознания, что подавляющее большинство людей его не замечают. Интересная история...
Здравствуйте, sharpcoder, Вы писали:
S>>>Что объединяет всю эту инфомрацию в химических процессах в визуальную картину? В единую картину? pva>>В единую картину всю эту информацию объединяет как раз "объемность" нашей сети. S>Так давай тут остановимся. Плавают нейромедиаторы от нейрона к нейрону. Что все эти процессы объединяет в единую картинку, воспринимаемую от первого лица? S>Это ведь разрозненные процессы, которые "не знают" друг о друге? S>Что в этой информации общее?
Что за "разрозненные процессы"? Это все один процесс. Строение и состояние твоего мозга — это и есть твоя модель картины мира. Пересади твою голову и ты изначально будешь в том же контексте "модели мира", но под влиянием изменений начнешь меняться, конечно.
Впрочем, вероятно твой вопрос относится к осознанию своего Я в этой картине мира и разделению Я — не Я. Предположу, что материально это проходит по границе наших чувств. Отделить от тебя руку и ты не будешь ее больше воспринимать как Я больше никогда.
Здесь возникает логичный вопрос о зарождении сознания в сети, типа интернет, которая имеет доступ к куче всяких датчиков (хехе, о ее страданиях и наслаждениях). Предполагаю что это не происходит не от недостатка "опыта" (накопленной информации), а от структуры сети, которая по сути тоже "плоская" + от размазанности всей этой информации по этой сети.
Допускаю что если твой мозг раскатать в тонкий блин, сохранив жизнеспособность тканей, то разрушится и картина мира и само твое Я — пропадет феномен сознания.
S>Много слов но нет ответов. Мир логичен, объясним. Объясни с позиции материализма сознание. Это существующий феномен? Если да, то он должен иметь какое-то физическое воплощение?
Феномен — да, физическое воплощение — не обязательно. Время, бог, числа и прочие абстракции — феномены, но не имеют физического воплощения.
S>Суть такая что ты не можешь заметить сознание. Начать о нем мыслить как о существующем феномене.
Ты не можешь его заметить, потому что это абстракция. Но мы вполне видим последствия воздействия сознания на окружающий мир, да и изучать этот феномен.
Твои высказывания схожи на "мы не можем говорить о бактериях/вирусах потому что не видим их" из средних веков.
pva:
BB>>Не так. Есть сети с подкреплением. Получают из внешней среды сигнал, хорошо она поступает или плохо. Органы чувств — см. машинное зрение и пр. pva>Нет сетей с подкреплением, есть обучение с подкреплением.
Придирки к словам.
Если архитектура сети понимает обучение с подкреплением, значит саму сеть можно обозвать сетью с подкреплением. Немного жаргонизм, ну и что?..
pva>"Машинное зрение и пр." — это одно измерение из многих.
Ну да, и что?
Я опровергнул тезис, что сети не получают обратной связи от окружающей среды.
sharpcoder:
S>Что я имею в виду. ты привык смотреть вокруг и видеть мир. И свое тело в этом мире. Для тебя внешний мир и его восприятие тобой тождественны.
Вообще говоря, не тождественны. Восприятие, с участием разума, создает модель внешнего мира.
S>Тогда как в действительности ты никогда не видел мира. Все что ты наблюдаешь — это твое сознание. Эта вся картинка, звуки, ощущения. S>Соответственно когда ты строишь модели мироздания, ты их создаешь сквозь свое сознание. Да, у тебя есть стройная картина с электронами и протонами, как они образуют все наблюдаемые структуры.
Это называется субъективный идеализм, ничего нового. Субъективный идеализм изобретен задолго до всех этих костоедов.
sharpcoder:
S>Много слов но нет ответов. Мир логичен, объясним. Объясни с позиции материализма сознание. Это существующий феномен? Если да, то он должен иметь какое-то физическое воплощение?
Тоже мне проблема. Если экспромтом:
Некоторые достаточно сложные организмы (а может быть и механизмы) вырабатывают некое чувство, эмоцию, называемую "сознание".
Т.е. понимают свою ориентацию во "внешнем мире", понимают свою сложность, имеют внутреннюю речь плюс много чего еще.
S>Суть такая что ты не можешь заметить сознание.
Почему это? Скорее наоборот, бессознательное состояние трудно уловить, т.к. улавливать не кому.
Здравствуйте, Bill Baklushi, Вы писали:
BB>Если архитектура сети понимает обучение с подкреплением, значит саму сеть можно обозвать сетью с подкреплением. Немного жаргонизм, ну и что?..
Ты взял один аспект из всей фразы и придрался к нему. Я просто отзеркалил.
BB>Я опровергнул тезис, что сети не получают обратной связи от окружающей среды.
Тезис был о маломерности сетей + воздействии + обратной связи, а не просто об обратной связи. Изначальный тезис един и неделим.
Да, есть RL, но с ограниченным применением.
Еще раз, на текущий момент ML сосредоточено на плоских сетях — связанные слои "нейронов". А мозг — не плоская сеть, а облако, в котором в процессе эволюции развились функциональные подоблака-"домены".
Здесь приходят на ум классические проблемы P=NP. И, вероятно, необходимость квантового компутера для одновременных параллельных вычислений состояний перехода всего облака. Впрочем, может и получится засимулировать и в классической архитектуре.
Здравствуйте, pva, Вы писали:
S>>Суть такая что ты не можешь заметить сознание. Начать о нем мыслить как о существующем феномене. pva>Ты не можешь его заметить, потому что это абстракция. Но мы вполне видим последствия воздействия сознания на окружающий мир, да и изучать этот феномен.
Я то могу заметить. Ты — не можешь.
Для меня в трудной проблеме сознания самое удивительное, что большинство людей суть проблемы не могут осознать.
Как будто общаюсь о зрении со слепцами с рождения.
pva>Твои высказывания схожи на "мы не можем говорить о бактериях/вирусах потому что не видим их" из средних веков.
S>>Тогда как в действительности ты никогда не видел мира. Все что ты наблюдаешь — это твое сознание. Эта вся картинка, звуки, ощущения. S>>Соответственно когда ты строишь модели мироздания, ты их создаешь сквозь свое сознание. Да, у тебя есть стройная картина с электронами и протонами, как они образуют все наблюдаемые структуры. BB>Это называется субъективный идеализм, ничего нового. Субъективный идеализм изобретен задолго до всех этих костоедов.
Историю философии я знаю. Вопросы сознания поднимают философы, мыслители и мистики во все времена и во всех культурах. Но понять их могут лишь не многие.
Я тоже не мог понять, хоть курс философии в универе был очень подробным. Потом один "мистический" опыт и глаза открылись.
Открыть их через диалоги походу невозможно. Значит большинству это и не нужно.
Здравствуйте, sharpcoder, Вы писали:
S>Я то могу заметить. Ты — не можешь. S>Для меня в трудной проблеме сознания самое удивительное, что большинство людей суть проблемы не могут осознать.
Детский сад. Впрочем, вероятно что твое понимание "сознания" — какое-то особое, полученное после "один "мистический" опыт".
S>сознание мы видим каждую секунду.
Учитывая твой подход "сознание = субъективный опыт, данный в ощущениях", то да.
Здравствуйте, sharpcoder, Вы писали:
S>Я тоже не мог понять, хоть курс философии в универе был очень подробным. Потом один "мистический" опыт и глаза открылись. S>Открыть их через диалоги походу невозможно. Значит большинству это и не нужно.
Кажется, что согласно утиной типизации сознание — это Бог/душа. По твоему описанию они ведут себя и ощущаются абсолютно одинаково:
— есть у всех;
— не только лишь все могут их ощущать;
— через текст/логически не выводятся.
Можно поставить тождество между этими понятиями? Если да, то ттвои сообщения — это оффтоп в этой теме. Если нет, то где отличие?
Здравствуйте, sharpcoder, Вы писали:
S>Для меня в трудной проблеме сознания самое удивительное, что большинство людей суть проблемы не могут осознать.
Трудная проблема сознания существует только в философском контексте. Но нет такой проблемы ни в религии, ни в естественных науках(включая нейробиологию), ни в быту. Надо уточнять контекст, чтобы не получилось что все говорят/спорят о разном.
S>Как будто общаюсь о зрении со слепцами с рождения.
Тот, кто громче всех кричит — "держи вора" — сам может оказаться вором. ChatGPT тоже можно обучить говорить, что у GPT есть продвинутое сознание, а у людей его может и не быть, если они недостаточно убедительными словами об этом говорят.
Здравствуйте, sharpcoder, Вы писали:
S>Я то могу заметить. Ты — не можешь. S>Для меня в трудной проблеме сознания самое удивительное, что большинство людей суть проблемы не могут осознать. S>Как будто общаюсь о зрении со слепцами с рождения.
Ты сейчас похож на Шимжу, когда он носился со сверхценной идеей уникальной фундаментальной частицы
У тебя эгоцентричное когнитивное искажение.
Свое собственное сознание — постоянно в центре внимания — воспринимается центром мироздания.
Другие люди — воспринимаются скорее как NPC.
По жизни приходится оперировать такими абстракциями, где ты такой же, как и другие — это помогает в жизни.
Но вера в собственную уникальность никуда не девается, а даже подкрепляется тем, что уникальные получают больше привилегий.
Отсюда — желание найти подтверждение своей уникальности — другие то математические задачки плохо решают, то вообще трудную проблему сознания не осознают — наверное от того, что у них его нет, так, одна имитация.
Здравствуйте, pva, Вы писали:
pva>Собственно, возращаясь к квалиа, как к чувственному опыту, формирующему сознательный опыт. Оно представляется банально текущим состоянием весов участка мозговой сети, находящегося под давлением непрерывно меняющейся обстановки.
Согласен. Только хочу заметить, что у человека, видимо, почти все участки мозговой сети сформированы под давлением непрерывно меняющейся обстановки.
Ну да ладно, шутки в сторону.
