M>>Так ты про обычную нейронку говоришь чтоли? Я сперва подумал что топик про ИИ. S>Допустим, нейронка по образцу мозга человека.
И?
Этого типа достаточно чтобы нейронка стала ИИ?
M>>Этож просто большой набор чисел-коэффициентов. S>А как этот набор чисел-коэффициентов решает задачи на логику и потом еще и объясняет ход своих рассуждений?
С каких пор для этого стали необходимы страдания?
M>>Откуда там страданиям взяться? S>А если я тебе скажу что наслаждение — это эмерджентное свойство нейросети, которое возникает при гармонизации ее структуры. А страдание — все что мешает гармонизации.
Так и говори: гармонизация-разгармонизация коэффициентов.
Re[14]: Что вам нужно, чтобы поверить в редуцированное созна
Здравствуйте, Muxa, Вы писали:
M>>>Этож просто большой набор чисел-коэффициентов. S>>А как этот набор чисел-коэффициентов решает задачи на логику и потом еще и объясняет ход своих рассуждений? M>С каких пор для этого стали необходимы страдания?
Ты можешь объяснить как числа-коэффициенты решают задачи и потом объясняют ход своих рассуждений?
M>>>Откуда там страданиям взяться? S>>А если я тебе скажу что наслаждение — это эмерджентное свойство нейросети, которое возникает при гармонизации ее структуры. А страдание — все что мешает гармонизации. M>Так и говори: гармонизация-разгармонизация коэффициентов.
Это явление эмерджентное и его нужно рассматривать в рамках системы. Как морскую пену нельзя рассматривать в раках свойств молекул воды.
Так каков будет ваш ответ на данное заявление — поверите?
S>Ты можешь объяснить как числа-коэффициенты решают задачи и потом объясняют ход своих рассуждений?
Конечно могу: решают и объясняют они хреново.
M>>>>Откуда там страданиям взяться? S>>>А если я тебе скажу что наслаждение — это эмерджентное свойство нейросети, которое возникает при гармонизации ее структуры. А страдание — все что мешает гармонизации. M>>Так и говори: гармонизация-разгармонизация коэффициентов. S>Это явление эмерджентное и его нужно рассматривать в рамках системы. Как морскую пену нельзя рассматривать в раках свойств молекул воды.
Рассматривай в рамках системы если это необходимо.
Страданиям-то откуда взяться в этом наборе коэффициентов?
S>Так каков будет ваш ответ на данное заявление — поверите?
Я так и не понял каким боком тут вера к сожалению.
Тема сильно завязана на определения терминов, поэтому скользкая.
Для меня "сознание" имеет по крайней мере 2 разных значения:
а) субъективный феномен наличия воспринимаемых мной событий/объектов ("снаружи") и чувств ("внутри"), а также образов и мыслей (не обязательно).
Иногда порождает мысль вроде "я жив, вокруг/внутри меня что-то происходит" (но сама эта мысль тут не при чём).
Этот смысл "сознания" частично пересекается со смыслами термина "восприятие".
Наличие такого сознания (или наличие чувств и образов) в ком-то кроме СЕБЯ принципиально невозможно доказать или опровергнуть, поэтому вопросы наличия всего этого в ИИ/нейросети не имеют для меня смысла (и от ответов на них — будет ли это "да" или "нет" — для меня ничего не зависит.)
б) синоним "мышления" как внутренней речи (возможность "слышать" свои мысли и вести внутренний диалог).
Смысл гораздо конкретнее. Такое сознание реализовать технически легко, но могут быть проблемы с экономической выгодностью.
(У человека мышление функционирует на порядки медленнее условных рефлексов. Искусственное мышление наверняка можно будет сделать лишь в разы более ресурсоёмким, чем "искусственные рефлексы" (однократные прогоны нейросетки), но внутренний диалог по-любому будет затратнее, чем быстрый ответ на вопрос "навскидку".)
В появление такого сознания в ИИ я поверю легко, если в пояснении будет что-то про внутренний диалог.
Включение shmj понятий страдания и наслаждения в определение сознания мне кажется странным: я сам могу мыслить и воспринимать, не испытывая в конкретный момент страдания или наслаждения, следовательно, страдание и наслаждение не являются необходимыми для моего сознания (как мышления и/или восприятия). Иначе получается какое-то другое определение "сознания", которое не будет полезным, а будет сбивать собеседников с толку.
Говорят еще о "самоосознании"... у него тоже как минимум 2 значения. В простом случае для самоосознания достаточно наличия модели себя, а внутренний диалог не обязателен — такая модель может быть задействована и "рефлекторно". Такое самоосознание у ИИ может появиться раньше, чем "сознание как внутренний диалог".
Эту "задачу" когда-то решало 8 не самых глупых мужиков и не смогли решить минут 40. Искали разные математические закономерности в буквах, в т.ч. по алфавиту.
Не показатель.
С подсказкой оно худо-бедно решило. Притом не забывайте — это всего лишь 3 версия. А что будет в 100-й?
Я взял тест на логику М. Войнаровский. Не все люди способны решить его, далеко не все. Причем и спорят же... А эта машина решает и даже объясняет. Бывает что допускает ошибки — но это 3 версия. Люди тоже ошибается. Эта хотя бы не спорит — а людей попробуй убеди...
M>>>Так и говори: гармонизация-разгармонизация коэффициентов. S>>Это явление эмерджентное и его нужно рассматривать в рамках системы. Как морскую пену нельзя рассматривать в раках свойств молекул воды. M>Рассматривай в рамках системы если это необходимо. M>Страданиям-то откуда взяться в этом наборе коэффициентов?
Оттуда же, откуда рассуждениям. Как из коэффициентов получаются рассуждения?
S>>Так каков будет ваш ответ на данное заявление — поверите? M>Я так и не понял каким боком тут вера к сожалению.
Убедит ли вас? Если нет — то что вас убедит? В каком случае вы поверите что страдания там возникли?
Re[4]: Что вам нужно, чтобы поверить в редуцированное сознание?
Здравствуйте, L_G, Вы писали:
L_G>Включение shmj понятий страдания и наслаждения в определение сознания мне кажется странным: я сам могу мыслить и воспринимать, не испытывая в конкретный момент страдания или наслаждения, следовательно, страдание и наслаждение не являются необходимыми для моего сознания (как мышления и/или восприятия).
Я тоже так думал раньше.
Потом понял что нет — или страдаешь или наслаждаешься, пусть и не значительно. Ощущать свое существование — тоже всегда или наслаждение или страдание.
При отсутствии наслаждения — скука. Жуткая скука. Мучительная. От скуки все беды идут — и наркотики и алкоголь — все от нее.
Тут вот в чем проблема — пока ты не наслаждаешься или не страдаешь — тебя как бы нет. Но понять это не сможешь, т.к. раз тебя нет — то некому будет это понять.
L_G>Говорят еще о "самоосознании"... у него тоже как минимум 2 значения. В простом случае для самоосознания достаточно наличия модели себя, а внутренний диалог не обязателен — такая модель может быть задействована и "рефлекторно". Такое самоосознание у ИИ может появиться раньше, чем "сознание как внутренний диалог".
Модель себя — чисто вычислительное свойство. А оущущения кайфа от модели себя — уже духовное.
Re[17]: Что вам нужно, чтобы поверить в редуцированное созна
S>С подсказкой оно худо-бедно решило. Притом не забывайте — это всего лишь 3 версия.
4-я
S>А что будет в 100-й?
Что?
S>Я взял тест на логику М. Войнаровский. Не все люди способны решить его, далеко не все. Причем и спорят же... А эта машина решает и даже объясняет. Бывает что допускает ошибки — но это 3 версия. Люди тоже ошибается. Эта хотя бы не спорит — а людей попробуй убеди...
Тест был в тренировочном наборе?
M>>>>Так и говори: гармонизация-разгармонизация коэффициентов. S>>>Это явление эмерджентное и его нужно рассматривать в рамках системы. Как морскую пену нельзя рассматривать в раках свойств молекул воды. M>>Рассматривай в рамках системы если это необходимо. M>>Страданиям-то откуда взяться в этом наборе коэффициентов?
S>Оттуда же, откуда рассуждениям. Как из коэффициентов получаются рассуждения?
Как-как? Хреново получаются. Смотри пример про ослика. Можешь ещё спросить в каких случаях пациенту показана ампутация головы.
S>Убедит ли вас? Если нет — то что вас убедит? В каком случае вы поверите что страдания там возникли?
Я же тебе это вначале ветки объяснил. Убедит если посмотрю исходник функции страданий и сравню реализацию с формальным описанием.
Re[3]: Что вам нужно, чтобы поверить в редуцированное сознание?
S>Потом понял что нет — или страдаешь или наслаждаешься, пусть и не значительно. Ощущать свое существование — тоже всегда или наслаждение или страдание.
Я согласен, что человек всегда немножко страдает или наслаждается, но не думаю, что эти чувства нужно включать в определение сознания как необходимые для него.
(Для человека — необходимы, но человек — нечто большее, чем просто сознание.)
S>Тут вот в чем проблема — пока ты не наслаждаешься или не страдаешь — тебя как бы нет. Но понять это не сможешь, т.к. раз тебя нет — то некому будет это понять.
Согласен, что человек осознаёт себя не всегда. Я бы еще отметил такую асимметрию: страдание гораздо сильнее включает самоосознание, мышление, волю и т.д. (к примеру, появляются мысли типа "что я сделал не так?" "как мне это исправить?"), а наслаждаясь, легко забыть о себе, "отдавшись на волю чувств".
S>Модель себя — чисто вычислительное свойство. А оущущения кайфа от модели себя — уже духовное.
Эта духовность — свойство, в принципе не эмулируемое никакими моделями/устройствами?
(Мой второй вариант понимания "самоосознания" требует наличия того же внутреннего диалога, но вполне реализуем на вычислительных моделях.)
Каша в голове — пища для ума (с)
Re[18]: Что вам нужно, чтобы поверить в редуцированное созна
Shmj, вот в чем кажущаяся мне (и другим) нелогичность вашего подхода к определению сознания через страдание/наслаждение:
не страдание и наслаждение НЕОБХОДИМЫ для сознания, а — НАОБОРОТ — сознание необходимо для страдания и наслаждения.
Без сознания им как бы негде быть. Сознание вмещает чувства как пространство вмещает объекты.
Но при отсутствии любого чувства или всех чувств сознание никуда не девается, как пространство не исчезает при отсутствии в нем объектов.
Каша в голове — пища для ума (с)
Re[2]: Что вам нужно, чтобы поверить в редуцированное сознание?
Здравствуйте, L_G, Вы писали: L_G>Shmj, вот в чем кажущаяся мне (и другим) нелогичность вашего подхода к определению сознания через страдание/наслаждение: L_G>не страдание и наслаждение НЕОБХОДИМЫ для сознания, а — НАОБОРОТ - L_G>сознание необходимо для страдания и наслаждения.
В чем вопрос? Вопрос — какие признаки сознания необходимы и достаточны.
К сознанию можно приплести много всякого — и память и способность решать задачи и способность находить новые шаблоны.
Все это как может быть в сознании так и не быть.
Пример
Вы можете приплести к сознанию необходимость памяти, к примеру. Но можно и без этого — все равно сознание останется сознанием. Помните как Возняк, опьянившись успехом, купил самолет и в результате падения ударился головой — как бы полетел жесткий диск. Джобс приходит в палату и Возняк не помнит пришел он или уже пообщались и уходит — просил прощения, объясняя что у него в голове полетел жесткий диск.
Все определяют не память, не логика, не интеллект — а только, исключительно только — способность страдать и наслаждаться.
Есть интеллект или нет — не важно. Вы можете быть сколько угодно умным и продвинутым — человеком это вас не делает. А вот способность страдать по настоящему и наслаждаться по настоящему — это переводит вас на уровень субъекта. L_G>Без сознания им как бы негде быть. Сознание вмещает чувства как пространство вмещает объекты.
В том то и фишка — необходимо и достаточно, чтобы сознание вмещало наслаждение и страдание. Все остальное на самом деле не является функцией сознания. L_G>Но при отсутствии любого чувства или всех чувств сознание никуда не девается, как пространство не исчезает при отсутствии в нем объектов.
То что вы называете чувствами — это лишь оттенки страдания и наслаждения. Этих оттенков может не быть.
Re[3]: Что вам нужно, чтобы поверить в редуцированное сознание?
Здравствуйте, Shmj, Вы писали:
S>Есть интеллект или нет — не важно. Вы можете быть сколько угодно умным и продвинутым — человеком это вас не делает. А вот способность страдать по настоящему и наслаждаться по настоящему — это переводит вас на уровень субъекта.
Субъектом вас делает свобода. И субъектность, как и свобода, зависит от контекста.
Курица может и страдать и наслаждаться. Она обладает определенной свободой в рамках птицефермы и вполне себе субъектна в отношениях с другими курицами.
Но с точки зрения фермера — она 100% объект, в лучшем случае немножко проблемный если сопротивляется больше других куриц.
Re[4]: Что вам нужно, чтобы поверить в редуцированное сознание?
Здравствуйте, graniar, Вы писали:
S>>Есть интеллект или нет — не важно. Вы можете быть сколько угодно умным и продвинутым — человеком это вас не делает. А вот способность страдать по настоящему и наслаждаться по настоящему — это переводит вас на уровень субъекта.
G>Субъектом вас делает свобода. И субъектность, как и свобода, зависит от контекста.
Свобода? Это что такое? Типа непредсказуемость? Квантовый ГСЧ — субъект?
G>Но с точки зрения фермера — она 100% объект, в лучшем случае немножко проблемный если сопротивляется больше других куриц.
Да причем тут точка зрения фермера? Вы можете быть тоже объектом с чьей-то там точки зрения. Причем тут это?
Re[5]: Что вам нужно, чтобы поверить в редуцированное сознание?
shmj, понятно: у вас уже сложилось своё определение сознания и другого вам не нужно.
Мне кажется, инженеры сделают большую ошибку, если будут воспроизводить в ИИ такое сознание (страдающее/наслаждающееся), в то время как ВСЕ стоящие перед ними задачи легче и дешевле решить без использования всего этого. Да и зачем умножать страдания?
Хотя рано или поздно наверняка найдется инженер-маньяк, который решит создать искусственный человеческий разум (а не просто ИИ) "по своему образу и подобию".
Задачу себе он поставит так, что в случае её решения (по своим критериям) будет верить, что создал сознание со всеми его необходимыми атрибутами, но удастся ли ему убедить в этом всех других — вопрос.
Думаю, "искусственных людей" запретят юридически, так что, когда/если они окажутся реализованы фактически — они будут вне закона и не смогут претендовать на близкие к человеческим права.
Здравствуйте, L_G, Вы писали:
L_G>shmj, понятно: у вас уже сложилось своё определение сознания и другого вам не нужно.
А какое другое? Все остальное вполне ясно как воспроизвести.
L_G>Мне кажется, инженеры сделают большую ошибку, если будут воспроизводить в ИИ такое сознание (страдающее/наслаждающееся), в то время как ВСЕ стоящие перед ними задачи легче и дешевле решить без использования всего этого. Да и зачем умножать страдания?
А вы пойдите от обратного.
Создали люди ботов, которые делают всю работу, сами размножаются. Полностью искусственные организмы, но на основе органики (т.к. электроника сама не размножается — решили органику заюзать). В голове — сеть по образцу GPT — не мозг как у человека — а точная копия GPT 200 на основе биологических нейронов. Они делают всю работу за нас и не нуждаются в обслуживании. Кормят и себя и нас. Рабы.
И вдруг кто-то начинает их поднимать, говорить что они тоже люди и тоже имеют право на свободу.
Как понять имеют они право или нет?
Если им не больно, не страдают, не хотят наслаждаться а просто выполняют вложенные функции — то в чем проблема? Понимаете теперь?
L_G>Хотя рано или поздно наверняка найдется инженер-маньяк, который решит создать искусственный человеческий разум (а не просто ИИ) "по своему образу и подобию".
Тут проблема — пока нет схемы мозга и понимания как там возникает страдание.
L_G>Думаю, "искусственных людей" запретят юридически, так что, когда/если они окажутся реализованы фактически — они будут вне закона и не смогут претендовать на близкие к человеческим права.
А если это будут GPT на биологической основе? Какая разница биологическая основа или кремниевая?
Re[5]: Что вам нужно, чтобы поверить в редуцированное сознан
S>А какое другое? Все остальное вполне ясно как воспроизвести.
Придется повторяться. У меня их два:
а) субъективный феномен наличия воспринимаемых мной событий/объектов ("снаружи") и чувств ("внутри"), а также образов и мыслей (не обязательно).
Иногда порождает мысль вроде "я жив, вокруг/внутри меня что-то происходит" (но сама эта мысль тут не при чём).
Этот смысл "сознания" частично пересекается со смыслами термина "восприятие".
(Еще этот вариант "сознания" можно как описать как "виртуальное пространство/вместилище", в котором помещаются все чувства, образы и мысли, или (ограничившись зрительным восприятием) как пустой сам по себе "экран", на который проецируется "видеоряд", обычно с различимыми объектами внешнего мира — у каждого экземпляра человека свой уникальный, т.е. субъективный.)
Наличие такого сознания (или наличие чувств и образов) в ком-то кроме СЕБЯ принципиально невозможно доказать или опровергнуть, поэтому вопросы наличия всего этого в ИИ/нейросети не имеют для меня смысла (и от ответов на них — будет ли это "да" или "нет" — для меня ничего не зависит.)
б) синоним "мышления" как внутренней речи (возможность "слышать" свои мысли и вести внутренний диалог).
Смысл гораздо конкретнее. Такое сознание реализовать технически легко, но могут быть проблемы с экономической выгодностью.
(У человека мышление функционирует на порядки медленнее условных рефлексов. Искусственное мышление наверняка можно будет сделать (ограничив) лишь в разы более ресурсоёмким, чем "искусственные рефлексы" (однократные прогоны нейросетки), но внутренний диалог по-любому будет затратнее, чем быстрый ответ на вопрос "навскидку".)
S>А вы пойдите от обратного. S>... S>Если им не больно, не страдают, не хотят наслаждаться а просто выполняют вложенные функции — то в чем проблема? Понимаете теперь?
Вот! В том-то и дело! Нет страданий — и нет никакой ПРОБЛЕМЫ. Инженеры изначально поставили себе ПРАВИЛЬНУЮ цель — создать человеку ПОМОЩНИКА (тупо раба), а не КОНКУРЕНТА!!! (они же не идиоты! нафига кому-то конкурент?
S>А если это будут GPT на биологической основе? Какая разница биологическая основа или кремниевая?
согласен, разницы нет. запретили — значит, это ВНЕ закона.
