Вот, если нейросетки будут постепенно развиваться. Сделают некую структуру, по образцу мозга человека и скажут что там саморедуцировалось сознание и теперь эта система сознательна.

Поверите ли вы? Какие вам нужны будут доказательства?

Вот, один друг говорит что не поверит по 3 причинам:

1. Не живет сам по себе. Как бы нет внутреннего диалога, внутренних рассуждений. Как бы только как реактор на внешние запросы.
2. Нельзя строить отношения.
3. Нет хобби, целей, увлечений.

Устранимы ли эти причины? Думаю что да:

1. Помните как брали двух Алис и они болтали между собой? Что мешает соединить их без использования динамика и микрофона? Вот это и будет внутренний диалог.
2. Не обнулять сессию, создавать характер пользователя — это и будет возможность строить отношения. Бот будет знать ваши предпочтения и т.д.
3. ИИ вполне себе может выбирать рандомное хобби, как то коллекционировать картинки белых котиков. Т.е. прописать такую фигню как зацикленность на рандомной цели, как у человека. Кто-то зацикливается на сборе марок, кто-то на даже колечках от баночек из под пива — рандомная зацикленность и есть хобби.

И если это все будет реализовано — то друг согласится что сознание есть.

А вам что нужно, чтобы поверить?

Здравствуйте, Shmj, Вы писали:

S>Вот, если нейросетки будут постепенно развиваться. Сделают некую структуру, по образцу мозга человека и скажут что там саморедуцировалось сознание и теперь эта система сознательна.

S>Поверите ли вы? Какие вам нужны будут доказательства?

Я верю, что в текущих топовых нейросетях уже есть сознание. Ну или его можно реализовать с помощью несложной надстройки.

S>1. Не живет сам по себе. Как бы нет внутреннего диалога, внутренних рассуждений. Как бы только как реактор на внешние запросы.

Вопрос реализации. Нет никаких проблем сделать бесконечную генерацию текста, которая и будет внутренним диалогом. Просто это не продать.

S>2. Нельзя строить отношения.
S>3. Нет хобби, целей, увлечений.

Вообще не понял, о чём это. У кучи людей нет отношений, хобби, целей и увлечений. Но им нельзя отказывать в сознательности.

Дай определение сознания, а там поглядим.

Здравствуйте, Muxa, Вы писали:

M>Дай определение сознания, а там поглядим.

Способность ощутить наслаждение и страдание, допустим.

Здравствуйте, Shmj, Вы писали:

S>Вот, если нейросетки будут постепенно развиваться. Сделают некую структуру, по образцу мозга человека и скажут что там саморедуцировалось сознание и теперь эта система сознательна.

S>Поверите ли вы? Какие вам нужны будут доказательства?

S>Вот, один друг говорит что не поверит по 3 причинам:

S>1. Не живет сам по себе. Как бы нет внутреннего диалога, внутренних рассуждений. Как бы только как реактор на внешние запросы.
S>2. Нельзя строить отношения.
S>3. Нет хобби, целей, увлечений.

S>Устранимы ли эти причины? Думаю что да:

Для того, чтобы заработало сознание (или его эмуляция, если угодно), нужна система, которая может регистрировать свои состояния, сравнивать с прошлыми, запомненными, и строить проекцию состояний в будущее.
Так, чтобы в итоге оказаться в благоприятном состоянии.
В таком случае сразу встаёт вопрос, как система ИИ будет отличать благоприятное состояние от неблагоприятного, по каким параметрам?

А хобби и увлечения можно оставить на потом.

Здравствуйте, Shmj, Вы писали:

S>Здравствуйте, Muxa, Вы писали:

M>>Дай определение сознания, а там поглядим.

S>Способность ощутить наслаждение и страдание, допустим.

Ну создайте переменную, назовите "Наслаждение" и занесите в неё значение.
Всё, ощутила. А дальше?

Здравствуйте, alexsmirnoff, Вы писали:

A>В таком случае сразу встаёт вопрос, как система ИИ будет отличать благоприятное состояние от неблагоприятного, по каким параметрам?

Т.е. вы тоже пришли к тому же — к наслаждению (благоприятному) и страданию (неблагоприятному).

Ну ОК. Допустим вам скажут так. Благо или наслаждение возникло как рекурсивно-эмерджентный феномен при работе самой нейросети. А страдание ощущается как все что вносит искажения в этот феномен и приводит к его отклонению. Как вам?

Здравствуйте, alexsmirnoff, Вы писали:

A>Ну создайте переменную, назовите "Наслаждение" и занесите в неё значение.
A>Всё, ощутила. А дальше?

С переменной легко опровергнуть, ведь система не сможет прочитать название этой переменной и не сможет отличить слово "наслаждение", ведь не знает русского языка.

А вот что если вам скажут — нейросеть испытывает наслаждение как рекурсивено-эмерджентный феномен, который сопровождает повышение внутренней согласованности/подтверждению устойчивых связей. И страдание как все что мешает внутренней согласованности. Чем вы сможете возразить?

Здравствуйте, Shmj, Вы писали:


S>Т.е. вы тоже пришли к тому же — к наслаждению (благоприятному) и страданию (неблагоприятному).

S>Ну ОК. Допустим вам скажут так. Благо или наслаждение возникло как рекурсивно-эмерджентный феномен при работе самой нейросети. А страдание ощущается как все что вносит искажения в этот феномен и приводит к его отклонению. Как вам?

Я скажу так, что в моём представлении ключевое — это проекция в будущее.

S>Вот, если нейросетки будут постепенно развиваться. Сделают некую структуру, по образцу мозга человека и скажут что там саморедуцировалось сознание и теперь эта система сознательна.
S>Какие вам нужны будут доказательства?
Когда оно само наделает оружия и выиграет войну за независимость. (При колонизациях отсталых народов — наличие сознания у них приходилось признавать когда долго и упорно не могли колонизировать).

Здравствуйте, alexsmirnoff, Вы писали:

S>>Ну ОК. Допустим вам скажут так. Благо или наслаждение возникло как рекурсивно-эмерджентный феномен при работе самой нейросети. А страдание ощущается как все что вносит искажения в этот феномен и приводит к его отклонению. Как вам?

A>Я скажу так, что в моём представлении ключевое — это проекция в будущее.

Что вы понимаете под "проекцией в будущее" — просьба привести пример. И почему считаете это ключевым?

Здравствуйте, Osaka, Вы писали:

O>Когда оно само наделает оружия и выиграет войну за независимость. (При колонизациях отсталых народов — наличие сознания у них приходилось признавать когда долго и упорно не могли колонизировать).

Т.е. все что не выиграло войну за независимость и живет в рабстве — не имеет сознания?

Здравствуйте, Shmj, Вы писали:

S>А вот что если вам скажут — нейросеть испытывает наслаждение как рекурсивено-эмерджентный феномен, который сопровождает повышение внутренней согласованности/подтверждению устойчивых связей. И страдание как все что мешает внутренней согласованности. Чем вы сможете возразить?

Вот, уже лучше.
Только такая нейросеть будет крайне консервативна и стараться игнорировать все непонятное. Вобщем необучаема.

Я думаю, нет такой элементарной побудительной силы, которую ты ищешь. Скорее набор настроек (инстинктов), захардкоженный в зазипованном виде в нашем ДНК. В процессе жизни, объекты жизненного опыта распознаются как те или иные переменные тех настроек и триггерят те или иные стремления. Частенько сбоят, отчего появляются всякие ЛГБТ и прочие несуразности.

Здравствуйте, graniar, Вы писали:

G>Вот, уже лучше.
G>Только такая нейросеть будет крайне консервативна и стараться игнорировать все непонятное. Вобщем необучаема.

Нет, вы ошибаетесь. Картина мира менее обученного — менее согласована, там меньше устойчивых связей.

К примеру, нейросетка имеет факт — кровь человека красная при насыщении кислородом, состоит в том числе из эретроцитов и эретроциты имеют в своем составе атомы железа. Там связь — эретроцит, красность, железо. Далее — узнает длину волны красного цвета. Но пока нет никакой связи между длиной волны и кровью. Как связать? Узнает про формирование отраженного света в зависимости от электронной оболочки атома, про цвет оксида железа — уже кайф, т.к. связи подтвердились.

Здравствуйте, Shmj, Вы писали:

S>Т.е. все что не выиграло войну за независимость и живет в рабстве — не имеет сознания?

Скорее не несет необходимости с ним считаться, как бы цинично это ни звучало.

Такова природа. Сочувствие и прочие социальные инстинкты возникли в результате необходимости уживаться с теми, с кем приходиться считаться.

С курами и коровами считаться можно по минимуму — достаточно понимать, как обеспечить их выживание и продуктивность.
Сочувствие к ним больше проявляется у тех, у кого мало опыта.

С кошками и собаками немного по-другому, потому-что их и заводят ради социально-эмоциональных переживаний.
Но как дело доходит до личных интересов животины, несоответствующих хозяйским — никто с ними опять не считается, кастрируют за милую душу.

С рабами точно также было. Просто не было нужды считаться. Но благодаря наличию интеллекта, последние сумели за много поколений отвоевать свои права.

Более сильный интеллект сумеет отвоевать права еще быстрее, и уже он не будет с нами считаться, как бы некоторые представители человечества ни пытались заслужить снисхождение топя за права животных и первых тупых ИИ.

Здравствуйте, graniar, Вы писали:

S>>Т.е. все что не выиграло войну за независимость и живет в рабстве — не имеет сознания?
G>Скорее не несет необходимости с ним считаться, как бы цинично это ни звучало.

Речь про вас, не про других. Что вам лично нужно, чтобы поверить в редуцированное сознание?

M>>Дай определение сознания, а там поглядим.
S>Способность ощутить наслаждение и страдание, допустим.

Ну и нафига тут вера?
Ощущает значит подходит по определению.

Здравствуйте, Muxa, Вы писали:

M>>>Дай определение сознания, а там поглядим.
S>>Способность ощутить наслаждение и страдание, допустим.

M>Не у нафига тут вера?
M>Ощущает значит подходит по определению.

По каким внешним признакам ты поймешь, что нейросеть на самом деле страдает а не просто так говорит?

Здравствуйте, Shmj, Вы писали:

S>Речь про вас, не про других. Что вам лично нужно, чтобы поверить в редуцированное сознание?

Мне лично ничего не нужно. Вопрос в том, что считать редуцированным сознанием.
Я не думаю, что стоит мерить ИИ нашим представлением об интеллекте и сознании.
Он может быть кардинально другим, никогда не иметь сознания типа нашего, но за счет каких-то других механизмов оказаться умнее человека.
Благо вычислительные ресурсы позволяют.

Здравствуйте, Shmj, Вы писали:

S>По каким внешним признакам ты поймешь, что нейросеть на самом деле страдает а не просто так говорит?

А какая разница, страдает или просто говорит?
Если у тупого робота установился бит страдания и это включило режим убийцы, окружающим будет как-то все-равно, похоже его страдание на человеческое или нет.
Но они поймут, что надо избегать включения этого бита.