есть один принципиальный вопрос, который некоторые не понимают в корне. Чешут про сознание ИИ и прочее.
есть один момент — я не спрашиваю, и не задумываюсь о том. есть ли я. Может кто-то иначе, впрочем он врет, зная, что он есть будет задаватся опросомм . как он есть, куда он есть, кто еще рядом есть.
У ИИ вопрос о том есть он, или нет его мы можем посчитать. Но не про себя ))
LVV>Мы не знаем, что есть сознание...
Модель себя.
Любое живое существо для выживания вынуждено строить какую-то модель мира, и какую-то модель себя в мире. Для планирования своих действий, оценки последствий, и т.д. У нас она растёт с рождения вместе с нами. В какой-то момент наша модель становится подробной и даже рекурсивной "я думаю о том что я думаю". Вот в этот момент мы такие "опа, я осознался". И сразу начинаем врать
Здравствуйте, ботаныч, Вы писали:
Б>есть один момент — я не спрашиваю, и не задумываюсь о том. есть ли я. Может кто-то иначе, впрочем он врет, зная, что он есть будет задаватся опросомм . как он есть, куда он есть, кто еще рядом есть.
Прежде чем отвечать на вопрос о наличии у ИИ сознания, неплохо бы сформулировать:
1. Что такое сознание?
2. Как проверить наличие сознания у кого-то?
Кстати, та же проблема возникает при ответе на вопрос, есть ли сознание у собаки (собачники будут утверждать, что есть, догханнеры — что нет).
Здравствуйте, ботаныч, Вы писали:
Б>есть один момент — я не спрашиваю, и не задумываюсь о том. есть ли я.
Что ты понимаешь под "задумывается" для ИИ?
Б>Может кто-то иначе, впрочем он врет, зная, что он есть будет задаватся опросомм . как он есть, куда он есть, кто еще рядом есть.
На пальцах — современная ИИ-сетка представляет из себя чистый функциональный объект, т.е. без состояния, и без внутренней активности.
"Контекст беседы" (т.е. "состояние") организуют как неявное удлинение промпта, т.е. берут предыдущие вход-выход и опять добавляют ко входу с пометкой "предыстория". Это почему беседа с ИИ не может быть вечной — есть ограничение на "историю", т.е. на длину промпта.
В любом случае, сама сетка остаётся пассивным неизменяемым объектом-функцией, которая за один раз выдаёт некий результирующий вектор Y в ответ на входной вектор X.
Очевидно же, что для появления "самосознания" ИИ должен работать в активном, а не пассивном режиме — примерно как у фантастов прошлого. ))
Т.е., такой ИИ должен быть снабжён механизмом формулирования целей, механизмом их достижений и некоей надстройкой, обеспечивающей согласование и проактивность внутренних итеративных процессов "мышления".
В идеале в такую систему должны входить десятки-сотни взаимодействующих относительно независимых сеток различного масштаба и специализации (как в мозге и нейронных узлах высших животных), плюс дообучение в некотором диапазоне как специализированных подсеток, так и произвольное дообучение основной.
Построй такую систему, введи систему поощрений и наказаний, и эмуляция "сознания" и уникальной по характеру "личности" перестанет казаться чем-то недостижимым.
Здравствуйте, ботаныч, Вы писали:
Б>есть один момент — я не спрашиваю, и не задумываюсь о том. есть ли я. Может кто-то иначе, впрочем он врет, зная, что он есть будет задаватся опросомм . как он есть, куда он есть, кто еще рядом есть. Б> У ИИ вопрос о том есть он, или нет его мы можем посчитать. Но не про себя ))
VladD2, когда уже тупых ИИ ботов перебаните ?
Здравствуйте, hi_octane, Вы писали:
_>В какой-то момент наша модель становится подробной и даже рекурсивной "я думаю о том что я думаю".
Заблуждение. Это самоосознание. При этом сознание может быть без самоосознания — у меня был такой опыт. Я думал что весь мир — это и есть я. И если мне больно — то всему миру больно. Не было разделения на Я и не Я.
Здравствуйте, vdimas, Вы писали:
V>Здравствуйте, hi_octane, Вы писали:
_>>Любое живое существо для выживания вынуждено строить какую-то модель мира, и какую-то модель себя в мире.
V>+100500
Pzz>Кстати, та же проблема возникает при ответе на вопрос, есть ли сознание у собаки (собачники будут утверждать, что есть, догханнеры — что нет).
И вообще, (не)признание наличия у кого-то сознания — вопрос из политической плоскости
Данное сообщение является художественным произведением и освещает вымышленные события в вымышленном мире. Все совпадения с реальностью являются случайными. Не является инвестиционной рекомендацией.
S>Заблуждение. Это самоосознание. При этом сознание может быть без самоосознания — у меня был такой опыт. Я думал что весь мир — это и есть я. И если мне больно — то всему миру больно. Не было разделения на Я и не Я.
У тебя в тот момент была ошибочная модель мира. Разбирать каждый глюк довольно бесполезно — их бесконечно много.
Здравствуйте, hi_octane, Вы писали:
S>>Заблуждение. Это самоосознание. При этом сознание может быть без самоосознания — у меня был такой опыт. Я думал что весь мир — это и есть я. И если мне больно — то всему миру больно. Не было разделения на Я и не Я. _>У тебя в тот момент была ошибочная модель мира. Разбирать каждый глюк довольно бесполезно — их бесконечно много.
Я уже писал — дело не в модели. Модель мира есть и у робота пылесоса и еще много у чего. Пусть не полная или ошибочная.
Дело в возможности испытывать различного рода и оттенков наслаждения и страдания.
S>Модель мира есть и у робота-пылесоса — и что?
И то, что даже такой простенькой модели мира оказывается достаточно, чтобы все люди однозначно сходились во мнении что робот-пылесос умнее чем, например, чайник или стиралка. При этом у робота-пылесоса модель мира проще чем у живого жука. Поэтому в наших глазах робот пылесос тупее жука. Вот так, шаг за шагом, можно добраться хоть до AGI/ASI.
S>Дело в возможности испытывать различного рода и оттенков наслаждения и страдания.
Ага. Так мы придём к тому что люди которые не чувствуют боли (такие есть) — не обладают сознанием. Или психопаты, которые не испытывают части эмоций там где другие люди испытывают (например сострадание) — не обладают сознанием.
Твоя метрика — это примерно как мерилом выученных уроков у ребёнка считать не оценки на контрольных а то, как громко он ныл, выражая страдания от необходимости ходить в школу.
Здравствуйте, hi_octane, Вы писали:
S>>Модель мира есть и у робота-пылесоса — и что? _>И то, что даже такой простенькой модели мира оказывается достаточно, чтобы все люди однозначно сходились во мнении что робот-пылесос умнее чем, например, чайник или стиралка. При этом у робота-пылесоса модель мира проще чем у живого жука. Поэтому в наших глазах робот пылесос тупее жука. Вот так, шаг за шагом, можно добраться хоть до AGI/ASI.
Умнее или глупее — не важно. Младенец новорожденный вообще ничего не знает — но у него сознание есть (и этот факт не оспаривают).
Здравствуйте, hi_octane, Вы писали:
_>Ага. Так мы придём к тому что люди которые не чувствуют боли (такие есть) — не обладают сознанием. Или психопаты, которые не испытывают части эмоций там где другие люди испытывают (например сострадание) — не обладают сознанием.
Мне уже надоело очевидные вещи повторять. Не физическая боль — вся гамма наслаждений и страданий. Их много. Если не страдает вообще ни от чего — то его ни обидеть нельзя ни как-то огорчить или оделить, недодать и т.д. Тогда да — сознания нет.
_>Твоя метрика — это примерно как мерилом выученных уроков у ребёнка считать не оценки на контрольных а то, как громко он ныл, выражая страдания от необходимости ходить в школу.
Ты просто не понимаешь насколько глубока эта истина — лет через 20 все начнут об этом говорить. Пока не доходит. Думают что если добавить преобразования данных — то сознания как-то само возникнет. Нет, не возникнет.
Здравствуйте, Shmj, Вы писали:
_>>>Любое живое существо для выживания вынуждено строить какую-то модель мира, и какую-то модель себя в мире. V>>+100500 S>Модель мира есть и у робота-пылесоса — и что?
Но нет инстинкта выживания. ))
См. на что отвечаешь в процитированном.
Здравствуйте, Shmj, Вы писали:
S>Умнее или глупее — не важно. Младенец новорожденный вообще ничего не знает — но у него сознание есть (и этот факт не оспаривают).
