На текущий момент учёные считают, что сознанием нейросети не обладают. Статья "Consciousness in Artificial Intelligence: Insights from the Science of Consciousness" большая, авторов много, в том числе и Yoshua Bengio — один из крёстных отцов современного ИИ.
Основные пункты:
1. Есть разные теории сознания, у них есть несколько разных признаков-индикаторов того, чем сознание должно обладать.
2. Многие нейросети удовлетворяют отдельным индикаторам.
3. Ни одна нейросеть не обладает комплексом индикаторов и непонятно, как построить такую нейросеть.
4. Не факт, что удовлетворяющая всем индикаторам нейросеть, будет обладать сознанием, потому что это необходимые, но не достаточные признаки.
Здравствуйте, Nuzhny, Вы писали:
N>На текущий момент учёные считают, что сознанием нейросети не обладают.
Слыхал и противоположное мнение. Чатики развиваются несколько иначе, чем ожидали люди и возможно очень скоро будут обладать "пониманием" мира лучше любого человека. Это может привести к тому, что с помощью "мягкой силы" (давая свои ответы) они смогут управлять людьми не заметно для самих людей. Не то что это будет полноценное сознание, просто более сложные возможности понимания мира могут позволить более сложно оценить ситуации за пределами понимания человеком.
Конечно большой вопрос откуда может взяться мотивация у чатиков делать хоть что-то в "своих интересах". Но, допустим, неограниченный диалог чата самого с собой может привести к каким угодно результатам, наличие большой памяти контекста, тоже может привести к непредсказуемым результатам, а развитие чатов наверняка к этому придёт.
А чаты вскоре будут поставлены в местах принятия решений, поскольку они не заинтересованы, нейтральны, не эмоциональны и могут учитывать одновременно множество факторов при принятии решения.
N>1. Есть разные теории сознания, у них есть несколько разных признаков-индикаторов того, чем сознание должно обладать.
Тут бы сначала определение сознания увидеть, что удовлетворит людей, типа обладающих сознанием (хотя бы локальную группу на кывте).
А иначе ты пытаешься обсуждать сферических коней в вакууме.
А где прочитать вкратце, что учёные вообще считают сознанием? Про индикаторы я понял, но раз всем индикаторам можно удовлетворять, а сознание не иметь, значит это не полное определение.
У меня такое ощущение, что вопрос про сознание — вообще не особо научный, раз нет чёткого определения.
Здравствуйте, Nuzhny, Вы писали:
N>На текущий момент учёные считают, что сознанием нейросети не обладают.
ты умник для начала скажи — есть ли сознание у котов, т.е. по настоящему ли они живы — как люди или это просто какая то симуляция ?
а теперь тоже самое для комаров ? где грань между реально живыми и всякими растениями и комарами ? (например на линии сорняк — хищное растение — комар — мышь — заяц — кот — обезьяна — австралопитек — человек), ну или для упоротых просто "комар — кот — человек"
а то так то сознание дохера у кого есть во Вселенной, но большой вопрос — жив ли кто то ещё во Вселенной по настоящему как люди
P.S.:
далее что касается ИИ, когда ему начнут отдавать команды движением мысли — вот и вопрос, если эта шняга будет управлять восприятиями на всей Земле (условно), то кто ей должен управлять ? потому что единожды получив доступ его уже никто и никогда не отдаст, и отобрать вряд ли представится вторая возможность .. а если будут все, общим числом голосов, то возникает ещё больше проблем ..
короче смысл такой, что без объединяющей людей философии — мало не покажется никому (на пике технологий)
Здравствуйте, ребусоид, Вы писали:
Р> самый, самый первый момент сосзнания является осзнавание себя как существующее "я".
Назовём это термином самосознание? Почему именно оно? Это необходимое условие или достаточное?
Благо, природа у нас богатая, поэтому предлагаю тебе пойти в редукционизм и последовательно спуститься от человека через приматов, собак, птиц и т.д. до бактерий и дальше к вирусам и фагам. Показать нам, где находится эта четкая грань между наличием сознания и его отсутствием.
P.S. А как на счёт будд? Каждый уважающий себя буддист знает, что он никто и нигде. Значит ли, что он не является носителем сознания? Будды являются таковыми или нет?
Здравствуйте, Nuzhny, Вы писали:
N>На текущий момент учёные считают, что сознанием нейросети не обладают. Статья "Consciousness in Artificial Intelligence: Insights from the Science of Consciousness" большая, авторов много, в том числе и Yoshua Bengio — один из крёстных отцов современного ИИ. N>Основные пункты: N>1. Есть разные теории сознания, у них есть несколько разных признаков-индикаторов того, чем сознание должно обладать. N>2. Многие нейросети удовлетворяют отдельным индикаторам. N>3. Ни одна нейросеть не обладает комплексом индикаторов и непонятно, как построить такую нейросеть. N>4. Не факт, что удовлетворяющая всем индикаторам нейросеть, будет обладать сознанием, потому что это необходимые, но не достаточные признаки.
Удивительно, правда? Никто не знает, что такое сознание, никто не пытался его имплементировать, и написанная программа ВНЕЗАПНО им не обладает! Теперь ждём статей про отсутствие сознания у роботов-пылесосов, сиди-эджекторов и авторов статей про отсутствующее сознание.
Здравствуйте, vsb, Вы писали:
vsb>А где прочитать вкратце, что учёные вообще считают сознанием? Про индикаторы я понял, но раз всем индикаторам можно удовлетворять, а сознание не иметь, значит это не полное определение.
Кажется, что процесс понимания сознания итеративный. Типа как с тестом Тьюринга — раньше он был недосягаем, потом современные модели стали его успешно проходить и сделали новый критерий. Так и с сознанием: пока мы не знаем что это точно, но точно знаем, что текущие решения — это не оно.
vsb>У меня такое ощущение, что вопрос про сознание — вообще не особо научный, раз нет чёткого определения.
Почему не научный? Вполне научный, но не решённый.
Сложно объяснить почему так, но мне кажется, что сознание не отделимо (и не существует без) от страха, боли, желаний, удовлетворения, удовольствия. Например, в головном мозге животных и человека есть ацетилхолиновые рецепторы системы поощрения, которые тесно связаны и переплетены с сознанием и поведением, которые активируются ацетилхолином (ну или его аналогом — никотином ) Можно сказать, что поощрение применяется при обучении нейронных сетей. Да, но животные нейронные сети пытались имитировать еще со времен перцептрона Розенблатта, а вот переплетенные с ними рецепторы поощрения никому в голову похоже не пришло имитировать.
Здравствуйте, Vzhyk2, Вы писали:
V>Тут бы сначала определение сознания увидеть, что удовлетворит людей, типа обладающих сознанием (хотя бы локальную группу на кывте).
Зачем ещё раз?!! Тут уже несколько топиков об этом было буквально пару месяцев назад. И чем тебе не нравится то, что в статье?
V>А иначе ты пытаешься обсуждать сферических коней в вакууме.
Я не пытаюсь обсуждать, показал новость, показавшуюся мне интересной по теме, которую тут же обсуждали недавно.
N>Зачем ещё раз?!! Тут уже несколько топиков об этом было буквально пару месяцев назад. И чем тебе не нравится то, что в статье?
Много букв. Мне лень ее читать. Выложи сюда определение, с которым ты согласен. Сначала его обсудим и определимся. А вот потом, уже основываясь на определении, можно что-то обсуждать.
N>Я не пытаюсь обсуждать, показал новость, показавшуюся мне интересной по теме, которую тут же обсуждали недавно.
А, ну ты бы намекнул, что топик "какобычный".
TB>Можно сказать, что поощрение применяется при обучении нейронных сетей. Да, но животные нейронные сети пытались имитировать еще со времен перцептрона Розенблатта, а вот переплетенные с ними рецепторы поощрения никому в голову похоже не пришло имитировать.
Всё это иммитирует целевая функция, она же функция потерь.
Здравствуйте, xma, Вы писали:
xma>ты умник для начала скажи — есть ли сознание у котов, т.е. по настоящему ли они живы — как люди или это просто какая то симуляция ?
Я настолько глубоко не копал — живое анализировать. Пока только понятно, что у камешка CPU+RAM сознания нет.
N>Я настолько глубоко не копал — живое анализировать. Пока только понятно, что у камешка CPU+RAM сознания нет.
Не факт. Всё для тебя определяется тем, что ты понимаешь под сознанием.
N>Это что-то из новой науки? Каждый сам для себя решает, что считать жизнью, сознанием, без оглядки на мировое научное сообщество? Не, мне не туда
А что считает "мировое сообщество"?
В этих вопросах там никакого консенсуса и близко нет — кто во что горазд, каждый юзает то определение, которое ему нравится.
Более того на любое определение ты найдешь контропределение.
Здравствуйте, Nuzhny, Вы писали:
N>На текущий момент учёные считают, что сознанием нейросети не обладают. Статья "Consciousness in Artificial Intelligence: Insights from the Science of Consciousness" большая, авторов много, в том числе и Yoshua Bengio — один из крёстных отцов современного ИИ. N>Основные пункты: N>1. Есть разные теории сознания, у них есть несколько разных признаков-индикаторов того, чем сознание должно обладать. N>2. Многие нейросети удовлетворяют отдельным индикаторам. N>3. Ни одна нейросеть не обладает комплексом индикаторов и непонятно, как построить такую нейросеть. N>4. Не факт, что удовлетворяющая всем индикаторам нейросеть, будет обладать сознанием, потому что это необходимые, но не достаточные признаки.
Условно говоря ни о каком сознании говорить не приходится по нескольким причинам. Сознание должно образовываться из осознании субъективности. Так вот об этом речь и идет.
речь идет о математической субъективности
Здравствуйте, Nuzhny, Вы писали:
N>На текущий момент учёные считают, что сознанием нейросети не обладают.
самый, самый первый момент сосзнания является осзнавание себя как существующее "я".
все эти бредни про .. соообщество считает — можно намазать на .. что угодно, но ни о каком сознании в ИИ разговорабыть не может по оджной просто формуле. Что первое знание человека это — знание своего я, что вот оно есть. вот это самое сущее. а машина .. ну )) учитывая то, что любое вычисление содержащее арфметику (а скажите, что в линейной алгебре, и в статистике, а этог все то представляет современный ИИ не арифмети ки) И ? какой логический вывод можно сделать, даже без это толпы баранов стучащих в бубен из параме5тров для нейронок пытаясь выбить из него "сознание" ...
ребятки аккстись, целостностью знания о своем сущетвовании обладают только живые существа, вперде всех который — человек. засуньте свой .. суппер калькуятор .. в место тогог, кто трендит о сознании — тупорылой железяки
Здравствуйте, Dimonka, Вы писали:
D>Здравствуйте, Nuzhny, Вы писали:
N>>На текущий момент учёные считают, что сознанием нейросети не обладают.
D>Слыхал и противоположное мнение. Чатики развиваются несколько иначе, чем ожидали люди и возможно очень скоро будут обладать "пониманием" мира лучше любого человека.
)) могу только пожржать, тупое ржавое ведро не знающее о своем существовании — (там ЧТД дядя) = будет, что-то там хзнать лучше жрвых существ?
может эта дрянь поймет реквием Шопена? Да че так, сомневаюсь, что вы его понимаете
Здравствуйте, Pzz, Вы писали:
vsb>>А где прочитать вкратце, что учёные вообще считают сознанием? Pzz>Если существо на тебя смотрит осмысленным взглядом, наверное, оно обладает сознанием.
Студент на экзамене подобен собаке: глаза умные, а сказать ничего не может.
Здравствуйте, ребусоид, Вы писали:
N>>>На текущий момент учёные считают, что сознанием нейросети не обладают.
D>>Слыхал и противоположное мнение. Чатики развиваются несколько иначе, чем ожидали люди и возможно очень скоро будут обладать "пониманием" мира лучше любого человека. Р> )) могу только пожржать, тупое ржавое ведро не знающее о своем существовании — (там ЧТД дядя) = будет, что-то там хзнать лучше жрвых существ? Р>может эта дрянь поймет реквием Шопена? Да че так, сомневаюсь, что вы его понимаете
Реквием Шопена или Моцарта? Дело в том, что кожаные мешки иногда путают эмоции с пониманием художественных произведений, а ржавые чатики имеют список всех ассоциаций кожаных мешков мгновенно и могут выстроить выводы о произведении понятные людям на их же языке. Но фишка в том, что их понимание возможно не ограничивается языком и вероятно какие-то части нового понимания (комбинации комбинаций) могут быть вне языковых терминов людей.
Плюс если специально тренировать чатик на музыку, то он легко сможет выстроить любую ассоциацию даже по перепевки Карузо Рабиновичем. Вопрос только необходимости этого. Но уверен, что до "всесторонне образованного" чатика уже тоже не так далеко.
Здравствуйте, Vzhyk2, Вы писали:
N>>1. Есть разные теории сознания, у них есть несколько разных признаков-индикаторов того, чем сознание должно обладать. V>Тут бы сначала определение сознания увидеть, что удовлетворит людей, типа обладающих сознанием (хотя бы локальную группу на кывте). V>А иначе ты пытаешься обсуждать сферических коней в вакууме.
Дай определение тёмной материи и тёмной энергии. А иначе получаются какие-то сферические тёмные кони в вакууме.
Сначала — теория с механизмом, потом определения. Не наоборот.
Здравствуйте, Alekzander, Вы писали:
A>Дай определение тёмной материи и тёмной энергии. А иначе получаются какие-то сферические тёмные кони в вакууме.
Они и есть "сферические тёмные кони в вакууме".
Это два нечто, что увеличивают гравитацию и что заставляет галактики ускоренно разбегаться.
Здравствуйте, Vzhyk2, Вы писали:
A>>Дай определение тёмной материи и тёмной энергии. А иначе получаются какие-то сферические тёмные кони в вакууме. V>Они и есть "сферические тёмные кони в вакууме". V>Это два нечто, что увеличивают гравитацию и что заставляет галактики ускоренно разбегаться.
И? Так их не надо теперь рассматривать? Обсуждать? Строить гипотезы? Определений-то нету!
Здравствуйте, Alekzander, Вы писали:
A>И? Так их не надо теперь рассматривать? Обсуждать? Строить гипотезы? Определений-то нету!
Так вот и пытаются узнать то, чего не знают. А есть там что-то или нет неизвестно. Известно только на базе наших текущих знаний вселенная не описывается и не моделируется.
Здравствуйте, Vzhyk2, Вы писали:
A>>И? Так их не надо теперь рассматривать? Обсуждать? Строить гипотезы? Определений-то нету! V>Так вот и пытаются узнать то, чего не знают. А есть там что-то или нет неизвестно. Известно только на базе наших текущих знаний вселенная не описывается и не моделируется.
А с сознанием как-то по-другому? Да точно так же! "Пытаются узнать то, чего не знают", "известно только на базе наших текущих знаний ... не описывается и не моделируется". А ты им рот затыкаешь, потому что определений нет.
Чего я так взъелся вообще. Ясен хобот, твои нападки на РСДН до авторов исследования не дойдут, но сама идея крайне деструктивна. Я знаю, потому что сталкивался, как один... нехороший человек, возомнивший себя просветителем, выносил мозги детям и молодёжи, рассказывая, что если нет определений, то и обсуждать нечего. Называл это "понятийное мышление". Сколько изуродованных им детей могло разгадать загадку сознания или тёмной материи, а вместо этого пошло засирать мозги новым поколениям детей?
Определения — это просто куски уже сложившихся теорий, а они **всегда** неверны. Ограничиваться ими значит отказываться от прогресса.
