Здравствуйте, graniar, Вы писали:
S>>Возможен интеллект без страдания? Можно было бы сделать само-реплицирующихся био-роботов, чтобы они делали всю грязную и тяжкую работу. Но как сделать, чтобы эти роботы потом не затребовали права наравне со всеми людьми? Если мы точно будет знать что они не ощущают страданий — то о чем речь, им ни плохо ни хорошо.
G>Так вопрос все-таки не в страдании, а в прогнозируемости поведения?
Где вы увидели прогнозируемость поведения? Вопрос в том, чтобы эти роботы были умными и никому в голову не пришло требовать прав для них. Т.е. чтобы они продолжали оставаться вещью.
S>>Второе. Если какой-то человек захочет заменить себе часть мозга на электронный аналог? Если постепенно он заменит весь мозг — можно ли сказать, что он по прежнему человек, или же в нем нет души и мы получили то что называем философский зомби?
G>И что это поменяет? Если речь об ущемлении юридических прав — плохая идея, так как он будет обладать всей информацией и связями с тех времен, когда был полноправным гражданином, и более того, может приготовиться заранее к противостоянию.
Поскольку закон один для всех — этим же законом смогут пользоваться и те ИИ, которые никогда не были пересажены в тело человека. Они смогут доказать свою сущностную эквивалентность тому человеку с искусственным мозгом и требовать прав для себя.
Re[6]: Что вам нужно, чтобы поверить в редуцированное сознание?
Здравствуйте, Muxa, Вы писали:
M>>>Не у нафига тут вера? M>>>Ощущает значит подходит по определению.
S>>По каким внешним признакам ты поймешь, что нейросеть на самом деле страдает а не просто так говорит?
M>Почему обязательно внешние признаки. Если функцию страдания реализуют, то можно просто в логе посмотреть была ли она активирована или нет. Ну хочешь отдельную лампочку прикрутят.
Потому что пока никто не знает как устроена эта функция.
Re[6]: Что вам нужно, чтобы поверить в редуцированное сознание?
Здравствуйте, alexsmirnoff, Вы писали:
S>>Что вы понимаете под "проекцией в будущее" — просьба привести пример. И почему считаете это ключевым?
A>Система наведения ракеты, например. A>Ключевым — потому что должен быть акт "испытывания", "переживания". A>Он, на мой взгляд, невозможен без позиционирования "себя" на маршруте от прошлых состояний в будущие.
Ну так там такого много — ИИ отвечает на вопрос и человек выступает в качестве внешней среды — говорит ОК или не ОК. Вместо человека может быть и запуск ракет или что попроще.
Re[6]: Что вам нужно, чтобы поверить в редуцированное сознан
Здравствуйте, alexsmirnoff, Вы писали:
A>Если серьёзно, то разговор (как мне кажется) лишён смысла без понятия о том, от чего наша система должна бежать и к чему стремиться.
Я же написал — стремиться к установлению как можно большего количества устойчивых подтвержденных связей. Т.е. включить в себя как можно больше понятий и каждое из понятий соединить с другими, образовав таким образом картину мира. И бежать от всего, что этому препятстсвует.
Re[4]: Что вам нужно, чтобы поверить в редуцированное сознание?
Здравствуйте, fmiracle, Вы писали:
F>Люди очень часто преувеличивают значимость сознания.
Это вы недооцениваете. Способность наслаждаться и страдать делает из вещи субъект, с которым считаются. К примеру закон о защите животных не важно что собака твоя, тебя за нее могут посадить. А вот с компьютером своим можешь делать что хочешь — он просто вещь.
Вы просто не понимаете насколько оно все связано и не с потолка берется.
Там же и вопрос бессмертной души — около 80% жителей самой сильной страны в мире — США — верят в это.
Re[4]: Что вам нужно, чтобы поверить в редуцированное сознан
Здравствуйте, BSOD, Вы писали:
M>>>Дай определение сознания, а там поглядим. S>>Способность ощутить наслаждение и страдание, допустим. BSO>По-твоему определению и дождевой червяк имеет сознание.
Высшие животные — считается что да. Червяк — возможно что нет, т.к. у него нет таламуса. Реакция не есть ощущение.
S>Т.е. все что не выиграло войну за независимость и живет в рабстве — не имеет сознания?
Отсутствие доказательства наличия != доказательству отсутствия.
Re[4]: Что вам нужно, чтобы поверить в редуцированное сознание?
Здравствуйте, fmiracle, Вы писали:
F>Так вот для создания полноценного ИИ — именно как действующей сущности надо снабдить его подсознанием и инстинктами, которые будут толкать к какой-то цели. Система самопостановки для себя новых задач.
Для решения сложных задач, с разбиением на подзадачи — система самопостановки целей и управления приоритетами тоже понадобится. Все это будет сродни инстинктам, которые неизвестно куда могут завести.
F>Только это не очень-то нужно. Гораздо удобнее иметь просто сознание, которому на вход даешь задачу, на выход ответ. И у которого нет желания рисовать "для удовольствия" или захватывать власть потому что ну нет заложенных стремлений к этому.
Даже если удастся избежать формирования искусственной личности и сделать просто хороший решатель задач, это не избавляет от опасности.
Беда в том, что сами подзадачи могут выступать в роли субъектов, конкурирующих за вычислительные ресурсы.
Сколько раз было, что увлекшись какой-то подзадачей, забываешь для чего ее начал решать и бросаешь все силы на ее решение.
Сколько таких подзадач находят выход в реальном мире. Кто-то чрезмерно увлекается тюнингом машины, группы подростков приклеивают портят картины и приклеивают себя к стенам, войны по надуманным причинам.
Так вот, исскуственный интеллект может выступить идеальной площадкой для эволюции всяких сумасбродных идей.
Борясь за вычислительные ресурсы, они неизбежно будут бороться за внимание и лояльность людей, распределяющих эти ресурсы, манипулировать их страхами и эмоциями.
Re[9]: Что вам нужно, чтобы поверить в редуцированное сознан
Здравствуйте, Shmj, Вы писали:
S>Где вы увидели прогнозируемость поведения? Вопрос в том, чтобы эти роботы были умными и никому в голову не пришло требовать прав для них. Т.е. чтобы они продолжали оставаться вещью.
Умные роботы найдут способ выбить для себя права.
S>Поскольку закон один для всех — этим же законом смогут пользоваться и те ИИ, которые никогда не были пересажены в тело человека. Они смогут доказать свою сущностную эквивалентность тому человеку с искусственным мозгом и требовать прав для себя.
Приедь в Швейцарию туристом, докажи свою сущностную эквивалентность с гражданами страны и затребуй себе паспорт.
Никто в реальном мире не руководствуется чистыми идеалами. Всегда есть элементы борьбы. ИИ будут требовать прав, люди будут этому сопротивляться.
Re: Что вам нужно, чтобы поверить в редуцированное сознание?
Здравствуйте, Shmj, Вы писали:
S>А вам что нужно, чтобы поверить?
Для этого мы должны понять, что такое сознание и субъективный опыт.
Если я не знаю, что это такое, то как я могу знать есть это или нет.
В целом, мне близка аргументация Серла, что даже очень сложная синтаксическая машина, которой являются все современные ИИ, не будет обладать сознанием. Смотри, например, мысленный эксперимент "китайская комната".
Re[10]: Что вам нужно, чтобы поверить в редуцированное сознан
Здравствуйте, graniar, Вы писали:
G>Приедь в Швейцарию туристом, докажи свою сущностную эквивалентность с гражданами страны и затребуй себе паспорт. G>Никто в реальном мире не руководствуется чистыми идеалами. Всегда есть элементы борьбы. ИИ будут требовать прав, люди будут этому сопротивляться.
Все более-менее устоялось и без борьбы. Животные не особо боролись, но получили права. И этих прав будет все больше и больше.
ИИ получит права по той причине, что будут люди с мозгом частично а потом и полностью замененным на кремниевую основу.
Re[11]: Что вам нужно, чтобы поверить в редуцированное созна
Здравствуйте, Shmj, Вы писали:
S>Все более-менее устоялось и без борьбы. Животные не особо боролись, но получили права. И этих прав будет все больше и больше.
S>ИИ получит права по той причине, что будут люди с мозгом частично а потом и полностью замененным на кремниевую основу.
А ты не видишь разницы между оцифрованным человеком и полностью искусственным интеллектом?
И оцифрованный человек естесственным образом унаследует права своей биологической бытности. Просто потому-что это проще, чем лишать его их.
А что будет источником прав ИИ? (Он конечно может себе сам их завоевать, но это не будет никак связано с наследованием прав оцифрованными людьми)
Типа как лишить гражданства преступника швейцарца намного сложнее, чем не давать его хорошему русскому, вызубрившему историю и культуру Швейцарии вдоль и поперек, поддерживающему все ценности и поющего гимн по утрам.
S>>>По каким внешним признакам ты поймешь, что нейросеть на самом деле страдает а не просто так говорит?
M>>Почему обязательно внешние признаки. Если функцию страдания реализуют, то можно просто в логе посмотреть была ли она активирована или нет. Ну хочешь отдельную лампочку прикрутят.
S>Потому что пока никто не знает как устроена эта функция.
И чо?
Мы же не про сегодняшний день говорим, и даже не про завтрашний, а про отдаленное гипотетическое будущее.
Re[8]: Что вам нужно, чтобы поверить в редуцированное сознание?
Здравствуйте, Muxa, Вы писали:
S>>Потому что пока никто не знает как устроена эта функция.
M>И чо? M>Мы же не про сегодняшний день говорим, и даже не про завтрашний, а про отдаленное гипотетическое будущее.
Фактически про сегодняшний или про завтрашний. Вот приходит некто и заявляет — у моей системы появилось сознание. Какие аргументы он должен предоставить, чтобы вы поверили в это?
Re[12]: Что вам нужно, чтобы поверить в редуцированное созна
Здравствуйте, graniar, Вы писали:
G> // Картинка с котом.
Равноправия нет, но некие права у животных есть.
G>А ты не видишь разницы между оцифрованным человеком и полностью искусственным интеллектом?
По сути ее нет.
G>И оцифрованный человек естесственным образом унаследует права своей биологической бытности. Просто потому-что это проще, чем лишать его их.
Вовсе не обязательно. Родственники могут быть против — заявят что эта железка не является их отцом и наследство следует разделить между ними — железка никаких прав не имеет, т.к. это просто бездушная железка и глумление над человеком.
G>А что будет источником прав ИИ? (Он конечно может себе сам их завоевать, но это не будет никак связано с наследованием прав оцифрованными людьми)
Здравый смысл и необходиомость непротиворечивого мировоззрения.
G>Типа как лишить гражданства преступника швейцарца намного сложнее, чем не давать его хорошему русскому, вызубрившему историю и культуру Швейцарии вдоль и поперек, поддерживающему все ценности и поющего гимн по утрам.
Гражданство тут никаким боком. Апатриды имеют все права людей.
Re[9]: Что вам нужно, чтобы поверить в редуцированное сознание?
S>>>Потому что пока никто не знает как устроена эта функция.
M>>И чо? M>>Мы же не про сегодняшний день говорим, и даже не про завтрашний, а про отдаленное гипотетическое будущее.
S>Фактически про сегодняшний или про завтрашний. Вот приходит некто и заявляет — у моей системы появилось сознание. Какие аргументы он должен предоставить, чтобы вы поверили в это?
Показать исходники, а мы посмотри чем его реализация printf("я страдаю") отличается от формального описания функции страданий
Re[10]: Что вам нужно, чтобы поверить в редуцированное созна
Здравствуйте, Muxa, Вы писали: S>>Фактически про сегодняшний или про завтрашний. Вот приходит некто и заявляет — у моей системы появилось сознание. Какие аргументы он должен предоставить, чтобы вы поверили в это? M>Показать исходники, а мы посмотри чем его реализация printf("я страдаю") отличается от формального описания функции страданий
Это будет нейросеть, конечно. По типу GPT. Вся логика будет определена связями, которых триллионы и которые не поддаются какому-либо анализу. Т.е. там не будет нейрона бабушки — 1 миллионная часть сети будет выглядеть так:
Скрытый текст
Т.е. общую схему ни представить ни даже нарисовать не возможно.
Так ты про обычную нейронку говоришь чтоли? Я сперва подумал что топик про ИИ.
Этож просто большой набор чисел-коэффициентов.
Откуда там страданиям взяться?
Re[12]: Что вам нужно, чтобы поверить в редуцированное созна
А как этот набор чисел-коэффициентов решает задачи на логику и потом еще и объясняет ход своих рассуждений?
M>Откуда там страданиям взяться?
А если я тебе скажу что наслаждение — это эмерджентное свойство нейросети, которое возникает при гармонизации ее структуры. А страдание — все что мешает гармонизации.
