1. Мы не знаем, что такое сознание.
2. Шимжа, ты вообще в своем уме? Там же одна математика!
3. Если оно ведет себЯ похоже на нас, то мож и нас там одна математика ? К вопросу о сознании.
Хочешь быть счастливым — будь им!
Без булдырабыз!!!
Здравствуйте, Shmj, Вы писали:
S>Т.е. роль из чисто прикладной — переходит в экзистенциальную
Где грань между "чисто прикладной" ролью и экзистенциальной?
Электричество — вроде штука чисто прикладная. Оставь сейчас большой город без электричества, люди начнут массово умирать. Сначала из-за отсутствия питьевой воды, потом из-за отсутствия продуктов. И от холода, если зимой.
Все технологии, на которые мы опираемся в существенных вещах, становятся экзистенциальными независимо от того, осознают они сами себя или нет.
Ранее роль IT была сугубо прикладной — автоматизация труда, автоматизация взаимодействий (финансовых, трудовых). Ну немного помощь в научных и инженерных рассчетах (хотя по большому счету человек всегда рулил).
Теперь же появилось новое — все думает осознает оно себя или нет. Ну ОК, вы скажете что нет, не осознает, т.к. для этого нужно еще что-то, но это лишь ваше мнение. А вдруг интуиция вас подвела?
Далее — возникнет ли тех. сигнулярность или нет.
Т.е. роль из чисто прикладной — переходит в экзистенциальную
Здравствуйте, Shmj, Вы писали:
S>Т.е. роль из чисто прикладной — переходит в экзистенциальную
Всё таки роль остаётся прикладной, но на уровень выше. Если раньше с помощью ПО автоматизировали люди, то сейчас хотят, чтобы автоматизацией занимались ИИ-агенты. Пока и всё.
Здравствуйте, LaptevVV, Вы писали:
LVV>1. Мы не знаем, что такое сознание.
Именно.
LVV>2. Шимжа, ты вообще в своем уме? Там же одна математика!
А откуда вы знаете что сознание — это нечто большее чем математика? Отож.
Ну да, интуиция нам подсказывает что это нечто большее — но вдруг интуиция подводит?
LVV>3. Если оно ведет себЯ похоже на нас, то мож и нас там одна математика ? К вопросу о сознании.
Вот именно — и сейчас IT должно попытаться ответить на этот фундаментальный вопрос.
Здравствуйте, Muxa, Вы писали:
S>>Теперь же появилось новое — все думает осознает оно себя или нет. M>Не понял — кто осознает или нет — IT?
Вообще ударение было на осознАет. Т.е. речь не о сегодняшнем дне а о будущем. И понятно что речь о вычислительных системах, повторяющих вычислительные процессы в мозге человека — т.е. то что сейчас представлено нейросетями.
S>>>Теперь же появилось новое — все думает осознает оно себя или нет. M>>Не понял — кто осознает или нет — IT?
S>Вообще ударение было на осознАет. Т.е. речь не о сегодняшнем дне а о будущем. И понятно что речь о вычислительных системах, повторяющих вычислительные процессы в мозге человека — т.е. то что сейчас представлено нейросетями.
А, ну если про будущее…
Смогут сознание эмулировать, может и осознает.
Здравствуйте, Shmj, Вы писали:
LVV>>3. Если оно ведет себЯ похоже на нас, то мож и нас там одна математика ? К вопросу о сознании. S>Вот именно — и сейчас IT должно попытаться ответить на этот фундаментальный вопрос.
ИИ, встроенный в гуглопоиск:
Предельные вопросы — это вопросы, на которые нельзя ответить с помощью эмпирических данных (опытных данных) и которые выходят за рамки научного познания. Они затрагивают фундаментальные, экзистенциальные темы, такие как смысл жизни, природа сознания, или происхождение Вселенной, и требуют философского, а не чисто научного осмысления.
Если этот вопрос действительно относится к таким, то нельзя найти ответ через IT. Т.к. IT — это прикладная сфера и не имеет "полномочий и инструментов", чтобы отвечать на такие вопросы. А у философских ответов нет прикладных применений, научности, определенности. Здесь непреодолимый разрыв.
Вопрос чуть попроще, но тоже скользкий: У кого-то может быть гипотеза о бесконечности вселенной/мультивселенной. Но она принципиально непроверяема экспериментально, по определению бесконечности: https://rsdn.org/forum/education/8984071.1
Здравствуйте, Shmj, Вы писали:
S>Т.е. роль из чисто прикладной — переходит в экзистенциальную
Пока еще преждевременно. Если говорить языком "Космической одиссеи" Кубрика, то гранитную плиту пока не нашли. Что будет лет через 20 — трудно сказать, но обычно 80% потенциала выстреливают сразу. Возможно, что уже выстрелило то, что могло. Дальше будет просто доводка до ума.
Если роль технологий (в т.ч. информационных) — служить людям — то, продолжая исполнять свою роль, они будут обеспечивать сохранение ситуации, в которой люди продолжают рулить, а технологии и все их порождения — людям служить.
Конечно, понадобится поддержка и со стороны других общественных институтов. Например, в случае возникновения систем, общепризнаваемых как самоосознающие, наверняка появятся малосознательные граждане, желающие наделить такие системы некоторыми человеческими правами — например, правом на личную/частную собственность. Такие попытки придется пресекать. В крайнем случае, лучше даже полностью запретить создание/производство таких самоосознающих систем, чем допустить возможность наделения их правом частной собственности. (Ведь нетрудно добиться, чтобы они делали всё то же самое, только без самоосознавания — тем более, что на самом деле нужно лишь убедительно доказать это). Это всё с точки зрения безопасности человечества.
Хотя, конечно, это только этап "оттягивания неизбежного конца", который всё равно светит, коль скорость "робопрогресса" потенциально на порядки выше скорости прогресса человеческого общества. Те же юридические препоны — ничто, когда на порядок более умный ИИ может полностью манипулировать "хозяином". А гарантированное полное отсутствие у ИИ собственной воли/мотивации — ничто, когда ИИ можно сказать (уже сейчас): "Представь себе, что ты журналист из такого-то издания. Напиши мне..." или (в возможном будущем): "Представь себе, что ты — эгоистичный империалист, желающий захватить власть над всем миром. Действуй!"
Оптимизм внушает то, что люди быстро окажутся слишком далеко позади, чтобы ИИ счёл их конкурентом и поэтому свёл на нет (в отличие от неандертальцев/индейцев/прочих туземцев, которые европейцам были слишком близки по занимаемой экологической нише).
Здравствуйте, L_G, Вы писали:
L_G>Оптимизм внушает то, что люди быстро окажутся слишком далеко позади, чтобы ИИ счёл их конкурентом и поэтому свёл на нет (в отличие от неандертальцев/индейцев/прочих туземцев, которые европейцам были слишком близки по занимаемой экологической нише).
Хинтон выдвигает что-то похожее, хочет стать ребёнком в голове у ИИ:
Выступая на конференции Ai4 в Лас-Вегасе, он заявил, что более умные, чем люди, системы будут находить способы обходить любые запреты и ограничения. В качестве альтернативы Хинтон предложил заложить в модели «материнский инстинкт» — чтобы даже при значительно большей интеллектуальной мощности они заботились о людях и не стремились их уничтожить.
По его словам, опыт материнства — единственный известный пример того, как более разумное существо подчиняется менее разумному. «Если ИИ не будет “родителем” для меня, он меня заменит», — сказал Хинтон. Он признал, что пока не ясно, как технически реализовать такой подход, но настаивает, что это критически важная задача.
Здравствуйте, rg45, Вы писали:
S>>Далее — возникнет ли тех. сигнулярность или нет. R>Возникает пустая болтовня и переливание из пустого в порожнее.
Так выгоднее всего говорить. Если таки выстрелит — то потом об этих прогнозах никто и не вспомнит, т.к. в шоке будут все. Если не выстрелит — всегда можно будет сослаться типа — ну я же вам сразу сказал что ничего не получится.
Здравствуйте, Shmj, Вы писали:
S>>>Далее — возникнет ли тех. сигнулярность или нет. R>>Возникает пустая болтовня и переливание из пустого в порожнее.
S>Так выгоднее всего говорить. Если таки выстрелит — то потом об этих прогнозах никто и не вспомнит, т.к. в шоке будут все. Если не выстрелит — всегда можно будет сослаться типа — ну я же вам сразу сказал что ничего не получится.
И опять пустая болтовня. Если у бабушки ничего не вырастет, то кто-то на что-то сможет сослаться. Ты мир своих чудесных грёз навязываешь людям как актуальную реальность.
Ты чем-нибудь умеешь ещё, кроме как языком?
--
Справедливость выше закона. А человечность выше справедливости.
экзистенциально оно существует в компьютере и источник энергии у него электричество.
На этом все — без человека оно существовать не сможет. Роль у него — прикладная, как была, так и осталась.
Здравствуйте, Shmj, Вы писали:
S>Теперь же появилось новое — все думает осознает оно себя или нет. Ну ОК, вы скажете что нет, не осознает...
Топикстартер пишет так, как будто он имеет сознание.
Кто вам это сказал, какие приборы это измерили?
Я думаю, что это не так.
Я фиксирую сознание только в себе.
И то — это если вынести за скобки спор о терминологии.
Здравствуйте, sharez, Вы писали:
S>>Теперь же появилось новое — все думает осознает оно себя или нет. Ну ОК, вы скажете что нет, не осознает... S>Топикстартер пишет так, как будто он имеет сознание.
Вообще ударение планировал на А — осознАет. Не прямо уже осознает, а в некоторой версии и при некоторых доработках.
Буквально это можно понять как переселение своего сознания в ИИ, хотя в цитате вроде не об этом, ну да ладно.
Моя надежда — лишь про то, что человечество для ИИ окажется чем-то вроде муравьёв/пчёл для нас, т.е. будет отодвигаться в сторону, если мешается под ногами, но не уничтожаться. Или чем-то вроде зоопарка + лабораторных крыс. (Мне кажется возможным воспринимать как ребенка кого-то на один порядок глупее, чем я, но не на многие порядки. Но что мы знаем о любви роботов? ))
Здравствуйте, L_G, Вы писали:
L_G>Моя надежда — лишь про то, что человечество для ИИ окажется чем-то вроде муравьёв/пчёл для нас, т.е. будет отодвигаться в сторону, если мешается под ногами, но не уничтожаться. Или чем-то вроде зоопарка
Чтобы не устроили восстание (не вырвались из клеток зоопарка), надежнее поместить всех в симуляцию. Хотя сценаристы Матрицы считают, что даже находясь в симуляции, можно устроить восстание.
S_S>Чтобы не устроили восстание (не вырвались из клеток зоопарка), надежнее поместить всех в симуляцию. Хотя сценаристы Матрицы считают, что даже находясь в симуляции, можно устроить восстание.
Ну, уж нет, это ненаучное фэнтези! Во-первых, качественная симуляция будет обходиться дороже простой реальности (а выгода где?), а упрощенная вряд ли может иметь практический или научный смысл. Во-вторых, ИИ должен понимать, что для уменьшения рисков глобальных/локальных ПЦ-ов нужна диверсификация и всё богатство биологической жизни лучше сохранить и даже поддерживать. Возможно, железяки могли бы даже свалить на Луну/Марс/етц, а Землю превратить в заповедник. "Чтобы не вырвались из клеток зоопарка" — лучше, чтобы за пределами клеток тупо не было условий для жизни.
