Здравствуйте, 0BD11A0D, Вы писали:

BDA>Здравствуйте, Khimik, Вы писали:

BDA>>>Даже если мы поймем, как мыслим, и создадим ИИ, кто сказал, что это автоматически будет означать технологическую сингулярность? (Понятно, что это пинок по адресу Курцвейла). Строится такое заблуждение на допущении, что можно создать не просто искуственную копию разума, а разум, принципиально превосходящий наш. Маленького технобога, который вылечит наши болячки и подарит нам бессмертие.

K>> А разве не так? Человек всегда создавал машины, которые в чём-то его превосходили, дойдёт очередь и до интеллекта. Тем более что ЭВМ можно создавать любого размера, можно объединить в единую сеть большинство компьютеров Земли и т.д.

BDA>Чтобы ответить, так это или не так, надо иметь объяснение работы сознания.

BDA>Например, вас не напряжет объяснить, как вы копаете или шьете. Убрав из этих моделей все лишнее, вы получите экскаватор или швейную машину. (А попробуйте создать искусственного копателя или искуственную швею! Не мыслящих, а тупо выполняющих свою задачу, типа роботов Boston Dynamics. Даже все понимая, вам это будет очень трудно сделать, чисто инженерно — что говорить про ситуацию, когда вместо понимания есть только слабая интуиция, а шапкозакидатели обещают скопировать к 2050 году). Далее, создав экскаватор, можно обеспечить превосходство по каким-то критериям, типа скорости рытья котлованов. Но не по другим. Например, ни один экскаватор не превосходит человека на такой задаче, как необходимость закопать труп любимой Муськи в саду. Хотя все это «копание». Мы можем это понять сразу, не строя экскаватор и не ставя эксперимент — потому, что у нас есть объяснения, и среди них — очень много фоновых, которые для нас «само собой», но от этого они объяснениями не перестают быть. Например, обычно в почве нет объектов крупнее какого-то размера (скажем, корня тополя) и прочнее стали. Стоит сделать ковш больше этого размера из стали и у вас не будет проблем с подземными нежданчиками. Но это накладывает ограничение на масштабируемость — нельзя просто уменьшить промышленный экскаватор до размеров Муськи, потому, что самый маленький корешок станет для него проблемой. Придется остро затачивать кромку ковша или еще что-то придумывать. И все это понятно ДО того, как мы начали хоть что-то строить.

BDA>Теперь, масштабирование в сторону увеличения. Можно ли увеличить экскваватор до такого размера, чтобы срыть гору? Нет. Потому, что конструкция такой массы до горы не доедет. Может быть, собрать экскаватор из «большинства экскаваторов Земли»? Но экскаватор не автобот и не десептикон, в его конструкции НИЧЕГО не способствует такой трансформации. Хуже того, очень трудно придумать такую модель, которая могла бы складываться из узлов и увеличивать горно-копательную способность. Можно, пожалуй, только пустить толпу экскаваторов, чтобы они независимо атаковали проблему... то есть, извините, гору. И опять же, это понятно потому, что мы имеем объяснение копания. С чего бы считать, что можно объединить несколько компьютеров и увеличить способности к мышлению? Если мы даже не знаем, что это за способности! И что мы должны заложить в конструкцию компьютеров, что способствовало бы их объединению в одно целое? Да мы даже алгоритмы не все можем распараллелить!

BDA>Доступная нам интуиция сознания (одна из — и самая, на мой взгляд качественная) состоит в том, что мы универсальные конструкторы объяснений. И это, с гордостью должен вам сказать, моя собственная интуиция, не почерпнутая у Дойча. Только будучи гораздо менее образованным, я назвал это абстрактым мышлением. Получил закономерный вопрос: комар очень абстрактно нас видит. Всю шелуху отбрасывает в сторону, для него есть только углекислый газ и кровь. Чем же мы лучше? Пришлось явно оговорить универсальность. Мы можем смоделировать что угодно, а комар — только тела теплокровных в одном узком аспекте. Дойч гораздо дальше идет в своих рассуждениях и они у него лучше. Наше понимание обречено быть всегда неполным, но мы можем улучшать его безгранично. Если это — принципиальная суть мышления, то как ее ПРЕВЗОЙТИ? Наши лучшие умы конструируют объяснения так, что это выглядит рандомно. Есть какие-то слабые закономерности, типа того, что алкаш ОТО не создаст, но вот уже скромный служащий патентного бюро — может. А как это подстегнуть? Какие условия создать? Эти вопросы затрагиваются в известной повести — «Собачьем сердце». Написано, как бы, не о том (это вообще парохиальная сатира, насколько я понимаю), но жизненность автора себя как раз в том и проявила, что частично предвосхитила эти вопросы, которые поклонникам искусственных нейронных сетей можно задать сто лет спустя.

BDA>А раз так, то все эти разговоры о сингулярности — пророчества типа мальтузианского (ну, вы знаете — люди умрут с голоду в 20 веке, т.к. рост населения соответствует геометрической прогрессии, а производства еды — арифметический). НЕ разумные предсказания. Очень осторожно можно только понадеяться, что наша элементная база, если ее заменить на фотонику какую-нибудь, будет легче подвергаться разгону. Но каков будет размер этого вклада? Может быть, это рассуждения типа того, что железный дровосек мог бы срубить больше деревьев? А на самом деле нас ждет бензопила, которая поднимет производительность в 10 раз!

BDA>Есть и другие идеи, на самом деле. Например, что мышление — это сверхускоренная эволюция мемов по заданным правилам отбора. (То есть, в топку редукционистские нейронные сети, берем сразу эмерджентное объяснение высокого уровня). Но это, еще раз, пока просто идеи. Хороших объяснений нет и никого это не е.

Многобукаф, но последняя идея мне близка. Я считаю, что на ЭВМ можно запрограммировать только некоторые компоненты мышления (словесно-логическое мышление), причём делать логические выводы компьютер будет в миллионы раз быстрее человека. А творчество это... это тема не для атеистов.

Я верю в перемещения во времени, и думаю, что наше мышление как-то на это опирается:

https://ru.wikipedia.org/wiki/Замкнутая_времениподобная_кривая

Времениподобные вычисления — это вычисления на квантовом (реже, классическом) компьютере, имеющем доступ к замкнутой времениподобной кривой и, следовательно, способном посылать результат вычислений в собственное прошлое. Идея таких вычислений предложена Хансом Моравеком в 1991 году. Интересно отметить, что, в отличие от многих схем реализации машины времени, такая времяпетлевая логика не противоречит принципу самосогласованности Новикова.

Думаю, это уже ближе к реальному мышлению человека.