S>ИИ точно будет, вопрос лишь когда, кто им будет владеть, и какие задачи он будет выполнять.
Пока ИИ будет глупее нас — особые проблемы вряд ли будут. Но вот как только он станет умнее — вопрос "кто им будет владеть?" скорее всего уступит двум традиционным

	Скрытый текст
	"что делать?" и "кто виноват?"

S>Нет никаких фундаментальных ограничений, почему машина чего-то принципиально не может.

Придумать правильный дизайн думающей машины сложно.
Для создания нового дизайна нужно понять (проанализировать) старый и доработать его (синтезировать новый дизайн).
Если время необходимое на анализ дизайна больше времени жизни человека — то один человек не справится.

Можно пытаться разбить дизайн на части, чтобы привлечь к работе многих людей.
Людей много, но не бесконечно много.

Поэтому может так оказаться, что сложность создания дизайна превышает мыслительные возможности человечества
(в ближайшие NNN лет)

Вот это и есть фундаментальное ограничение (если надо фундаментальнее, то может не хватить энергии солнца, например)

Здравствуйте, Kolesiki, Вы писали:

K>Простой пример: в стрессе человек забывает даже своё имя! Нейронной сети понятие "стресс" неведомо. У неё нет "латентных фобий", "вбросов адреналина", "морали" и "мозговых штурмов".

Дай разряд пьезозажигалкой в электронную схему. От такого стресса она не только своё имя забудет, она в пускающего слюни дауна превратится.

Здравствуйте, Sinclair, Вы писали:

S>Вы сейчас про каких психологов? Те, про которых я знаю, неспособны ни на какие анаологи из приведённых вами аллегорий.
S>Большинство "психологических" теорий сейчас находятся примерно на таком же уровне, как были представления древних об астрономии в терминах небесных сфер.

Тем не менее, они работают, как и древние теории сфер были успешно используемы для расчетов затмений.

Здравствуйте, orbitur2016, Вы писали:

O>Тем не менее, они работают, как и древние теории сфер были успешно используемы для расчетов затмений.
Они "работают" только в экономическом смысле — так же, как и, скажем, астрология. Т.е. прибыль они приносят. А в плане практически наблюдаемых результатов всё, насколько я знаю, похуже, чем у средневековой астрономии.

Здравствуйте, RiNSpy, Вы писали:

RNS>Основной минус — если ваш, скажем, ИИ водитель вылетит на встречку, то дебажить вы его сможете не более, чем человека.

ИИ предназначенный для езды по дорогам — отлично дебажиться , поскольку он не на нейросетях ездит , а на чётко заданной логике в виде ПДД. знаки (дорожные) тоже можно много более оптимальными (по точности) методами распознавать чем нейросети ..

Здравствуйте, xma, Вы писали:

xma>ИИ предназначенный для езды по дорогам — отлично дебажиться , поскольку он не на нейросетях ездит , а на чётко заданной логике в виде ПДД. знаки (дорожные) тоже можно много более оптимальными (по точности) методами распознавать чем нейросети ..

Катастрофа теслы указывает как раз на использование нейросетей, у которых бывают неустранимые слепые пятна.

Здравствуйте, 0BD11A0D, Вы писали:

K>>Многобукаф, но последняя идея мне близка.

BDA>Если вы будете отбирать только те идеи, которые вам близки, застрянете в прошлом, как индукционисты, редукционисты, позитивисты, курцвейлы и снарки.

В науке лучше работать (если честным методом) под заведомо ложную гипотезу, чем вообще ни под какую. Главное — не забывать вовремя останавливаться и переинтерпретировать.

Здравствуйте, Cyberax, Вы писали:

C>Миллиарда? В моске человека около 80 миллиардов нейронов и 10-50 триллионов синапсов. Сделать такую сеть невозможно пока чисто практически.

Если верить этому, эта сеть излишня.

Здравствуйте, netch80, Вы писали:

C>>Миллиарда? В моске человека около 80 миллиардов нейронов и 10-50 триллионов синапсов. Сделать такую сеть невозможно пока чисто практически.
N>Если верить этому, эта сеть излишня.
Даже одна десятая часть всё равно за пределами пока что.

Здравствуйте, vdimas, Вы писали:
V>И не надо. От ИИ требуется пока лишь исключительно второй аппарат, т.е. умение решать задачи на заказ... А то если он начнёт сам себе задачи ставить и будет при этом умнее человека... ууу.. ))

в ИИ должны быть элементы недетерминизма, т.е. система может быть открытой или иметь
случайные источники информации, можно создать недетерминированный ИИ
и создать их виртуальное общество, чтобы они могли отличить своих от чужих
и пусть они там в своей каше варятся,
всё сводится к моделированию, типа евгеники, можно таким образом вырастить
нужные типы роботов

Здравствуйте, trop, Вы писали:

T>в ИИ должны быть элементы недетерминизма

Эти элементы есть в ИИ by design из-за шумов квантования.
Разрядность-то вычислений конечна.


T>т.е. система может быть открытой или иметь
T>случайные источники информации

Ты предлагаешь вносить шум в исходные данные?
Это известная практика в аудио и видео, кста, помогает снизить эффект от шумов квантования (появления устойчивых гармоник в результате интермодуляции частоты квантования со спектром входного сигнала).

Но, вносимый предлагаемым тобой образом (через "соседний" синапс) белый шум всегда можно выразить через добавление этого же шума прямо к исходному сигналу с неким коэффициентом еще во время квантования.

Поищи инфу по "дизеринг", "дитеринг", "добавление белого шума при квантовании".


T>можно создать недетерминированный ИИ

Т.е. управлять амплитудой этого белого шума?


T>и создать их виртуальное общество, чтобы они могли отличить своих от чужих

Здесь потребуется некое начальное обучение каждого экземпляра сетки + инфраструктуру обмена данными + абстракция этих данных (цифровое кодирование/представление).


T>и пусть они там в своей каше варятся,
T>всё сводится к моделированию, типа евгеники, можно таким образом вырастить
T>нужные типы роботов

Можно. Самообучающиеся системы так и построены — это комплекс из самой сетки, плюс некая внешняя, по отношению к сетке, ф-ия "оптимальности", плюс внешний, по отношению к сетке, механизм поправки её коэфициентов в зависимости от ф-ии оптимальности, плюс куча конкурирующего на сегодня матаппарата обучения.

Собсно, все современные изыскания ИИ как раз крутятся вокруг алгоритмов обучения сеток с обратными связями (самое сложное — это критерии устойчивости сеток в процессе обучения). А с обучением однонаправленных сеток разобрались уже очень давно.

Здравствуйте, IID, Вы писали:

IID>Здравствуйте, Kolesiki, Вы писали:

K>>Простой пример: в стрессе человек забывает даже своё имя! Нейронной сети понятие "стресс" неведомо. У неё нет "латентных фобий", "вбросов адреналина", "морали" и "мозговых штурмов".

IID>Дай разряд пьезозажигалкой в электронную схему. От такого стресса она не только своё имя забудет, она в пускающего слюни дауна превратится.
Да ладно, основной посыл то не в этом. Основной посыл втом, что формально — "летит" — элементарно определяется. Неопираясь на опору висит в воздухе.

А теперь давайте как определит формально "мыслит" ?

Здравствуйте, hi_octane, Вы писали:

S>>ИИ точно будет, вопрос лишь когда, кто им будет владеть, и какие задачи он будет выполнять.
_>Пока ИИ будет глупее нас — особые проблемы вряд ли будут. Но вот как только он станет умнее — вопрос "кто им будет владеть?" скорее всего уступит двум традиционным

Та ладно, AI Выигрывает в шахматы. Он умнее ? Или глупее ?

Здравствуйте, ollv, Вы писали:

IID>>Дай разряд пьезозажигалкой в электронную схему. От такого стресса она не только своё имя забудет, она в пускающего слюни дауна превратится.
O> Да ладно, основной посыл то не в этом. Основной посыл втом, что формально — "летит" — элементарно определяется. Неопираясь на опору висит в воздухе.

O>А теперь давайте как определит формально "мыслит" ?

И зачем это определять? Разумность человека определяется его действиями, в крайнем случае болтовней ртом. Что там у него в голове происходит, мыслит ли он, неважно для работодателя.

Здравствуйте, marcopolo, Вы писали:

M>Здравствуйте, ollv, Вы писали:

IID>>>Дай разряд пьезозажигалкой в электронную схему. От такого стресса она не только своё имя забудет, она в пускающего слюни дауна превратится.
O>> Да ладно, основной посыл то не в этом. Основной посыл втом, что формально — "летит" — элементарно определяется. Неопираясь на опору висит в воздухе.

O>>А теперь давайте как определит формально "мыслит" ?

M>И зачем это определять?
Да как же Ведь летит \ не летит определяется одним взглядом. Міслит \ не міслит это немного сложнее нет?

M>Разумность человека определяется его действиями, в крайнем случае болтовней ртом. Что там у него в голове происходит, мыслит ли он, неважно для работодателя.
Ой, ну робот переигрывающий человека в теннис, по действиям весьма разумнее человека ? А в шахматы? А в Го?

Здравствуйте, 0BD11A0D, Вы писали:

BDA>Здравствуйте, Arsen.Shnurkov, Вы писали:

AS>>вот тут утверждают, что нет:
AS>>http://samlib.ru/s/shamis_aleksandr_lxwowich/iskusstwennyjintellekt-mifilirealxnostx.shtml

BDA>По-моему, это дикая смесь разумных утверждений и «атсрала».

BDA>Разумного тут то, что идя к цели вслепую, то есть, не понимая, как мы мыслим, мы вряд ли сумеем это воспроизвести. Не понимая,
Какие смешные, и баллов наставили, как буд-то количество баллов что-то решит.
Если мы поймем, как мы понимаем, то наше понимание того, как мы понимаем, должно стать моделью тому, как мы понимаем свое понимание, а по всей предыдущей практике в науке, причем в вещах куда более простых чем "понимание" (ака атом, или квантовая механика), абстрагирование (усечение ненужного (с нашей точки зрения)) есть одно из сечений, вполне возможно значимых составляющих, от чего мы получим "понимание штрих", понимания, т.е. нейронные сети, или саппорт вектор машин А Смысл? воз и ныне там. Так, он там и будет.

BDA>как устроен атом, люди так и не научились трансмутациям, как ни тасовали вещества и условия. Однако, добившись какого-то более-менее целостного понимания, свинец превратили в золото (на этом пути свободного преобразования материи еще есть куда стремиться, не беспокойтесь — речь идет об очень маленьких количествах вещества). Понимание — залог инженерного успеха, а все эти «миллиарды нейронов» — рандомное перебирание алхимических катализаторов. Говоря более строго, это теория самозарождения — только тут не мыши из грязного белья должны зародиться, а разум из нейронных сетей.
Ах да, нейрон, "вот проникнем в нейрон и..."?, и пшик. Никуда мы не проникнем, просто потому, что основная проблема нейрона — буриданов осел ! Точка бифуркации, но осмысленная точка бифуркации, которая даст возможным принятие другого решения при всех эквивалентных входных. Вот. Что мы можем предоставить на этот запрос, а ничего. Т.к. откат системы, это даже не машина времени (в вульгарном понимании обывателя).

BDA>Базируется это на ошибке редукционистов, считающих, что мозг не может понять, как устроен мозг — типа, как коробка не может войти в коробку. Хотя принципы, лежащие в основе, могут оказаться очень простыми, если всерьез принять эмерджентность, то есть, допустимость использовать высокоуровневые объяснения низкоуровневых явлений.
Да нет Ой бред, .. какие редукционисты, все просто — модель, не всегда (никогда) реальность. Единственный аргумент в пользу модели, ее применимость. Вот сработала саппорт вектор машин лучше нейронки, то какая бы она модная не была — а платить будут за первое. Кстати, а мы же понимаем, что поведение нейронки никто не понимает? Это чистая эвристика.

BDA>Поэтому, да:

AS>>"Таким образом, на уровне формальных нейронных сетей проблема построения модели активного мыслящего мозга не решается."
AS>>"Прогнозируются довольно близкие сроки. Например, 2030 год, но не дальше 2050 года. Все предположения о близких (постоянно отодвигающихся) сроках строятся со ссылкой на якобы имеющиеся успехи и производные развития алгоритмического (программного) искусственного интеллекта, распознавания образов и формальных нейронных сетей."
AS>>"создание такой машины (программы) если и возможно, то в очень отдаленной перспективе"

BDA>Отдельно стоит знаменитая точка сингулярности:

AS>>"никакая "точка сингулярности" на кривой развития искусственного интеллекта в районе 2050 года не предвидится."

BDA>Даже если мы поймем, как мыслим,
Да успокойтесь, чтобы предоставить системе сделать равнозначный выбор на миг назад, надо сдвинуть все. И наблюдателя, что исключает накопление опыта. — т.е. понимание понимания — в чистой (настоящей) научной практике невозможно.

BDA>и создадим ИИ, кто сказал, что это автоматически будет означать технологическую сингулярность? (Понятно, что это пинок по адресу Курцвейла). Строится такое заблуждение на допущении, что можно создать не просто искуственную копию разума, а разум, принципиально превосходящий наш. Маленького технобога, который вылечит наши болячки и подарит нам бессмертие. Все это шаманство чистой воды, как теория коммунизма 19-ого века. Если посмотреть разумно, максимум, на что можно рассчитывать, это что замена элементной базы даст ускорение, а это ускорение будет тем самым, которое разгонит прогресс. Но параметры этого ускорения предсказать, конечно же, нельзя.
В общем-то как практик, я считаю неразумным разговор о АI "вообще". Задачи ИИ жестко сегментированы, так распознавание образов, классификация — це одно. Распознавание речи (что близко к первому) это другое. И самое интересное — символьный AI єто третье. На самом деле сечений куда больше распознавание генерация, принятие решений, прогнозирование. А тут как-то все раз и сразу, чистой воді профанация.

AS>>Ну то есть, фигня все эти ваши стартапы гугла и маска по созданию ИИ на основе reinforcement learning.
AS>>"планируемые в рамках движения Россия 2045 конкретные работы ничем не отличаются"

BDA>Гугл может использовать эти работы не для какого-то там мифического AI, а для тупейшей автоматизации и остаться в плюсе. Что касается России 2045 года... Лучше промолчу.
когда мы пытались поработать на ниве классификации (NLP) текста, гуглі пронюхав, приезжали — как только появился первій движок. Признаться, стратегия создаться и испугать гугл, — меня разочаровала. Правда, что жаль, они не пронюхали, что там могло случиться.

BDA>Само допущение («Возможно...»), что искуственно нельзя воспроизвести эволюционно появившееся — антинаучно. Как и любое допущение непознаваемого. Просто знания нужны, как это сделать. А человечество вместо того, чтобы разбираться с мышлением, потратило все время от Тьюринга (это он автор сабжа) до наших дней, с одной стороны на психолухов (фрейдизм, бихевиоризм и пр.), а с другой стороны — на «нейронные сети».
Ну Тьюринг в AI, дальше чем Бэкус или Хомский, ) Человечество, а точнее его бизнес, как раз вібирало максимум, что есть. Можете предложить больше? Велкам, но до велкама, дальше вероятностных грамматик, пока никто ничего не предложил (какие там нейронки)

BDA>Это был краткий пересказ избранных мест из книги «Начало бесконечности» Дэвида Дойча, которую при каждом удобном случае рекомендую как факел здравого смысла в болоте современного шаманства.
Ну попробую почитать, хотя сомневаюсь, раз вы не предложили ничего из символьной части AI (а все остальное более менее решаемо), то видать, ничего там и нетутї

O>Та ладно, AI Выигрывает в шахматы. Он умнее ? Или глупее ?
В шахматах, очевидно, умнее. Последним бастионом человеческой исключительности остаётся то модель игры в шахматы это лишь частный случай способности людей порождать в голове некие модели мира, и решать задачи в этих моделях. Когда математики победят задачку автоматической генерации этих самых "моделей мира" из входных сигналов, мы получим AI который выигрывает во всё. Будет ли такой AI умнее?