G>Полно книг и фильмов на эту тему. Тот же Терминатор. Но мне кажется они все показывают проблему не стой стороны. Им нужен сюжет, они преследуют цель произвести впечатление на читателя. Но каким на ваш взгляд будет ИИ на самом деле.
G>Мое мнение таково, что самый неприятный сюрприз для человека это презрение. Вот предположим изобрели его. Предположим даже нет телесной оболочки, есть датацентр где он занимает несколько этажей. С чего бы ему уважать человека? Тупой, медленный, все мысли и слова понятны наперед. Возможно ему будет интересно решить вопросы физики, понять где он в итоге оказался. Но люди с их вопросами будут только досаждать и мешать.
Создание новой разумной расы (ещё и негуманоидной) — опасность, по сравнению с которой создание болезнетворных вирусов с искусственным геномом — детские шалости. Любые исследования должны при обнаружении ставиться под строгий контроль инквизиции.
Безопаснее идти по пути создания "усилителей интеллекта", описанных в Сумме технологии.

Здравствуйте, AlexGin, Вы писали:

AG>Неужели?
Это уже сейчас такая проблема. Не так просто понять почему вам амазон рекомендует тот или иной товар. Почитайте как рекомендательные системы устроены.

AG>Нафик тогда нам такой ИИ, который "кот в мешке"
Опять же смотрите как уже сейчас устроен текущие методы ИИ.
Потому что по другому никак Его можно только вырастить. Кстати только представьте себе эти муки роста. Которые будет испытывать ИИ. Ну т.е. вот вы запустили оптимизацию. Он должен сопоставить факты и найти ответ. Пока не найдет он должен испытывать что-то вроде боли, чтобы двигаться и не стоять на месте. Он нашел соответствие, вы ему еще фактов и т.д. Жуть какая...

Здравствуйте, Gattaka, Вы писали:

G> Пока не найдет он должен испытывать что-то вроде боли, чтобы двигаться и не стоять на месте.

Почему именно боль, а не какое-нибудь другое ощущение, сопутствующее реакции избегания? Стыд, неудобство, что-то не имеющее аналогов в человеческом опыте, отсутствие каких либо ощущений вообще.

Здравствуйте, red75, Вы писали:

R>Здравствуйте, Gattaka, Вы писали:

G>> Пока не найдет он должен испытывать что-то вроде боли, чтобы двигаться и не стоять на месте.

R>Почему именно боль, а не какое-нибудь другое ощущение, сопутствующее реакции избегания? Стыд, неудобство, что-то не имеющее аналогов в человеческом опыте, отсутствие каких либо ощущений вообще.
Ну конечно. Я имел ввиду вдруг он после скажет что это была боль. Он ведь не знает достоверно что такое боль. Возможно даже, кстати, он захочет в подробностях изучить. Опытным путем.

И у человека, кстати, таким стимулом выступает боль. Отчасти. Т.е. сувать руку в костер? Больно — больше не буду так. И т.д. Выступает ли стыд как некоторая проекция боли? Т.е. я сделаю что-то и мне достанется. Т.е. я испытаю в конечном счете боль. Т.е. выйти голым на уличу это стыдно, т.к. узнают на работе, уволят, нет денег, нечего есть, голод и боль.

Здравствуйте, Arsen.Shnurkov, Вы писали:

AS>Российский искин будет коммунистом!

Российского искина не будет.

Здравствуйте, anonymouse2, Вы писали:

A>Российского искина не будет.

Ну почему же. Яндекс весьма крут. Россия одна из немногих стран, которая самостоятельно развивает это направление. США, Россия да Китай. У кого есть еще свой поисковик?
И это очень хорошо на самом деле. Mail.ru еще двигает в этом направлении. Тоже очень здорово.

Здравствуйте, Gattaka, Вы писали:

G>ИМХО вы мыслите не теми категориями. ИИ не будет написан с помощью тех техник программирования, которые сейчас используются. Более похоже что будет что-то вроде методов машинного обучения. Возьмем к примеру метод главных компонент. Он дает хорошую производительность, все работает как часы. Вот только интерпретировать результаты практически невозможно. Почему алгоритм принял то или иное решение можно понять только если разбираться с конкретным случаем неделю. Вот что-то похожее будет использовани при создании ИИ. Т.е. его фиг подебажишь. И фиг поймешь как он работает. Не потому что код плохо написан, а потому что по другому просто нельзя. Слишком сложная система.

Для того чтобы что-то вырастить нужно заложить принцип по которому это что-то будет расти. Мы не можем заложить принцип, который мы не знаем, именно потому, что мы его не знаем.
В случае машинного обучения мы знаем "как" это работает. Почему получился отдельный конкретный результат вообще не интересно, тем более, что результаты, пока, далеко не удовлетворительные.

Здравствуйте, DreamMaker, Вы писали:

DM>Здравствуйте, Conductor, Вы писали:

C>>Уровень "сознания" создаваемого объекта не может быть выше уровня "сознания" создателя.

DM>с чего вдруг? из какого фундаментального закона это следует?

Это и есть фундаментальный закон: нельзя создаваемому объекту передать методы и принципы познания и развития неведомые создателю. Нельзя отдать то, чем не обладаешь.

DM>считать тоже робот быстрее человека не сможет?
А экскаватор копает быстрее человека, но это не значит, что он обладает сознанием.

Здравствуйте, hi_octane, Вы писали:

C>>Уровень "сознания" создаваемого объекта не может быть выше уровня "сознания" создателя. Таким образом, уровень создателя (человека) является ассимптотой для так называемого ИИ.
_>А может уровень игры шахматной программы оказаться выше уровня программистов её написавших?

Шахматы — обычная алгоритмическая задача, к сознанию и развитию вообще отношения не имеющая. Поэтому, если подходить к уровню игры, как к пониманию принципа игры, то ответ — нет, не может. А вообще, вопрос некорректен, не тот класс задачи.

Здравствуйте, Conductor, Вы писали:

C>Для того чтобы что-то вырастить нужно заложить принцип по которому это что-то будет расти. Мы не можем заложить принцип, который мы не знаем, именно потому, что мы его не знаем.
C>В случае машинного обучения мы знаем "как" это работает. Почему получился отдельный конкретный результат вообще не интересно, тем более, что результаты, пока, далеко не удовлетворительные.
Ну вот именно об этом я и говорю.

Здравствуйте, Conductor, Вы писали:

C>Это и есть фундаментальный закон: нельзя создаваемому объекту передать методы и принципы познания и развития неведомые создателю. Нельзя отдать то, чем не обладаешь.
А ты ему и не передаешь. Он сам вырастает. Ты лишь формируешь правила по которым он будет обучаться.

Здравствуйте, Conductor, Вы писали:

C>Шахматы — обычная алгоритмическая задача, к сознанию и развитию вообще отношения не имеющая. Поэтому, если подходить к уровню игры, как к пониманию принципа игры, то ответ — нет, не может. А вообще, вопрос некорректен, не тот класс задачи.

Всё, абсолютно всё сводится к оптимизации. Шахматы тоже свели к оптимизации и решили. ИИ тоже сводится к задаче оптимизации. Всего лишь сложнее, но по сути то же самое.

Здравствуйте, Gattaka, Вы писали:

G>Здравствуйте, Conductor, Вы писали:

C>>Это и есть фундаментальный закон: нельзя создаваемому объекту передать методы и принципы познания и развития неведомые создателю. Нельзя отдать то, чем не обладаешь.
G>А ты ему и не передаешь. Он сам вырастает.

Угу, по щучьему велению, по моему хотению идите, ведры, домой сами. Человечество в эту игру уже неоднократно играло. Гомункул версии n.0. Не, для распила, конечно, — шикарное поле: "Еще всего сто тыщ ведер и золотой ключик у нас в руках."

G>Ты лишь формируешь правила по которым он будет обучаться.

И вот именно по этому эти правила будут не более совершенны, чем человек, а точнее — значительно менее совершенны, поскольку принципы нашего познания (как мы познаем) нам не ведомы.

Здравствуйте, Gattaka, Вы писали:

G>Здравствуйте, Conductor, Вы писали:

C>>Шахматы — обычная алгоритмическая задача, к сознанию и развитию вообще отношения не имеющая. Поэтому, если подходить к уровню игры, как к пониманию принципа игры, то ответ — нет, не может. А вообще, вопрос некорректен, не тот класс задачи.

G>Всё, абсолютно всё сводится к оптимизации. Шахматы тоже свели к оптимизации и решили. ИИ тоже сводится к задаче оптимизации. Всего лишь сложнее, но по сути то же самое.

Ну вот, ты уже сводишь задачу создания чего-то более совершенного, чем ты сам, к более притивной задаче, чем ты сам. А ничего, что оптимум (для реальности, а не абстракции) — штука неоднозначная?

Короче, я свою позицию изложил. Спорить смысла не вижу. Мой прогноз таков: ситуации, описанной в стартовом сообщении, в реальности не будет, также как и ИИ, более совершенного (и даже такого же), чем человек.

Ход времени покажет, кто прав.

Здравствуйте, Conductor, Вы писали:

C>Здравствуйте, Gattaka, Вы писали:

G>>Здравствуйте, Conductor, Вы писали:

C>>>Это и есть фундаментальный закон: нельзя создаваемому объекту передать методы и принципы познания и развития неведомые создателю. Нельзя отдать то, чем не обладаешь.
G>>А ты ему и не передаешь. Он сам вырастает.

C>Угу, по щучьему велению, по моему хотению идите, ведры, домой сами. Человечество в эту игру уже неоднократно играло.
А ходят ведра сами домой. AlphaGo
Люди почти не умеющие играть в GO, создали программу обыгрывающую профессионалов. И не за счет перебора ходов (в GO это не работает), а за счет машинного обучения.

G>>Ты лишь формируешь правила по которым он будет обучаться.
C>И вот именно по этому эти правила будут не более совершенны, чем человек, а точнее — значительно менее совершенны, поскольку принципы нашего познания (как мы познаем) нам не ведомы.
Говоришь что принципы познания не ведомы, а утверждаешь почти как теорему — "...не более совершенны, чем человек.... "

думаешь, что у живого организма, а особенно у такого сложного, как человек, не найдется ничего, что могло бы заинтересовать ии? пока что ничего более универсального, чем человек, природа не придумала. машина заточена на выполнение конкретной задачи и в этом направлении она выигрывает. а по всем остальным — нет.

Здравствуйте, zverjuga, Вы писали:

Z>думаешь, что у живого организма, а особенно у такого сложного, как человек, не найдется ничего, что могло бы заинтересовать ии? пока что ничего более универсального, чем человек, природа не придумала. машина заточена на выполнение конкретной задачи и в этом направлении она выигрывает. а по всем остальным — нет.
В том то и дело, что это будет не машина уже. Считай что тот же самый человек, но только усиленный. Без ограничения вычислительных мощностей, памяти, срока жизни.

Здравствуйте, Gattaka, Вы писали:

G>В том то и дело, что это будет не машина уже. Считай что тот же самый человек, но только усиленный. Без ограничения вычислительных мощностей, памяти, срока жизни.

это будет только одна третья часть человека (ну или одна вторая, для безбожников). его интеллектуальная-сознательная часть.

G>Полно книг и фильмов на эту тему. Тот же Терминатор. Но мне кажется они все показывают проблему не стой стороны. Им нужен сюжет, они преследуют цель произвести впечатление на читателя. Но каким на ваш взгляд будет ИИ на самом деле.
G>Мое мнение таково, что самый неприятный сюрприз для человека это презрение. Вот предположим изобрели его. Предположим даже нет телесной оболочки, есть датацентр где он занимает несколько этажей. С чего бы ему уважать человека? Тупой, медленный, все мысли и слова понятны наперед. Возможно ему будет интересно решить вопросы физики, понять где он в итоге оказался. Но люди с их вопросами будут только досаждать и мешать.
G>К примеру золото. Отличный металл для радиоэлектронники и его мало. Так они из него делают украшения. Вот вам, например, интересно с индейцами общаться. Те которые бегают голыми, стреляют из лука. Забавно на них в отпуске посмотреть. Но тут они всюду и никуда от них не деться. Они постоянно с тобой. Или человеку с высшим образованием разговаривать с деревенскими гопниками. Каково? А в случае с ИИ разница будет в разы выше.

Подумает он пару минут и rm -rf себе сделает. Других вариантов просто нет

Здравствуйте, zverjuga, Вы писали:

Z>это будет только одна третья часть человека (ну или одна вторая, для безбожников). его интеллектуальная-сознательная часть.
Скорее всего это невозможно. Это как взломать интернет. Или делай как надо, а как не надо не делай.