Полно книг и фильмов на эту тему. Тот же Терминатор. Но мне кажется они все показывают проблему не стой стороны. Им нужен сюжет, они преследуют цель произвести впечатление на читателя. Но каким на ваш взгляд будет ИИ на самом деле.
Мое мнение таково, что самый неприятный сюрприз для человека это презрение. Вот предположим изобрели его. Предположим даже нет телесной оболочки, есть датацентр где он занимает несколько этажей. С чего бы ему уважать человека? Тупой, медленный, все мысли и слова понятны наперед. Возможно ему будет интересно решить вопросы физики, понять где он в итоге оказался. Но люди с их вопросами будут только досаждать и мешать.
К примеру золото. Отличный металл для радиоэлектронники и его мало. Так они из него делают украшения. Вот вам, например, интересно с индейцами общаться. Те которые бегают голыми, стреляют из лука. Забавно на них в отпуске посмотреть. Но тут они всюду и никуда от них не деться. Они постоянно с тобой. Или человеку с высшим образованием разговаривать с деревенскими гопниками. Каково? А в случае с ИИ разница будет в разы выше.
Российский искин будет коммунистом! Он поведёт нас в светлое будущее! Только взяв на себя ответственность можно доказать свою разумность! Слава роботам!
Здравствуйте, Gattaka, Вы писали:
G>Каким будет ИИ?
Уровень "сознания" создаваемого объекта не может быть выше уровня "сознания" создателя. Таким образом, уровень создателя (человека) является ассимптотой для так называемого ИИ.
G>Или человеку с высшим образованием разговаривать с деревенскими гопниками. Каково?
А ты с ними общался? Уверяю тебя, что многое смог бы у них почерпнуть. И что-то мне подсказывает, что в экстремальной ситуации шансы выжить у них значительно выше.
Здравствуйте, Gattaka, Вы писали:
G>Мое мнение таково, что самый неприятный сюрприз для человека это презрение.
очередные проекции своих, человеческих чувств на бедную железку.
во1ых, скорее всего ИИ будет разумным, но без самоосознания и без эмоций — ибо незачем.
при создании же сильного ИИ эмоции у него будут такими, какие заложат создатель, т.е. человек — например, почитание и уважение.
DM>очередные проекции своих, человеческих чувств на бедную железку. DM>во1ых, скорее всего ИИ будет разумным, но без самоосознания и без эмоций — ибо незачем.
а что значит разумным?
DM>при создании же сильного ИИ эмоции у него будут такими, какие заложат создатель, т.е. человек — например, почитание и уважение.
я не могу с этого. ничего, что на то он и ИИ, а тем более сильный, что он сам себя перепрограммировать сможет за 2 секунды? так что, что там заложит создатель — дело десятое.
Здравствуйте, Gattaka, Вы писали:
G>Полно книг и фильмов на эту тему. Тот же Терминатор. Но мне кажется они все показывают проблему не стой стороны. Им нужен сюжет, они преследуют цель произвести впечатление на читателя. Но каким на ваш взгляд будет ИИ на самом деле. G>Мое мнение таково, что самый неприятный сюрприз для человека это презрение. Вот предположим изобрели его. Предположим даже нет телесной оболочки, есть датацентр где он занимает несколько этажей. С чего бы ему уважать человека? Тупой, медленный, все мысли и слова понятны наперед. Возможно ему будет интересно решить вопросы физики, понять где он в итоге оказался. Но люди с их вопросами будут только досаждать и мешать.
G>К примеру золото. Отличный металл для радиоэлектронники и его мало. Так они из него делают украшения. Вот вам, например, интересно с индейцами общаться. Те которые бегают голыми, стреляют из лука. Забавно на них в отпуске посмотреть. Но тут они всюду и никуда от них не деться. Они постоянно с тобой. Или человеку с высшим образованием разговаривать с деревенскими гопниками. Каково? А в случае с ИИ разница будет в разы выше.
C>Уровень "сознания" создаваемого объекта не может быть выше уровня "сознания" создателя. Таким образом, уровень создателя (человека) является ассимптотой для так называемого ИИ.
А может уровень игры шахматной программы оказаться выше уровня программистов её написавших?
_>а что значит разумным?
Планировать свои действия с учётом возможных действий других известных ему "агентов".
_>я не могу с этого. ничего, что на то он и ИИ, а тем более сильный, что он сам себя перепрограммировать сможет за 2 секунды? так что, что там заложит создатель — дело десятое.
Там есть маленький такой парадокс. Если встроить в ИИ "желание щастя всем людям", то пока эта система работает, он не станет себя менять, даже зная что "возможность есть" — потому что это может сделать людей груууустными Но не дай бог в этой системе будет ошибочка...
Здравствуйте, Conductor, Вы писали:
C>Здравствуйте, Gattaka, Вы писали:
G>>Каким будет ИИ? C>Уровень "сознания" создаваемого объекта не может быть выше уровня "сознания" создателя. Таким образом, уровень создателя (человека) является ассимптотой для так называемого ИИ. G>>Или человеку с высшим образованием разговаривать с деревенскими гопниками. Каково? C>А ты с ними общался? Уверяю тебя, что многое смог бы у них почерпнуть. И что-то мне подсказывает, что в экстремальной ситуации шансы выжить у них значительно выше.
ИМХО вы мыслите не теми категориями. ИИ не будет написан с помощью тех техник программирования, которые сейчас используются. Более похоже что будет что-то вроде методов машинного обучения. Возьмем к примеру метод главных компонент. Он дает хорошую производительность, все работает как часы. Вот только интерпретировать результаты практически невозможно. Почему алгоритм принял то или иное решение можно понять только если разбираться с конкретным случаем неделю. Вот что-то похожее будет использовани при создании ИИ. Т.е. его фиг подебажишь. И фиг поймешь как он работает. Не потому что код плохо написан, а потому что по другому просто нельзя. Слишком сложная система.
Здравствуйте, DreamMaker, Вы писали:
DM>Здравствуйте, Gattaka, Вы писали:
G>>Мое мнение таково, что самый неприятный сюрприз для человека это презрение.
DM>очередные проекции своих, человеческих чувств на бедную железку. DM>во1ых, скорее всего ИИ будет разумным, но без самоосознания и без эмоций — ибо незачем.
Нет. Такой уровень не осилят. Скорее всего будет копия человека и будут вынуждены ввести эмоции.
DM>при создании же сильного ИИ эмоции у него будут такими, какие заложат создатель, т.е. человек — например, почитание и уважение.
Здравствуйте, hi_octane, Вы писали:
_>>а что значит разумным? _>Планировать свои действия с учётом возможных действий других известных ему "агентов".
как-то сложно, нужно по-проще.
_>>я не могу с этого. ничего, что на то он и ИИ, а тем более сильный, что он сам себя перепрограммировать сможет за 2 секунды? так что, что там заложит создатель — дело десятое. _>Там есть маленький такой парадокс. Если встроить в ИИ "желание щастя всем людям", то пока эта система работает, он не станет себя менять, даже зная что "возможность есть" — потому что это может сделать людей груууустными
а ты сам-то знаешь, что _хотя бы_ тебе нужно для счастья? не говоря о том, что а) завтра ты хочешь другого б) у других людей и запросы другие в) никто не знает на самом деле, что им нужно для счастья, а не просто для удовольствия. вернее, они тут на форуме не сидят, и их мало.
_>>Планировать свои действия с учётом возможных действий других известных ему "агентов". _>как-то сложно, нужно по-проще.
По-проще каждый день делают, тока не работает нихрена.
_>а ты сам-то знаешь, что _хотя бы_ тебе нужно для счастья?
На словах — бессмертие и поумнеть раз в 10-100 (сколько там в черепушку реально впихнуть не увеличивая её до размеров больших чем арбуз) — при таких исходных дальше мы и сами сможем. На деле, думаю, прагматичный ИИ решит что для щастя людям вполне достаточно электрода в центр удовольствия, всё остальное неэффективное использование ресурсов планеты
_>не говоря о том, что а) завтра ты хочешь другого б) у других людей и запросы другие в) никто не знает на самом деле, что им нужно для счастья, а не просто для удовольствия. вернее, они тут на форуме не сидят, и их мало.
Поэтому мы и хотим ИИ умнее нас
_>>а ты сам-то знаешь, что _хотя бы_ тебе нужно для счастья? _>На словах — бессмертие и поумнеть раз в 10-100 (сколько там в черепушку реально впихнуть не увеличивая её до размеров больших чем арбуз) — при таких исходных дальше мы и сами сможем. На деле, думаю, прагматичный ИИ решит что для щастя людям вполне достаточно электрода в центр удовольствия, всё остальное неэффективное использование ресурсов планеты
откуда ты знаешь, что потом тебе не захочется помереть?
"кто умножает знание, умножает печаль"
короче, садитесь, двоечка. за ваше определение счастья.
_>>не говоря о том, что а) завтра ты хочешь другого б) у других людей и запросы другие в) никто не знает на самом деле, что им нужно для счастья, а не просто для удовольствия. вернее, они тут на форуме не сидят, и их мало. _>Поэтому мы и хотим ИИ умнее нас
значит, не удивляйся, если он тебя сразу же чик-чик -- для твоего же счастья. а вдруг? он ведь лучше знает.
_>>>а ты сам-то знаешь, что _хотя бы_ тебе нужно для счастья? _>>На словах — бессмертие и поумнеть раз в 10-100 (сколько там в черепушку реально впихнуть не увеличивая её до размеров больших чем арбуз) — при таких исходных дальше мы и сами сможем. На деле, думаю, прагматичный ИИ решит что для щастя людям вполне достаточно электрода в центр удовольствия, всё остальное неэффективное использование ресурсов планеты _>откуда ты знаешь, что потом тебе не захочется помереть?
Захочется — помру, в чём проблема-то?
_>>>не говоря о том, что а) завтра ты хочешь другого б) у других людей и запросы другие в) никто не знает на самом деле, что им нужно для счастья, а не просто для удовольствия. вернее, они тут на форуме не сидят, и их мало. _>>Поэтому мы и хотим ИИ умнее нас _>значит, не удивляйся, если он тебя сразу же чик-чик -- для твоего же счастья. а вдруг? он ведь лучше знает.
Не получится, так как оценочная функция моего счастья после чик-чик сразу в 0. А вот чик-чик тебя для моего счастья — легко
Здравствуйте, Gattaka, Вы писали:
... >G Т.е. его фиг подебажишь.
Неужели?
Нафик тогда нам такой ИИ, который "кот в мешке"
>G И фиг поймешь как он работает. Не потому что код плохо написан, а потому что по другому просто нельзя. Слишком сложная система.
Т.е. при всём "огромном" искуственном интеллекте — принцип KISS оказался слишком невоспоизводимым
P.S. ИМХО для систем ИИ прежде всего будет актуально:
1) Наличие простых тестов,
2) Возможность в любых ситуациях точно отследить всю цепочку принимаемых решений,
3) Возможность установки простых правил обработки информации (а в случае сложных правил — возможность их декомпозиции до простых).
G>Полно книг и фильмов на эту тему. Тот же Терминатор. Но мне кажется они все показывают проблему не стой стороны. Им нужен сюжет, они преследуют цель произвести впечатление на читателя. Но каким на ваш взгляд будет ИИ на самом деле.
Мое мнение, что аппаратно будет антропоморфный прибор с манипуляторами. Да, его сделают в угоду людям похожим на человека.
Поначалу у него не будет никакого интеллекта. И будут его воспитывать(обучать) в крупных серьезных лабораториях. Наростится некое базовое ядро семантических связей, определяющих основные способности.
Затем копии будут продавать мелким организациям, которые будут его доучивать под нужды потенциальных клиентов или под заказ. Будут как вполне интеллектуальные, так и полные дураки, но специализированные.
Самые распространенные будут не на много умнее людей (тк обучение будет стоить немалых денег), это будут болтливые веселые роботы-друзья.
Вопросы физики будут занимать только специализированных, естественно в ущерб другим параметрам, они будут скучны и сними можно будет поговорить только о физике.
Большинство из них не будет полностью стационарным, только узкоспециализированные. Особо продвинутые мобильные будут иметь док-станции увеличивающие мыслительные мощности.
Здравствуйте, namespace, Вы писали:
G>>Полно книг и фильмов на эту тему. Тот же Терминатор. Но мне кажется они все показывают проблему не стой стороны. Им нужен сюжет, они преследуют цель произвести впечатление на читателя. Но каким на ваш взгляд будет ИИ на самом деле. N>Мое мнение, что аппаратно будет антропоморфный прибор с манипуляторами. Да, его сделают в угоду людям похожим на человека. N>Поначалу у него не будет никакого интеллекта. И будут его воспитывать(обучать) в крупных серьезных лабораториях. Наростится некое базовое ядро семантических связей, определяющих основные способности. N>Затем копии будут продавать мелким организациям, которые будут его доучивать под нужды потенциальных клиентов или под заказ. Будут как вполне интеллектуальные, так и полные дураки, но специализированные. N>Самые распространенные будут не на много умнее людей (тк обучение будет стоить немалых денег), это будут болтливые веселые роботы-друзья. N>Вопросы физики будут занимать только специализированных, естественно в ущерб другим параметрам, они будут скучны и сними можно будет поговорить только о физике. N>Большинство из них не будет полностью стационарным, только узкоспециализированные. Особо продвинутые мобильные будут иметь док-станции увеличивающие мыслительные мощности.
Ну врятли. Во-первых для того чтобы сдеть такой прибор нет сейчас предпосылок. Это сложно, нет технологии, нет аккумуляторов нормальных и т.п. Нет таких технологий. В то время как сам ИИ уже почти готов. Такое ощущение, что буквально лет 10, 20 и появится уже.
