Из того что имеем сейчас — языковые модели типа gpt, всякие визуальные и прочее
А как насчет настоящего интеллекта по примеру и подобию человеческого? Айзек Азимов придумал позитронный мозг который как раз и представлял из себя некую копию человеческого, нейроны, связи между ними и прочее, в результате роботы действительно могли мыслить и действовать почти как люди
Наверняка что то такое разрабатывается, но судя по всему успехи отсутствуют?
Здравствуйте, Nnova, Вы писали:
N>Из того что имеем сейчас — языковые модели типа gpt, всякие визуальные и прочее N>А как насчет настоящего интеллекта по примеру и подобию человеческого? Айзек Азимов придумал позитронный мозг который как раз и представлял из себя некую копию человеческого...
О мозге мы знаем очень мало, но собственно что из известного указывает, что он принципиально отличается в органиации от последних нейронок с претензией на AGI?
Здравствуйте, novitk, Вы писали:
N>О мозге мы знаем очень мало, но собственно что из известного указывает, что он принципиально отличается в органиации от последних нейронок с претензией на AGI?
Очевидно отличается отсутствием нейронов и способности мыслить как таковой
Люди не знают природу сознания. А так как людям неприятно что-то не знать, то придумали себе фантик, что дело лишь в количестве нейронов и сложности сети, а сознание уж как-то само появится. Вот и мечтают сидят.
Здравствуйте, novitk, Вы писали:
N>О мозге мы знаем очень мало, но собственно что из известного указывает, что он принципиально отличается в органиации от последних нейронок с претензией на AGI?
Если сравнение с LLM, то мозг это гораздо больше, чем слова. Ну начать хотя бы с управления организмом. Детёныш обезьяны рождается и поначалу только машет своими конечностями, максимум — несколько рефлексов из разряда уцепиться за мать, чтобы выжить и сосать сиську. Но потом в течение нескольких лет учится ползать, ходить, прыгать, балансировать. Если речь про людей, то вплоть до всяких танцев и балетов дело доходит. При этом всё это не заложено, а изучается. Кажется, что генераторы слов научиться управлять мышцами на основе фидбэка не смогут.
Помимо мышц есть восприятие мира. Зрение, слух. Распознавание образов. Причём одно дело — натренировать нейронку на кошках, другое дело — натренировать нейронку на андроиде, "самостоятельно", если можно так выразиться.
Это всё нужно для того, чтобы построить андроида, который бы смог заменить человека в тех областях, которые сегодня сложно представить заменимыми. Ну банально — сантехник. Причём не какой-то робот, которому в мозг прошили какие-то фиксированные алгоритмы по закручиванию гаек, а универсальный робот, который может научиться чему угодно.
В идеале в продаже должен появиться слуга, которого может позволить любая сколько-нибудь обеспеченная семья и который возьмёт на себя всю муторную работу в доме, включая мелкие ремонтные работы.
N>Из того что имеем сейчас — языковые модели типа gpt, всякие визуальные и прочее
Что есть настоящий и чем он отличается от ненастоящего?
Как дашь ответ на уточняющий вопрос, то можно будет ответить.
Как по мне, всё, что ты выше привел и есть самый настоящий.
N>в результате роботы действительно могли мыслить и действовать почти как люди
В смысле могут грабануть кого, сознательно убить другого человека, начать войну, изнаcиловать другого человека?
vsb>В идеале в продаже должен появиться слуга, которого может позволить любая сколько-нибудь обеспеченная семья и который возьмёт на себя всю муторную работу в доме, включая мелкие ремонтные работы.
А потом он потребует себе прав и выгонит кожаные мешки на мороз.
Здравствуйте, Vzhyk2, Вы писали:
vsb>>В идеале в продаже должен появиться слуга, которого может позволить любая сколько-нибудь обеспеченная семья и который возьмёт на себя всю муторную работу в доме, включая мелкие ремонтные работы. V>А потом он потребует себе прав и выгонит кожаные мешки на мороз.
Ну ChatGPT пока не потребовал. Не думаю, что это неизбежное последствие.
Здравствуйте, Vzhyk2, Вы писали:
V>В смысле могут грабануть кого, сознательно убить другого человека, начать войну, изнаcиловать другого человека?
Игрушка тут выходит скоро. “Lies of P”. Про Пиннокио в стимпанке. Так вот там отель есть и туда роботам вход запрещен, могут входить только люди. А дверь открывается просто — надо ответить на вопрос — «ты человек или робот». И робот не может соврать себе в выгоду. А человек может . Вот и критерий.
Но… конечно это всего лишь игрушка
Здравствуйте, Nnova, Вы писали:
N>Наверняка что то такое разрабатывается, но судя по всему успехи отсутствуют?
Конечно разрабатывается, называется AGI. Проводятся конференции, вкладывается много денег. Успехи присутствуют, тот же GPT — это оттуда же. Он сейчас мультимодальный, то есть прекрасно понимает и текст, и картинки. Есть нейронки, которые уже умеют и звук вдобавок к тексту и картинкам. К управлению роботами тоже добавляют GPT модели, теперь им можно не писать большую программу КАК сделать что-то, а можно говорить ЧТО сделать, а как они уже сами разберутся.
Появляются сети, которые не узкоспециализированы, а могут решать разнообразный спектр задач. Путь к AGI идёт полным ходом, короче.
Здравствуйте, Nuzhny, Вы писали:
N>Конечно разрабатывается, называется AGI. Проводятся конференции, вкладывается много денег. Успехи присутствуют, тот же GPT — это оттуда же. Он сейчас мультимодальный, то есть прекрасно понимает и текст, и картинки. Есть нейронки, которые уже умеют и звук вдобавок к тексту и картинкам. К управлению роботами тоже добавляют GPT модели, теперь им можно не писать большую программу КАК сделать что-то, а можно говорить ЧТО сделать, а как они уже сами разберутся. N>Появляются сети, которые не узкоспециализированы, а могут решать разнообразный спектр задач. Путь к AGI идёт полным ходом, короче.
Ну т.е. вершина достижений AGI — это языковые модели и картинки, я правильно понимаю? Они же в принципе могут оказаться тупиковыми направлениями
Я думал все же как минимум ведутся исследования как сделать что то хотя бы похожее на человеческий интеллект
Здравствуйте, Nnova, Вы писали: N>Ну т.е. вершина достижений AGI — это языковые модели и картинки, я правильно понимаю? Они же в принципе могут оказаться тупиковыми направлениями
Нет, я же написал, что намного больше. Ты голосом можешь говорить роботу, что надо сделать, а он, не имея заранее программы именно для этой цели, сделает.
Например
N>Я думал все же как минимум ведутся исследования как сделать что то хотя бы похожее на человеческий интеллект
А кто говорит, что такое не ведётся? Ты же спрашивал про конкретные достижения или нет?
Здравствуйте, Nuzhny, Вы писали:
N>А кто говорит, что такое не ведётся? Ты же спрашивал про конкретные достижения или нет?
Где я спрашивал про конкретные достижения? Я спрашивал ведутся ли разработки интеллекта, похожего на человеческий, который может именно мыслить. Языковые модели и роботы делающие что им говорят это конечно интересно, но мой вопрос совершенно о другом
Здравствуйте, Nnova, Вы писали:
N>Где я спрашивал про конкретные достижения? Я спрашивал ведутся ли разработки интеллекта, похожего на человеческий, который может именно мыслить.
Вот: N>Наверняка что то такое разрабатывается, но судя по всему успехи отсутствуют?
Успехи есть, вполне практические. Роботы ведут себя как люди, понимают человеческую речь, исполняют команды. Это вполне себе ПОХОЖЕ на человеческое. Если ты имел ввиду повторить в железе, то такое тоже есть, но успехи в ПОХОЖЕСТИ скромнее.
Здравствуйте, Nnova, Вы писали:
N>А как насчет настоящего интеллекта по примеру и подобию человеческого? Айзек Азимов придумал позитронный мозг который как раз и представлял из себя некую копию человеческого
Это, как раз, неправильный подход. Невозможно сделать копию того, что не понимаешь. Не знаешь, на что смотреть. Всё равно, что древним грекам дать современный автомобиль с ДВС без объяснений и сказать: копируйте. Много они скопируют? Если даже не понятно, где в этой телеге Гефеста источник движения. А вот если объяснить им основы — термодинамику, цикл Карно и т.п. — они на базе имеющихся технологий запросто соорудили бы паровой двигатель и рабочий прототип.
Здравствуйте, LuciferSaratov, Вы писали:
N>>Наверняка что то такое разрабатывается, но судя по всему успехи отсутствуют?
LS>Джон Кармак сейчас таким занимается.
Нет. Он пошёл по проторенной дороге: купил кластер за 20 лямов, и скачал все статьи ведущих чатботоводов.
настоящий — это который сможет поставить себе цель выяснить свои границы возможностей и выйти за них, сделать то чему его не обучали, чему он сам научился
то что сейчас делается это всеголишь сложная функция интерполяция между данными использванными при его обучении
выйти за пределы своих границ и темболее захотеть это сделать эта функция не может впринципе
Здравствуйте, Nuzhny, Вы писали:
N>Успехи есть, вполне практические. Роботы ведут себя как люди, понимают человеческую речь, исполняют команды. Это вполне себе ПОХОЖЕ на человеческое.
Еще раз, языковые модели не имеют ничего общего с человеческой способностью мыслить. Они похожи на человеческую способность говорить, т.е. составлять слова в правильном порядке, к мышлению это не имеет никакого отношения
Я не знаю как там устроен робот выполняющий команды, но подозреваю что и там очередная "похожесть"
Под мышлением я понимаю способность анализировать информацию, задавать уточняющие вопросы, отдавать команды на поиск каких то данных, обучиться чему то что требуется для задачи, принимать решения в зависимости от обстановки. Т.е. делать то, что делал бы человек, перед которым поставлена какая то задача, будь то спроектировать новый самолёт, или съездить в магазин за продуктами
Здравствуйте, Alekzander, Вы писали:
A>Это, как раз, неправильный подход. Невозможно сделать копию того, что не понимаешь. Не знаешь, на что смотреть. Всё равно, что древним грекам дать современный автомобиль с ДВС без объяснений и сказать: копируйте. Много они скопируют?
Так я не против, пусть исследуют если не понятно как работает.
Мне вот так кажется, что если мы хотим создать настоящий искусственный интеллект, то деваться то некуда — надо пытаться копировать человеческий, пусть даже мы и не понимаем до конца как он работает
Здравствуйте, Nnova, Вы писали:
N>Еще раз, языковые модели не имеют ничего общего с человеческой способностью мыслить. Они похожи на человеческую способность говорить, т.е. составлять слова в правильном порядке, к мышлению это не имеет никакого отношения
Ещё раз, никто не говорит про языковые модели, они уже давно есть мультимодальные, которые умеют одновременно оперировать разнообразными сущностями. Это похоже на человека. Слова, картинка, звук — вот эти вещи приводятся внутри модели к одной сущности, платоновскому эйдосу, если хочешь.
N>Я не знаю как там устроен робот выполняющий команды, но подозреваю что и там очередная "похожесть"
Да, похожесть, ты же о ней и спрашивал.
N>Под мышлением я понимаю способность анализировать информацию, задавать уточняющие вопросы, отдавать команды на поиск каких то данных, обучиться чему то что требуется для задачи, принимать решения в зависимости от обстановки. Т.е. делать то, что делал бы человек, перед которым поставлена какая то задача, будь то спроектировать новый самолёт, или съездить в магазин за продуктами
+ анализировать информацию — что-то такое есть, суммаризация текста, например
— задавать уточняющие вопросы — я сам не видел
+ отдавать команды на поиск каких то данных — есть, в ChatGPT добавлена возможность спрашивать у Бинга
+ обучиться чему то что требуется для задачи — есть, называется RL
+ принимать решения в зависимости от обстановки — есть, на видео выше у робота палкой выбивают предмет, но он справляется
Продолжай... Но рекомендую сперва определиться с терминами, почитать статьи и т.д. Термин "похожесть" тут не катит.
Здравствуйте, Alekzander, Вы писали:
A>Это, как раз, неправильный подход. Невозможно сделать копию того, что не понимаешь. Не знаешь, на что смотреть.
Кстати я читал, что gpt получился по сути случайно, никто не знал, что натренировав модель подобным образом она сможет настолько гладко говорить на человеческом языке
Значит, если даже без особого понимания скопировать мозг — есть шанс что он вдруг начнёт думать
Здравствуйте, Nuzhny, Вы писали:
N>Продолжай... Но рекомендую сперва определиться с терминами, почитать статьи и т.д. Термин "похожесть" тут не катит.
Ок, т.е ты утверждаешь, что собрав в комплекс все уже имеющиеся системы, им можно поставить задачу, к примеру "спроектируй систему для сбития сверхзвуковых ракет" — и она ее создаст? Прочитает какую нужно литературу, задаст дополнительные вопросы по ТТХ, скажет какие эксперименты и как провести и выдаст комплект готовый документации с чертежами?
Здравствуйте, Nnova, Вы писали:
N>Ок, т.е ты утверждаешь, что собрав в комплекс все уже имеющиеся системы, им можно поставить задачу, к примеру "спроектируй систему для сбития сверхзвуковых ракет" — и она ее создаст?
Разумеется, нет! Любому человеку такого не сделать. Это задача для человечества, минимум для большой страны.
Здравствуйте, Nuzhny, Вы писали:
N>Разумеется, нет! Любому человеку такого не сделать. Это задача для человечества, минимум для большой страны.
Так а в чем проблема то? Может все таки в том, что реально мыслить то AI не может, не смотря на героические способности робота удержать палку?
Я удивлён, что мой вопрос оказался настолько непонятным. Мне он наоборот кажется абсолютно простым и интуитивным, что такое человеческая способность мыслить это как по мне что то вполне очевидное для любого человека
Возвращаясь к Айзеку Азимову, был у него рассказ где робот на космической станции не поверил техникам что это они его сделали, и что звезды в иллюминаторе — это огромные огненные шары, просто очень далеко. Для него было куда логичнее, что это просто огоньки. Т.е. он мог мыслить, делать какие то выводы из имеющейся информации, и да, задавать вопросы
Здравствуйте, vsb, Вы писали:
vsb>Если сравнение с LLM, то мозг это гораздо больше, чем слова. vsb>Помимо мышц есть восприятие мира. Зрение, слух.
Безусловно до андроидов еще очень далеко, но мы сейчас о принципах работы мозга. Если реальные основания считать, что мозг принципиально отличается в принципах своей организации от нейронок?
Для меня сюрприз по сравнение с 90-ми оказался в том, что искуственный мозг оказалось сделать гораздо проще чем "физические интерфейсы", принципы которых были понятны лет 100 уже. Программистов/докторов/адвокатов заменяют прямо сейчас, а футбольная команда роботов не выиграет и у детского сада.
Здравствуйте, Nnova, Вы писали:
N>>О мозге мы знаем очень мало, но собственно что из известного указывает, что он принципиально отличается в органиации от последних нейронок с претензией на AGI? N>Очевидно отличается отсутствием нейронов и способности мыслить как таковой
Как протестировать, что у AGI нет "способности мыслить как таковой", если "тест тьюринга" и игры давно на помоечке?
Здравствуйте, novitk, Вы писали:
N>Здравствуйте, Nnova, Вы писали:
N>>>О мозге мы знаем очень мало, но собственно что из известного указывает, что он принципиально отличается в органиации от последних нейронок с претензией на AGI? N>>Очевидно отличается отсутствием нейронов и способности мыслить как таковой N>Как протестировать, что у AGI нет "способности мыслить как таковой", если "тест тьюринга" и игры давно на помоечке?
когда чат сможет сделать чтото отличное от написания текстов, сделать то чему его не учили, чему он научился сам
Здравствуйте, Nnova, Вы писали:
N>Я удивлён, что мой вопрос оказался настолько непонятным. Мне он наоборот кажется абсолютно простым и интуитивным, что такое человеческая способность мыслить это как по мне что то вполне очевидное для любого человека
Грани тонкие. Я не говорю, что есть ИИ с самосознанием, целеполаганием, мотивацией и т.д. Но есть очень много, похожее в своих проявлениях на человека.
N>Возвращаясь к Айзеку Азимову, был у него рассказ где робот на космической станции не поверил техникам что это они его сделали, и что звезды в иллюминаторе — это огромные огненные шары, просто очень далеко. Для него было куда логичнее, что это просто огоньки. Т.е. он мог мыслить, делать какие то выводы из имеющейся информации, и да, задавать вопросы
Чем отличаются люди от такого робота? Небесную сферу не роботы придумали. Разве Платон и Аристотель знали, что такое звёзды?
Здравствуйте, Nnova, Вы писали:
N>Мне вот так кажется, что если мы хотим создать настоящий искусственный интеллект, то деваться то некуда — надо пытаться копировать человеческий, пусть даже мы и не понимаем до конца как он работает
Ты понимаешь под копированием физическое или модельное? Если второе, то оно и так есть. Поэтомум нейронки и называются нейронками собственно. Возможно функции активаций в реальном мозге немного другие? Возможно. Только во-первых, совершенно не факт, что они там лучше — самолеты/дроны летают лучше птиц. Во-вторых, биохимия сильно остает от математики и понять в деталях, что там реально происходит мы просто не можем.
Здравствуйте, novitk, Вы писали:
N>Ты понимаешь под копированием физическое или модельное? Если второе, то оно и так есть. Поэтомум нейронки и называются нейронками собственно. Возможно функции активаций в реальном мозге немного другие? Возможно.
Не возможно, а точно. Есть спайковые нейросети — они как раз и имитируют такие активации. Есть и в железе имплементации, тот же Intel Loihi уже не первую итерацию сменил, да и не только он. Работ полно.
Здравствуйте, Wawan, Вы писали:
W>настоящий — это который сможет поставить себе цель выяснить свои границы возможностей и выйти за них, сделать то чему его не обучали, чему он сам научился W>то что сейчас делается это всеголишь сложная функция интерполяция между данными использванными при его обучении W>выйти за пределы своих границ и темболее захотеть это сделать эта функция не может впринципе
Alphazero показала самообучение, выход за границы и новые принципы 5 лет назад. Она учит гроссмейстеров, а не они ее.
Здравствуйте, novitk, Вы писали:
N>Здравствуйте, Wawan, Вы писали:
W>>настоящий — это который сможет поставить себе цель выяснить свои границы возможностей и выйти за них, сделать то чему его не обучали, чему он сам научился W>>то что сейчас делается это всеголишь сложная функция интерполяция между данными использванными при его обучении W>>выйти за пределы своих границ и темболее захотеть это сделать эта функция не может впринципе
N>Alphazero показала самообучение, выход за границы и новые принципы 5 лет назад. Она учит гроссмейстеров, а не они ее.
ее научили играть в шахматы она и играет
вот еслибы она написала рассказ про шахматы например
Здравствуйте, Wawan, Вы писали:
W>ее научили играть в шахматы она и играет
Ее не учили играть. AZ — unsupervised learning.
W>вот еслибы она написала рассказ про шахматы например
Проблем особых нет. Просто она, как Галуа и Эйнштейн, тренировалась играть, а не писать книжки.
Здравствуйте, Нomunculus, Вы писали:
Н>Люди не знают природу сознания. А так как людям неприятно что-то не знать, то придумали себе фантик, что дело лишь в количестве нейронов и сложности сети, а сознание уж как-то само появится. Вот и мечтают сидят.
Прежде чем постигать "природу сознания" неплохо бы новый тест на "isThisIntellegence", так как все прошлые(ТТ, игры с комбинаторными взрывами) пришли в негодность.
Ответ может быть не типа «bool»
Даже у людей это состояние не бинарно. Очевидно, новорожденный вернет false, а, ну скажем, 10-летний ребенок — true. Штука в том, что нет момента, когда у ребенка это false перещелкивается в это true
Здравствуйте, novitk, Вы писали:
N>Здравствуйте, Wawan, Вы писали:
W>>ее научили играть в шахматы она и играет N>Ее не учили играть. AZ — unsupervised learning.
W>>вот еслибы она написала рассказ про шахматы например N>Проблем особых нет. Просто она, как Галуа и Эйнштейн, тренировалась играть, а не писать книжки.
оно продолжает развиваться в других областях ? или только играет в шахматы
Здравствуйте, novitk, Вы писали:
W>>вот еслибы она написала рассказ про шахматы например N>Проблем особых нет. Просто она, как Галуа и Эйнштейн, тренировалась играть, а не писать книжки.
А если ее обучить всей известной нам математике, она решит нынешние не решенные математические проблемы/задачи?
Здравствуйте, Nnova, Вы писали:
N>Мне вот так кажется, что если мы хотим создать настоящий искусственный интеллект, то деваться то некуда — надо пытаться копировать человеческий, пусть даже мы и не понимаем до конца как он работает
В постановке задачи ("создать настоящий искусственный интеллект") ты неявно ссылаешься на результат понимания, как он работает. Иначе как ты определишь, какой настоящий, а какой нет? Интуитивно мы оба согласны, что эти дурацкие чатботы "не настоящие" по сравнению с нами, но прямо на этом форуме постоянно встречаются требования строго обосновать, что мы от них принципиально отличаемся (а не количественно), и как ты это сделаешь?
Так что, если мы хотим создать настоящий искусственный интеллект, то деваться то некуда — надо пытаться понять, как работает человеческий.
Здравствуйте, Nnova, Вы писали:
A>>Это, как раз, неправильный подход. Невозможно сделать копию того, что не понимаешь. Не знаешь, на что смотреть. N>Кстати я читал, что gpt получился по сути случайно, никто не знал, что натренировав модель подобным образом она сможет настолько гладко говорить на человеческом языке
А что ж ты тогда интересуешься "А ведутся ли разработки настоящего AI"? Если всё так гладко?
N>Значит, если даже без особого понимания скопировать мозг — есть шанс что он вдруг начнёт думать
Ещё раз. Без понимания ты просто ничего не скопируешь.
Вот у тебя есть флешка. На ней файл, объёмом, может быть, всего в пару килобайт. Но если ты не знаешь физические принципы хранения в этой конструкции, не знаешь файловую систему (физическую, логическую и хрен знает какую ещё), не знаешь кодировку, как ты скопируешь файл? Никак. Всё, что ты можешь сделать, это создать полную молекулярную копию. Точнее, не можешь, потому, что знаешь, какой порядок у числа Авогадро? И сколько внутренних состояний у молекул? И не факт, что с твоей копии данные даже после этого прочитаются. Вдруг это флешка из 2050-ого года и в ней используются квантовые эффекты?
То, что сейчас пытаются моделировать нейроны, это уже некоторая степень понимания. Только поэтому задача выглядит чуть менее неосуществимо . И эта степень понимания совершенно недостаточна ни для чего инетересного. Даже если получишь непонятного качества копию состояния (что для не червей неизвестно, будет ли вообще осуществимо), заодно разрушив оригинал микротомированием, что дальше? Как сопрягать? Как менять? Как заставить дальше перейти в следующее состояние? Примерно, как спилить крышку у процессора и модифицировать архитектуру. Или взять экзешник и добавить в него пару функций.
Здравствуйте, Nnova, Вы писали:
N>Здравствуйте, Nuzhny, Вы писали:
N>>Разумеется, нет! Любому человеку такого не сделать. Это задача для человечества, минимум для большой страны. N>Так а в чем проблема то? Может все таки в том, что реально мыслить то AI не может, не смотря на героические способности робота удержать палку?
Так и ты такую систему спроектировать не можешь. Значит ли это что у тебя нет интеллекта?
Здравствуйте, Нomunculus, Вы писали:
Н>Ответ может быть не типа «bool» Н>Даже у людей это состояние не бинарно. Очевидно, новорожденный вернет false, а, ну скажем, 10-летний ребенок — true.
isThisIntellegence:Механизм->B
Задай B как хочешь, если тебе двоичное не подходит.
Ну и опиши функцию, ведь тебе "очевидно"
Н>Штука в том, что нет момента, когда у ребенка это false перещелкивается в это true
перешелкивание не интересно. новорожденный и 10-летний ребенок просто разные точки из области определения isThisIntellegence.
Здравствуйте, gress, Вы писали:
G>Тебе так нужен SkyNet?
тут дети малые собрались на форуме и фигнёй страдают — пальчики в розетку суют. а дядя Вася сантехник и дядя Петя кабельщик за них сети чинит... и робот им не помогает, потому что дети малые свою нейро-фиговую сетку никуда не приклеили к материи капитала Маркса
Здравствуйте, Wawan, Вы писали:
W>оно продолжает развиваться в других областях ? или только играет в шахматы
Сначала были претензии к тому что AI не может выйти за предел человеческого знания. Может.
Теперь вопрос в универсальности? Chat-GPT. Да здесь оно supervised. Потому что собственно цель удовлетворить человеков, а не решить абстрактную задачу по некоторым правилам. Маугли с мозгами Эйнштейна тоже мало бы что придумал.
Здравствуйте, JacobR, Вы писали:
JR>А если ее обучить всей известной нам математике, она решит нынешние не решенные математические проблемы/задачи?
Сложность нерешенных проблем/задач возможно очень высока и требует увеличения вычислительных мощностей еще на несколько порядков.
Однако я бы не стал делать вывод о невозможность для AI продвигать математику. Тут ситуация очень похожая на шахматы.
Здравствуйте, novitk, Вы писали: N>Здравствуйте, Wawan, Вы писали: W>>когда чат сможет сделать чтото отличное от написания текстов, сделать то чему его не учили, чему он научился сам N>Ты обладаешь GI. Что ты в жизни сделал чему тебя не учили, кроме сосания титьки?
ну раз так сходу ты вычеркнул из моих достяжений сосание сиськи, то остается что по сравнению со мной любая микроволновка — гений интеллекта
сабж вродии не про мои ментальные возможности
Здравствуйте, novitk, Вы писали:
N>Для меня сюрприз по сравнение с 90-ми оказался в том, что искуственный мозг оказалось сделать гораздо проще чем "физические интерфейсы", принципы которых были понятны лет 100 уже. Программистов/докторов/адвокатов заменяют прямо сейчас, а футбольная команда роботов не выиграет и у детского сада.
Если Вы, уважаемый novitk, или Ваш родственник будете (не дай Бог) нуждаться в медицинской или юридической помощи.
Вы обратитесь к ChatGPT?
Здравствуйте, AlexGin, Вы писали: AG>Если Вы, уважаемый novitk, или Ваш родственник будете (не дай Бог) нуждаться в медицинской или юридической помощи. AG>Вы обратитесь к ChatGPT? AG>Вот так и со всем остальным...
Смех смехом, но в сети и у моего первого круга знакомых уже есть успешные случаи применения ChatGPT.
Оформление документов на тендер — ChatGPT за несколько часов сделал всю работу с неспециалистом по оформлению документов. Письма в официальные структуры — ChatGPT делает это лучше.
Вастрик
Случился киберпанк. Пару месяцев назад Coinbase заблокал мне аккаунты и слал нафиг все мои письма даже с пруфами немецкого ПМЖ.
Сегодня я попросил ChatGPT сгенерировать мне "legal claim" и отправил результат в саппорт. Саппорт поверил и дал три дня на вывод средств.
У чувака болела собака, ветеринары не могли поставить диагноз, а ChatGPT смог.
Здравствуйте, AlexGin, Вы писали:
N>>Для меня сюрприз по сравнение с 90-ми оказался в том, что искуственный мозг оказалось сделать гораздо проще чем "физические интерфейсы", принципы которых были понятны лет 100 уже. Программистов/докторов/адвокатов заменяют прямо сейчас, а футбольная команда роботов не выиграет и у детского сада.
AG>Если Вы, уважаемый novitk, или Ваш родственник будете (не дай Бог) нуждаться в медицинской или юридической помощи. AG>Вы обратитесь к ChatGPT?
Я обязательно обращусь. Ровно так же, как я обращаюсь в гугл. Врачам доверия ноль, большинство из них или двоечники, или пофигисты, а чаще и то и другое, только и способны выписывать фуфломицины.
Посадить два чатжпт подобных фигни друг напротив друга — пусть один пытается выдать себя за человека, а второй — понять где человек а где чатик и пусть так сидят. Постепенно так натренируются, что ии будет неотличим. И гуглить и считать научится.. и контекст держать. Просто магия интеллекта конечно пропадет, но так постоянно происходит со всеми технологиями
Здравствуйте, __kot2, Вы писали:
__>Посадить два чатжпт подобных фигни друг напротив друга — пусть один пытается выдать себя за человека, а второй — понять где человек а где чатик и пусть так сидят. Постепенно так натренируются, что ии будет неотличим. И гуглить и считать научится.. и контекст держать. Просто магия интеллекта конечно пропадет, но так постоянно происходит со всеми технологиями
Боюсь, что тут будет обратный процесс: пытаясь выдать себя за человека, они станут им — отупеют.
Здравствуйте, Nuzhny, Вы писали:
N>Случился киберпанк. Пару месяцев назад Coinbase заблокал мне аккаунты и слал нафиг все мои письма даже с пруфами немецкого ПМЖ. N>Сегодня я попросил ChatGPT сгенерировать мне "legal claim" и отправил результат в саппорт. Саппорт поверил и дал три дня на вывод средств.
Небось по стилю письма подумали, что чел нанял юриста и решили не связываться.
N>Оформление документов на тендер — ChatGPT за несколько часов сделал всю работу с неспециалистом по оформлению документов. Письма в официальные структуры — ChatGPT делает это лучше. N>
Вастрик
N>Случился киберпанк. Пару месяцев назад Coinbase заблокал мне аккаунты и слал нафиг все мои письма даже с пруфами немецкого ПМЖ. N>Сегодня я попросил ChatGPT сгенерировать мне "legal claim" и отправил результат в саппорт. Саппорт поверил и дал три дня на вывод средств.
Это многое говорит о том, что из себя сейчас представляет саппорт большинства таких продуктов. N>У чувака болела собака, ветеринары не могли поставить диагноз, а ChatGPT смог.
Вообще-то, если GPT обучить на качественные медицинских работах, то он будет лучше диагнозы ставить, чем 90% врачей. Но дальше начинаются юридические проблемы (такие же, как и самоуправляемыми авто).
Здравствуйте, Vzhyk2, Вы писали:
V>Вообще-то, если GPT обучить на качественные медицинских работах, то он будет лучше диагнозы ставить, чем 90% врачей. Но дальше начинаются юридические проблемы (такие же, как и самоуправляемыми авто).
С авто сложнее, поэтому та же Тесла хочет, чтобы водители держали руки на руле. Для врачей руки на руле не держать не получится — под диагнозом и лечением будет его подпись. Не уверен в диагнозе? Спроси ИИ. Неуверен в ИИ? собирай консилиум. Но в конце всё равно будет и его подпись, и печать.
Здравствуйте, Nuzhny, Вы писали:
N>Не возможно, а точно. Есть спайковые нейросети — они как раз и имитируют такие активации. Есть и в железе имплементации, тот же Intel Loihi уже не первую итерацию сменил, да и не только он. Работ полно.
Спасибо, вот что то подобное я и имел ввиду, если уж мы хотим человеческого интеллекта — ИМХО как раз это и нужно. Но судя по отсутствию известности, успехи видимо еще не очень
Здравствуйте, gress, Вы писали:
G>Тебе так нужен SkyNet?
Нет, я хочу понять где мы находимся с этими технологиями. Как только появится интеллект сравнимый с человеческим — мир резко поменяется т.к. абсолютно любую работу сможет выполнять робот
Здравствуйте, Alekzander, Вы писали:
A>А что ж ты тогда интересуешься "А ведутся ли разработки настоящего AI"? Если всё так гладко?
Все гладко с речью, а не ее смысловой нагрузкой
A>То, что сейчас пытаются моделировать нейроны, это уже некоторая степень понимания. Только поэтому задача выглядит чуть менее неосуществимо . И эта степень понимания совершенно недостаточна ни для чего инетересного. Даже если получишь непонятного качества копию состояния (что для не червей неизвестно, будет ли вообще осуществимо
Ну это твое личное мнение, я бы не утверждал, что эта степень понимания недостаточна. GPT создали тоже без особого понимания, он просто взял и получился. С мозгом вероятно будет то же, т.к. сделать его полную спецификацию с чертежами вряд ли получится
Здравствуйте, CRT, Вы писали:
N>>Так а в чем проблема то? Может все таки в том, что реально мыслить то AI не может, не смотря на героические способности робота удержать палку?
CRT>Так и ты такую систему спроектировать не можешь. Значит ли это что у тебя нет интеллекта?
Я кстати смогу, просто мне потребуется несколько сотен лет для этого, процессор и оперативка не очень
Здравствуйте, vsb, Вы писали:
vsb>Я обязательно обращусь. Ровно так же, как я обращаюсь в гугл. Врачам доверия ноль, большинство из них или двоечники, или пофигисты, а чаще и то и другое, только и способны выписывать фуфломицины.
Хотел бы посмотреть как ты начнёшь пить таблетки прописанные чатом при чем то довольно серьёзном, какой нибудь язве или инфекции внутренних органов, я уж молчу про ложится под нож GPT, которому приделали руки
То же самое и с юристами, одно дело вакое нибудь там письмо, другое — защита на суде от виселицы в какой нибудь мусульманской стране.
Как этот чат обращается с деталями уже всем известно, я собственно даже забросил использовать его для каких-нибудь хитрых вопросов, типа настроек докера для определённых конфигураций, т.к. он выдаёт дикую нерабочую смесь конфигов. Вот нарисовать кнопку на форуме может, это да
Здравствуйте, Nuzhny, Вы писали:
N>Смех смехом, но в сети и у моего первого круга знакомых уже есть успешные случаи применения ChatGPT. N>Оформление документов на тендер — ChatGPT за несколько часов сделал всю работу с неспециалистом по оформлению документов. Письма в официальные структуры — ChatGPT делает это лучше.
Видимо на принимающей стороне, валидацию документов тоже делал ChatGPT. Как говорится: "Свояк свояка видит издалека".
Здравствуйте, Nnova, Вы писали:
N>А как насчет настоящего интеллекта по примеру и подобию человеческого? N>Наверняка что то такое разрабатывается, но судя по всему успехи отсутствуют?
Успехи не отсутствуют, а постепенно продвигаются. Что-то действительно должно быть по подобию человеческого.
Например, у человека есть способность работать с большими системами, а у GPT пока нет.
Например, текст программы в 1 млн. строк кода. Человек способен выполнять навигацию по таким объемам кода и выполнять на нем какие-то задачи. А у GPT пока размер контекста очень маленький. В версии GPT-4 его увеличили по сравнению GPT-3, но надо раз в 1000 больше.
То что для GPT открыли доступ к поисковику Bing, уже шаг в сторону работы с большими системами.
Сейчас GPT может справиться с некоторыми сложными задачами по программированию. Но не сможет просто посчитать количество функций в программе, если в ней слишком много букв.
Здравствуйте, vsb, Вы писали:
vsb>Детёныш обезьяны рождается и поначалу только машет своими конечностями, максимум — несколько рефлексов из разряда уцепиться за мать, чтобы выжить и сосать сиську. Но потом в течение нескольких лет учится ползать, ходить, прыгать, балансировать.
А детеныш лошади например сразу встает на ноги и бежит за матерью...
Здравствуйте, Nnova, Вы писали:
N>Нет, я хочу понять где мы находимся с этими технологиями. Как только появится интеллект сравнимый с человеческим — мир резко поменяется т.к. абсолютно любую работу сможет выполнять робот
Прямо так сможет залезть в канализационный коллектор и поменять ржавую гайку на 12? Без свиты из десятка "кожаных мешков", которые его привезут на специальном трейлере за 100500$, будут провода держать, опускать его, вынимать, отмывать, чинить и т.п.? Хотелось бы посмотреть, как он пойдет договариваться на 12 этаж к парализованной бабе Дуне, чтобы та закрыла воду в умывальнике.
N>Нет, я хочу понять где мы находимся с этими технологиями. Как только появится интеллект сравнимый с человеческим — мир резко поменяется т.к. абсолютно любую работу сможет выполнять робот
Ты не считаешь, что создание такой машины очень опасно для человечества?
Здравствуйте, novitk, Вы писали:
N>Здравствуйте, JacobR, Вы писали:
JR>>А если ее обучить всей известной нам математике, она решит нынешние не решенные математические проблемы/задачи? N>Сложность нерешенных проблем/задач возможно очень высока и требует увеличения вычислительных мощностей еще на несколько порядков. N>Однако я бы не стал делать вывод о невозможность для AI продвигать математику. Тут ситуация очень похожая на шахматы.
Так не понятно (или даже понятно) что проблема в решении/доказательстве мат. проблем как минимум некоторых лежит не в недостаточных вычислительных мощностях, а в отставили мат. аппарата, понимания и пр, и вот тут как раз и видно “кто есть кто” и “понимают ли” нейронные сети контекст или нет. А пока получается так:
Types of Problems the Model Cannot Solve.
There are a few different types of problems the model is incapable of solving: 1) any problem for which the question is in the form of an image or other nontext modality; 2) questions with solutions that require proofs; and 3) problems that are computationally intractable, such as factoring very large primes. This last category is not expected in any math course assignment, as students themselves would also be unable to answer them. That being said, many questions that students can answer have generalizations that are computationally intractable.
Здравствуйте, JacobR, Вы писали:
JR>Так не понятно (или даже понятно) что проблема в решении/доказательстве мат. проблем как минимум некоторых лежит не в недостаточных вычислительных мощностях, а в отставили мат. аппарата, понимания и пр, и вот тут как раз и видно “кто есть кто” и “понимают ли” нейронные сети контекст или нет. А пока получается так:
Мы ходим по кругу. Понимает ли AZero шахматы? Не в смысле правил, а в смысле стратегий.
Я не к тому, что у нас сейчас есть матаппарат для создания нейронок помогающих доказывать теоремы. От LLM очевидно толку будет мало. Просто для меня не очевидно, что его нельзя создать на каком-то уровне. Школьники доказывают не понимая в деталях теорий логики.
N>С авто сложнее, поэтому та же Тесла хочет, чтобы водители держали руки на руле. Для врачей руки на руле не держать не получится — под диагнозом и лечением будет его подпись. Не уверен в диагнозе? Спроси ИИ. Неуверен в ИИ? собирай консилиум. Но в конце всё равно будет и его подпись, и печать.
Это не Тесла хочет, а требования госрегуляторов к Тесле.
То же и c врачами.
И в одном и в другом нужен тот, кто будет отвечать за ошибку. А отвечать по закону может только дееспособное лицо, т.е. человек.
N>Нет, я хочу понять где мы находимся с этими технологиями.
Где-то ты точно находишься. И пока не определишь шкалу, то сказать, где ты на ней никак не нельзя.
N>Мы ходим по кругу. Понимает ли AZero шахматы? Не в смысле правил, а в смысле стратегий.
Что есть понимание правил и что есть понимание стратегий? Оно же выигрывает у большинства людей.
Здравствуйте, Vzhyk2, Вы писали:
N>>Мы ходим по кругу. Понимает ли AZero шахматы? Не в смысле правил, а в смысле стратегий. V>Что есть понимание правил и что есть понимание стратегий? Оно же выигрывает у большинства людей.
Я именно и спрашиваю, что понимается под "пониманием". Потому что разница в понимание между выпускником "мехмата" и "6-го класса" сильно отличаются, но задачи шестиклассник решать способен.
N>А как насчет настоящего интеллекта по примеру и подобию человеческого?
Только если ответить в контексте того, насколько близко подразумевается это подобие.
Максимальное приближение будет, если создать многоклеточный организм с нервной системой и прочим.
В теории, можно попробовать создать цифровой аналог тела человека, но я не слышал, чтобы даже проектировали.
И не совсем понятно, зачем бы это нужно было.
Человек — универсальный механизм, он все делает одинаково плохо. Для чего еще один такой же?
Здравствуйте, Vzhyk2, Вы писали:
G>>Ты не считаешь, что создание такой машины очень опасно для человечества? V>Не опасно пока не пересекется по ресурсам с человеками.
Не опасно? Очень быстро самообучающийся организм, способный взломать доступ и получить управление любыми устройствами и компьютерами, у которого совершенно непредсказуемым образом сложится мотивация и собственная постановка целей, не опасен?
Здравствуйте, Went, Вы писали:
W>Прямо так сможет залезть в канализационный коллектор и поменять ржавую гайку на 12? Без свиты из десятка "кожаных мешков", которые его привезут на специальном трейлере за 100500$, будут провода держать, опускать его, вынимать, отмывать, чинить и т.п.? Хотелось бы посмотреть, как он пойдет договариваться на 12 этаж к парализованной бабе Дуне, чтобы та закрыла воду в умывальнике.
Сможет конечно, причем гораздо лучше кожаных мешков, и уж тем более в плане договореноспособности с бабой Дуней, ему зальют в мозг курс психологии и баба Дуня еще и сама побежит помогать ему ключ держать
Даже сейчас уже есть роботы от Boston dynamics которые отлично ходят, прыгают и делают сальто, вроде как их думают применять в космических миссиях где они смогут ходить по луне или Марсу
А модель конкретного андроида для лазания в канализационные люки сможет соорудить сам AI, даже тут кожаные мешки будут уже не нужны
Здравствуйте, namespace, Вы писали:
N>Только если ответить в контексте того, насколько близко подразумевается это подобие. N>Максимальное приближение будет, если создать многоклеточный организм с нервной системой и прочим. N>В теории, можно попробовать создать цифровой аналог тела человека, но я не слышал, чтобы даже проектировали.
В чисто практическом смысле, где они могут делать человеческую работу. Роботы, умиляющиеся на котиков в интернете по понятным причинам никому не нужны. Так что многоклеточный организм с эмоциями и чувствами не нужен, нужен мозг, способный мыслить
Здравствуйте, Nnova, Вы писали:
N>Даже сейчас уже есть роботы от Boston dynamics которые отлично ходят, прыгают и делают сальто, вроде как их думают применять в космических миссиях где они смогут ходить по луне или Марсу
Учитывая то, что Boston Dynamics это совершенно не досягаемый для конкурентов state-of-the-art(смотри поделки от роскосмовского "Феди" и до ТеslaBot), сколько они стоят и что могут, перспективы прямо скажем туманны.
Сколько ты думаешь будет сейчас стоит НИОКР на робота, который может просто забраться на второй этаж в 90% частных домов по лестнице, не расплескав ведро воды? Моя оценка $10мм+ и думаю это оптимистично.
В общем "нас" заменят точно до сантехников.
Здравствуйте, AlexGin, Вы писали:
AG>Если Вы, уважаемый novitk, или Ваш родственник будете (не дай Бог) нуждаться в медицинской или юридической помощи. AG>Вы обратитесь к ChatGPT?
Совершенно не важно, что сделаю я. Важно что будет использовать медицинский центр или адвокатская контора, куда я обращусь за помошью.
Здравствуйте, novitk, Вы писали:
N>Учитывая то, что Boston Dynamics это совершенно не досягаемый для конкурентов state-of-the-art(смотри поделки от роскосмовского "Феди" и до ТеslaBot), сколько они стоят и что могут, перспективы прямо скажем туманны. N>Сколько ты думаешь будет сейчас стоит НИОКР на робота, который может просто забраться на второй этаж в 90% частных домов по лестнице, не расплескав ведро воды? Моя оценка $10мм+ и думаю это оптимистично.
То что делают Boston Dynamics — это экспериментальные единичные экземпляры, если пустить их роботов в серию — они станут по цене телевизора. Но они этого не делают т.к. никому на рынке их роботы не нужны, и покупать их никто не станет, они занимаются исключительно исследовательской работой, по этой же причине у них нет и особых конкурентов — никто не вкладывает деньги в разработку того, что никому не нужно
Если же появится AI — то ему не понадобятся никакие Boston Dynamics, он сам все разработает по цене электричества запитанного на его мозг
N>Я именно и спрашиваю, что понимается под "пониманием". Потому что разница в понимание между выпускником "мехмата" и "6-го класса" сильно отличаются, но задачи шестиклассник решать способен.
Во. А чем разница между интеллектом этих двух мы не знаем и даже определение понятию интеллект дать не можем.
G>Не опасно? Очень быстро самообучающийся организм, способный взломать доступ и получить управление любыми устройствами и компьютерами, у которого совершенно непредсказуемым образом сложится мотивация и собственная постановка целей, не опасен?
На кой ляд это ему будет нужно?
N>Даже сейчас уже есть роботы от Boston dynamics которые отлично ходят, прыгают и делают сальто, вроде как их думают применять в космических миссиях где они смогут ходить по луне или Марсу
Энергии только жрут для этого всего ну очень много.
N>А модель конкретного андроида для лазания в канализационные люки сможет соорудить сам AI, даже тут кожаные мешки будут уже не нужны
Зачем ему это нужно?
Здравствуйте, Nnova, Вы писали:
N>Из того что имеем сейчас — языковые модели типа gpt, всякие визуальные и прочее N>А как насчет настоящего интеллекта по примеру и подобию человеческого?
Из первых и может получиться второе. При масштабировании и усложнении связей.
Здравствуйте, novitk, Вы писали:
N>Мы ходим по кругу. Понимает ли AZero шахматы? Не в смысле правил, а в смысле стратегий. N>Я не к тому, что у нас сейчас есть матаппарат для создания нейронок помогающих доказывать теоремы. От LLM очевидно толку будет мало. Просто для меня не очевидно, что его нельзя создать на каком-то уровне. Школьники доказывают не понимая в деталях теорий логики.
У школьников безусловно есть интеллект и понимание "контекста", попробую другой пример привести, когда то давно Максвелл решил подытожить все что там до него наработали и на экспериментировали “всякие” Амперы, Кулоны и пр, и описать уравнения связывающие электрическое и магнитное поле, он разработал мат.аппарат, написал уравнения и пришел к тому что уравнения противоречивые и тогда он из головы выдумал сущность в виде электромагнитных волн и вписал их в уравнения после чего все стало корректно с точки зрения математики. Максвелл фактически “придумал” электромагнитные волны, которые были открыты уже после его смерти Герцем если не ошибаюсь.
И скорее всего решение многих мат. проблем требует нечто подобного и когда нейронки/AI начнут решать такие задачи, то на мой взгляд можно будет говорить о наличии реального интеллекта.
Здравствуйте, JacobR, Вы писали:
JR>У школьников безусловно есть интеллект и понимание "контекста", попробую другой пример привести, когда то давно Максвелл решил подытожить все что там до него наработали и JR>... JR>И скорее всего решение многих мат. проблем требует нечто подобного и когда нейронки/AI начнут решать такие задачи, то на мой взгляд можно будет говорить о наличии реального интеллекта.
Хотелось бы все же формализовать "новый тест Тьюринга". Если у школьников есть интеллект, a GPT может решать мат задачи на их уровне, то почему у GPT его нет?
Здравствуйте, Nnova, Вы писали:
N>То что делают Boston Dynamics — это экспериментальные единичные экземпляры, если пустить их роботов в серию — они станут по цене телевизора. Но они этого не делают т.к. никому на рынке их роботы не нужны, и покупать их никто не станет, они занимаются исключительно исследовательской работой, по этой же причине у них нет и особых конкурентов — никто не вкладывает деньги в разработку того, что никому не нужно
Tesla делала громадную ставку на удвоенную роботизацию по сравнению с конкурентами и вынужденна была откатить. Амазон тратит безумные деньги на автоматизацию. Это все не в открытом мира, а довольно ограниченном. И проблема тут не в АI и софте, а в физические интерфейсах. Конструкции из одноосевые актуаторов, которые мы умеем делать, абсолютное говно по сравнению с нашими руками и ногами. Поэтому то что делает BDynamics и выглядит как чудо, но стоит космические деньги и не масштабируется.
rm2>ну например, мы ему будем отвратительны.
А у него будет такое чувство?
С другой стороны, если предположить у него наличие чувств в твоем понимании, то муравьи тебе отвратительны?
Здравствуйте, Vzhyk2, Вы писали:
V>А у него будет такое чувство?
у него может быть такое что мы даже себе представить не можем. Полностью ачеловечная и агуманная мораль. Разделка и фаршировка сапиенсов не медленно, как в каком нибудь терминаторе — а как на наших фабриках убоя высокой производительности — деловито, быстро, на станках, и крайне эффективно.
V>С другой стороны, если предположить у него наличие чувств в твоем понимании, то муравьи тебе отвратительны?
мы к сожалению слишком в близких отношениях с АИ. Это наш продукт так сказать. Поэтому не будет такой естественной сепарации и параллельного существования, как у нас с муравьями.
Здравствуйте, Nnova, Вы писали: W>>Прямо так сможет залезть в канализационный коллектор и поменять ржавую гайку на 12? Без свиты из десятка "кожаных мешков", которые его привезут на специальном трейлере за 100500$, будут провода держать, опускать его, вынимать, отмывать, чинить и т.п.? Хотелось бы посмотреть, как он пойдет договариваться на 12 этаж к парализованной бабе Дуне, чтобы та закрыла воду в умывальнике. N>Сможет конечно, причем гораздо лучше кожаных мешков, и уж тем более в плане договореноспособности с бабой Дуней, ему зальют в мозг курс психологии и баба Дуня еще и сама побежит помогать ему ключ держать
Твой слепой восторг от успехов генеративных моделей преждевременен, увы. Всё, что мы пока что видим, это то, что ИИ научили подражать человеческому письму/рисованию, при этом на самых простых вводных. Он как необычайно эрудированный шизофреник, что ли. Может ли такой шизофреник продвинуть науку без помощи "кожаных мешков" — вопрос риторический. Но даже продвинув науку, откуда такая уверенность, что андроид, изобретенный ИИ, будет экономически конкурентным человеку? Эффект конвейера тут не сработает ни в каком разумном приближении.
rm2>у него может быть такое что мы даже себе представить не можем. Полностью ачеловечная и агуманная мораль. Разделка и фаршировка сапиенсов не медленно, как в каком нибудь терминаторе — а как на наших фабриках убоя высокой производительности — деловито, быстро, на станках, и крайне эффективно.
Вот зачем ему это будет нужно? Не, если ты представляешь АИ как рептилоидов с альфы кентавроы, то может быть всё, что угодно.
Но речь же не о безумных фантазиях, а об АИ, который создадут люди, вот эти самые гомосапиенсы, а соответственно он будет основываться на наших гомосапиенсовых представлениях о мире.
rm2>мы к сожалению слишком в близких отношениях с АИ. Это наш продукт так сказать. Поэтому не будет такой естественной сепарации и параллельного существования, как у нас с муравьями.
Это в каких таких близких отношениях с АИ?
Конфликт между видами живности возникает только если на одном поле и питаются одним и тем же.
Здравствуйте, Vzhyk2, Вы писали:
V>Но речь же не о безумных фантазиях, а об АИ, который создадут люди, вот эти самые гомосапиенсы, а соответственно он будет основываться на наших гомосапиенсовых представлениях о мире.
Это вряд ли. Первые то модели да, а дальше когда он в саморазвитие уйдет — там все что хочешь может быть. Плюс, насколько я понимаю — разработчики уже до конца не понимают, как количество превращается в качество, и что там внутри происходит в этих моделях.
V>Конфликт между видами живности возникает только если на одном поле и питаются одним и тем же.
Ну так мы и существуем в виде доминирующего вида на одной планете.
rm2>Это вряд ли. Первые то модели да, а дальше когда он в саморазвитие уйдет — там все что хочешь может быть. Плюс, насколько я понимаю — разработчики уже до конца не понимают, как количество превращается в качество, и что там внутри происходит в этих моделях.
Всякие саморазвития опустим. Если же речь о самообучении, то самообучаться он будет среди людей и всего людей окружающего. Так что в этой среде он обучится на те же модели, что и человек. Возможно, если продолжит самообучение, то превратиться в нового сверхчеловека.
Но для самообучения ему нужна целевая функция так или иначе.
А супер-пупер умные люди так до сих пор толком не разобрались со своей целевой функцией. По сути все что мы о ней знаем, эта функция ничем не отличается от этой функции у других видов живности — размножаться и засерать собой всё, что можешь вокруг.
rm2>Ну так мы и существуем в виде доминирующего вида на одной планете.
Как когда-то динозавры. Доминирующих видов на планете было стадами и все они со временем заменялись другими доминирующими.
Здравствуйте, Nuzhny, Вы писали: N>Боюсь, что тут будет обратный процесс: пытаясь выдать себя за человека, они станут им — отупеют.
да не, рабочая схема
Здравствуйте, Nuzhny, Вы писали:
N>>Наверняка что то такое разрабатывается, но судя по всему успехи отсутствуют? N>Конечно разрабатывается, называется AGI. Проводятся конференции, вкладывается много денег. Успехи присутствуют, тот же GPT — это оттуда же.
Самое интересное и одновременно пугающее это то что AGI относительно недолго будет, собственно, AGI. Практически сразу ASI появится а дальше уже туман.
. Вот и критерий. 
