Здравствуйте, Sinclair, Вы писали:
Так возможно понять, что под сингулярностью подразумевается непревзойденная умность машины? А вот импровизация на контробассе в джазе, это умно? Если гениально, допустим вариация на 24 каприз паганини ?

S>Здравствуйте, Ромашка, Вы писали:
Р>>Ну я же написал почему... Потому что 42. Любой ИИ выше человеческих способностей будет неадекватен человекам. Мы просто не поймем, что он работает. Поэтому либо очень узкое применение, как в описанных случаях, либо максимум человеческий уровень. Сингулярности ИИ не будет.
S>Вот тут вопрос очень интересный. С одной стороны, проверить сильный ИИ мы сможем. Это как с NP-полнотой или вычислимостью: у нас есть достаточно большой класс задач, в которых найти решение гораздо сложнее, чем проверить. Даём ИИ такую задачу, затем проверяем решение.
S>Убедившись на нескольких таких задачах в том, что он реально умеет их решать (а не просто генерирует наукообразную чушь, как делают многие лжеучёные или просто отрицатели науки), мы поймём, что интеллект таки работает.
S>Далее — его "суперность" будет связана с тем, что он будет находить решения быстрее любого человека. Причём — заметно быстрее: то есть не на 10% быстрее проходить тест Айзенка, а, скажем, в 10 или 100 раз быстрее.
S>Плюс отсутствие когнитивных ограничений вроде "не более 7+-2 сущностей на каждом уровне рассуждений".
Сложно что-то тут возразить, или поддержать. Как IQ вообще с мышлением связан ? А никак ... Кроме того, решение NP-полных задач также не является собственно признаком сингулярности. Это я так понял, что ИИ станет "умнее" человека, равно как и экскаватор сильнее человека.

S>Дальше возникают два различных пути развития: в одном мы применяем эти суперспособности к чему-то простому, типа составления расписаний или управления автомобилем. То есть — узкоспециализированное применение универсального интеллекта.
S>Во втором — мы тренируем этот ИИ для построения ИИ. Это как раз выглядит одной из тех самых "сложных проблем", которые люди пока что решают не очень хорошо.
S>Сильный ИИ второго поколения может превосходить сильный ИИ первого поколения примерно настолько же, насколько ИИ первого поколения превзойдёт людей.
Пока у ИИ нет своего языка, это врядли можно считать расчетами интеллектуальными, этакая аппроксимация на кофейной гуще. Векторизация слов вообще методика слабо напоминающая интеллектуальные системы. Вы обсуждаете не интеллект, а вычислительные машины, и способность их что-то посчитать лучше человека. НУ логика ясна, но это не об ИИ. ни о первом, ни о втором порядке.

S>Вот тут уже будет сложно — далеко не факт, что мы сможем за разумное время провести проверку этого ИИ второго поколения. Ведь он будет проектироваться так, чтобы его проверял ИИ первого поколения, который на порядок умнее нас .
Вот тут уже начинаются интересности. если оставить это "умнее", то проверить вычислительные системы построенные другими вычислительными системами, могут построенные вычислительными системами вычислительные системы для тестирования. Я уже предлагаю гораздо более широкий сегмент покрытия проверками путей следования развития ИИ, причем именно уже ИИ, со своим языком. Т.к стейт той-же нейронки таки можно будет читать в языке, да ЧИТАТЬ, способы есть.

S>И в итоге возникает вопрос: а что делать с этим недопроверенным ИИ2?
Я вот по аналогии логик первого и второго порядка могу спросить, для чего логика развивается понятно. Что такого произведенного одним ИИ ИИ2 должен привнести ? Есть подозрение, что ИИ первого порядка вас не устраивает по каким либо причинам. Это причина создание его человеком ? Вы заранее задаете цель устранение недостатков естественного интеллекта вычислительными системами. Ну,

S>1. Давайте заведём управление всеми mission-critical вещами на этот интеллект и его клонов: то есть, к примеру, прогнозирование и отслеживание погоды, с возможностью оперативно глушить инфраструктурные объекты типа электростанций или нефтеплатформ, организовывая оптимальную эвакуацию персонала и т.п.
S>Риск: мы даём ИИ2 полномочия мирового правительства, полагаясь на его компетентность. А что, если в нём баг в системе оптимизации, и он поведёт себя, как сбойнувший GPS-навигатор?
S>А что, если у него баг в критериях оптимальности, и он примет решения вроде "ограничить рост населения при помощи распространения наркоты, подавляющей репродуктивную функцию"? Сможем ли мы вообще понять, что происходит, до того, как будет поздно? Он же будет продавливать какие-то мелкие локальные решения, каждое из которых вроде бы не имеет никаких последствий.

Странно )) т.е. подрывающиеся градиенты для вас не показатель опасности? Кажется этаким пустячком? Это фундаментальная проблема рекуррентных нейронных сетей, да и вообще в целом рекуррентных алгоритмов в НЛП системах. (а, честно все, что до сих пор происходило, это не ИИ, это навороченные вычислительные алгоритмы)
А отсюда непредсказуемость вычислительных процессов, и это не баг, это нечто иное, и даже не расхождение нейронки. Есть пороговые пределы развития технологий. Вот нейронки в таких видах, по моему мнению устарели, если только уже кто-то не написал язык для ИИ, в котором можно четко логически формулировать задачи и получать ответы, которые групповой человеческий интеллект прочитает аж бегом. Как ? А вот так .. запустим как и векторизацию слов — чисто коллективный труд.

S>2. Давайте сделаем его советчиком для управления всеми mission-critical вещами. То есть напрямую он отдавать команды не будет, а будет сообщать "оператору" об опасных ситуациях и давать ему советы, как их избежать?
S>Сочетаем недостатки первого способа с замедлением реагирования. Типа ИИ2 такой "чуваки, на нас летит астероид, надо эвакуировать всю австралию в Сибирь и северную Африку". И у нас там на две недели дебаты "а нельзя ли его сбить", "а почему Сибирь — мы хотим в Калифорнию", "да нафига вы нам тут в Калифорнии нужны" и всё такое. Команды лучших учёных и инженеров по всему миру лихораддочно пытаются найти ошибку в решениях ИИ, или придумать альтернативное решение.
)) мысленные эксперименты на выдуманных примерах, не есть подходящее тестирование. Хотите мысленный эксперимент ..давайте Uber. И инфраструктурные объекты, и модифицированный ирония судьбы )) А че нам ) это же АИ.
Женя нового бота, притащила домой проинсталлила и решила заказать с его помощью Uber такси. Сказала так


S>2. Давайте сделаем этого ИИ2 "советчик советчиков". То есть он типа будет помогать учоным и инженерам строить модели, а они уже будут публиковать или не публиковать их, исходя из своих этических представлений. А дальше будем барахтаться как и сейчас — рулить при принятии решений будут коррупция, тупость, лень, и прочие достоинства естественного интеллекта.
Вы уверены, что в курсе как работает наш интеллект ? Быть может тупость и лень, как раз спасает от безумия при решении сложных задач моделирования, импровизации (вот не могу не притащить сюда это слово) именно математическая импровизация, и никак по другому решение таких задач назвать не могу, построение архитектуры, написание языков, все это — интуитивный импровизационный интеллект до которого ржавым ведрам, аля нейронки пока столько топать, нет формализованных признаков решения .. ) Отсюда нет формаолизованных признаков развития его .. и критериев принятия решения соответственно.

S>Фактически, это опять "у нас тут есть экскаватор, но т.к. мы пока не понимаем всех его последствий, копать яму будем по-прежнему мотыгой".
А может летать будем в "космос " в интеллектуальный космос ..? Или как на ферари ... или формула 4. Я думаю нормально все будет с ИИ. )) никакой сингулярности, это-же просто бомбезно ) не ощущаете ..?

П.С. Я почувствовал некоторую даже ненависть к позициям отрицатели науки, так это-же диалектика, надо просто растолковать людям как и где ее применять, в ИИ диалектика слишком дорога и неприменима. И тут к вам получилось нечто логика лок фри, когда один поток помагает доделать работу второму потоку, мы смэтчились (экскаватор и т.д). Но в целом есть некая усовершенствованная как оказалось доктрина Хомского. Есть ощущение, что язык движимый человечеством в целом обладает некоторой интуитивной полнотой, откуда можно черпать более тонкие связи своего рода датамайнинг.

Вообще наиболее практически применимое и даже с коммерческим применением есть — предметно ориентированные нейронки. могу по степам рассказать, что именно надо сделать, чтобы сделать первые шаги по добавлению такого свойства интеллекта как язык.
Что касается псевдонаучности в генерации, генеративные грамматики и способы генерации тектов уже с помощью ботов не вызывает интереса, собственно для NLP сами чат боты не есть нечто интересное, так просто бла бла, да поиск

Здравствуйте, Sinclair, Вы писали:
Так возможно понять, что под сингулярностью подразумевается непревзойденная умность машины? А вот импровизация на контробассе в джазе, это умно? Если гениально, допустим вариация на 24 каприз паганини ?

S>Здравствуйте, Ромашка, Вы писали:
Р>>Ну я же написал почему... Потому что 42. Любой ИИ выше человеческих способностей будет неадекватен человекам. Мы просто не поймем, что он работает. Поэтому либо очень узкое применение, как в описанных случаях, либо максимум человеческий уровень. Сингулярности ИИ не будет.
S>Вот тут вопрос очень интересный. С одной стороны, проверить сильный ИИ мы сможем. Это как с NP-полнотой или вычислимостью: у нас есть достаточно большой класс задач, в которых найти решение гораздо сложнее, чем проверить. Даём ИИ такую задачу, затем проверяем решение.
S>Убедившись на нескольких таких задачах в том, что он реально умеет их решать (а не просто генерирует наукообразную чушь, как делают многие лжеучёные или просто отрицатели науки), мы поймём, что интеллект таки работает.
S>Далее — его "суперность" будет связана с тем, что он будет находить решения быстрее любого человека. Причём — заметно быстрее: то есть не на 10% быстрее проходить тест Айзенка, а, скажем, в 10 или 100 раз быстрее.
S>Плюс отсутствие когнитивных ограничений вроде "не более 7+-2 сущностей на каждом уровне рассуждений".
Сложно что-то тут возразить, или поддержать. Как IQ вообще с мышлением связан ? А никак ... Кроме того, решение NP-полных задач также не является собственно признаком сингулярности. Это я так понял, что ИИ станет "умнее" человека, равно как и экскаватор сильнее человека.

S>Дальше возникают два различных пути развития: в одном мы применяем эти суперспособности к чему-то простому, типа составления расписаний или управления автомобилем. То есть — узкоспециализированное применение универсального интеллекта.
S>Во втором — мы тренируем этот ИИ для построения ИИ. Это как раз выглядит одной из тех самых "сложных проблем", которые люди пока что решают не очень хорошо.
S>Сильный ИИ второго поколения может превосходить сильный ИИ первого поколения примерно настолько же, насколько ИИ первого поколения превзойдёт людей.
Пока у ИИ нет своего языка, это врядли можно считать расчетами интеллектуальными, этакая аппроксимация на кофейной гуще. Векторизация слов вообще методика слабо напоминающая интеллектуальные системы. Вы обсуждаете не интеллект, а вычислительные машины, и способность их что-то посчитать лучше человека. НУ логика ясна, но это не об ИИ. ни о первом, ни о втором порядке.

S>Вот тут уже будет сложно — далеко не факт, что мы сможем за разумное время провести проверку этого ИИ второго поколения. Ведь он будет проектироваться так, чтобы его проверял ИИ первого поколения, который на порядок умнее нас .
Вот тут уже начинаются интересности. если оставить это "умнее", то проверить вычислительные системы построенные другими вычислительными системами, могут построенные вычислительными системами вычислительные системы для тестирования. Я уже предлагаю гораздо более широкий сегмент покрытия проверками путей следования развития ИИ, причем именно уже ИИ, со своим языком. Т.к стейт той-же нейронки таки можно будет читать в языке, да ЧИТАТЬ, способы есть.

S>И в итоге возникает вопрос: а что делать с этим недопроверенным ИИ2?
Я вот по аналогии логик первого и второго порядка могу спросить, для чего логика развивается понятно. Что такого произведенного одним ИИ ИИ2 должен привнести ? Есть подозрение, что ИИ первого порядка вас не устраивает по каким либо причинам. Это причина создание его человеком ? Вы заранее задаете цель устранение недостатков естественного интеллекта вычислительными системами. Ну,

S>1. Давайте заведём управление всеми mission-critical вещами на этот интеллект и его клонов: то есть, к примеру, прогнозирование и отслеживание погоды, с возможностью оперативно глушить инфраструктурные объекты типа электростанций или нефтеплатформ, организовывая оптимальную эвакуацию персонала и т.п.
S>Риск: мы даём ИИ2 полномочия мирового правительства, полагаясь на его компетентность. А что, если в нём баг в системе оптимизации, и он поведёт себя, как сбойнувший GPS-навигатор?
S>А что, если у него баг в критериях оптимальности, и он примет решения вроде "ограничить рост населения при помощи распространения наркоты, подавляющей репродуктивную функцию"? Сможем ли мы вообще понять, что происходит, до того, как будет поздно? Он же будет продавливать какие-то мелкие локальные решения, каждое из которых вроде бы не имеет никаких последствий.

Странно )) т.е. подрывающиеся градиенты для вас не показатель опасности? Кажется этаким пустячком? Это фундаментальная проблема рекуррентных нейронных сетей, да и вообще в целом рекуррентных алгоритмов в НЛП системах. (а, честно все, что до сих пор происходило, это не ИИ, это навороченные вычислительные алгоритмы)
А отсюда непредсказуемость вычислительных процессов, и это не баг, это нечто иное, и даже не расхождение нейронки. Есть пороговые пределы развития технологий. Вот нейронки в таких видах, по моему мнению устарели, если только уже кто-то не написал язык для ИИ, в котором можно четко логически формулировать задачи и получать ответы, которые групповой человеческий интеллект прочитает аж бегом. Как ? А вот так .. запустим как и векторизацию слов — чисто коллективный труд.

S>2. Давайте сделаем его советчиком для управления всеми mission-critical вещами. То есть напрямую он отдавать команды не будет, а будет сообщать "оператору" об опасных ситуациях и давать ему советы, как их избежать?
S>Сочетаем недостатки первого способа с замедлением реагирования. Типа ИИ2 такой "чуваки, на нас летит астероид, надо эвакуировать всю австралию в Сибирь и северную Африку". И у нас там на две недели дебаты "а нельзя ли его сбить", "а почему Сибирь — мы хотим в Калифорнию", "да нафига вы нам тут в Калифорнии нужны" и всё такое. Команды лучших учёных и инженеров по всему миру лихораддочно пытаются найти ошибку в решениях ИИ, или придумать альтернативное решение.
)) мысленные эксперименты на выдуманных примерах, не есть подходящее тестирование. Хотите мысленный эксперимент ..давайте Uber. И инфраструктурные объекты, и модифицированный ирония судьбы )) А че нам ) это же АИ.
Женя нового бота, притащила домой проинсталлила и решила заказать с его помощью Uber такси. Сказала так


S>2. Давайте сделаем этого ИИ2 "советчик советчиков". То есть он типа будет помогать учоным и инженерам строить модели, а они уже будут публиковать или не публиковать их, исходя из своих этических представлений. А дальше будем барахтаться как и сейчас — рулить при принятии решений будут коррупция, тупость, лень, и прочие достоинства естественного интеллекта.
Вы уверены, что в курсе как работает наш интеллект ? Быть может тупость и лень, как раз спасает от безумия при решении сложных задач моделирования, импровизации (вот не могу не притащить сюда это слово) именно математическая импровизация, и никак по другому решение таких задач назвать не могу, построение архитектуры, написание языков, все это — интуитивный импровизационный интеллект до которого ржавым ведрам, аля нейронки пока столько топать, нет формализованных признаков решения .. ) Отсюда нет формаолизованных признаков развития его .. и критериев принятия решения соответственно.

S>Фактически, это опять "у нас тут есть экскаватор, но т.к. мы пока не понимаем всех его последствий, копать яму будем по-прежнему мотыгой".
А может летать будем в "космос " в интеллектуальный космос ..? Или как на ферари ... или формула 4. Я думаю нормально все будет с ИИ. )) никакой сингулярности, это-же просто бомбезно ) не ощущаете ..?

П.С. Я почувствовал некоторую даже ненависть к позициям отрицатели науки, так это-же диалектика, надо просто растолковать людям как и где ее применять, в ИИ диалектика слишком дорога и неприменима. И тут к вам получилось нечто логика лок фри, когда один поток помагает доделать работу второму потоку, мы смэтчились (экскаватор и т.д). Но в целом есть некая усовершенствованная как оказалось доктрина Хомского. Есть ощущение, что язык движимый человечеством в целом обладает некоторой интуитивной полнотой, откуда можно черпать более тонкие связи своего рода датамайнинг.

Вообще наиболее практически применимое и даже с коммерческим применением есть — предметно ориентированные нейронки. могу по степам рассказать, что именно надо сделать, чтобы сделать первые шаги по добавлению такого свойства интеллекта как язык.

Что касается псевдонаучности в генерации, генеративные грамматики и способы генерации текстов уже с помощью ботов не вызывает интереса, собственно для NLP сами чат боты не есть нечто интересное, так просто бла бла, да поиск. Но NLP в мире, это нечто более фундаметальное, тот же сентимент анализ, это совсем другое. Там люди пишут, машины ... люди на машинах — вот видится следующая итерация, после этого можно будет говорить об ИИ