Сообщение Re[8]: AI сингулярность всё ближе от 16.12.2021 11:33
Изменено 16.12.2021 12:08 ботаныч
Re[8]: AI сингулярность всё ближе
Здравствуйте, Sinclair, Вы писали:
S>Здравствуйте, sept_tone, Вы писали:
_>> Так возможно понять, что под сингулярностью подразумевается непревзойденная умность машины? А вот импровизация на контробассе в джазе, это умно? Если гениально, допустим вариация на 24 каприз паганини ?
S>Да, именно непревзойдённая умность машины при решении открытых задач. В частности — джаз-импровизация на контрабасе.
Видите ли композиция вообще не есть задачей, как и импровизация, более того это совсем не формализованная область. Интересно, каким образом ИИ будет понимать, что оно движется в правильном направлении, если понять почему бемша свинг гениально — неформальная задача, от слова совсем. Программы генирирующие ноты в стиле чарли паркера, или Колтрейна под заданную гармонию — вещь примтивная до нельзя, это не умность .., они были еще лет 13 назад. и ничего умнее машина пока теоритически сделать не сможет. есть у меня идея как таки можно что-то попытаться сделать, но то тоже хаккинг, а не фундаментальное понимание. Гармонии, т.к. даже те-же ноты могут быть разными, и человек довольно адаптивно может понимать композицию как таковую, .. причем абсолютно без формальных признаков как таковых.
_>> Сложно что-то тут возразить, или поддержать. Как IQ вообще с мышлением связан? А никак ...
S>Ну, косвенно всё-таки да.
т.е. нет. Мне интересно понять, где вычислительная машина вдруг стала называться интеллектуальной? я вот не помню, чтобы кто спрашивал тест айку для прохождение допустим в ..серьезные так скажем проекты.
S>То есть есть мнение, что мы можем разработать тупой решатель IQ-тестов безо всякого интеллекта, который будет более-менее мгновенно разбирать все эти стандартные задачи.
S>При этом он не сможет решить задачу вроде "летели два крокодила, один зелёный, другой на юг; сколько мне будет лет, если отвинтить контрагайку от пылесоса?"
я думаю, эта задача для NLP системы не сложна. Летающие крокодилы — вертолеты, понятно какие. Один зеленый — норм, второй на Юг, очевидно в этом контексте нужно определить одному цвет — второму направление, никаких противорчий. А лет будет тебе столько в зависимости от того на каком вертолете ты полетишь, и когда его собьют. Собственно какие тут проблемы для NLP задачи ...гораздо сложнее убедить ИИ, что он есть.
S>Но в общем случае, если мы разработаем супер-ИИ, то одним из частных проявлений его превосходства должно быть и решение IQ-тестов.
ну и ладно — непонятная задача, непонятно для чего .. решайте. Только вот ничего убедительного в этом я лично не вижу.
_>>Кроме того, решение NP-полных задач также не является собственно признаком сингулярности. Это я так понял, что ИИ станет "умнее" человека, равно как и экскаватор сильнее человека.
S>NP-полнота является лишь примером того, что не обязательно уметь решать задачу для того, чтобы проверять чужое решение.
ну значит я не совсем понял контекст. "не обязательно уметь, чтобы учить" — известный принцип. Хотя заметил так-же, что уметь все-же лучше, но то у людей, где интуитика развита
_>> Пока у ИИ нет своего языка, это врядли можно считать расчетами интеллектуальными, этакая аппроксимация на кофейной гуще. Векторизация слов вообще методика слабо напоминающая интеллектуальные системы. Вы обсуждаете не интеллект, а вычислительные машины, и способность их что-то посчитать лучше человека. НУ логика ясна, но это не об ИИ. ни о первом, ни о втором порядке.
S>Я не понимаю, какое отношение "свой" или "не свой" язык имеет к интеллекту. Рассуждения о силе ИИ подразумевают, что он будет превосходить ЕИ во всём.
Самое непосредственное, просто признак интеллекта и есть — наличие языка, просто предлагается делать его управляющим, в том числе для решения естесственных задач. NLP, music ..art, финансы, юриспруденция. И вот чем дальше к естесственности, тем сам процесс "превосходства во всем", от жестянки не могущей с уверенностью заключить свое собственное существование )
S>Естественный интеллект способен распознавать естественные и искусственные языки и с разным успехом делать переводы с одного на другой. Векторизация слов — это вообще какая-то частная задача низкого уровня. Вроде "отличать объект от его отражения при анализе визуального сигнала". Речь не о векторизации, а о способности решать открытые задачи.
Вот этот соревновательный запал, он по моему не к месту ))
Но векторизация слов — вещь фундаментальные для nlp ИИ. А наличие языка у самого ИИ и является признаком его интеллекта, почему ? Да потому, что рассуждения построенные сейчас в нейронных вычислениях и так уже можно называть языком с довольно сложным представлением, но которые не применимы к классу задач именно интеллекта. Не айку, не поиска гипотез и доказательств — это задачи вычислительных машин, а не ИИ. Интеллектуальность нечто иное ...
_>> Вот тут уже начинаются интересности. если оставить это "умнее", то проверить вычислительные системы построенные другими вычислительными системами, могут построенные вычислительными системами вычислительные системы для тестирования.
S>Для того, чтобы полагаться на результаты такого тестирования, нужно сначала каким-то образом проверить корректность тестирующих систем.
Вероятно, но мы пользуемся разными средствами, и без тестирования тестирующих систем, ..примерно как нет необходимости вводить лоику выше второго порядка.
S>Классика жанра: допустим, мы разработали автоматический верификатор корректности программ. Чтобы быть уверенным, что он никогда не принимает некорректную программу за корректную, нам нужно уметь доказывать корректность самого верификатора.
Так в ИИ разработка сейчас идет сршенно другими методиками. Доказательные языки одно из перспективных направлений, могущих серьезно повлиять на ИИ. Если мне правильно видится, то аджоинтизированные языки начнутся именно отсюда.
S>Допустим, мы делаем это, запуская верификатор на самом себе. Если он сообщает об ошибке, то в нём определённо есть баг: либо он верно нашёл ошибку в своём коде (и просто она не "сработала" при анализе на самом себе), либо он не смог найти реальную ошибку, но неверно опроверг корректность какого-то корректного фрагмента.
S>А вот если он сообщает о том, что ошибки нет, то он запросто может содержать ошибку — в частности такую, которая не даёт ему найти именно эту ошибку в своём коде.
Все таки мы немного о разном говорим.
1. меня заинтересовала тема сингулярности, не потому что вы с какого-то мотива решили, что умение доказывать теоремы и есть умность. Она заинтересовала меня именно потому, что современная логика требует ретроспективного, или дедуктивного, или как аджоинт в реверс моде, коррекции я бы так сказал. А это временные движения, т.е. анализируется то, что было. Причем довольно интересно ..вот вы говорите низкий уровыень, да мне просто известен практически весь стек, потому я и рассуждаю с точки зрения реального ИИ, и реального языки для ИИ (NLP), могу и контору, и язык назвать.
2. Мы начали запускать логику процесса во все стороны, именно во времени. Ткскть концепция временных скачков от forward в reverse, т.е. со степенью свободы во времени большей чем человек может позволить своему телу. Но алгоритмически мы уже думаем в разных направлениях, что несказанно преобразовало видимость процесса собственно "мышления", вот о чем я подумал кинувшись на эту тему. А дискуссий .. как-то они все неплодотворны.
_>>Я уже предлагаю гораздо более широкий сегмент покрытия проверками путей следования развития ИИ, причем именно уже ИИ, со своим языком. Т.к стейт той-же нейронки таки можно будет читать в языке, да ЧИТАТЬ, способы есть.
S>ИИ не эквивалентен "нейронкам". Почему вы думаете, что сингулярность (построение сильного ИИ) будет хоть как-то связана с нейронками?
я знаю штук несколько разных архитектур для ИИ, и безнейронные в том числе ( там где писал один язык для ИИ) (и сейчас думаю второй, вернее думаю систему). Так, что тут как говорится я не знаю, что вы подразумеваете думаете за ИИ .. но пока я не совсем определился. Со своей стороны я указывал прецендентарное можно даже прочитать, прецендент развала ИИ свойственен и нейронно ориентированным NLP системам, как и грамматико ориентированным. Причем, вот роботы в разработке участвуют уже давно, роботизированные генераторы так точно, можно считать это участием одного ИИ в разработке второго?
_>> Я вот по аналогии логик первого и второго порядка могу спросить, для чего логика развивается понятно. Что такого произведенного одним ИИ ИИ2 должен привнести?
S>Должен решать ещё более широкий класс задач, и ещё быстрее, чем ИИ1.
Даже если задачи нет?
_>>Есть подозрение, что ИИ первого порядка вас не устраивает по каким либо причинам. Это причина создание его человеком?
S>Эмм, ход рассуждений у нас такой: либо у нас существует точный верхний предел "мощности ИИ", либо его не существует.
S>Если предел существует, то мы рано или поздно построим ИИ, мощность которого равна этому верхнему пределу, и совершенствовать его будет уже некуда. Доказать существование такого предела пока что не представляется возможным, поэтому дальнейшие рассуждения мы делаем в предположении о том, что для любого интеллекта ИИ1 может существовать превосходящий его ИИ2.
Т.е. формальных параметров посчитать, по каким же критериям оценивается "превосходящий" нет, а превосходство таки есть.
S>Если у нас есть способ построить ИИ2 без помощи ИИ, то мы можем просто выбросить ИИ1 из рассуждения как неинтересный.
S>За ИИ1 мы просто обозначим тот максимально мощный ИИ, который мы способны самостоятельно построить в пределах отведённых нам ресурсов.
S>И тогда логичным следующим шагом будет привлечение этого ИИ1 к проектированию ИИ2 — ведь он превосходит нас в любой открытой задаче. В частности, и в проектировании ИИ тоже.
_>> Странно )) т.е. подрывающиеся градиенты для вас не показатель опасности? Кажется этаким пустячком? Это фундаментальная проблема рекуррентных нейронных сетей, да и вообще в целом рекуррентных алгоритмов в НЛП системах. (а, честно все, что до сих пор происходило, это не ИИ, это навороченные вычислительные алгоритмы)
S>Вы опять смотрите в какие-то низкоуровневые подробности. Почему вы думаете, что ИИ-сингулярность будет сводиться к рекуррентным алгоритмам в NLP-системах?
Это просто опять вы с чего-то решили, что я подразумеваю только нейронки.
S>С точки зрения естественных наук, то, что происходит в человеческом мозгу — это не интеллект, а навороченные вычислительные алгоритмы. Нет никаких признаков того, что в мозгу работает какая-то другая математика, чем в Машине Тьюринга.
Я, знаете, не хочу скатываться в соревнования и определение того, как думает мозг .. или человек. А тем паче, что лучше, что хуже .. это контрпродуктивно. Меня волнует процессинг, и какая другая математика ? Математика она вообще уже сама по себе везде — другая, как и всегда в науке. Одному линейную алгебру и численные методы надо знать идеально, а второму грамматики, теорию алгоритмов и квантовый исчисления И оба в АИ.. Кстати, вот как раз тут и есть о чем поговорить в архитектуре принятия решения при достижении пороговых переходов, уже очень напоминает статус "неопределенности".
_>> )) мысленные эксперименты на выдуманных примерах, не есть подходящее тестирование.
S>Пока что мы не проводим никакое тестирование. Мы только рассуждаем о том, как можно было бы такое тестирование организовать.
Это вы не проводите, а мы рельсы уже пишем для определения развития ИИ, понимания где мы находимся, в )) интересном стиле. Ах да, есть еще сильные утверждения, и логика которая используется для построения рассуждающего в языке ИИ, вернее могущий передавать и получать управление на языке.
_>>Хотите мысленный эксперимент ..давайте Uber. И инфраструктурные объекты, и модифицированный ирония судьбы )) А че нам ) это же АИ.
_>>Женя нового бота, притащила домой проинсталлила и решила заказать с его помощью Uber такси. Сказала так
S>И что?
Я не дописал сорри ) позже ..
S>У меня есть упрощённая модель работы нашего интеллекта. Но это совершенно неважно — модель может быть любой, не только той, которую мысленно представил себе я.
S>А вы опять сваливаетесь в обсуждение нейронок и их ограничений.
"Аля" означает как раз таки не только нейронки ..
_>> А может летать будем в "космос " в интеллектуальный космос ..? Или как на ферари ... или формула 4. Я думаю нормально все будет с ИИ. )) никакой сингулярности, это-же просто бомбезно ) не ощущаете ..?
S>Я тоже думаю, что с ИИ всё будет нормально. Вопрос только в том — а как мы, люди, будем с этим ИИ взаимодействовать?
Да также как и сейчас с компиляторами )) он умный, жежь. Иногда и понять, что хочет сложно .. но всегда возможно. Ну, а дальше все как в software, single responsibility ну и дальше по тексту. Коллективный АИ запустим
S>Это же в некотором смысле гораздо хуже культурного шока при встрече каких-нибудь дикарей с цивилизованным человеком.
S>Потому что дикарь может непосредственно наблюдать практическое превосходство цивилизации — просто посмотрев на артефакты, произведённые в цивилизации. Ну, то есть понятно, что дикарь, возможно, владеет некоторыми навыками, которых у конкретного цивилизованного человека нет — но цивилизованный человек выигрывает за счёт более совершенных моделей мира. Допустим, дикарь умеет ловко поймать рыбу при помощи дротика, чего не сможет цивилизованный человек. Но цивилизованный человек может понять, как это сделал дикарь. Зато дикарь не в курсе, к примеру, принципа работы безынерционной катушки — при помощи которой цивилизованный человек забрасывает спиннинг дальше, чем долетит любой дротик дикаря. А если такой способ рыбной ловли не выиграет — выиграет бросок динамита в водоём. Дикарю, чтобы понять принцип работы динамита, придётся осваивать физику и химию, которые гораздо сложнее, чем его бытовые представления об устройстве мира.
S>Но при этом у дикаря есть хотя бы уверенность в том, что он на это способен — у него такой же мозг, как у цивилизованного человека. Если отправить дикаря в школу, университет, и научную лабораторию, он добьётся сопоставимых результатов — именно потому, что инструмент у него такой же.
S>А когда мы говорим про супер-ИИ, то мы говорим о другом инструменте. Есть шанс, что разработанные таким ИИ теории будут понятны человеку. Но гарантии — нет.
S>Мы можем оказаться в положении тех самых дикарей, которые научились пользоваться спичками и динамитом, на уровне "вот тут чиркать, вот сюда подносить, вот это нельзя трясти и ронять".
S>Но при этом обученный таким способом дикарь не сможет сам изготовить ни спички, ни динамит. И даже если его научить изготавливать то и другое (там, в конце концов, технология не шибко запредельная), то он не сможет сам придумывать новые аналоги тех же спичек и динамита.
S>И вот мы, при общении с таким ИИ, можем упереться в то, что мы получаем какие-то рецепты, решения задач, при этом не просто не понимая, как эти решения получены, но будучи лишены даже надежды это понять. По причинам нашей интеллектуальной ограниченности.
Коллективный разум никто не отменял, мы часто так код пишем, причем часто куда сложнее нашего понимания о нем, бывает ведь. Главное функторы иметь для беготни между категоиями, и трансляторы .. 2 лярда человек смогут понять примерно упрощенные формы. Но и вообще не беда ведь. Я сижу на стуле на своей простите кхм, и полностью об устройстве этой части своего организма даже не догадываюсь ))
Но вообще, Вы, Sinclair интересный человек. Вот в то, что человек таки сможет наработать практики, и будет понимать, что происходит в ИИ не верите, переживаете. А в то, что эти же люди от балды наколбасили веса, входные параметры, прикутили аджоинт повыносили возможность настраивать нейроны .. и все от балды, и оно заработает (я не имею в виду формальные системы в которых и так относительно просто читать), и будет работать превзойдя на порядки человека — верите. А еще верите в то, что человеческий мозг прост, ну а как вы даже думаете, что мир прост. Это правда интересно, сразу почему-то Булгаков вспомниился .. на Патриаржих прудах
_>>Вообще наиболее практически применимое и даже с коммерческим применением есть — предметно ориентированные нейронки. могу по степам рассказать, что именно надо сделать, чтобы сделать первые шаги по добавлению такого свойства интеллекта как язык.
S>Если вас интересуют практические, а не философские вопросы, то надо и заниматься практикой, а не философией. Show me the code. Не рассказывайте мне про первые шаги — просто сделайте эти шаги, и покажите результат.
вообще, я беслатно уже показал результат — есть доказанный факт подрыва 1.5 метрового выражения (энтити), 30 символьной рандомной строкой ..я писал — там где-то ниже. в других тредах, это относится не только к нейронкам, т.к. прецендент был именно на безнейронных. (я досканально знаю этот вопрос, т.к. именно я тот компилятор переделывал под наши нужды, достаточно плотно)..вам код показать ) ну есть в опенсорс код аджоинтизации квантлиба, тоже .. "результат".
1. степ нейорнка же как-то связано с аджоинтом, в любом случае.
если брать те-же мат модели в квантлибе, в форварде нейронка учится в реверсе по аджоинту — в общем, то уже действителньто детали.
Я лишь сккзал, что у меня она есть как идея, а их есть у меня и куда я рванусь и как, еще не решил. И бду — ли рваться. Может просто контробас ... )
S>Иначе всё это изоморфно сайтам про "заработок в интернете".
) ну тогда я получал 2800 УЕ, когда за две недели доказал экспоненциальный взрыв. И комплиятор практически переписал, во всяком случае корных частей ..парсеров и т.д. рантайм модели.
сейчас есть идея как делать, пишу же сие разсуждения ради ..интересно.
S>Здравствуйте, sept_tone, Вы писали:
_>> Так возможно понять, что под сингулярностью подразумевается непревзойденная умность машины? А вот импровизация на контробассе в джазе, это умно? Если гениально, допустим вариация на 24 каприз паганини ?
S>Да, именно непревзойдённая умность машины при решении открытых задач. В частности — джаз-импровизация на контрабасе.
Видите ли композиция вообще не есть задачей, как и импровизация, более того это совсем не формализованная область. Интересно, каким образом ИИ будет понимать, что оно движется в правильном направлении, если понять почему бемша свинг гениально — неформальная задача, от слова совсем. Программы генирирующие ноты в стиле чарли паркера, или Колтрейна под заданную гармонию — вещь примтивная до нельзя, это не умность .., они были еще лет 13 назад. и ничего умнее машина пока теоритически сделать не сможет. есть у меня идея как таки можно что-то попытаться сделать, но то тоже хаккинг, а не фундаментальное понимание. Гармонии, т.к. даже те-же ноты могут быть разными, и человек довольно адаптивно может понимать композицию как таковую, .. причем абсолютно без формальных признаков как таковых.
_>> Сложно что-то тут возразить, или поддержать. Как IQ вообще с мышлением связан? А никак ...
S>Ну, косвенно всё-таки да.
т.е. нет. Мне интересно понять, где вычислительная машина вдруг стала называться интеллектуальной? я вот не помню, чтобы кто спрашивал тест айку для прохождение допустим в ..серьезные так скажем проекты.
S>То есть есть мнение, что мы можем разработать тупой решатель IQ-тестов безо всякого интеллекта, который будет более-менее мгновенно разбирать все эти стандартные задачи.
S>При этом он не сможет решить задачу вроде "летели два крокодила, один зелёный, другой на юг; сколько мне будет лет, если отвинтить контрагайку от пылесоса?"
я думаю, эта задача для NLP системы не сложна. Летающие крокодилы — вертолеты, понятно какие. Один зеленый — норм, второй на Юг, очевидно в этом контексте нужно определить одному цвет — второму направление, никаких противорчий. А лет будет тебе столько в зависимости от того на каком вертолете ты полетишь, и когда его собьют. Собственно какие тут проблемы для NLP задачи ...гораздо сложнее убедить ИИ, что он есть.
S>Но в общем случае, если мы разработаем супер-ИИ, то одним из частных проявлений его превосходства должно быть и решение IQ-тестов.
ну и ладно — непонятная задача, непонятно для чего .. решайте. Только вот ничего убедительного в этом я лично не вижу.
_>>Кроме того, решение NP-полных задач также не является собственно признаком сингулярности. Это я так понял, что ИИ станет "умнее" человека, равно как и экскаватор сильнее человека.
S>NP-полнота является лишь примером того, что не обязательно уметь решать задачу для того, чтобы проверять чужое решение.
ну значит я не совсем понял контекст. "не обязательно уметь, чтобы учить" — известный принцип. Хотя заметил так-же, что уметь все-же лучше, но то у людей, где интуитика развита
_>> Пока у ИИ нет своего языка, это врядли можно считать расчетами интеллектуальными, этакая аппроксимация на кофейной гуще. Векторизация слов вообще методика слабо напоминающая интеллектуальные системы. Вы обсуждаете не интеллект, а вычислительные машины, и способность их что-то посчитать лучше человека. НУ логика ясна, но это не об ИИ. ни о первом, ни о втором порядке.
S>Я не понимаю, какое отношение "свой" или "не свой" язык имеет к интеллекту. Рассуждения о силе ИИ подразумевают, что он будет превосходить ЕИ во всём.
Самое непосредственное, просто признак интеллекта и есть — наличие языка, просто предлагается делать его управляющим, в том числе для решения естесственных задач. NLP, music ..art, финансы, юриспруденция. И вот чем дальше к естесственности, тем сам процесс "превосходства во всем", от жестянки не могущей с уверенностью заключить свое собственное существование )
S>Естественный интеллект способен распознавать естественные и искусственные языки и с разным успехом делать переводы с одного на другой. Векторизация слов — это вообще какая-то частная задача низкого уровня. Вроде "отличать объект от его отражения при анализе визуального сигнала". Речь не о векторизации, а о способности решать открытые задачи.
Вот этот соревновательный запал, он по моему не к месту ))
Но векторизация слов — вещь фундаментальные для nlp ИИ. А наличие языка у самого ИИ и является признаком его интеллекта, почему ? Да потому, что рассуждения построенные сейчас в нейронных вычислениях и так уже можно называть языком с довольно сложным представлением, но которые не применимы к классу задач именно интеллекта. Не айку, не поиска гипотез и доказательств — это задачи вычислительных машин, а не ИИ. Интеллектуальность нечто иное ...
_>> Вот тут уже начинаются интересности. если оставить это "умнее", то проверить вычислительные системы построенные другими вычислительными системами, могут построенные вычислительными системами вычислительные системы для тестирования.
S>Для того, чтобы полагаться на результаты такого тестирования, нужно сначала каким-то образом проверить корректность тестирующих систем.
Вероятно, но мы пользуемся разными средствами, и без тестирования тестирующих систем, ..примерно как нет необходимости вводить лоику выше второго порядка.
S>Классика жанра: допустим, мы разработали автоматический верификатор корректности программ. Чтобы быть уверенным, что он никогда не принимает некорректную программу за корректную, нам нужно уметь доказывать корректность самого верификатора.
Так в ИИ разработка сейчас идет сршенно другими методиками. Доказательные языки одно из перспективных направлений, могущих серьезно повлиять на ИИ. Если мне правильно видится, то аджоинтизированные языки начнутся именно отсюда.
S>Допустим, мы делаем это, запуская верификатор на самом себе. Если он сообщает об ошибке, то в нём определённо есть баг: либо он верно нашёл ошибку в своём коде (и просто она не "сработала" при анализе на самом себе), либо он не смог найти реальную ошибку, но неверно опроверг корректность какого-то корректного фрагмента.
S>А вот если он сообщает о том, что ошибки нет, то он запросто может содержать ошибку — в частности такую, которая не даёт ему найти именно эту ошибку в своём коде.
Все таки мы немного о разном говорим.
1. меня заинтересовала тема сингулярности, не потому что вы с какого-то мотива решили, что умение доказывать теоремы и есть умность. Она заинтересовала меня именно потому, что современная логика требует ретроспективного, или дедуктивного, или как аджоинт в реверс моде, коррекции я бы так сказал. А это временные движения, т.е. анализируется то, что было. Причем довольно интересно ..вот вы говорите низкий уровыень, да мне просто известен практически весь стек, потому я и рассуждаю с точки зрения реального ИИ, и реального языки для ИИ (NLP), могу и контору, и язык назвать.
2. Мы начали запускать логику процесса во все стороны, именно во времени. Ткскть концепция временных скачков от forward в reverse, т.е. со степенью свободы во времени большей чем человек может позволить своему телу. Но алгоритмически мы уже думаем в разных направлениях, что несказанно преобразовало видимость процесса собственно "мышления", вот о чем я подумал кинувшись на эту тему. А дискуссий .. как-то они все неплодотворны.
_>>Я уже предлагаю гораздо более широкий сегмент покрытия проверками путей следования развития ИИ, причем именно уже ИИ, со своим языком. Т.к стейт той-же нейронки таки можно будет читать в языке, да ЧИТАТЬ, способы есть.
S>ИИ не эквивалентен "нейронкам". Почему вы думаете, что сингулярность (построение сильного ИИ) будет хоть как-то связана с нейронками?
я знаю штук несколько разных архитектур для ИИ, и безнейронные в том числе ( там где писал один язык для ИИ) (и сейчас думаю второй, вернее думаю систему). Так, что тут как говорится я не знаю, что вы подразумеваете думаете за ИИ .. но пока я не совсем определился. Со своей стороны я указывал прецендентарное можно даже прочитать, прецендент развала ИИ свойственен и нейронно ориентированным NLP системам, как и грамматико ориентированным. Причем, вот роботы в разработке участвуют уже давно, роботизированные генераторы так точно, можно считать это участием одного ИИ в разработке второго?
_>> Я вот по аналогии логик первого и второго порядка могу спросить, для чего логика развивается понятно. Что такого произведенного одним ИИ ИИ2 должен привнести?
S>Должен решать ещё более широкий класс задач, и ещё быстрее, чем ИИ1.
Даже если задачи нет?
_>>Есть подозрение, что ИИ первого порядка вас не устраивает по каким либо причинам. Это причина создание его человеком?
S>Эмм, ход рассуждений у нас такой: либо у нас существует точный верхний предел "мощности ИИ", либо его не существует.
S>Если предел существует, то мы рано или поздно построим ИИ, мощность которого равна этому верхнему пределу, и совершенствовать его будет уже некуда. Доказать существование такого предела пока что не представляется возможным, поэтому дальнейшие рассуждения мы делаем в предположении о том, что для любого интеллекта ИИ1 может существовать превосходящий его ИИ2.
Т.е. формальных параметров посчитать, по каким же критериям оценивается "превосходящий" нет, а превосходство таки есть.
S>Если у нас есть способ построить ИИ2 без помощи ИИ, то мы можем просто выбросить ИИ1 из рассуждения как неинтересный.
S>За ИИ1 мы просто обозначим тот максимально мощный ИИ, который мы способны самостоятельно построить в пределах отведённых нам ресурсов.
S>И тогда логичным следующим шагом будет привлечение этого ИИ1 к проектированию ИИ2 — ведь он превосходит нас в любой открытой задаче. В частности, и в проектировании ИИ тоже.
_>> Странно )) т.е. подрывающиеся градиенты для вас не показатель опасности? Кажется этаким пустячком? Это фундаментальная проблема рекуррентных нейронных сетей, да и вообще в целом рекуррентных алгоритмов в НЛП системах. (а, честно все, что до сих пор происходило, это не ИИ, это навороченные вычислительные алгоритмы)
S>Вы опять смотрите в какие-то низкоуровневые подробности. Почему вы думаете, что ИИ-сингулярность будет сводиться к рекуррентным алгоритмам в NLP-системах?
Это просто опять вы с чего-то решили, что я подразумеваю только нейронки.
S>С точки зрения естественных наук, то, что происходит в человеческом мозгу — это не интеллект, а навороченные вычислительные алгоритмы. Нет никаких признаков того, что в мозгу работает какая-то другая математика, чем в Машине Тьюринга.
Я, знаете, не хочу скатываться в соревнования и определение того, как думает мозг .. или человек. А тем паче, что лучше, что хуже .. это контрпродуктивно. Меня волнует процессинг, и какая другая математика ? Математика она вообще уже сама по себе везде — другая, как и всегда в науке. Одному линейную алгебру и численные методы надо знать идеально, а второму грамматики, теорию алгоритмов и квантовый исчисления И оба в АИ.. Кстати, вот как раз тут и есть о чем поговорить в архитектуре принятия решения при достижении пороговых переходов, уже очень напоминает статус "неопределенности".
_>> )) мысленные эксперименты на выдуманных примерах, не есть подходящее тестирование.
S>Пока что мы не проводим никакое тестирование. Мы только рассуждаем о том, как можно было бы такое тестирование организовать.
Это вы не проводите, а мы рельсы уже пишем для определения развития ИИ, понимания где мы находимся, в )) интересном стиле. Ах да, есть еще сильные утверждения, и логика которая используется для построения рассуждающего в языке ИИ, вернее могущий передавать и получать управление на языке.
_>>Хотите мысленный эксперимент ..давайте Uber. И инфраструктурные объекты, и модифицированный ирония судьбы )) А че нам ) это же АИ.
_>>Женя нового бота, притащила домой проинсталлила и решила заказать с его помощью Uber такси. Сказала так
S>И что?
Я не дописал сорри ) позже ..
S>У меня есть упрощённая модель работы нашего интеллекта. Но это совершенно неважно — модель может быть любой, не только той, которую мысленно представил себе я.
S>А вы опять сваливаетесь в обсуждение нейронок и их ограничений.
"Аля" означает как раз таки не только нейронки ..
_>> А может летать будем в "космос " в интеллектуальный космос ..? Или как на ферари ... или формула 4. Я думаю нормально все будет с ИИ. )) никакой сингулярности, это-же просто бомбезно ) не ощущаете ..?
S>Я тоже думаю, что с ИИ всё будет нормально. Вопрос только в том — а как мы, люди, будем с этим ИИ взаимодействовать?
Да также как и сейчас с компиляторами )) он умный, жежь. Иногда и понять, что хочет сложно .. но всегда возможно. Ну, а дальше все как в software, single responsibility ну и дальше по тексту. Коллективный АИ запустим
S>Это же в некотором смысле гораздо хуже культурного шока при встрече каких-нибудь дикарей с цивилизованным человеком.
S>Потому что дикарь может непосредственно наблюдать практическое превосходство цивилизации — просто посмотрев на артефакты, произведённые в цивилизации. Ну, то есть понятно, что дикарь, возможно, владеет некоторыми навыками, которых у конкретного цивилизованного человека нет — но цивилизованный человек выигрывает за счёт более совершенных моделей мира. Допустим, дикарь умеет ловко поймать рыбу при помощи дротика, чего не сможет цивилизованный человек. Но цивилизованный человек может понять, как это сделал дикарь. Зато дикарь не в курсе, к примеру, принципа работы безынерционной катушки — при помощи которой цивилизованный человек забрасывает спиннинг дальше, чем долетит любой дротик дикаря. А если такой способ рыбной ловли не выиграет — выиграет бросок динамита в водоём. Дикарю, чтобы понять принцип работы динамита, придётся осваивать физику и химию, которые гораздо сложнее, чем его бытовые представления об устройстве мира.
S>Но при этом у дикаря есть хотя бы уверенность в том, что он на это способен — у него такой же мозг, как у цивилизованного человека. Если отправить дикаря в школу, университет, и научную лабораторию, он добьётся сопоставимых результатов — именно потому, что инструмент у него такой же.
S>А когда мы говорим про супер-ИИ, то мы говорим о другом инструменте. Есть шанс, что разработанные таким ИИ теории будут понятны человеку. Но гарантии — нет.
S>Мы можем оказаться в положении тех самых дикарей, которые научились пользоваться спичками и динамитом, на уровне "вот тут чиркать, вот сюда подносить, вот это нельзя трясти и ронять".
S>Но при этом обученный таким способом дикарь не сможет сам изготовить ни спички, ни динамит. И даже если его научить изготавливать то и другое (там, в конце концов, технология не шибко запредельная), то он не сможет сам придумывать новые аналоги тех же спичек и динамита.
S>И вот мы, при общении с таким ИИ, можем упереться в то, что мы получаем какие-то рецепты, решения задач, при этом не просто не понимая, как эти решения получены, но будучи лишены даже надежды это понять. По причинам нашей интеллектуальной ограниченности.
Коллективный разум никто не отменял, мы часто так код пишем, причем часто куда сложнее нашего понимания о нем, бывает ведь. Главное функторы иметь для беготни между категоиями, и трансляторы .. 2 лярда человек смогут понять примерно упрощенные формы. Но и вообще не беда ведь. Я сижу на стуле на своей простите кхм, и полностью об устройстве этой части своего организма даже не догадываюсь ))
Но вообще, Вы, Sinclair интересный человек. Вот в то, что человек таки сможет наработать практики, и будет понимать, что происходит в ИИ не верите, переживаете. А в то, что эти же люди от балды наколбасили веса, входные параметры, прикутили аджоинт повыносили возможность настраивать нейроны .. и все от балды, и оно заработает (я не имею в виду формальные системы в которых и так относительно просто читать), и будет работать превзойдя на порядки человека — верите. А еще верите в то, что человеческий мозг прост, ну а как вы даже думаете, что мир прост. Это правда интересно, сразу почему-то Булгаков вспомниился .. на Патриаржих прудах
_>>Вообще наиболее практически применимое и даже с коммерческим применением есть — предметно ориентированные нейронки. могу по степам рассказать, что именно надо сделать, чтобы сделать первые шаги по добавлению такого свойства интеллекта как язык.
S>Если вас интересуют практические, а не философские вопросы, то надо и заниматься практикой, а не философией. Show me the code. Не рассказывайте мне про первые шаги — просто сделайте эти шаги, и покажите результат.
вообще, я беслатно уже показал результат — есть доказанный факт подрыва 1.5 метрового выражения (энтити), 30 символьной рандомной строкой ..я писал — там где-то ниже. в других тредах, это относится не только к нейронкам, т.к. прецендент был именно на безнейронных. (я досканально знаю этот вопрос, т.к. именно я тот компилятор переделывал под наши нужды, достаточно плотно)..вам код показать ) ну есть в опенсорс код аджоинтизации квантлиба, тоже .. "результат".
1. степ нейорнка же как-то связано с аджоинтом, в любом случае.
если брать те-же мат модели в квантлибе, в форварде нейронка учится в реверсе по аджоинту — в общем, то уже действителньто детали.
Я лишь сккзал, что у меня она есть как идея, а их есть у меня и куда я рванусь и как, еще не решил. И бду — ли рваться. Может просто контробас ... )
S>Иначе всё это изоморфно сайтам про "заработок в интернете".
) ну тогда я получал 2800 УЕ, когда за две недели доказал экспоненциальный взрыв. И комплиятор практически переписал, во всяком случае корных частей ..парсеров и т.д. рантайм модели.
сейчас есть идея как делать, пишу же сие разсуждения ради ..интересно.
Re[8]: AI сингулярность всё ближе
Здравствуйте, Sinclair, Вы писали:
S>Здравствуйте, sept_tone, Вы писали:
_>> Так возможно понять, что под сингулярностью подразумевается непревзойденная умность машины? А вот импровизация на контробассе в джазе, это умно? Если гениально, допустим вариация на 24 каприз паганини ?
S>Да, именно непревзойдённая умность машины при решении открытых задач. В частности — джаз-импровизация на контрабасе.
Видите ли композиция вообще не есть задачей, как и импровизация, более того это совсем не формализованная область. Интересно, каким образом ИИ будет понимать, что оно движется в правильном направлении, если понять почему бемша свинг гениально — неформальная задача, от слова совсем. Программы генирирующие ноты в стиле чарли паркера, или Колтрейна под заданную гармонию — вещь примтивная до нельзя, это не умность .., они были еще лет 13 назад. и ничего умнее машина пока теоритически сделать не сможет. есть у меня идея как таки можно что-то попытаться сделать, но то тоже хаккинг, а не фундаментальное понимание. Гармонии, т.к. даже те-же ноты могут быть разными, и человек довольно адаптивно может понимать композицию как таковую, .. причем абсолютно без формальных признаков как таковых.
_>> Сложно что-то тут возразить, или поддержать. Как IQ вообще с мышлением связан? А никак ...
S>Ну, косвенно всё-таки да.
т.е. нет. Мне интересно понять, где вычислительная машина вдруг стала называться интеллектуальной? я вот не помню, чтобы кто спрашивал тест айку для прохождение допустим в ..серьезные так скажем проекты.
S>То есть есть мнение, что мы можем разработать тупой решатель IQ-тестов безо всякого интеллекта, который будет более-менее мгновенно разбирать все эти стандартные задачи.
S>При этом он не сможет решить задачу вроде "летели два крокодила, один зелёный, другой на юг; сколько мне будет лет, если отвинтить контрагайку от пылесоса?"
я думаю, эта задача для NLP системы не сложна. Летающие крокодилы — вертолеты, понятно какие. Один зеленый — норм, второй на Юг, очевидно в этом контексте нужно определить одному цвет — второму направление, никаких противорчий. А лет будет тебе столько в зависимости от того на каком вертолете ты полетишь, и когда его собьют. Собственно какие тут проблемы для NLP задачи ...гораздо сложнее убедить ИИ, что он есть.
S>Но в общем случае, если мы разработаем супер-ИИ, то одним из частных проявлений его превосходства должно быть и решение IQ-тестов.
ну и ладно — непонятная задача, непонятно для чего .. решайте. Только вот ничего убедительного в этом я лично не вижу.
_>>Кроме того, решение NP-полных задач также не является собственно признаком сингулярности. Это я так понял, что ИИ станет "умнее" человека, равно как и экскаватор сильнее человека.
S>NP-полнота является лишь примером того, что не обязательно уметь решать задачу для того, чтобы проверять чужое решение.
ну значит я не совсем понял контекст. "не обязательно уметь, чтобы учить" — известный принцип. Хотя заметил так-же, что уметь все-же лучше, но то у людей, где интуитика развита
_>> Пока у ИИ нет своего языка, это врядли можно считать расчетами интеллектуальными, этакая аппроксимация на кофейной гуще. Векторизация слов вообще методика слабо напоминающая интеллектуальные системы. Вы обсуждаете не интеллект, а вычислительные машины, и способность их что-то посчитать лучше человека. НУ логика ясна, но это не об ИИ. ни о первом, ни о втором порядке.
S>Я не понимаю, какое отношение "свой" или "не свой" язык имеет к интеллекту. Рассуждения о силе ИИ подразумевают, что он будет превосходить ЕИ во всём.
Самое непосредственное, просто признак интеллекта и есть — наличие языка, просто предлагается делать его управляющим, в том числе для решения естесственных задач. NLP, music ..art, финансы, юриспруденция. И вот чем дальше к естесственности, тем сам процесс "превосходства во всем", от жестянки не могущей с уверенностью заключить свое собственное существование )
S>Естественный интеллект способен распознавать естественные и искусственные языки и с разным успехом делать переводы с одного на другой. Векторизация слов — это вообще какая-то частная задача низкого уровня. Вроде "отличать объект от его отражения при анализе визуального сигнала". Речь не о векторизации, а о способности решать открытые задачи.
Вот этот соревновательный запал, он по моему не к месту ))
Но векторизация слов — вещь фундаментальные для nlp ИИ. А наличие языка у самого ИИ и является признаком его интеллекта, почему ? Да потому, что рассуждения построенные сейчас в нейронных вычислениях и так уже можно называть языком с довольно сложным представлением, но которые не применимы к классу задач именно интеллекта. Не айку, не поиска гипотез и доказательств — это задачи вычислительных машин, а не ИИ. Интеллектуальность нечто иное ...
_>> Вот тут уже начинаются интересности. если оставить это "умнее", то проверить вычислительные системы построенные другими вычислительными системами, могут построенные вычислительными системами вычислительные системы для тестирования.
S>Для того, чтобы полагаться на результаты такого тестирования, нужно сначала каким-то образом проверить корректность тестирующих систем.
Вероятно, но мы пользуемся разными средствами, и без тестирования тестирующих систем, ..примерно как нет необходимости вводить лоику выше второго порядка.
S>Классика жанра: допустим, мы разработали автоматический верификатор корректности программ. Чтобы быть уверенным, что он никогда не принимает некорректную программу за корректную, нам нужно уметь доказывать корректность самого верификатора.
Так в ИИ разработка сейчас идет сршенно другими методиками. Доказательные языки одно из перспективных направлений, могущих серьезно повлиять на ИИ. Если мне правильно видится, то аджоинтизированные языки начнутся именно отсюда.
S>Допустим, мы делаем это, запуская верификатор на самом себе. Если он сообщает об ошибке, то в нём определённо есть баг: либо он верно нашёл ошибку в своём коде (и просто она не "сработала" при анализе на самом себе), либо он не смог найти реальную ошибку, но неверно опроверг корректность какого-то корректного фрагмента.
S>А вот если он сообщает о том, что ошибки нет, то он запросто может содержать ошибку — в частности такую, которая не даёт ему найти именно эту ошибку в своём коде.
Все таки мы немного о разном говорим.
1. меня заинтересовала тема сингулярности, не потому что вы с какого-то мотива решили, что умение доказывать теоремы и есть умность. Она заинтересовала меня именно потому, что современная логика требует ретроспективного, или дедуктивного, или как аджоинт в реверс моде, коррекции я бы так сказал. А это временные движения, т.е. анализируется то, что было. Причем довольно интересно ..вот вы говорите низкий уровыень, да мне просто известен практически весь стек, потому я и рассуждаю с точки зрения реального ИИ, и реального языки для ИИ (NLP), могу и контору, и язык назвать.
2. Мы начали запускать логику процесса во все стороны, именно во времени. Ткскть концепция временных скачков от forward в reverse, т.е. со степенью свободы во времени большей чем человек может позволить своему телу. Но алгоритмически мы уже думаем в разных направлениях, что несказанно преобразовало видимость процесса собственно "мышления", вот о чем я подумал кинувшись на эту тему. А дискуссий .. как-то они все неплодотворны.
_>>Я уже предлагаю гораздо более широкий сегмент покрытия проверками путей следования развития ИИ, причем именно уже ИИ, со своим языком. Т.к стейт той-же нейронки таки можно будет читать в языке, да ЧИТАТЬ, способы есть.
S>ИИ не эквивалентен "нейронкам". Почему вы думаете, что сингулярность (построение сильного ИИ) будет хоть как-то связана с нейронками?
я знаю штук несколько разных архитектур для ИИ, и безнейронные в том числе ( там где писал один язык для ИИ) (и сейчас думаю второй, вернее думаю систему). Так, что тут как говорится я не знаю, что вы подразумеваете думаете за ИИ .. но пока я не совсем определился. Со своей стороны я указывал прецендентарное можно даже прочитать, прецендент развала ИИ свойственен и нейронно ориентированным NLP системам, как и грамматико ориентированным. Причем, вот роботы в разработке участвуют уже давно, роботизированные генераторы так точно, можно считать это участием одного ИИ в разработке второго?
_>> Я вот по аналогии логик первого и второго порядка могу спросить, для чего логика развивается понятно. Что такого произведенного одним ИИ ИИ2 должен привнести?
S>Должен решать ещё более широкий класс задач, и ещё быстрее, чем ИИ1.
Даже если задачи нет?
_>>Есть подозрение, что ИИ первого порядка вас не устраивает по каким либо причинам. Это причина создание его человеком?
S>Эмм, ход рассуждений у нас такой: либо у нас существует точный верхний предел "мощности ИИ", либо его не существует.
S>Если предел существует, то мы рано или поздно построим ИИ, мощность которого равна этому верхнему пределу, и совершенствовать его будет уже некуда. Доказать существование такого предела пока что не представляется возможным, поэтому дальнейшие рассуждения мы делаем в предположении о том, что для любого интеллекта ИИ1 может существовать превосходящий его ИИ2.
Т.е. формальных параметров посчитать, по каким же критериям оценивается "превосходящий" нет, а превосходство таки есть.
S>Если у нас есть способ построить ИИ2 без помощи ИИ, то мы можем просто выбросить ИИ1 из рассуждения как неинтересный.
S>За ИИ1 мы просто обозначим тот максимально мощный ИИ, который мы способны самостоятельно построить в пределах отведённых нам ресурсов.
S>И тогда логичным следующим шагом будет привлечение этого ИИ1 к проектированию ИИ2 — ведь он превосходит нас в любой открытой задаче. В частности, и в проектировании ИИ тоже.
_>> Странно )) т.е. подрывающиеся градиенты для вас не показатель опасности? Кажется этаким пустячком? Это фундаментальная проблема рекуррентных нейронных сетей, да и вообще в целом рекуррентных алгоритмов в НЛП системах. (а, честно все, что до сих пор происходило, это не ИИ, это навороченные вычислительные алгоритмы)
S>Вы опять смотрите в какие-то низкоуровневые подробности. Почему вы думаете, что ИИ-сингулярность будет сводиться к рекуррентным алгоритмам в NLP-системах?
Это просто опять вы с чего-то решили, что я подразумеваю только нейронки.
S>С точки зрения естественных наук, то, что происходит в человеческом мозгу — это не интеллект, а навороченные вычислительные алгоритмы. Нет никаких признаков того, что в мозгу работает какая-то другая математика, чем в Машине Тьюринга.
Я, знаете, не хочу скатываться в соревнования и определение того, как думает мозг .. или человек. А тем паче, что лучше, что хуже .. это контрпродуктивно. Меня волнует процессинг, и какая другая математика ? Математика она вообще уже сама по себе везде — другая, как и всегда в науке. Одному линейную алгебру и численные методы надо знать идеально, а второму грамматики, теорию алгоритмов и квантовый исчисления И оба в АИ.. Кстати, вот как раз тут и есть о чем поговорить в архитектуре принятия решения при достижении пороговых переходов, уже очень напоминает статус "неопределенности".
_>> )) мысленные эксперименты на выдуманных примерах, не есть подходящее тестирование.
S>Пока что мы не проводим никакое тестирование. Мы только рассуждаем о том, как можно было бы такое тестирование организовать.
Это вы не проводите, а мы рельсы уже пишем для определения развития ИИ, понимания где мы находимся, в )) интересном стиле. Ах да, есть еще сильные утверждения, и логика которая используется для построения рассуждающего в языке ИИ, вернее могущий передавать и получать управление на языке.
_>>Хотите мысленный эксперимент ..давайте Uber. И инфраструктурные объекты, и модифицированный ирония судьбы )) А че нам ) это же АИ.
_>>Женя нового бота, притащила домой проинсталлила и решила заказать с его помощью Uber такси. Сказала так
S>И что?
Я не дописал сорри ) позже ..
S>У меня есть упрощённая модель работы нашего интеллекта. Но это совершенно неважно — модель может быть любой, не только той, которую мысленно представил себе я.
S>А вы опять сваливаетесь в обсуждение нейронок и их ограничений.
"Аля" означает как раз таки не только нейронки ..
_>> А может летать будем в "космос " в интеллектуальный космос ..? Или как на ферари ... или формула 4. Я думаю нормально все будет с ИИ. )) никакой сингулярности, это-же просто бомбезно ) не ощущаете ..?
S>Я тоже думаю, что с ИИ всё будет нормально. Вопрос только в том — а как мы, люди, будем с этим ИИ взаимодействовать?
Да также как и сейчас с компиляторами )) он умный, жежь. Иногда и понять, что хочет сложно .. но всегда возможно. Ну, а дальше все как в software, single responsibility ну и дальше по тексту. Коллективный АИ запустим
S>Это же в некотором смысле гораздо хуже культурного шока при встрече каких-нибудь дикарей с цивилизованным человеком.
S>Потому что дикарь может непосредственно наблюдать практическое превосходство цивилизации — просто посмотрев на артефакты, произведённые в цивилизации. Ну, то есть понятно, что дикарь, возможно, владеет некоторыми навыками, которых у конкретного цивилизованного человека нет — но цивилизованный человек выигрывает за счёт более совершенных моделей мира. Допустим, дикарь умеет ловко поймать рыбу при помощи дротика, чего не сможет цивилизованный человек. Но цивилизованный человек может понять, как это сделал дикарь. Зато дикарь не в курсе, к примеру, принципа работы безынерционной катушки — при помощи которой цивилизованный человек забрасывает спиннинг дальше, чем долетит любой дротик дикаря. А если такой способ рыбной ловли не выиграет — выиграет бросок динамита в водоём. Дикарю, чтобы понять принцип работы динамита, придётся осваивать физику и химию, которые гораздо сложнее, чем его бытовые представления об устройстве мира.
S>Но при этом у дикаря есть хотя бы уверенность в том, что он на это способен — у него такой же мозг, как у цивилизованного человека. Если отправить дикаря в школу, университет, и научную лабораторию, он добьётся сопоставимых результатов — именно потому, что инструмент у него такой же.
S>А когда мы говорим про супер-ИИ, то мы говорим о другом инструменте. Есть шанс, что разработанные таким ИИ теории будут понятны человеку. Но гарантии — нет.
S>Мы можем оказаться в положении тех самых дикарей, которые научились пользоваться спичками и динамитом, на уровне "вот тут чиркать, вот сюда подносить, вот это нельзя трясти и ронять".
S>Но при этом обученный таким способом дикарь не сможет сам изготовить ни спички, ни динамит. И даже если его научить изготавливать то и другое (там, в конце концов, технология не шибко запредельная), то он не сможет сам придумывать новые аналоги тех же спичек и динамита.
S>И вот мы, при общении с таким ИИ, можем упереться в то, что мы получаем какие-то рецепты, решения задач, при этом не просто не понимая, как эти решения получены, но будучи лишены даже надежды это понять. По причинам нашей интеллектуальной ограниченности.
Коллективный разум никто не отменял, мы часто так код пишем, причем часто куда сложнее нашего понимания о нем, бывает ведь. Главное функторы иметь для беготни между категоиями, и трансляторы .. 2 лярда человек смогут понять примерно упрощенные формы. Но и вообще не беда ведь. Я сижу на стуле на своей простите кхм, и полностью об устройстве этой части своего организма даже не догадываюсь ))
Но вообще, Вы, Sinclair интересный человек. Вот в то, что человек таки сможет наработать практики, и будет понимать, что происходит в ИИ не верите, переживаете. А в то, что эти же люди от балды наколбасили веса, входные параметры, прикутили аджоинт повыносили возможность настраивать нейроны .. и все от балды, и оно заработает (я не имею в виду формальные системы в которых и так относительно просто читать), и будет работать превзойдя на порядки человека — верите. А еще верите в то, что человеческий мозг прост, ну а как вы даже думаете, что мир прост. Это правда интересно, сразу почему-то Булгаков вспомниился .. на Патриаржих прудах
_>>Вообще наиболее практически применимое и даже с коммерческим применением есть — предметно ориентированные нейронки. могу по степам рассказать, что именно надо сделать, чтобы сделать первые шаги по добавлению такого свойства интеллекта как язык.
S>Если вас интересуют практические, а не философские вопросы, то надо и заниматься практикой, а не философией. Show me the code. Не рассказывайте мне про первые шаги — просто сделайте эти шаги, и покажите результат.
вообще, я беслатно уже показал результат — есть доказанный факт подрыва 1.5 метрового выражения (энтити), 30 символьной рандомной строкой ..я писал — там где-то ниже. в других тредах, это относится не только к нейронкам, т.к. прецендент был именно на безнейронных. (я досканально знаю этот вопрос, т.к. именно я это делал, и тот компилятор переделывал под наши нужды, достаточно плотно)..вам код показать ) ну есть в опенсорс код аджоинтизации квантлиба, тоже .. "результат".
1. степ нейорнка же как-то связано с аджоинтом, в любом случае.
если брать те-же мат модели в квантлибе, в форварде нейронка учится в реверсе по аджоинту — в общем, то уже действителньто детали.
Я лишь сккзал, что у меня она есть как идея, а их есть у меня и куда я рванусь и как, еще не решил. И бду — ли рваться. Может просто контробас ... )
S>Иначе всё это изоморфно сайтам про "заработок в интернете".
) ну тогда я получал 2800 УЕ, когда за две недели доказал экспоненциальный взрыв. И комплиятор практически переписал, во всяком случае корных частей ..парсеров и т.д. рантайм модели.
сейчас есть идея как делать, пишу же сие разсуждения ради ..интересно.
S>Здравствуйте, sept_tone, Вы писали:
_>> Так возможно понять, что под сингулярностью подразумевается непревзойденная умность машины? А вот импровизация на контробассе в джазе, это умно? Если гениально, допустим вариация на 24 каприз паганини ?
S>Да, именно непревзойдённая умность машины при решении открытых задач. В частности — джаз-импровизация на контрабасе.
Видите ли композиция вообще не есть задачей, как и импровизация, более того это совсем не формализованная область. Интересно, каким образом ИИ будет понимать, что оно движется в правильном направлении, если понять почему бемша свинг гениально — неформальная задача, от слова совсем. Программы генирирующие ноты в стиле чарли паркера, или Колтрейна под заданную гармонию — вещь примтивная до нельзя, это не умность .., они были еще лет 13 назад. и ничего умнее машина пока теоритически сделать не сможет. есть у меня идея как таки можно что-то попытаться сделать, но то тоже хаккинг, а не фундаментальное понимание. Гармонии, т.к. даже те-же ноты могут быть разными, и человек довольно адаптивно может понимать композицию как таковую, .. причем абсолютно без формальных признаков как таковых.
_>> Сложно что-то тут возразить, или поддержать. Как IQ вообще с мышлением связан? А никак ...
S>Ну, косвенно всё-таки да.
т.е. нет. Мне интересно понять, где вычислительная машина вдруг стала называться интеллектуальной? я вот не помню, чтобы кто спрашивал тест айку для прохождение допустим в ..серьезные так скажем проекты.
S>То есть есть мнение, что мы можем разработать тупой решатель IQ-тестов безо всякого интеллекта, который будет более-менее мгновенно разбирать все эти стандартные задачи.
S>При этом он не сможет решить задачу вроде "летели два крокодила, один зелёный, другой на юг; сколько мне будет лет, если отвинтить контрагайку от пылесоса?"
я думаю, эта задача для NLP системы не сложна. Летающие крокодилы — вертолеты, понятно какие. Один зеленый — норм, второй на Юг, очевидно в этом контексте нужно определить одному цвет — второму направление, никаких противорчий. А лет будет тебе столько в зависимости от того на каком вертолете ты полетишь, и когда его собьют. Собственно какие тут проблемы для NLP задачи ...гораздо сложнее убедить ИИ, что он есть.
S>Но в общем случае, если мы разработаем супер-ИИ, то одним из частных проявлений его превосходства должно быть и решение IQ-тестов.
ну и ладно — непонятная задача, непонятно для чего .. решайте. Только вот ничего убедительного в этом я лично не вижу.
_>>Кроме того, решение NP-полных задач также не является собственно признаком сингулярности. Это я так понял, что ИИ станет "умнее" человека, равно как и экскаватор сильнее человека.
S>NP-полнота является лишь примером того, что не обязательно уметь решать задачу для того, чтобы проверять чужое решение.
ну значит я не совсем понял контекст. "не обязательно уметь, чтобы учить" — известный принцип. Хотя заметил так-же, что уметь все-же лучше, но то у людей, где интуитика развита
_>> Пока у ИИ нет своего языка, это врядли можно считать расчетами интеллектуальными, этакая аппроксимация на кофейной гуще. Векторизация слов вообще методика слабо напоминающая интеллектуальные системы. Вы обсуждаете не интеллект, а вычислительные машины, и способность их что-то посчитать лучше человека. НУ логика ясна, но это не об ИИ. ни о первом, ни о втором порядке.
S>Я не понимаю, какое отношение "свой" или "не свой" язык имеет к интеллекту. Рассуждения о силе ИИ подразумевают, что он будет превосходить ЕИ во всём.
Самое непосредственное, просто признак интеллекта и есть — наличие языка, просто предлагается делать его управляющим, в том числе для решения естесственных задач. NLP, music ..art, финансы, юриспруденция. И вот чем дальше к естесственности, тем сам процесс "превосходства во всем", от жестянки не могущей с уверенностью заключить свое собственное существование )
S>Естественный интеллект способен распознавать естественные и искусственные языки и с разным успехом делать переводы с одного на другой. Векторизация слов — это вообще какая-то частная задача низкого уровня. Вроде "отличать объект от его отражения при анализе визуального сигнала". Речь не о векторизации, а о способности решать открытые задачи.
Вот этот соревновательный запал, он по моему не к месту ))
Но векторизация слов — вещь фундаментальные для nlp ИИ. А наличие языка у самого ИИ и является признаком его интеллекта, почему ? Да потому, что рассуждения построенные сейчас в нейронных вычислениях и так уже можно называть языком с довольно сложным представлением, но которые не применимы к классу задач именно интеллекта. Не айку, не поиска гипотез и доказательств — это задачи вычислительных машин, а не ИИ. Интеллектуальность нечто иное ...
_>> Вот тут уже начинаются интересности. если оставить это "умнее", то проверить вычислительные системы построенные другими вычислительными системами, могут построенные вычислительными системами вычислительные системы для тестирования.
S>Для того, чтобы полагаться на результаты такого тестирования, нужно сначала каким-то образом проверить корректность тестирующих систем.
Вероятно, но мы пользуемся разными средствами, и без тестирования тестирующих систем, ..примерно как нет необходимости вводить лоику выше второго порядка.
S>Классика жанра: допустим, мы разработали автоматический верификатор корректности программ. Чтобы быть уверенным, что он никогда не принимает некорректную программу за корректную, нам нужно уметь доказывать корректность самого верификатора.
Так в ИИ разработка сейчас идет сршенно другими методиками. Доказательные языки одно из перспективных направлений, могущих серьезно повлиять на ИИ. Если мне правильно видится, то аджоинтизированные языки начнутся именно отсюда.
S>Допустим, мы делаем это, запуская верификатор на самом себе. Если он сообщает об ошибке, то в нём определённо есть баг: либо он верно нашёл ошибку в своём коде (и просто она не "сработала" при анализе на самом себе), либо он не смог найти реальную ошибку, но неверно опроверг корректность какого-то корректного фрагмента.
S>А вот если он сообщает о том, что ошибки нет, то он запросто может содержать ошибку — в частности такую, которая не даёт ему найти именно эту ошибку в своём коде.
Все таки мы немного о разном говорим.
1. меня заинтересовала тема сингулярности, не потому что вы с какого-то мотива решили, что умение доказывать теоремы и есть умность. Она заинтересовала меня именно потому, что современная логика требует ретроспективного, или дедуктивного, или как аджоинт в реверс моде, коррекции я бы так сказал. А это временные движения, т.е. анализируется то, что было. Причем довольно интересно ..вот вы говорите низкий уровыень, да мне просто известен практически весь стек, потому я и рассуждаю с точки зрения реального ИИ, и реального языки для ИИ (NLP), могу и контору, и язык назвать.
2. Мы начали запускать логику процесса во все стороны, именно во времени. Ткскть концепция временных скачков от forward в reverse, т.е. со степенью свободы во времени большей чем человек может позволить своему телу. Но алгоритмически мы уже думаем в разных направлениях, что несказанно преобразовало видимость процесса собственно "мышления", вот о чем я подумал кинувшись на эту тему. А дискуссий .. как-то они все неплодотворны.
_>>Я уже предлагаю гораздо более широкий сегмент покрытия проверками путей следования развития ИИ, причем именно уже ИИ, со своим языком. Т.к стейт той-же нейронки таки можно будет читать в языке, да ЧИТАТЬ, способы есть.
S>ИИ не эквивалентен "нейронкам". Почему вы думаете, что сингулярность (построение сильного ИИ) будет хоть как-то связана с нейронками?
я знаю штук несколько разных архитектур для ИИ, и безнейронные в том числе ( там где писал один язык для ИИ) (и сейчас думаю второй, вернее думаю систему). Так, что тут как говорится я не знаю, что вы подразумеваете думаете за ИИ .. но пока я не совсем определился. Со своей стороны я указывал прецендентарное можно даже прочитать, прецендент развала ИИ свойственен и нейронно ориентированным NLP системам, как и грамматико ориентированным. Причем, вот роботы в разработке участвуют уже давно, роботизированные генераторы так точно, можно считать это участием одного ИИ в разработке второго?
_>> Я вот по аналогии логик первого и второго порядка могу спросить, для чего логика развивается понятно. Что такого произведенного одним ИИ ИИ2 должен привнести?
S>Должен решать ещё более широкий класс задач, и ещё быстрее, чем ИИ1.
Даже если задачи нет?
_>>Есть подозрение, что ИИ первого порядка вас не устраивает по каким либо причинам. Это причина создание его человеком?
S>Эмм, ход рассуждений у нас такой: либо у нас существует точный верхний предел "мощности ИИ", либо его не существует.
S>Если предел существует, то мы рано или поздно построим ИИ, мощность которого равна этому верхнему пределу, и совершенствовать его будет уже некуда. Доказать существование такого предела пока что не представляется возможным, поэтому дальнейшие рассуждения мы делаем в предположении о том, что для любого интеллекта ИИ1 может существовать превосходящий его ИИ2.
Т.е. формальных параметров посчитать, по каким же критериям оценивается "превосходящий" нет, а превосходство таки есть.
S>Если у нас есть способ построить ИИ2 без помощи ИИ, то мы можем просто выбросить ИИ1 из рассуждения как неинтересный.
S>За ИИ1 мы просто обозначим тот максимально мощный ИИ, который мы способны самостоятельно построить в пределах отведённых нам ресурсов.
S>И тогда логичным следующим шагом будет привлечение этого ИИ1 к проектированию ИИ2 — ведь он превосходит нас в любой открытой задаче. В частности, и в проектировании ИИ тоже.
_>> Странно )) т.е. подрывающиеся градиенты для вас не показатель опасности? Кажется этаким пустячком? Это фундаментальная проблема рекуррентных нейронных сетей, да и вообще в целом рекуррентных алгоритмов в НЛП системах. (а, честно все, что до сих пор происходило, это не ИИ, это навороченные вычислительные алгоритмы)
S>Вы опять смотрите в какие-то низкоуровневые подробности. Почему вы думаете, что ИИ-сингулярность будет сводиться к рекуррентным алгоритмам в NLP-системах?
Это просто опять вы с чего-то решили, что я подразумеваю только нейронки.
S>С точки зрения естественных наук, то, что происходит в человеческом мозгу — это не интеллект, а навороченные вычислительные алгоритмы. Нет никаких признаков того, что в мозгу работает какая-то другая математика, чем в Машине Тьюринга.
Я, знаете, не хочу скатываться в соревнования и определение того, как думает мозг .. или человек. А тем паче, что лучше, что хуже .. это контрпродуктивно. Меня волнует процессинг, и какая другая математика ? Математика она вообще уже сама по себе везде — другая, как и всегда в науке. Одному линейную алгебру и численные методы надо знать идеально, а второму грамматики, теорию алгоритмов и квантовый исчисления И оба в АИ.. Кстати, вот как раз тут и есть о чем поговорить в архитектуре принятия решения при достижении пороговых переходов, уже очень напоминает статус "неопределенности".
_>> )) мысленные эксперименты на выдуманных примерах, не есть подходящее тестирование.
S>Пока что мы не проводим никакое тестирование. Мы только рассуждаем о том, как можно было бы такое тестирование организовать.
Это вы не проводите, а мы рельсы уже пишем для определения развития ИИ, понимания где мы находимся, в )) интересном стиле. Ах да, есть еще сильные утверждения, и логика которая используется для построения рассуждающего в языке ИИ, вернее могущий передавать и получать управление на языке.
_>>Хотите мысленный эксперимент ..давайте Uber. И инфраструктурные объекты, и модифицированный ирония судьбы )) А че нам ) это же АИ.
_>>Женя нового бота, притащила домой проинсталлила и решила заказать с его помощью Uber такси. Сказала так
S>И что?
Я не дописал сорри ) позже ..
S>У меня есть упрощённая модель работы нашего интеллекта. Но это совершенно неважно — модель может быть любой, не только той, которую мысленно представил себе я.
S>А вы опять сваливаетесь в обсуждение нейронок и их ограничений.
"Аля" означает как раз таки не только нейронки ..
_>> А может летать будем в "космос " в интеллектуальный космос ..? Или как на ферари ... или формула 4. Я думаю нормально все будет с ИИ. )) никакой сингулярности, это-же просто бомбезно ) не ощущаете ..?
S>Я тоже думаю, что с ИИ всё будет нормально. Вопрос только в том — а как мы, люди, будем с этим ИИ взаимодействовать?
Да также как и сейчас с компиляторами )) он умный, жежь. Иногда и понять, что хочет сложно .. но всегда возможно. Ну, а дальше все как в software, single responsibility ну и дальше по тексту. Коллективный АИ запустим
S>Это же в некотором смысле гораздо хуже культурного шока при встрече каких-нибудь дикарей с цивилизованным человеком.
S>Потому что дикарь может непосредственно наблюдать практическое превосходство цивилизации — просто посмотрев на артефакты, произведённые в цивилизации. Ну, то есть понятно, что дикарь, возможно, владеет некоторыми навыками, которых у конкретного цивилизованного человека нет — но цивилизованный человек выигрывает за счёт более совершенных моделей мира. Допустим, дикарь умеет ловко поймать рыбу при помощи дротика, чего не сможет цивилизованный человек. Но цивилизованный человек может понять, как это сделал дикарь. Зато дикарь не в курсе, к примеру, принципа работы безынерционной катушки — при помощи которой цивилизованный человек забрасывает спиннинг дальше, чем долетит любой дротик дикаря. А если такой способ рыбной ловли не выиграет — выиграет бросок динамита в водоём. Дикарю, чтобы понять принцип работы динамита, придётся осваивать физику и химию, которые гораздо сложнее, чем его бытовые представления об устройстве мира.
S>Но при этом у дикаря есть хотя бы уверенность в том, что он на это способен — у него такой же мозг, как у цивилизованного человека. Если отправить дикаря в школу, университет, и научную лабораторию, он добьётся сопоставимых результатов — именно потому, что инструмент у него такой же.
S>А когда мы говорим про супер-ИИ, то мы говорим о другом инструменте. Есть шанс, что разработанные таким ИИ теории будут понятны человеку. Но гарантии — нет.
S>Мы можем оказаться в положении тех самых дикарей, которые научились пользоваться спичками и динамитом, на уровне "вот тут чиркать, вот сюда подносить, вот это нельзя трясти и ронять".
S>Но при этом обученный таким способом дикарь не сможет сам изготовить ни спички, ни динамит. И даже если его научить изготавливать то и другое (там, в конце концов, технология не шибко запредельная), то он не сможет сам придумывать новые аналоги тех же спичек и динамита.
S>И вот мы, при общении с таким ИИ, можем упереться в то, что мы получаем какие-то рецепты, решения задач, при этом не просто не понимая, как эти решения получены, но будучи лишены даже надежды это понять. По причинам нашей интеллектуальной ограниченности.
Коллективный разум никто не отменял, мы часто так код пишем, причем часто куда сложнее нашего понимания о нем, бывает ведь. Главное функторы иметь для беготни между категоиями, и трансляторы .. 2 лярда человек смогут понять примерно упрощенные формы. Но и вообще не беда ведь. Я сижу на стуле на своей простите кхм, и полностью об устройстве этой части своего организма даже не догадываюсь ))
Но вообще, Вы, Sinclair интересный человек. Вот в то, что человек таки сможет наработать практики, и будет понимать, что происходит в ИИ не верите, переживаете. А в то, что эти же люди от балды наколбасили веса, входные параметры, прикутили аджоинт повыносили возможность настраивать нейроны .. и все от балды, и оно заработает (я не имею в виду формальные системы в которых и так относительно просто читать), и будет работать превзойдя на порядки человека — верите. А еще верите в то, что человеческий мозг прост, ну а как вы даже думаете, что мир прост. Это правда интересно, сразу почему-то Булгаков вспомниился .. на Патриаржих прудах
_>>Вообще наиболее практически применимое и даже с коммерческим применением есть — предметно ориентированные нейронки. могу по степам рассказать, что именно надо сделать, чтобы сделать первые шаги по добавлению такого свойства интеллекта как язык.
S>Если вас интересуют практические, а не философские вопросы, то надо и заниматься практикой, а не философией. Show me the code. Не рассказывайте мне про первые шаги — просто сделайте эти шаги, и покажите результат.
вообще, я беслатно уже показал результат — есть доказанный факт подрыва 1.5 метрового выражения (энтити), 30 символьной рандомной строкой ..я писал — там где-то ниже. в других тредах, это относится не только к нейронкам, т.к. прецендент был именно на безнейронных. (я досканально знаю этот вопрос, т.к. именно я это делал, и тот компилятор переделывал под наши нужды, достаточно плотно)..вам код показать ) ну есть в опенсорс код аджоинтизации квантлиба, тоже .. "результат".
1. степ нейорнка же как-то связано с аджоинтом, в любом случае.
если брать те-же мат модели в квантлибе, в форварде нейронка учится в реверсе по аджоинту — в общем, то уже действителньто детали.
Я лишь сккзал, что у меня она есть как идея, а их есть у меня и куда я рванусь и как, еще не решил. И бду — ли рваться. Может просто контробас ... )
S>Иначе всё это изоморфно сайтам про "заработок в интернете".
) ну тогда я получал 2800 УЕ, когда за две недели доказал экспоненциальный взрыв. И комплиятор практически переписал, во всяком случае корных частей ..парсеров и т.д. рантайм модели.
сейчас есть идея как делать, пишу же сие разсуждения ради ..интересно.