Информация об изменениях

Сообщение Re[9]: AI сингулярность всё ближе от 16.12.2021 14:17

Изменено 16.12.2021 17:02 Sinclair

Re[9]: AI сингулярность всё ближе
Здравствуйте, sept_tone, Вы писали:

_> Видите ли композиция вообще не есть задачей, как и импровизация, более того это совсем не формализованная область.


С чего вы взяли, что задачи обязаны быть формализованными?

_> Интересно, каким образом ИИ будет понимать, что оно движется в правильном направлении, если понять почему бемша свинг гениально — неформальная задача, от слова совсем.

Примерно таким же, как и человек. Откуда, к примеру, Моцарт знал, что то, что он делает — гениально?

_>Программы генирирующие ноты в стиле чарли паркера, или Колтрейна под заданную гармонию — вещь примтивная до нельзя, это не умность .., они были еще лет 13 назад. и ничего умнее машина пока теоритически сделать не сможет.

мы говорим не про "пока", а про некоторое отдалённое будущее.

_>есть у меня идея как таки можно что-то попытаться сделать, но то тоже хаккинг, а не фундаментальное понимание. Гармонии, т.к. даже те-же ноты могут быть разными, и человек довольно адаптивно может понимать композицию как таковую, .. причем абсолютно без формальных признаков как таковых.


Вопрос как раз в "без формальных признаков". Ну, то есть пока что у нас есть проблемы даже со вполне формализованными задачами — например, доказательство теорем до сих пор автоматизации поддаётся очень слабо.
В частности, метод индукции современные солверы применять толком не умеют — а меж тем кожаные мешки им пользуются направо и налево.
Но даже если мы получим идеальный theorem prover, который способен справляться не хуже человека с какими-нибудь в меру формальными теориями, то нас это не приблизит ни к какой сингулярности.
Потому что сильный ИИ обязан справляться и с неформальными задачами.

S>>Ну, косвенно всё-таки да.

_> т.е. нет. Мне интересно понять, где вычислительная машина вдруг стала называться интеллектуальной? я вот не помню, чтобы кто спрашивал тест айку для прохождение допустим в ..серьезные так скажем проекты.
Интеллект мы пока что определяем неформально — как когнитивные способности, аналогичные человеческим. Вот когда вычислительная машина продемонстрирует такие способности, так она и станет называться интеллектуальной.
Причём сходу понятно, что сама машина тут совершенно неважна — важна программа, алгоритм, который будет эти способности демонстрировать. Исполнять алгоритм можно на чём угодно.

_> я думаю, эта задача для NLP системы не сложна. Летающие крокодилы — вертолеты, понятно какие. Один зеленый — норм, второй на Юг, очевидно в этом контексте нужно определить одному цвет — второму направление, никаких противорчий. А лет будет тебе столько в зависимости от того на каком вертолете ты полетишь, и когда его собьют. Собственно какие тут проблемы для NLP задачи ...

Ну, пока что вы в качестве ответа предлагаете просто рандомно генерить текст по паттернам.
А сможет ли ваша "NLP-задача" правильно ответить на загадку "висит груша, нельзя скушать"? Или "какие предметы мы видим ночью, но не видим днём?"

_>гораздо сложнее убедить ИИ, что он есть.

Как раз как только мы научим ИИ отгадывать загадки типа тех, что выше, убедить его, что он есть, будет примитивной задачей.

_> ну и ладно — непонятная задача, непонятно для чего .. решайте. Только вот ничего убедительного в этом я лично не вижу.

Какая именно задача вам непонятна? Вы не можете пройти тест Айзенка?

_> ну значит я не совсем понял контекст. "не обязательно уметь, чтобы учить" — известный принцип. Хотя заметил так-же, что уметь все-же лучше, но то у людей, где интуитика развита

Нет, это другой принцип.

_> Самое непосредственное, просто признак интеллекта и есть — наличие языка, просто предлагается делать его управляющим, в том числе для решения естесственных задач. NLP, music ..art, финансы, юриспруденция. И вот чем дальше к естесственности, тем сам процесс "превосходства во всем", от жестянки не могущей с уверенностью заключить свое собственное существование )

Вы выбрали какой-то достаточно странный признак интеллекта.

_>Но векторизация слов — вещь фундаментальные для nlp ИИ. А наличие языка у самого ИИ и является признаком его интеллекта, почему ? Да потому, что рассуждения построенные сейчас в нейронных вычислениях и так уже можно называть языком с довольно сложным представлением, но которые не применимы к классу задач именно интеллекта. Не айку, не поиска гипотез и доказательств — это задачи вычислительных машин, а не ИИ. Интеллектуальность нечто иное ...

Ну, это вам так кажется.

_> Вероятно, но мы пользуемся разными средствами, и без тестирования тестирующих систем, ..примерно как нет необходимости вводить лоику выше второго порядка.

Мы пользуемся разными средствами в основном потому, что мы понимаем, как они работают.
Например, инженер проверяет наличие утечек в трубопроводе при помощи прибора поиска утечек. Он полагается на этот прибор потому, что какой-то другой инженер этот прибор спроектировал, и проверил.
Представьте, что вам дали прибор не инженеры из другой страны, а инопланетяне. Вы его открываете — а понятно не становится. Ну, допустим они дали вам "детектор интеллекта", который показывает уровень интеллекта в абстрактных единицах у того, на кого его направили. Вы его разбираете — а там фигня какая-то.
При этом на известных вам примерах он работает корректно.

_> Так в ИИ разработка сейчас идет сршенно другими методиками. Доказательные языки одно из перспективных направлений, могущих серьезно повлиять на ИИ. Если мне правильно видится, то аджоинтизированные языки начнутся именно отсюда.

Термина "аджоинтизированные языки" не существует.

_>1. меня заинтересовала тема сингулярности, не потому что вы с какого-то мотива решили, что умение доказывать теоремы и есть умность. Она заинтересовала меня именно потому, что современная логика требует ретроспективного, или дедуктивного, или как аджоинт в реверс моде, коррекции я бы так сказал. А это временные движения, т.е. анализируется то, что было. Причем довольно интересно ..вот вы говорите низкий уровыень, да мне просто известен практически весь стек, потому я и рассуждаю с точки зрения реального ИИ, и реального языки для ИИ (NLP), могу и контору, и язык назвать.


Реального ИИ пока что нет. Толку от называния конторы и языка?

_>2. Мы начали запускать логику процесса во все стороны, именно во времени. Ткскть концепция временных скачков от forward в reverse, т.е. со степенью свободы во времени большей чем человек может позволить своему телу. Но алгоритмически мы уже думаем в разных направлениях, что несказанно преобразовало видимость процесса собственно "мышления", вот о чем я подумал кинувшись на эту тему. А дискуссий .. как-то они все неплодотворны.


_> я знаю штук несколько разных архитектур для ИИ, и безнейронные в том числе ( там где писал один язык для ИИ) (и сейчас думаю второй, вернее думаю систему). Так, что тут как говорится я не знаю, что вы подразумеваете думаете за ИИ .. но пока я не совсем определился. Со своей стороны я указывал прецендентарное можно даже прочитать, прецендент развала ИИ свойственен и нейронно ориентированным NLP системам, как и грамматико ориентированным. Причем, вот роботы в разработке участвуют уже давно, роботизированные генераторы так точно, можно считать это участием одного ИИ в разработке второго?

Пока что нет — ведь ИИ нету.

_> Даже если задачи нет?

Какой именно задачи нет? У нас огромное количество интеллектуальных задач — значительно больше, чем доступно интеллектуальных ресурсов для их решения.
Вся проблема — в том, что пока что у нас нет универсального интеллекта, эквивалентного естественному.
Даже если ИИ не будет превосходить человека — сама возможность выполнять его на силиконе вместо органики даст человечеству офигенное преимущество.

_> Т.е. формальных параметров посчитать, по каким же критериям оценивается "превосходящий" нет, а превосходство таки есть.

Пока что мы можем вживую наблюдать превосходство естественного интеллекта над лучшими достижениями искусственного.
А так же превосходство человеческого интеллекта над, скажем, интеллектом собаки или шимпанзе. Несмотря на отсутствие интеллектометра с точной шкалой.

S>>Вы опять смотрите в какие-то низкоуровневые подробности. Почему вы думаете, что ИИ-сингулярность будет сводиться к рекуррентным алгоритмам в NLP-системах?

_> Это просто опять вы с чего-то решили, что я подразумеваю только нейронки.
С того, что считаете проблемы конкретного класса нейронок важными с точки зрения построения универсального интеллекта.

_> Я, знаете, не хочу скатываться в соревнования и определение того, как думает мозг .. или человек. А тем паче, что лучше, что хуже .. это контрпродуктивно. Меня волнует процессинг, и какая другая математика ? Математика она вообще уже сама по себе везде — другая, как и всегда в науке. Одному линейную алгебру и численные методы надо знать идеально, а второму грамматики, теорию алгоритмов и квантовый исчисления И оба в АИ.. Кстати, вот как раз тут и есть о чем поговорить в архитектуре принятия решения при достижении пороговых переходов, уже очень напоминает статус "неопределенности".

Нет, математика везде одинаковая. Понятие вычислимости у всех одно и то же. Если у вас проблема останова неразрешима в Машине Тьюринга, то она будет неразрешима ни в какой другой математике. Увы.

_> Это вы не проводите, а мы рельсы уже пишем для определения развития ИИ, понимания где мы находимся, в )) интересном стиле. Ах да, есть еще сильные утверждения, и логика которая используется для построения рассуждающего в языке ИИ, вернее могущий передавать и получать управление на языке.

Ну, будет интересно посмотреть на результаты.

S>>Я тоже думаю, что с ИИ всё будет нормально. Вопрос только в том — а как мы, люди, будем с этим ИИ взаимодействовать?

_> Да также как и сейчас с компиляторами )) он умный, жежь. Иногда и понять, что хочет сложно .. но всегда возможно. Ну, а дальше все как в software, single responsibility ну и дальше по тексту. Коллективный АИ запустим
Компилятор пока что всё ещё сильно тупее человека.

_> Коллективный разум никто не отменял, мы часто так код пишем, причем часто куда сложнее нашего понимания о нем, бывает ведь. Главное функторы иметь для беготни между категоиями, и трансляторы .. 2 лярда человек смогут понять примерно упрощенные формы.

То есть вы думаете, что можно побороть трудность задачи просто числом участников? Это — смелая гипотеза.
Пока что не видно никаких свидетельств в её пользу. Коллективное написание кода — это не о сложности. Это как возделывание миллиона гектар рисовых полей миллиардом крестьян.
Попробуйте решить действительно сложную задачу — например, найти полное решение уравнений Эйнштейна. Или уравнений Навье-Стокса. Вы точно уверены, что можно посадить два миллиарда человек, и они добьются успеха там, где спасовали малые коллективы математиков?

_>Но и вообще не беда ведь. Я сижу на стуле на своей простите кхм, и полностью об устройстве этой части своего организма даже не догадываюсь ))

Ну, то есть вас устраивает положение дикаря в Apple Store. Типа "раз люди могут пользоваться айфоном без малейшего понятия о его устройстве — то и суперинтеллект мы будем просто наливать себе из крана".
Это, конечно, подход. Но сидение на вашей кхм — ваше личное дело. Если она кого и подведёт, то только вас. А если мы поставим перед суперинтеллектом суперзадачи — то и риски от их применения тоже будут суперрисками.
Я же привёл гипотетические примеры. Давайте другой пример — вот, к примеру, решит такой интеллект задачу "найти лекарство от рака". И оно будет состоять в том, что заранее, с детства, надо будет принимать синтезированный по инструкциям от этого интеллекта препарат. Что будем делать — верить на слово? Или начнём массово производить и раздавать панацею?

_> Но вообще, Вы, Sinclair интересный человек. Вот в то, что человек таки сможет наработать практики, и будет понимать, что происходит в ИИ не верите, переживаете. А в то, что эти же люди от балды наколбасили веса, входные параметры, прикутили аджоинт повыносили возможность настраивать нейроны .. и все от балды, и оно заработает (я не имею в виду формальные системы в которых и так относительно просто читать), и будет работать превзойдя на порядки человека — верите.

Ни во что подобное я не верю. Я так думаю, что ИИ построят вовсе не от балды, а после долгих и упорных трудов. И очень надеюсь на то, что у нас будет убедительная теория того, как это всё работает.
Превосходящая нынешние "ну, мы как-то её обучили, но что конкретно она использует при определении потенциальных террористов в толпе пассажиров — шут его знает...."

_>А еще верите в то, что человеческий мозг прост, ну а как вы даже думаете, что мир прост. Это правда интересно, сразу почему-то Булгаков вспомниился .. на Патриаржих прудах

Я не говорил, что человеческий мозг прост. Мир, в некотором смысле, прост. Вот есть у нас пять физических взаимодействий, десяток законов — и они описывают всё, от галактик до кварков. И всё в промежутке — тоже: и горькую настойку, и душевное томление.
Сложность возникает как нетривиальная комбинация простых компонентов. Вон — из всего трёх типов частиц мы строим всю таблицу Менделеева. А если взять из неё C, O, и H — то можно налепить из них совершенно невообразимое количество разнообразных молекул. Добавляя к смеси толику S, P, N, и нескольких других несложных элементов, мы получаем совершенно неожиданную гамму свойств.
Так и с мозгом — он просто устроен "на дне", но чем выше лезешь — тем больше сложность.
Если мы будем говорить об алгоритмической сложности сознания — то она, естественно, запредельна.
При этом "алгоритм" этот строится ровно из тех же примитивных кирпичиков, что и все другие алгоритмы — нуль, инкремент, выбор i-го аргумента.
Ну, или из блоков "или-не", как уж вам комфортнее.

_>вообще, я беслатно уже показал результат — есть доказанный факт подрыва 1.5 метрового выражения (энтити), 30 символьной рандомной строкой ..я писал — там где-то ниже. в других тредах, это относится не только к нейронкам, т.к. прецендент был именно на безнейронных. (я досканально знаю этот вопрос, т.к. именно я это делал, и тот компилятор переделывал под наши нужды, достаточно плотно)..вам код показать ) ну есть в опенсорс код аджоинтизации квантлиба, тоже .. "результат".

Не знаю, кому и что вы там показали. Пока что даже понять ваш жаргон типа "подрыв энтити" не удаётся.

_>Я лишь сккзал, что у меня она есть как идея, а их есть у меня и куда я рванусь и как, еще не решил. И бду — ли рваться. Может просто контробас ... )

Ну, вот рванётесь — будет, что обсуждать. А пока что это всё только сотрясание воздуха.
S>>Иначе всё это изоморфно сайтам про "заработок в интернете".
_> ) ну тогда я получал 2800 УЕ, когда за две недели доказал экспоненциальный взрыв. И комплиятор практически переписал, во всяком случае корных частей ..парсеров и т.д. рантайм модели.
Речь не о том, сколько вы получали. А о том, что когда видишь страничку "друг, я выбрал тебя среди 10 человек, которым я бесплатно открою тайну, позволяющую без усилий извлекать по $30000 в месяц в интернете", то понятно, что это фейк. Просто потому, что чувак мог бы сам извлекать $300000. Так и тут — если человек пишет "я знаю, как написать компилятор" — то либо он уже написал компилятор, либо, с большой вероятностью, это неправда.
Поэтому если вы знаете, как написать искусственный интеллект — велком. Как только он сможет отгадать загадку про "зимой и летом — одним цветом", или правильно перевести на русский фразу "After the long search, the boy has found the box. It was in the pen." — приходите.
Re[9]: AI сингулярность всё ближе
Здравствуйте, sept_tone, Вы писали:

_> Видите ли композиция вообще не есть задачей, как и импровизация, более того это совсем не формализованная область.


С чего вы взяли, что задачи обязаны быть формализованными?

_> Интересно, каким образом ИИ будет понимать, что оно движется в правильном направлении, если понять почему бемша свинг гениально — неформальная задача, от слова совсем.

Примерно таким же, как и человек. Откуда, к примеру, Моцарт знал, что то, что он делает — гениально?

_>Программы генирирующие ноты в стиле чарли паркера, или Колтрейна под заданную гармонию — вещь примтивная до нельзя, это не умность .., они были еще лет 13 назад. и ничего умнее машина пока теоритически сделать не сможет.

мы говорим не про "пока", а про некоторое отдалённое будущее.

_>есть у меня идея как таки можно что-то попытаться сделать, но то тоже хаккинг, а не фундаментальное понимание. Гармонии, т.к. даже те-же ноты могут быть разными, и человек довольно адаптивно может понимать композицию как таковую, .. причем абсолютно без формальных признаков как таковых.


Вопрос как раз в "без формальных признаков". Ну, то есть пока что у нас есть проблемы даже со вполне формализованными задачами — например, доказательство теорем до сих пор автоматизации поддаётся очень слабо.
В частности, метод индукции современные солверы применять толком не умеют — а меж тем кожаные мешки им пользуются направо и налево.
Но даже если мы получим идеальный theorem prover, который способен справляться не хуже человека с какими-нибудь в меру формальными теориями, то нас это не приблизит ни к какой сингулярности.
Потому что сильный ИИ обязан справляться и с неформальными задачами.

S>>Ну, косвенно всё-таки да.

_> т.е. нет. Мне интересно понять, где вычислительная машина вдруг стала называться интеллектуальной? я вот не помню, чтобы кто спрашивал тест айку для прохождение допустим в ..серьезные так скажем проекты.
Интеллект мы пока что определяем неформально — как когнитивные способности, аналогичные человеческим. Вот когда вычислительная машина продемонстрирует такие способности, так она и станет называться интеллектуальной.
Причём сходу понятно, что сама машина тут совершенно неважна — важна программа, алгоритм, который будет эти способности демонстрировать. Исполнять алгоритм можно на чём угодно.

_> я думаю, эта задача для NLP системы не сложна. Летающие крокодилы — вертолеты, понятно какие. Один зеленый — норм, второй на Юг, очевидно в этом контексте нужно определить одному цвет — второму направление, никаких противорчий. А лет будет тебе столько в зависимости от того на каком вертолете ты полетишь, и когда его собьют. Собственно какие тут проблемы для NLP задачи ...

Ну, пока что вы в качестве ответа предлагаете просто рандомно генерить текст по паттернам. Ведь правильный ответ "24" вы не только не смогли получить, но не видно даже способа наметить к нему путь.
А сможет ли ваша "NLP-задача" правильно ответить на загадку "висит груша, нельзя скушать"? Или "какие предметы мы видим ночью, но не видим днём?"

_>гораздо сложнее убедить ИИ, что он есть.

Как раз как только мы научим ИИ отгадывать загадки типа тех, что выше, убедить его, что он есть, будет примитивной задачей.

_> ну и ладно — непонятная задача, непонятно для чего .. решайте. Только вот ничего убедительного в этом я лично не вижу.

Какая именно задача вам непонятна? Вы не можете пройти тест Айзенка?

_> ну значит я не совсем понял контекст. "не обязательно уметь, чтобы учить" — известный принцип. Хотя заметил так-же, что уметь все-же лучше, но то у людей, где интуитика развита

Нет, это другой принцип.

_> Самое непосредственное, просто признак интеллекта и есть — наличие языка, просто предлагается делать его управляющим, в том числе для решения естесственных задач. NLP, music ..art, финансы, юриспруденция. И вот чем дальше к естесственности, тем сам процесс "превосходства во всем", от жестянки не могущей с уверенностью заключить свое собственное существование )

Вы выбрали какой-то достаточно странный признак интеллекта.

_>Но векторизация слов — вещь фундаментальные для nlp ИИ. А наличие языка у самого ИИ и является признаком его интеллекта, почему ? Да потому, что рассуждения построенные сейчас в нейронных вычислениях и так уже можно называть языком с довольно сложным представлением, но которые не применимы к классу задач именно интеллекта. Не айку, не поиска гипотез и доказательств — это задачи вычислительных машин, а не ИИ. Интеллектуальность нечто иное ...

Ну, это вам так кажется.

_> Вероятно, но мы пользуемся разными средствами, и без тестирования тестирующих систем, ..примерно как нет необходимости вводить лоику выше второго порядка.

Мы пользуемся разными средствами в основном потому, что мы понимаем, как они работают.
Например, инженер проверяет наличие утечек в трубопроводе при помощи прибора поиска утечек. Он полагается на этот прибор потому, что какой-то другой инженер этот прибор спроектировал, и проверил.
Представьте, что вам дали прибор не инженеры из другой страны, а инопланетяне. Вы его открываете — а понятно не становится. Ну, допустим они дали вам "детектор интеллекта", который показывает уровень интеллекта в абстрактных единицах у того, на кого его направили. Вы его разбираете — а там фигня какая-то.
При этом на известных вам примерах он работает корректно.

_> Так в ИИ разработка сейчас идет сршенно другими методиками. Доказательные языки одно из перспективных направлений, могущих серьезно повлиять на ИИ. Если мне правильно видится, то аджоинтизированные языки начнутся именно отсюда.

Термина "аджоинтизированные языки" не существует.

_>1. меня заинтересовала тема сингулярности, не потому что вы с какого-то мотива решили, что умение доказывать теоремы и есть умность. Она заинтересовала меня именно потому, что современная логика требует ретроспективного, или дедуктивного, или как аджоинт в реверс моде, коррекции я бы так сказал. А это временные движения, т.е. анализируется то, что было. Причем довольно интересно ..вот вы говорите низкий уровыень, да мне просто известен практически весь стек, потому я и рассуждаю с точки зрения реального ИИ, и реального языки для ИИ (NLP), могу и контору, и язык назвать.


Реального ИИ пока что нет. Толку от называния конторы и языка?

_>2. Мы начали запускать логику процесса во все стороны, именно во времени. Ткскть концепция временных скачков от forward в reverse, т.е. со степенью свободы во времени большей чем человек может позволить своему телу. Но алгоритмически мы уже думаем в разных направлениях, что несказанно преобразовало видимость процесса собственно "мышления", вот о чем я подумал кинувшись на эту тему. А дискуссий .. как-то они все неплодотворны.


_> я знаю штук несколько разных архитектур для ИИ, и безнейронные в том числе ( там где писал один язык для ИИ) (и сейчас думаю второй, вернее думаю систему). Так, что тут как говорится я не знаю, что вы подразумеваете думаете за ИИ .. но пока я не совсем определился. Со своей стороны я указывал прецендентарное можно даже прочитать, прецендент развала ИИ свойственен и нейронно ориентированным NLP системам, как и грамматико ориентированным. Причем, вот роботы в разработке участвуют уже давно, роботизированные генераторы так точно, можно считать это участием одного ИИ в разработке второго?

Пока что нет — ведь ИИ нету.

_> Даже если задачи нет?

Какой именно задачи нет? У нас огромное количество интеллектуальных задач — значительно больше, чем доступно интеллектуальных ресурсов для их решения.
Вся проблема — в том, что пока что у нас нет универсального интеллекта, эквивалентного естественному.
Даже если ИИ не будет превосходить человека — сама возможность выполнять его на силиконе вместо органики даст человечеству офигенное преимущество.

_> Т.е. формальных параметров посчитать, по каким же критериям оценивается "превосходящий" нет, а превосходство таки есть.

Пока что мы можем вживую наблюдать превосходство естественного интеллекта над лучшими достижениями искусственного.
А так же превосходство человеческого интеллекта над, скажем, интеллектом собаки или шимпанзе. Несмотря на отсутствие интеллектометра с точной шкалой.

S>>Вы опять смотрите в какие-то низкоуровневые подробности. Почему вы думаете, что ИИ-сингулярность будет сводиться к рекуррентным алгоритмам в NLP-системах?

_> Это просто опять вы с чего-то решили, что я подразумеваю только нейронки.
С того, что считаете проблемы конкретного класса нейронок важными с точки зрения построения универсального интеллекта.

_> Я, знаете, не хочу скатываться в соревнования и определение того, как думает мозг .. или человек. А тем паче, что лучше, что хуже .. это контрпродуктивно. Меня волнует процессинг, и какая другая математика ? Математика она вообще уже сама по себе везде — другая, как и всегда в науке. Одному линейную алгебру и численные методы надо знать идеально, а второму грамматики, теорию алгоритмов и квантовый исчисления И оба в АИ.. Кстати, вот как раз тут и есть о чем поговорить в архитектуре принятия решения при достижении пороговых переходов, уже очень напоминает статус "неопределенности".

Нет, математика везде одинаковая. Понятие вычислимости у всех одно и то же. Если у вас проблема останова неразрешима в Машине Тьюринга, то она будет неразрешима ни в какой другой математике. Увы.

_> Это вы не проводите, а мы рельсы уже пишем для определения развития ИИ, понимания где мы находимся, в )) интересном стиле. Ах да, есть еще сильные утверждения, и логика которая используется для построения рассуждающего в языке ИИ, вернее могущий передавать и получать управление на языке.

Ну, будет интересно посмотреть на результаты.

S>>Я тоже думаю, что с ИИ всё будет нормально. Вопрос только в том — а как мы, люди, будем с этим ИИ взаимодействовать?

_> Да также как и сейчас с компиляторами )) он умный, жежь. Иногда и понять, что хочет сложно .. но всегда возможно. Ну, а дальше все как в software, single responsibility ну и дальше по тексту. Коллективный АИ запустим
Компилятор пока что всё ещё сильно тупее человека.

_> Коллективный разум никто не отменял, мы часто так код пишем, причем часто куда сложнее нашего понимания о нем, бывает ведь. Главное функторы иметь для беготни между категоиями, и трансляторы .. 2 лярда человек смогут понять примерно упрощенные формы.

То есть вы думаете, что можно побороть трудность задачи просто числом участников? Это — смелая гипотеза.
Пока что не видно никаких свидетельств в её пользу. Коллективное написание кода — это не о сложности. Это как возделывание миллиона гектар рисовых полей миллиардом крестьян.
Попробуйте решить действительно сложную задачу — например, найти полное решение уравнений Эйнштейна. Или уравнений Навье-Стокса. Вы точно уверены, что можно посадить два миллиарда человек, и они добьются успеха там, где спасовали малые коллективы математиков?

_>Но и вообще не беда ведь. Я сижу на стуле на своей простите кхм, и полностью об устройстве этой части своего организма даже не догадываюсь ))

Ну, то есть вас устраивает положение дикаря в Apple Store. Типа "раз люди могут пользоваться айфоном без малейшего понятия о его устройстве — то и суперинтеллект мы будем просто наливать себе из крана".
Это, конечно, подход. Но сидение на вашей кхм — ваше личное дело. Если она кого и подведёт, то только вас. А если мы поставим перед суперинтеллектом суперзадачи — то и риски от их применения тоже будут суперрисками.
Я же привёл гипотетические примеры. Давайте другой пример — вот, к примеру, решит такой интеллект задачу "найти лекарство от рака". И оно будет состоять в том, что заранее, с детства, надо будет принимать синтезированный по инструкциям от этого интеллекта препарат. Что будем делать — верить на слово? Или начнём массово производить и раздавать панацею?

_> Но вообще, Вы, Sinclair интересный человек. Вот в то, что человек таки сможет наработать практики, и будет понимать, что происходит в ИИ не верите, переживаете. А в то, что эти же люди от балды наколбасили веса, входные параметры, прикутили аджоинт повыносили возможность настраивать нейроны .. и все от балды, и оно заработает (я не имею в виду формальные системы в которых и так относительно просто читать), и будет работать превзойдя на порядки человека — верите.

Ни во что подобное я не верю. Я так думаю, что ИИ построят вовсе не от балды, а после долгих и упорных трудов. И очень надеюсь на то, что у нас будет убедительная теория того, как это всё работает.
Превосходящая нынешние "ну, мы как-то её обучили, но что конкретно она использует при определении потенциальных террористов в толпе пассажиров — шут его знает...."

_>А еще верите в то, что человеческий мозг прост, ну а как вы даже думаете, что мир прост. Это правда интересно, сразу почему-то Булгаков вспомниился .. на Патриаржих прудах

Я не говорил, что человеческий мозг прост. Мир, в некотором смысле, прост. Вот есть у нас пять физических взаимодействий, десяток законов — и они описывают всё, от галактик до кварков. И всё в промежутке — тоже: и горькую настойку, и душевное томление.
Сложность возникает как нетривиальная комбинация простых компонентов. Вон — из всего трёх типов частиц мы строим всю таблицу Менделеева. А если взять из неё C, O, и H — то можно налепить из них совершенно невообразимое количество разнообразных молекул. Добавляя к смеси толику S, P, N, и нескольких других несложных элементов, мы получаем совершенно неожиданную гамму свойств.
Так и с мозгом — он просто устроен "на дне", но чем выше лезешь — тем больше сложность.
Если мы будем говорить об алгоритмической сложности сознания — то она, естественно, запредельна.
При этом "алгоритм" этот строится ровно из тех же примитивных кирпичиков, что и все другие алгоритмы — нуль, инкремент, выбор i-го аргумента.
Ну, или из блоков "или-не", как уж вам комфортнее.

_>вообще, я беслатно уже показал результат — есть доказанный факт подрыва 1.5 метрового выражения (энтити), 30 символьной рандомной строкой ..я писал — там где-то ниже. в других тредах, это относится не только к нейронкам, т.к. прецендент был именно на безнейронных. (я досканально знаю этот вопрос, т.к. именно я это делал, и тот компилятор переделывал под наши нужды, достаточно плотно)..вам код показать ) ну есть в опенсорс код аджоинтизации квантлиба, тоже .. "результат".

Не знаю, кому и что вы там показали. Пока что даже понять ваш жаргон типа "подрыв энтити" не удаётся.

_>Я лишь сккзал, что у меня она есть как идея, а их есть у меня и куда я рванусь и как, еще не решил. И бду — ли рваться. Может просто контробас ... )

Ну, вот рванётесь — будет, что обсуждать. А пока что это всё только сотрясание воздуха.
S>>Иначе всё это изоморфно сайтам про "заработок в интернете".
_> ) ну тогда я получал 2800 УЕ, когда за две недели доказал экспоненциальный взрыв. И комплиятор практически переписал, во всяком случае корных частей ..парсеров и т.д. рантайм модели.
Речь не о том, сколько вы получали. А о том, что когда видишь страничку "друг, я выбрал тебя среди 10 человек, которым я бесплатно открою тайну, позволяющую без усилий извлекать по $30000 в месяц в интернете", то понятно, что это фейк. Просто потому, что чувак мог бы сам извлекать $300000. Так и тут — если человек пишет "я знаю, как написать компилятор" — то либо он уже написал компилятор, либо, с большой вероятностью, это неправда.
Поэтому если вы знаете, как написать искусственный интеллект — велком. Как только он сможет отгадать загадку про "зимой и летом — одним цветом", или правильно перевести на русский фразу "After the long search, the boy has found the box. It was in the pen." — приходите.