N>(Насчет нейросетей: я теперь расхотел ими глубоко заниматься, но обязательно ознакомлюсь)
Насчет споров о нейросетях против классических методов. Вы понимаете, что фактически пытаются доказать сторонники нейросетей? Вдумайтесь. Они фактически доказывают, что нейросеть "понимает проблему" и "обучается" эффективнее квалифицированного математика. Сколько нейронов в этих сетях? Сотни? Сколько нейронов у человека в мозгу? Настоящих, которые обучаяются по взрослому, а не через метод backpropagation.
Это очевидно — математик всегда выиграет у нейросети придумав более точное и эффективное решение. Эти споры беспредметны. Естественно, чтобы выиграть у нейросети, надо знать математику. Обучаться несколько лет, на большом обучающем множестве . Знаете тематическую шутку математиков? "Искусственным интеллектом занимаются те, кому не хватает естественного". Естественно, в каждой шутке есть доля шутки.
N>А что-нибудь против нечеткой логики ты имеешь? (Насчет нейросетей: я теперь расхотел ими глубоко заниматься, но обязательно ознакомлюсь)
Ничего плохого в ней нет, но есть один нюанс. "Нечеткая логика" — это просто название. И ничего кроме названия. Если я правильно понимаю, если ты заменишь значения true-false на вероятность true, то ты и получишь так называемую нечеткую логику.
"логическое и" соответствует вероятноти одновременных событий: p1*p2
"отрицание" это 1-p. Все, этот набор операций полон, через них выражается все остальное.
"логическое или" = 1 — p1*p2.
Дальше можно брать любой учебник математической логики, и начать раскручивать на этом базисе "нечеткую логику" — ничего сложного, и главное, получишь ты в результате самую обыкновенную теорию вероятности. Тервер штука хорошая, но никакой магии и ореола романтики в ней нет (вслушайтесь как звучит? "нечеткая логика"! Завлекает, правда? Это не спроста, так бабло на грант получить проще, или тендер выиграть).
Так что берем учебник тервера, учебник матлогики или дискретной математики, и начинаем погружаться в увлекательный мир нечеткой логики самостоятельно. Это интересно и ненапряжно, если делать это самостоятельно, в качестве упражнения. Можно получить массу удовольствия, и без особых усилий (бо халява) почувствовать себя первооткрывателем загадочной fuzzy logic. А читать на эту тему книжки — все равно, что заглянуть в конец скучного детектива.
Здравствуйте, tinytjan, Вы писали:
T>З.Ы. Универсальной нейронкой, которую мы с SunSonnet"ом накатали, уже интересуются . Даже если штука (нейросеть вообще) бесполезная, то хоть денюжку снимем.
Денюжку снять надо по любому, дело хорошее.
Вот мне научный рассказывал — так любо дорого слушать. Одна из историй: получили долгосрочный заказ на разработку системы распознавания речи посредством НС (Институт Системного Анализа РАН). За первые полгода выяснили, что ни один из опубликованных положительных результатов НС не воспроизводится, а задача сама по себе полный пипец — в общей (требуемой) постановке не решается удовлетворительно вообще ничем. Но заказ есть заказ — хотят НС, получат НС. Деньги платят.
Было решено забрать свои деньги — "уж лучше мы будем смотреть эту порнографию, чем ее увидят дети". Соответственно, был составлен такой план. 1-й год они делают систему, распознающую речь одного человека. Это халява. 2-й год — 2 разных человека. Это реально, особенно если люди одного пола и возраста. Третий год — четыре. Это надо поднапрячься. А четвертый — должна всех подряд распознавать, без предварительной настройки. Это практически невозможно.
Но на второй год, видимо, заказчик просек общую тенденцию нейросетевых проектов (первая половина 90-х — их было много и они начали проваливаться один за другим), наложил в штаны, и потребовал немедленно представить ему сеть, распознающую четверых. Полный провал — на презентации система распознала менее 10%.
Зато. Куча наших ученых покатались на халяву по Штатам. Понакупало себе машин, и т.д. Думаете, кто-нибудь из них сказал заказчику свое настоящее мнение о нейросетях, и проекте в целом? Нет, эти истории потом рассказывают студентам, передавая им заказ на разработку очередной нейросети. Вот например, другая история.
Один английский академик (стал членом Королевской Академии наук только благодаря нейросетям), собрался стабилизировать плазму в термоядерном реакторе посредством нейросети. Из 20 нейронов . Но ему необходима была сеть, которая вместе с прогнозом выдает и оценку его точности, и он был готов за это платить — а это в корне меняет дело. Если речь идет о деньгах, то это к нам — за дело взялась группа д-ра Магницкого — группа безпринципных прикладных математиков и студентов.
Первым делом (это профессиональное) было предложено разобраться с уравнениями термоядерного реактора — нет-ли там случайно динамического хаоса, — в этом случае была бы применена нелинейная теория управления (специализация группы — управление хаосом. Непосвященного может повергнуть в трепет — как заглавие книги "Язык Ада" ), и нам бы приперла везуха побольше, чем ковыряние с нейросетью.
С этим оказалась засада полная. Хаоса в уравнениях там не нашли, как работает реактор не поняли нихрена, поэтому не смогли прикрутить к системе управление, на вопрос студента "я не понял, а как тут вообще плазма может оказаться устойчивой", профессора ржали, и отвечали "а она у них и неустойчива". При воспоминании о светлой до идиотизма идее стабилизировать плазму нейросетью смеялись до слез. Однако, чтобы там он не собирался с этой сеткой делать — не наше дело, нам работать надо, сказал Магницкий, и выдал задание разработать эту нейросеть одному из своих студентов. Спецсеминар прошел в теплой, дружеской обстановке, и засим все разошлись.
Сделал-ли студент сетку — не знаю. Наверно, сделал — все как обычно.
Здравствуйте, tinytjan, Вы писали:
T>Здравствуйте, Gaperton, cпасибо за ссылочки. T>Очень интересно. И обидно заодно. T>Я написал универсальную нейросеть. Что зря что ли????? T>ПРОДВИНУТЫЕ МАТЕМАТИКИ саппроксимируйте эллипс, произвольным образом расположенный в пространстве, по набору точек. Легко, под это разрабатывается вариант метода наименьших квадратов. Плюс, могу накидать несколько тупых приблизительных методов без оценки точности, которые будут приближать эллипс не хуже, а лучше чем твоя нейросеть. Вот тебе, например, метод для круга, чтобы был понятен принцип: центр круга — центр масс системы точек, радиус — размер дисперсии от центра.
Эллипс — тупо: находим методом наименьших квадратов прямую, проходящую через систему точек (прямые формулы). Это будет ось большого диаметра эллипса, малый диаметр перпендикулярен ему и является проекцией центра масс на эту прямую (прямые формулы). По дисперсии проекций точек на каждую из осей я определю радиусы.
Все это придумано за 5 минут, и может быть запрограммлено минут за 15. Причем это гарантированно будет работать. Ты расшибешься обучать нейросеть, чтобы она
1) по точности работы догнала этот метод, и
2) в принципе не сможешь гарантировать что обученная сеть будет работать на всех примерах.
T>Да ладно, распознайте автомобильный номер с вероятностью 90% распознавания одной цифры.Интересно, сколько времени у вас уйдет на математический аппарат этого дела. У меня сеть обучается за 20 минут(архитектура задается за 10 минут). Слабо за двадцать минут придумать математику под это дело?
Все подобные алгоритмы, которые работают нормально — закрыты, и являются секретом фирм, которые их используют. А вот о том, как за 20 минут это сделать нейросетью можно в любой подворотне сети почитать. Это я к чему? Бюджеты таких продуктов побольше, чем 20 минут программерского времени.
А сетка твоя на самом деле не работает. Я не верю, что нейросеть после 20 минутного обучения в принципе способна распознавать номера произвольно расположенные в кадре при любом освещении. На каком наборе тестов у тебя распознается 90% — не известно. Если ты отвечаешь за свои слова — выкладывай программу или для начала опиши набор тестов и обучающее множество. А то говорит все горазды, а результаты экспериментов почему-то не воспроизводятся.
Здравствуйте, NotGonnaGetUs, Вы писали:
NGG>Эти 2 книги не принадлежат серии, вышли отдельно от неё. NGG>Они — простая констатация факта, что НС работают и достаточно эффективно. На примере Китая.
Никакого факта не вижу. Эта беллетристика, буть то о Китае, Вьетнаме или Японии, ровным счетом ничего не констатирует, кроме желания авторов оправдать существование своего центра и отработать финансирование. Причем я авторов вполне понимаю — на их месте посупал бы также. А вот вас я совсем не понимаю.
NGG>Осталось собраться и попить пивка.
С кем попало пивко не пью. Извини. Лучше с вышеупомянутым д-р ф.м.н. Стерниным пивка выпью при случае, когда он из Германии вернется.
NGG>И добавить: NGG>Не нужно думать, что примение НС ограничивается решением диф.уравнений и пытаться острить(?) по этому поводу. NGG>Задач, где обычные методы не справляются, либо не эффективны, достаточно много. Если вам интересны конкретные примеры, NGG>обратитесь к многотомнику. Все задачи, которые эффективно решаются нейросетями, решаются еще эффективнее сплайнами, марковскими автоматами, ..., и прямыми методами. Все до единой, без исключений — нейросеть во всем проигрывает сплайну, по всем пунктам. А то, что не решается "обычными" методами, не решается вообще ничем, в том числе и чудесными нейронными сетями.
Никак не могу взять в толк — как могут люди кривейший из придуманных способов экстраполяции, не имеющий никакого значения для остальной математики, считать "методом решения задач", альтернативным специализированной математике? Почему, например, никто никто не создает "Центра Преобразования Фурье" при РАН — хотя оно является одним из мощнейших инструментов в прикладной и фундаментальной математике? Почему никто не выпускает многотомников под названием "Применение преобразования Фурье в Корее"? Может, потому, что никому не надо доказывать его полезность, и с ним знаком любой приличный математик и инженер?
NGG>Какой смысл продолжать пустой трёп, основанный на вашей не колебимой вере в безнадёжность НС?
Уважаемый, в математике на веру никто ничего не принимает. Со времен Гильберта, там принято тезисы строго доказывать, и не отнють не мешая оппонента с дерьмом, и не колотя себя копытом в грудь, и не ссылаясь на авторитеты, как это делаете вы. Например, моя математическая аргументация с подробными обоснованиями приведена в ссылках на предыдущие дискуссии, которые я дал в начале ветки.
NGG>Интересно, в след.вашем сообщении вы в очередной раз напишите фамилии парочки мужиков и пошутите по поводу возможностей НС, за не имением сказать ничего дельного по теме?
Вы говорили, что спорить и доказивать ничего не собираетесь, и что квалификации у вас для этого не хватает. Понятно, вашей квалификации хватает на то, чтобы нахамить. Что с вами серьезно разговаривать-то? С вами беседы не будет, и вот почему:
1) У вас не было сказано совершенно ничего "дельного" по теме. Какая-то лапша про нелинейные уравнения (которую вы как-то очень быстро свернули — с чего это бы? ), и применение НС в Китае.
2) В довесок, с вашей стороны было совершенно неприличное поведение с переходом на личности с первого письма, плюс пара прямых оскорблений в мой адрес. После такого несколько глуповато рассчитывать на нормальную беседу.
Что касательно "мужиков", то их фамилии математически образованному человеку скажут очень много. Например, человеку, рассуждающему о проблемах решения нелинейных диффуров (как это делали вы), стоило бы знать кто такой Самарский. От его книг пользы в решении диффуров бывает гораздо больше, чем от чтения "многотомника".
Засим прощаюсь, так как беседа начинает меня доставать.
Забавно читать ваши рассуждения. Вы рассуждаете о нейронных сетях в рамках "бытовых мифов". По другому не назвать.
Есть такое место "Научный центр нейрокомпьютеров при российской академии наук". Под редакцией его руководителя выпускается многотомник "нейромпьютеры". Уже выпущено около 20 томов и будет выпущено ещё порядка 10, если не ошибаюсь.
Обратитесь к этой литературе, почитайте, поймите о чём идёт речь. Прочитать два предложения (1) про многослойную нейронную сеть с прямыми связями и (2) алгоритм обратного распространения, не значит понять НС, и тем более не повод говорить, что у НС нет применения.
Я не стану ни с вами, ни с кем-либо ещё спорить на тему НС. Во первых потому, что у меня нет достаточной квалификации в этой области, во вторых — потому что у вас её ещё меньше.
Если есть желание что-то узнать обратитесь к книгам,о которых я говорил. Если такого желания нет — продолжайте развивать свои "мифы".
Gaperton, Вы писали:
G>Насчет споров о нейросетях против классических методов. Вы понимаете, что фактически пытаются доказать сторонники нейросетей? Вдумайтесь. Они фактически доказывают, что нейросеть "понимает проблему" и "обучается" эффективнее квалифицированного математика. Сколько нейронов в этих сетях? Сотни? Сколько нейронов у человека в мозгу? Настоящих, которые обучаяются по взрослому, а не через метод backpropagation.
Нейроны в мозге не имеимет НИКАКОГО отношения к нейронам в НС.
Термины "понимает проблему" и "обучается" имеют ясную математическую интерпретацию.
"квалифицированного математик" необходимый элемент для выбора архитектуры, алгоритма обучения и обучающих выборок(если в этом есть нужда) и настройки сети под КОНЕКРЕТНУЮ задачу.
Не существует сетей, решающих любую задачу.
То, что есть известные, хорошо изученные архитектуры, не значит, что нужно брать первую попавшуюся из них, подавать на вход не известно какие выборки и ждать, что будет получен "результат".
Думать о нейронах и нейронных сетях нужно также, как о булевских логических элементах и схемах, которые можно из них составить.
До универсальных нейрокомпьютеров ещё достаточно далеко. В железе реализуются частные виды сетей.
G>Это очевидно — математик всегда выиграет у нейросети придумав более точное и эффективное решение. Эти споры беспредметны. Естественно, чтобы выиграть у нейросети, надо знать математику. Обучаться несколько лет, на большом обучающем множестве . Знаете тематическую шутку математиков? "Искусственным интеллектом занимаются те, кому не хватает естественного". Естественно, в каждой шутке есть доля шутки.
Классические теории хороши, но извините, бесполезны, при решении тех же самых систем нелинейных уравнений при заданных ограничениях на точность решения, скорость его получения и стоимость системы.
Другой пример, виброзащита: маятник установлен на вибрирующей платформе.
Требуется компенсировать колебания платформы "антиколебаниями маятника". Дифуры простые. Тем не менее классические методы бесполезны. Слишком медленны или не достаточно точны.
Металлугрия. Электродуговая печь. Контроль глубины погружения электрода — пид контроллеры это конечно не плохо, но НС могут и делают это лучше.
В ряде случаев, математик может получить только правильное, но бесполезное(для практического применения) описание процесса.
----
Как я уже писал, спорить я не собираюсь. Можете просто не согласиться с моими словами, даже привести смешные аргументы. От этого не станет хуже не мне, не вам
---
2noobi:
Если твоя цель была изучить технологию и получать за её применение хорошие деньги в нашей стране — нейросети плохой выбор
Во первых, это не перл или С — это наука и учиться придётся долго.
Во вторых, задачи решаемые с применением НС сильно отличаются от общих задач программирования. Нет никакого смысла пытаться вставить нейронные сети туда, где обычные методы великолепно работают (если границы методов кому-то не видны, это не значит, что их нет).
Кроме того, преимущество в скорости вычислений (НС vs ФонНейман)нельзя получить занимаясь эмуляцией НС на этой же самой фоннеймановской машине, нужно специалированное железа (нейроплаты выпускаемые, например, Sumsung).
Как финансируется наука, наверное догадываетесь, ставить практически ценные эксперименты в таких условиях трудно.
Повторюсь, если цели заниматься наукой нет, в НС лучше не лезть, а то превратитись в ещё одного человека, который знает, что НС "сказки для выбивания денег"
Здравствуйте, tinytjan, Вы писали: T>А насчет предложенного метода -- центр масс НЕЛЬЗЯ использовать, если ты хочешь найти действительно оптимальный эллипс.
Трактовку термина "действительно оптимальный эллипс" в студию.
... << RSDN@Home 1.1.4 beta 4 rev. 303>>
Уйдемте отсюда, Румата! У вас слишком богатые погреба.
Здравствуйте, tinytjan, Вы писали:
T>З.Ы. Я по крайней мере пытался доказать, что нейронки не пустой звук (и еще докажу наверное, если получится )
Попробуй. У тебя получалось неплохо — ты приступил к рассмотрению конкретных задач. Все предыдущие по большей части либо орали "мамой клянусь", либо докладывали в таком ключе, как предыдущий докладчик. Такой энергичный, правда, в первый раз пападаиццо.
T> а вы сейчас действительно занимаетесь не чем иным, как замером пиписек, как недавно писалось.
Конечно, в чистом виде. Ну, не я первый начал. Если человек вывалил на стол все свое хозяйство, то что остается делать?
Извините, не могу удержаться — это супер: NGG>Каждая из книг серии посвящена той или иной области применения НС, а не голому описанию основ. NGG>Направлений много. NGG>Отдельно вышли два тома о применении нейрокомпьютеров в Китае в наши дни:
Если продолжить это конкретное направление , то следующими областями применения НС окажутся Корея, Вьетнам и Бангладеш.
NGG>Удачи и вам и "пацанам"
Вам тоже . "Пацаны" привет передают — афтар жжот!
Здравствуйте, Gaperton, Вы писали:
G>"логическое и" соответствует вероятноти одновременных событий: p1*p2 G>"отрицание" это 1-p. Все, этот набор операций полон, через них выражается все остальное. G>"логическое или" = 1 — p1*p2.
Те p1|p2 == !(p1&p2)
Что-то вы батенька путаете.
Короче читаем эту тему: http://gzip.rsdn.ru/Forum/Message.aspx?mid=1016288
Здравствуйте, Noobi, Вы писали:
N>Здравствуйте, Gaperton, Вы писали:
G>>Здравствуйте, Noobi, Вы писали:
N>>>Согласен, отличная книга. Я в прошлом году прочитал и понял половину (Занимался научной работой в обл-ти ЦО нелинейных сигналов) . Сейчас как раз собирался снова начать сначала читать, но на этот раз всю. У меня еще по нему пара книг есть (Рисс, Секефальви-Надь и еще какая-то). Эти прочитаю, а потом посмотрю, что делать. Думаю, изучу вейвлеты — посмотрел 1 книгу, кажется интересно, и как раз требуется знаение ф. анализа
G>>Сплайны изучал уже?
N>Несамостоятельно — нет (не преподавали, но может будут еще, хотя вряд ли ), а самостоятельно — всегда почему то обходил численные методы (а это, кажется, оттуда?).
Сплайны — это не совсем и не только численные методы. Это некий класс функций, применяемый для интерполяции. Идея в том, чтобы вместо поднимания степени интерполяционного многочлена для увеличения точности разбить облать определения функции на несколько сегментов, в каждом из которых использовать интерполяционный многочлен низкого порядка. При этом, обеспечить гладкую сшивку многочленов сегментов на краях.
Сплайны являются одним из мощнейших инструментов в практических задачах интерполяции и разных разделах прикладной математики, также они иногда применяются в фундаментальной математике. Must know.
Здравствуйте, tinytjan, Вы писали:
T>Программу не выкину -- коммерческий проект. T>Тестовая выборка -- база данных фотографий реальных номеров, разбитых на символы. Разброс угла поворота там очень маленький, но смещение есть, и не маленькое. Мало того, на картинке частенько проскакивают части других цифирь. T>Обучение проводилось на ста картинках(обучение только на 0..9) тестировалось на двухстах, не входящих в обучающую выборку. T>Между прочим 20 минут не так уж и мало. Это время можно сократить.
А можешь выложить обученную демоверсию, чтобы BMP открывала и распознавала. У меня просто есть где-то пол-тысячи фоток номерных знаков, было бы интересно глянуть.
Здравствуйте, Sinclair, Вы писали:
S>А че, какая-то проблема что ли есть? Тут никакой нечеткостью не пахнет. Фактически, предлагается аппроксимировать управление роботом при помощи кусочно-линейной функции от аргументов. Ну да, читается это значительно лучше, чем набор if-ов. Но математически никаких причин использовать здесь что-то нечеткое нет.
Ключевые слова
читается это значительно лучше, чем набор if-ов
А если у нас появляется болие сложная задача то этот фактор становатся решающим.
Дело в том что все можно свести к тем или иным уравнениям, набору if'ов и тп но вопрос в колличестве усилий. Болие того нечеткая логика может быть автоматически превращена в набор if'ов и оптимизирована обыкновенным компилятором.
Например берем туже задачу
Вход
D.VC - очень близко
D.C - близко
D.M - средне
D.F - далеко
A.L - левее
A.C - по центру
A.R - правее
Выход
C.LL - резко влево
C.L - влево
C.C - прямо
C.R - вправо
C.RR - резко вправо
Логика
if D.VC & A.R then C.LL
if D.VC & A.C then C.LL
if D.VC & A.L then C.RR
if D.C & A.R then C.LL
if D.C & A.C then C.L
if D.C & A.L then C.RR
if D.M & A.R then C.L
if D.M & A.C then C.L
if D.M & A.L then C.R
if D.F & A.R then C.C
if D.F & A.C then C.C
if D.F & A.L then C.C
Далие это все оптимизируется и сводится к куче малопонятных if'ов которые и работают но этим занимается _машина_, а человек работает с простым и понятным языком описывющим нечеткую логику.
... << RSDN@Home 1.1.4 beta 4 rev. 303>>
Пусть это будет просто:
просто, как только можно,
но не проще.
(C) А. Эйнштейн
Здравствуйте, NotGonnaGetUs, Вы писали:
Очень интересно читать столь интеллигентную беседу двух высокоученых коллег.
Я бы хотел скромно напомнить, что вы ведете вовсе не приватный диалог. За вами с замиранием сердца наблюдает огромная аудитория.
Так что помимо обсуждения качеств этических друг друга, нелишне было бы приводить и более универсальные аргументы. Во время предыдущих обсуждений данной темы Gaperton убедил многих (в том числе меня), что НС — это тупиковое направление эволюции.
Вы представляете альтернативную точку зрения. Мне это очень интересно — может быть, Gaperton ошибается, а вместе с ним и я? НС и решения дифуров — совершенно не то, чем занимаюсь я. Поэтому лично тратить месяцы на исследования вопроса я не могу. Но мне крайне интересно следить за отраслями IT этаким общим планом, "с высоты птичьего полета".
Может, все же потрудитесь привести настоящие обоснования, вместо ссылок на двадцатитомники и практику металлургов Китая?
Лично для меня вес литературы большого значения не имеет — придите в любой книжный ларек и посмотрите на обилие трудов по психоэнергетике и накачке ауры. Не думаю, что китайские металлурги радикально отличаются от российских энергетиков. А последние, например, не стеснялись еще десяток лет назад тратить миллионы долларов на зарубежные системы измерения скорости потока дистиллированной воды, с последующим приглашением наших ученых для "подкручивания" системы, т.к. она давала некорректные результаты на насыщенной угольной взвеси
NGG>НС — это действительно "вычислительная машина", такая же как любое другое специализированные вычислительное устройсто. Высокий параллелизм заключается в том, что за один такт, полностью отрабатывет один слой сети.
То есть здесь мы уже переходим к микроэлектронике, так? Ведь в математике нет никаких тактов. Голые формулы. Пока что я думал, что НС — это такая математическая абстракция. Реализовать ее можно в виде чипа, а можно в виде программы в фон-Неймановской архитектуре. Разве не так? Насколько мне известно, задачей распараллеливания "классических" вычислительных моделей занимаются, и очень активно. NGG>А "сплайны" просто способ описать кривую + методы работы с этими описаниями.
Вот именно. НС вроде тоже, способ описать зависимость выходного результата от входного. Или вы какую-то совершенно конкретную НС имеете в виду? G>>К сожалению, нет. NGG>К сожалению, да, поскольку вы игнорируете тот факт, что нс довольно успешно применяются на практике.
А еще на практике успешно применяется астрология и уринотерапия. Что делать? G>>NGG>Классические теории хороши, но извините, бесполезны, при решении тех же самых систем нелинейных уравнений при заданных ограничениях на точность решения, скорость его получения и стоимость системы. NGG>И где тут фигурирует утверждения "только" и "нужно всегда"?
Тут фигурирует упоминание ограничения на точность решения. А, насколько мне известно, способов хотя бы оценить точность решения при помощи НС, не существует. Опровергните, если это возможно. NGG>Посмотрим, что будет твориться в мире лет через 10
Нет уж, давайте решим все здесь и сейчас. Что это за дуэль такая — кто первый состарился, тот и проиграл?
... << RSDN@Home 1.1.4 beta 4 rev. 347>>
Уйдемте отсюда, Румата! У вас слишком богатые погреба.
Здравствуйте, Noobi, Вы писали:
N>Так же очень интересно ваше мнение о мягких вычислениях в общем. Не считаете ли вы случайно, что это — полная фигня,и классические алгоритмы лучше и т.п...
Случайно считаю именно так. Но собственный опыт всегда убедительнее. Флаг, как говорится, в руки. Для поиска чужого опыта подойдет функция RSDN "поиск".
Здравствуйте, Noobi, Вы писали:
N> Да, я уже читал одно обсуждение про нейросети
Серьезных обсуждений было как минимум три. Во всех трех "наши выиграли", т. е. сторонноков нейросетей методично и неторопливо порвали на лоскуты. Почитай, там местами интересно и по делу (чем позже, тем больше по делу).
Здравствуйте, Gaperton, Вы писали:
G>Здравствуйте, tinytjan, Вы писали:
T>>Здравствуйте, Gaperton, cпасибо за ссылочки. T>>Очень интересно. И обидно заодно. T>>Я написал универсальную нейросеть. Что зря что ли????? T>>ПРОДВИНУТЫЕ МАТЕМАТИКИ саппроксимируйте эллипс, произвольным образом расположенный в пространстве, по набору точек. G> Легко, под это разрабатывается вариант метода наименьших квадратов. Плюс, могу накидать несколько тупых приблизительных методов без оценки точности, которые будут приближать эллипс не хуже, а лучше чем твоя нейросеть. Вот тебе, например, метод для круга, чтобы был понятен принцип: центр круга — центр масс системы точек, радиус — размер дисперсии от центра.
G>Эллипс — тупо: находим методом наименьших квадратов прямую, проходящую через систему точек (прямые формулы). Это будет ось большого диаметра эллипса, малый диаметр перпендикулярен ему и является проекцией центра масс на эту прямую (прямые формулы). По дисперсии проекций точек на каждую из осей я определю радиусы.
G>Все это придумано за 5 минут, и может быть запрограммлено минут за 15. Причем это гарантированно будет работать. Ты расшибешься обучать нейросеть, чтобы она G>1) по точности работы догнала этот метод, и G>2) в принципе не сможешь гарантировать что обученная сеть будет работать на всех примерах.
T>>Да ладно, распознайте автомобильный номер с вероятностью 90% распознавания одной цифры.Интересно, сколько времени у вас уйдет на математический аппарат этого дела. У меня сеть обучается за 20 минут(архитектура задается за 10 минут). Слабо за двадцать минут придумать математику под это дело? G>Все подобные алгоритмы, которые работают нормально — закрыты, и являются секретом фирм, которые их используют. А вот о том, как за 20 минут это сделать нейросетью можно в любой подворотне сети почитать. Это я к чему? Бюджеты таких продуктов побольше, чем 20 минут программерского времени.
G>А сетка твоя на самом деле не работает. Я не верю, что нейросеть после 20 минутного обучения в принципе способна распознавать номера произвольно расположенные в кадре при любом освещении. На каком наборе тестов у тебя распознается 90% — не известно. Если ты отвечаешь за свои слова — выкладывай программу или для начала опиши набор тестов и обучающее множество. А то говорит все горазды, а результаты экспериментов почему-то не воспроизводятся.
А что-нибудь против нечеткой логики ты имеешь? (Насчет нейросетей: я теперь расхотел ими глубоко заниматься, но обязательно ознакомлюсь)
Здравствуйте, tinytjan, Вы писали:
T>Здравствуйте, Trean, Вы писали:
T>>А можешь выложить обученную демоверсию, чтобы BMP открывала и распознавала. У меня просто есть где-то пол-тысячи фоток номерных знаков, было бы интересно глянуть. T>Неа, щас не получится. Кидаю я пока этот спор .Через 2 недели сдача проекта, а у нас полная халтура, так что надо трудиться . У меня диплом на эту тему, с привязкой к нейросетям. Планирую написать за месяц. T>Так что через месяц может выкину демку. T>И все-таки зря вы так на нейронки. Иногда очень сильно помогает.
"А я что? Я — ничего" я в вашем споре не участвовал =).
на самом деле любая нейронная сеть всего лишь решает систему уравнений, которая задаётся её структурой и обучением, думать что сеть может что-то "понимать" по меньшей мере наивно. Если скормленная ей задача выбивается из ряда примеров на которых сеть учили то сеть выдаст абсолютно неверное решение. Нейронные сети используют там,где не понимают зависимости ответа от данных в робкой надежде что сеть "сама разберётся", так что в шутке математиков насчёт искусственного интелекта определённо есть доля шутки
Так называемая "нечеткая логика" просто игнорирует возможную зависимость параметров. Поэтому и получаются довольно простые формулы. В теории вероятностей все не так — там все очень строго описывается в рамках аксиоматики Колмогорова.
G>Ничего плохого в ней нет, но есть один нюанс. "Нечеткая логика" — это просто название. И ничего кроме названия. Если я правильно понимаю, если ты заменишь значения true-false на вероятность true, то ты и получишь так называемую нечеткую логику.
G>"логическое и" соответствует вероятноти одновременных событий: p1*p2 G>"отрицание" это 1-p. Все, этот набор операций полон, через них выражается все остальное. G>"логическое или" = 1 — p1*p2.
G>Дальше можно брать любой учебник математической логики, и начать раскручивать на этом базисе "нечеткую логику" — ничего сложного, и главное, получишь ты в результате самую обыкновенную теорию вероятности. Тервер штука хорошая, но никакой магии и ореола романтики в ней нет (вслушайтесь как звучит? "нечеткая логика"! Завлекает, правда? Это не спроста, так бабло на грант получить проще, или тендер выиграть).
G>Так что берем учебник тервера, учебник матлогики или дискретной математики, и начинаем погружаться в увлекательный мир нечеткой логики самостоятельно. Это интересно и ненапряжно, если делать это самостоятельно, в качестве упражнения. Можно получить массу удовольствия, и без особых усилий (бо халява) почувствовать себя первооткрывателем загадочной fuzzy logic. А читать на эту тему книжки — все равно, что заглянуть в конец скучного детектива.
Здравствуйте, Gaperton, Вы писали:
G>Ну и так далее.
Ну да. Такая логика будет работать. Есть только одна маааленькая тонкость, которая ограничивает "физический смысл": формулы вероятностей справедливы для независимых событий. Именно поэтому происходят сбои при вычислении (a & a) — это крайний случай полной зависимости. Для точного моделирования вероятностей придется как-то учитывать корреляции между событиями.
... << RSDN@Home 1.1.4 beta 4 rev. 347>>
Уйдемте отсюда, Румата! У вас слишком богатые погреба.
Здравствуйте, WolfHound, Вы писали: WH>Ну давай сформулмруй условия вот для этой задачки.
А че, какая-то проблема что ли есть? Тут никакой нечеткостью не пахнет. Фактически, предлагается аппроксимировать управление роботом при помощи кусочно-линейной функции от аргументов. Ну да, читается это значительно лучше, чем набор if-ов. Но математически никаких причин использовать здесь что-то нечеткое нет.
... << RSDN@Home 1.1.4 beta 4 rev. 347>>
Уйдемте отсюда, Румата! У вас слишком богатые погреба.
Здравствуйте, tinytjan, Вы писали:
T>Зачем изобретать велосипед? T>Если такая логика и будет работать, то она будет просто прреобразованием логики мин/макс в арифметические операции сложения, умножения и вычитания.
Это кто тебе такое сказал? T>Вот пример такого выражения: T>
T> A * B= (A+B)/2-|A-B|/2
T> A & B= (A+B)-A*B
T> ~A = 1-A
T>
Эти выражения ничуть не лучше вероятностных формул, т.к. точно так же не учитывают корреляцию параметров.
... << RSDN@Home 1.1.4 beta 4 rev. 347>>
Уйдемте отсюда, Румата! У вас слишком богатые погреба.
Здравствуйте, NotGonnaGetUs, Вы писали:
S>>Лично для меня вес литературы большого значения не имеет — придите в любой книжный ларек и посмотрите на обилие трудов по психоэнергетике и накачке ауры. NGG>Ну, а что вы хоите сказать? Что мои слова станут для вас более убедительны, чем изложение теории НС в литературе?
Я хочу сказать, что утверждения типа "точность решения задачи при помощи НС можно оценить методом Кусквангера" гораздо убедительнее "вышло пятьдесят книг про оценку точности НС-решений". NGG>Хотите обзорную выжимку о НС?
Да. NGG>Тогда придёт "Gaperton"(имя нарицательное) и начнёт утверждать, что "сплайны круче всех на свете", как это делалось в этой ветке.
Если кто-то будет сводить всё к скандалу, то мы его заткнем. Но надо быть готовым к тому, что на предложение порешать квадратное уравнение через НС здесь могут предложить посчитать дискриминант. NGG>В итоге всё сведётся к тому, что есть сейчас: противник НС готов клясться мамой, что НС — тупик,
Нет. Его мама тут ни при чем. Он готов обсуждать любые разумные аргументы. Скажите хоть что-то такое, с чем можно спорить. NGG>я не могу тратить время на то, что бы его разубеждать приводя конкретные задачи и конкретные решение на базе НС.
В таком случае дискуссию лучше свернуть. Потому как вопросы веры и религии нам не интересны. NGG>Нет. Мы переходим к тому, что НС обладает потенциальной возможностью "максимально распараллелить вычисление"(ой, как не грамотно звучит). NGG>Есть такое понятие как алгоритмическая сложность задачи. Появляется оно, как только алгоритм решения задачи записан для исполнения неким вычислителем.
Ну, с понятием алгоритмической сложности мы более-менее знакомы. NGG>В итоге вычислительная сложность становится O(1), вместо O(n) в классических алгоритмах.
Ну то есть на самом деле сложность остается O(N), и собственно выигрыш получается за счет того, что несколько операций выполняются одновременно. Причем для этого нужно специализированное железо. Ок, понятно. NGG>Очевидно, что эмулируя НС на PC, никакого o(1) получено не будет.
Это тоже понятно. Что-то мне подсказывает, что, к примеру, решение системы линейных уравнений фиксированной размерности можно тоже воплотить в железе. Причем так, что решение будет выдаваться за один такт. NGG>Я имею ввиду, что сети не требуют заниматься "задачей распараллеливания "классических" вычислительных моделей", поскольку уже представляют распараллеленнное до "не могу" решение.
Ну вообще-то сплайны, к примеру, тоже позволяют легко распараллеливать вычисления. И по аналогичной причине — расчеты различных фрагментов кривой выполняются независимо. S>>Тут фигурирует упоминание ограничения на точность решения. А, насколько мне известно, способов хотя бы оценить точность решения при помощи НС, не существует. Опровергните, если это возможно. NGG>При обучении сети вводится понятие функционал оптимизации. Например, среднеквадратичная ошибка.
Прекрасно. NGG>Алгоритмы обучения используется для его минимизации.
Я правильно понимаю, что минимизация функционала происходит на обучающем множестве? NGG>Поэтоу говорить, что нет способов оценить точность решения несколько не верно.
Зададим прямой вопрос: какой метод позволяет оценить погрешность решения, выдаваемого для точки, не принадлежащей обучающему множеству?
NGG>Я ещё раз хочу сказать, я не являюсь энциклопедией по НС, не надо у меня выспрашивать тонкости и тем более спорить, сравнивая НС с десятками других технологий. NGG>Я имею общее представление о НС, о ряде их плюсов и минусов, т.к. учился в НЦН.
Так я и хочу получить ответ на уровне общих представлений. NGG>Этих знаний досточно, что бы не воспринимать серьёзно словоблудие о принципиальной тупиковости НС.
Еще раз: Gaperton сформулировал некоторые принципиальные проблемы НС, которые ограничивают их применение в известных ему областях. Да, он несколько эмоционален, но мы и не на заседании ученого совета. Да, он трактует недееспособность НС несколько расширительно. Я достаточно критично отношусь к его высказываниям, но он хотя бы подкрепляет их конкретными утверждениями. Если вы имели смелость называть его утверждения неверными — имейте и терпение обосновать свои.
... << RSDN@Home 1.1.4 beta 4 rev. 347>>
Уйдемте отсюда, Румата! У вас слишком богатые погреба.
Я сейчас собираюсь начать глубоко изучать нечеткую логику, нейронные сети, нечеткие эксп. системы и т.п.
Скажите пожалуйста, применяли ли вы когда-нибудь что-нибудт из м.в. на практике и как думаете, стоило бы это делать?
Так же очень интересно ваше мнение о мягких вычислениях в общем. Не считаете ли вы случайно, что это — полная фигня,и классические алгоритмы лучше и т.п...
Здравствуйте, Gaperton, Вы писали:
G>Здравствуйте, Noobi, Вы писали:
N>>Так же очень интересно ваше мнение о мягких вычислениях в общем. Не считаете ли вы случайно, что это — полная фигня,и классические алгоритмы лучше и т.п... G>Случайно считаю именно так. Но собственный опыт всегда убедительнее. Флаг, как говорится, в руки. Для поиска чужого опыта подойдет функция RSDN "поиск".
G>Удачи.
Здравствуйте, Gaperton, Вы писали:
G>Здравствуйте, Noobi, Вы писали:
N>> Да, я уже читал одно обсуждение про нейросети G>Серьезных обсуждений было как минимум три. Во всех трех "наши выиграли", т. е. сторонноков нейросетей методично и неторопливо порвали на лоскуты. Почитай, там местами интересно и по делу (чем позже, тем больше по делу).
Здравствуйте, Saintdmitry, Вы писали:
S>Здравствуйте, Noobi, Вы писали:
N>>Здравствуйте, Gaperton, Вы писали:
N>>А как насчет нечеткой логики — в поиске не нашёл
S>Ищите fuzzy logic
Спасибо, я это вроде тоже пробовл. Сейчас еще попробую.
Здравствуйте, Gaperton, Вы писали:
G>Здравствуйте, Noobi, Вы писали:
N>> Да, я уже читал одно обсуждение про нейросети G>Серьезных обсуждений было как минимум три. Во всех трех "наши выиграли", т. е. сторонноков нейросетей методично и неторопливо порвали на лоскуты. Почитай, там местами интересно и по делу (чем позже, тем больше по делу).
Буду благодарен, если кинешь ссылочки по обсуждениям. Просто интересно. Я вообще считаю, что нейронные сети рулят в некоторых случаях, когда применять простые вычисления (например, статистику) долго или вообще невозможно.
Здравствуйте, tinytjan, Вы писали:
T>Здравствуйте, Gaperton, Вы писали:
G>>Здравствуйте, Noobi, Вы писали:
N>>> Да, я уже читал одно обсуждение про нейросети G>>Серьезных обсуждений было как минимум три. Во всех трех "наши выиграли", т. е. сторонноков нейросетей методично и неторопливо порвали на лоскуты. Почитай, там местами интересно и по делу (чем позже, тем больше по делу). T>Буду благодарен, если кинешь ссылочки по обсуждениям. Просто интересно. http://www.rsdn.ru/Forum/?mid=952084
Здравствуйте, Gaperton, cпасибо за ссылочки.
Очень интересно. И обидно заодно.
Я написал универсальную нейросеть. Что зря что ли?????
ПРОДВИНУТЫЕ МАТЕМАТИКИ саппроксимируйте эллипс, произвольным образом расположенный в пространстве, по набору точек.
Да ладно, распознайте автомобильный номер с вероятностью 90% распознавания одной цифры.Интересно, сколько времени у вас уйдет на математический аппарат этого дела. У меня сеть обучается за 20 минут(архитектура задается за 10 минут). Слабо за двадцать минут придумать математику под это дело?
Здравствуйте, Noobi, Вы писали:
N>Здравствуйте, Gaperton, Вы писали:
...
N>А что-нибудь против нечеткой логики ты имеешь? (Насчет нейросетей: я теперь расхотел ими глубоко заниматься, но обязательно ознакомлюсь)
Теперь изучение нейросетей и всего такого отодвигается на 2й план. Буду читать книги про ДУ, компиляцию (1 уже почти прочитал) и Функ. языки. С учетом прочитанных сообщений я думаю, что это бует круче и эффективнее
К сожалению, выяснил из прочтенного, что основное достоинство нейросетей — их простота по сравнению с хорошими алгоритмами. Мне не нравится этот их признак , лучше почитаю про то, что указано в пред. моем сообщении.
P.S.
Правда, про нечеткую логику там не было такого написано, но, думаю, что это и к ней относится .
Здравствуйте, Noobi, Вы писали:
N>Здравствуйте, Noobi, Вы писали:
N>>Здравствуйте, Gaperton, Вы писали:
N>...
N>>А что-нибудь против нечеткой логики ты имеешь? (Насчет нейросетей: я теперь расхотел ими глубоко заниматься, но обязательно ознакомлюсь)
N>Теперь изучение нейросетей и всего такого отодвигается на 2й план. Буду читать книги про ДУ, компиляцию (1 уже почти прочитал) и Функ. языки. С учетом прочитанных сообщений я думаю, что это бует круче и эффективнее
Круче бывают только яйца Слышали такую поговорку. Какая цель вообще прреследуется ?
Здравствуйте, Gaperton, Вы писали:
G>Эллипс — тупо: находим методом наименьших квадратов прямую, проходящую через систему точек (прямые формулы). Это будет ось большого диаметра эллипса, малый диаметр перпендикулярен ему и является проекцией центра масс на эту прямую (прямые формулы). По дисперсии проекций точек на каждую из осей я определю радиусы.
Эллипс -- это не тупо. Попробуй найти эллипс чистым МНК, находя не прямые регрессии, а ДЕЙСТВИТЕЛЬНО уравнение
эллипса. Это дело будет посложнее запрограммить.
А насчет предложенного метода -- центр масс НЕЛЬЗЯ использовать, если ты хочешь найти действительно оптимальный эллипс. Интересно, как этот метод будет пахать на таком примере?
G>А сетка твоя на самом деле не работает. Я не верю, что нейросеть после 20 минутного обучения в принципе способна распознавать номера произвольно расположенные в кадре при любом освещении. На каком наборе тестов у тебя распознается 90% — не известно. Если ты отвечаешь за свои слова — выкладывай программу или для начала опиши набор тестов и обучающее множество. А то говорит все горазды, а результаты экспериментов почему-то не воспроизводятся.
Программу не выкину -- коммерческий проект.
Тестовая выборка -- база данных фотографий реальных номеров, разбитых на символы. Разброс угла поворота там очень маленький, но смещение есть, и не маленькое. Мало того, на картинке частенько проскакивают части других цифирь.
Обучение проводилось на ста картинках(обучение только на 0..9) тестировалось на двухстах, не входящих в обучающую выборку.
Между прочим 20 минут не так уж и мало. Это время можно сократить.
Здравствуйте, Noobi, Вы писали:
N>К сожалению, выяснил из прочтенного, что основное достоинство нейросетей — их простота по сравнению с хорошими алгоритмами. Мне не нравится этот их признак , лучше почитаю про то, что указано в пред. моем сообщении.
Не простота. А УНИВЕРСАЛЬНОСТЬ и ОБОБЩАЮЩАЯ СПОСОБНОСТЬ.
Хорошие алгоритмы так просто нигде не валяются. А инфы по нейронкам вагон и еще маленькая тележка.
Зачем изобретать паровоз, если есть универсальный аппроксиматор под довольно широкий спектр задач?
Здравствуйте, Trean, Вы писали:
T>Здравствуйте, tinytjan, Вы писали:
T>>Программу не выкину -- коммерческий проект. T>>Тестовая выборка -- база данных фотографий реальных номеров, разбитых на символы. Разброс угла поворота там очень маленький, но смещение есть, и не маленькое. Мало того, на картинке частенько проскакивают части других цифирь. T>>Обучение проводилось на ста картинках(обучение только на 0..9) тестировалось на двухстах, не входящих в обучающую выборку. T>>Между прочим 20 минут не так уж и мало. Это время можно сократить.
T>А можешь выложить обученную демоверсию, чтобы BMP открывала и распознавала. У меня просто есть где-то пол-тысячи фоток номерных знаков, было бы интересно глянуть.
Неа, щас не получится. Кидаю я пока этот спор .Через 2 недели сдача проекта, а у нас полная халтура, так что надо трудиться . У меня диплом на эту тему, с привязкой к нейросетям. Планирую написать за месяц.
Так что через месяц может выкину демку.
И все-таки зря вы так на нейронки. Иногда очень сильно помогает.
Здравствуйте, tinytjan, Вы писали:
T>Здравствуйте, Noobi, Вы писали:
N>>К сожалению, выяснил из прочтенного, что основное достоинство нейросетей — их простота по сравнению с хорошими алгоритмами. Мне не нравится этот их признак , лучше почитаю про то, что указано в пред. моем сообщении.
T>Не простота. А УНИВЕРСАЛЬНОСТЬ и ОБОБЩАЮЩАЯ СПОСОБНОСТЬ. T>Хорошие алгоритмы так просто нигде не валяются. А инфы по нейронкам вагон и еще маленькая тележка. T>Зачем изобретать паровоз, если есть универсальный аппроксиматор под довольно широкий спектр задач?
ИМХО, то, что универсально для многих задач — не очень хорошо. Может быть для мелких задач и подошли бы универсальные методы, но для больших придётся придумать решение побыстрее
Здравствуйте, tinytjan, Вы писали:
T>Эллипс -- это не тупо. Попробуй найти эллипс чистым МНК, находя не прямые регрессии, а ДЕЙСТВИТЕЛЬНО уравнение T>эллипса. Это дело будет посложнее запрограммить.
Конечно посложнее, я в курсах . Муторно это больно. Ты для начала выложи сетку, которая на произвольной выборке даст суммарное отклонение точек от получившихся эллипсов меньше, чем приведенный мной метод. Вот тогда я напрягусь и порву твою сетку чистым МНК (или дальше потвикаю тупой статистический метод). А пока — твоей сетки, которая все мега-круто распознает, вообще никто не видел, так о чем ты говоришь?
T>А насчет предложенного метода -- центр масс НЕЛЬЗЯ использовать, если ты хочешь найти действительно оптимальный эллипс. Интересно, как этот метод будет пахать на таком примере? T>
Как мой метод сработает, я знаю. А вот как твоя сетка будет пахать на этом же примере — совершенно непонятно. Пока никаких предпосылок к тому, что она решает задачу — нет. И не надо доказательств из разряда "мамой клянусь" — программу пожалуйста + описание вида сети.
T>Программу не выкину -- коммерческий проект.
Название компании, веб-сайт, название продукта, и наконец, демо-версию в студию.
T>Тестовая выборка -- база данных фотографий реальных номеров, разбитых на символы. Разброс угла поворота там очень маленький, но смещение есть, и не маленькое. Мало того, на картинке частенько проскакивают части других цифирь.
Э-э, батенька. Это что, фотографии вымытых номеров, лежащих на столе? Так тут никакого распознавания не нужно — простое сопоставление с образцом. Шрифт-то у номеров стандартный . Короче, пока программу не покажешь, не поверю.
T>Обучение проводилось на ста картинках(обучение только на 0..9) тестировалось на двухстах, не входящих в обучающую выборку. T>Между прочим 20 минут не так уж и мало. Это время можно сократить.
А это пофигу, сколько времени ты ее обучаешь. Главное, чтобы она обучилась . Все равно такие вещи за один день не делаются — бюджет таких пороектов больше. Сильно больше.
N>>А что-нибудь против нечеткой логики ты имеешь? (Насчет нейросетей: я теперь расхотел ими глубоко заниматься, но обязательно ознакомлюсь)
G>Ничего плохого в ней нет, но есть один нюанс. "Нечеткая логика" — это просто название. И ничего кроме названия. Если я правильно понимаю, если ты заменишь значения true-false на вероятность true, то ты и получишь так называемую нечеткую логику.
G>"логическое и" соответствует вероятноти одновременных событий: p1*p2 G>"отрицание" это 1-p. Все, этот набор операций полон, через них выражается все остальное. G>"логическое или" = 1 — p1*p2.
G>Дальше можно брать любой учебник математической логики, и начать раскручивать на этом базисе "нечеткую логику" — ничего сложного, и главное, получишь ты в результате самую обыкновенную теорию вероятности. Тервер штука хорошая, но никакой магии и ореола романтики в ней нет (вслушайтесь как звучит? "нечеткая логика"! Завлекает, правда? Это не спроста, так бабло на грант получить проще, или тендер выиграть).
G>Так что берем учебник тервера, учебник матлогики или дискретной математики, и начинаем погружаться в увлекательный мир нечеткой логики самостоятельно. Это интересно и ненапряжно, если делать это самостоятельно, в качестве упражнения. Можно получить массу удовольствия, и без особых усилий (бо халява) почувствовать себя первооткрывателем загадочной fuzzy logic. А читать на эту тему книжки — все равно, что заглянуть в конец скучного детектива.
Да, я имел в виду именно учебники. Спасибо за то, что открыл мне глаза на то, что нечеткая логика не сильно отличается от обычной. Я правда знал её основы, но не мог и предположить, что она почти то же самое, что и обычная! (Я думал, что там еще куча всяких разных специфических теорем )
А чем думаешь еще не стоит заниматься из таких вещей? (Например, каково твое отношение к вейвлет преодразованиям? Они, правда в М.В. отношения не имеют (но название меня тоже привлекает) — не явлется ли это очередным способом выманивания денег у несведущих людей?)
Здравствуйте, Noobi, Вы писали:
N>А чем думаешь еще не стоит заниматься из таких вещей?
Всем, что тебе интересно.
N>(Например, каково твое отношение к вейвлет преодразованиям? Они, правда в М.В. отношения не имеют (но название меня тоже привлекает) — не явлется ли это очередным способом выманивания денег у несведущих людей?)
Вейвлеты это вполне нормальная штука из прикладной математики. На базе вейвлет-преобразований делается, например, вполне приличная компрессия изображений, примерно вдвое превосходящая JPEG (который основан на преобразовании фурье).
Здравствуйте, Sinclair, Вы писали:
S>Здравствуйте, tinytjan, Вы писали: T>>А насчет предложенного метода -- центр масс НЕЛЬЗЯ использовать, если ты хочешь найти действительно оптимальный эллипс. S>Трактовку термина "действительно оптимальный эллипс" в студию.
Я думаю, кривая "эллипс" с наименьшим средне-квадратичным отклонением от заданного множества точек . Боюсь, что нейросетью в принципе невозможно решить задачу в такой постановке .
Здравствуйте, Gaperton, Вы писали:
G>Здравствуйте, Noobi, Вы писали:
N>>А чем думаешь еще не стоит заниматься из таких вещей? G>Всем, что тебе интересно.
N>>(Например, каково твое отношение к вейвлет преодразованиям? Они, правда в М.В. отношения не имеют (но название меня тоже привлекает) — не явлется ли это очередным способом выманивания денег у несведущих людей?) G>Вейвлеты это вполне нормальная штука из прикладной математики. На базе вейвлет-преобразований делается, например, вполне приличная компрессия изображений, примерно вдвое превосходящая JPEG (который основан на преобразовании фурье).
G>Цель-то твоя какая? Зачем это все тебе нужно?
Очень хочу расширить свой кругозор путем получения дополнительных знаний из области прикладной математики
Здравствуйте, Noobi, Вы писали:
G>>Цель-то твоя какая? Зачем это все тебе нужно?
N>Очень хочу расширить свой кругозор путем получения дополнительных знаний из области прикладной математики
Прикладная математика большая . Куда прикладывать-то собираешься? Если все равно, чем заниматься, возьми вводный курс численных методов, а сначала (если еще не ) — теорию функций и функциональный анализ (советую учебник Колмогорова-Фомина — это надо, чтобы без проблем понимать современную прикладную математику).
Здравствуйте, Gaperton, Вы писали:
G>Здравствуйте, Noobi, Вы писали:
G>>>Цель-то твоя какая? Зачем это все тебе нужно?
N>>Очень хочу расширить свой кругозор путем получения дополнительных знаний из области прикладной математики
G>Прикладная математика большая . Куда прикладывать-то собираешься? Если все равно, чем заниматься, возьми вводный курс численных методов, а сначала (если еще не ) — теорию функций и функциональный анализ (советую учебник Колмогорова-Фомина — это надо, чтобы без проблем понимать современную прикладную математику).
Согласен, отличная книга. Я в прошлом году прочитал и понял половину (Занимался научной работой в обл-ти ЦО нелинейных сигналов) . Сейчас как раз собирался снова начать сначала читать, но на этот раз всю. У меня еще по нему пара книг есть (Рисс, Секефальви-Надь и еще какая-то). Эти прочитаю, а потом посмотрю, что делать. Думаю, изучу вейвлеты — посмотрел 1 книгу, кажется интересно, и как раз требуется знаение ф. анализа
Здравствуйте, Noobi, Вы писали:
N>Согласен, отличная книга. Я в прошлом году прочитал и понял половину (Занимался научной работой в обл-ти ЦО нелинейных сигналов) . Сейчас как раз собирался снова начать сначала читать, но на этот раз всю. У меня еще по нему пара книг есть (Рисс, Секефальви-Надь и еще какая-то). Эти прочитаю, а потом посмотрю, что делать. Думаю, изучу вейвлеты — посмотрел 1 книгу, кажется интересно, и как раз требуется знаение ф. анализа
Здравствуйте, Gaperton, Вы писали:
G>Здравствуйте, Noobi, Вы писали:
N>>Согласен, отличная книга. Я в прошлом году прочитал и понял половину (Занимался научной работой в обл-ти ЦО нелинейных сигналов) . Сейчас как раз собирался снова начать сначала читать, но на этот раз всю. У меня еще по нему пара книг есть (Рисс, Секефальви-Надь и еще какая-то). Эти прочитаю, а потом посмотрю, что делать. Думаю, изучу вейвлеты — посмотрел 1 книгу, кажется интересно, и как раз требуется знаение ф. анализа
G>Сплайны изучал уже?
Несамостоятельно — нет (не преподавали, но может будут еще, хотя вряд ли ), а самостоятельно — всегда почему то обходил численные методы (а это, кажется, оттуда?).
Здравствуйте, Gaperton, Вы писали:
G>Здравствуйте, Noobi, Вы писали:
N>>Здравствуйте, Gaperton, Вы писали:
G>>>Здравствуйте, Noobi, Вы писали:
N>>>>Согласен, отличная книга. Я в прошлом году прочитал и понял половину (Занимался научной работой в обл-ти ЦО нелинейных сигналов) . Сейчас как раз собирался снова начать сначала читать, но на этот раз всю. У меня еще по нему пара книг есть (Рисс, Секефальви-Надь и еще какая-то). Эти прочитаю, а потом посмотрю, что делать. Думаю, изучу вейвлеты — посмотрел 1 книгу, кажется интересно, и как раз требуется знаение ф. анализа
G>>>Сплайны изучал уже?
N>>Несамостоятельно — нет (не преподавали, но может будут еще, хотя вряд ли ), а самостоятельно — всегда почему то обходил численные методы (а это, кажется, оттуда?).
G>Сплайны — это не совсем и не только численные методы. Это некий класс функций, применяемый для интерполяции. Идея в том, чтобы вместо поднимания степени интерполяционного многочлена для увеличения точности разбить облать определения функции на несколько сегментов, в каждом из которых использовать интерполяционный многочлен низкого порядка. При этом, обеспечить гладкую сшивку многочленов сегментов на краях.
G>Сплайны являются одним из мощнейших инструментов в практических задачах интерполяции и разных разделах прикладной математики, также они иногда применяются в фундаментальной математике. Must know.
Интересно. Про сплайны тоже прочитаю, только сначала Колмогорова и Фомина дочитаю.
Здравствуйте, Gaperton, Вы писали:
G>Здравствуйте, Noobi, Вы писали:
N>>Здравствуйте, Gaperton, Вы писали:
G>>>Здравствуйте, Noobi, Вы писали:
N>>>>Согласен, отличная книга. Я в прошлом году прочитал и понял половину (Занимался научной работой в обл-ти ЦО нелинейных сигналов) . Сейчас как раз собирался снова начать сначала читать, но на этот раз всю. У меня еще по нему пара книг есть (Рисс, Секефальви-Надь и еще какая-то). Эти прочитаю, а потом посмотрю, что делать. Думаю, изучу вейвлеты — посмотрел 1 книгу, кажется интересно, и как раз требуется знаение ф. анализа
G>>>Сплайны изучал уже?
N>>Несамостоятельно — нет (не преподавали, но может будут еще, хотя вряд ли ), а самостоятельно — всегда почему то обходил численные методы (а это, кажется, оттуда?).
G>Сплайны — это не совсем и не только численные методы. Это некий класс функций, применяемый для интерполяции. Идея в том, чтобы вместо поднимания степени интерполяционного многочлена для увеличения точности разбить облать определения функции на несколько сегментов, в каждом из которых использовать интерполяционный многочлен низкого порядка. При этом, обеспечить гладкую сшивку многочленов сегментов на краях.
G>Сплайны являются одним из мощнейших инструментов в практических задачах интерполяции и разных разделах прикладной математики, также они иногда применяются в фундаментальной математике. Must know.
Я собираюсь довольно много изучить еще математики, сплайны тоже подойдут
Здравствуйте, odyseys, Вы писали:
O>Не знакомы Вы с теорией вероятностей...
Уважаемый, это форум по алгоритмом, а не место для замеров пиписьками. Начинать письмо с подобных фраз невежливо.
[дальнейший поток сознания в доказательство авторского тезиса проскипан]
Здравствуйте, WolfHound, Вы писали:
WH>Здравствуйте, Gaperton, Вы писали:
G>>"логическое и" соответствует вероятноти одновременных событий: p1*p2 G>>"отрицание" это 1-p. Все, этот набор операций полон, через них выражается все остальное. G>>"логическое или" = 1 — p1*p2. WH>Те p1|p2 == !(p1&p2) WH>Что-то вы батенька путаете.
Ну типа того — там надо еще отрицаний взять, напутал я. Ну ты же понял идею .
WH>Короче читаем эту тему: http://gzip.rsdn.ru/Forum/Message.aspx?mid=1016288
Здравствуйте, Gaperton, Вы писали:
G>Ну типа того — там надо еще отрицаний взять, напутал я.
Куда чего отрицать? G>Ну ты же понял идею .
Не понял.
G>Ссылки хороши. А чем max/min лучше умножения, кстати?
Видимо тем что работает...
... << RSDN@Home 1.1.4 beta 3 rev. 185>>
Пусть это будет просто:
просто, как только можно,
но не проще.
(C) А. Эйнштейн
Здравствуйте, WolfHound, Вы писали:
WH>Здравствуйте, Gaperton, Вы писали:
G>>Ну типа того — там надо еще отрицаний взять, напутал я. WH>Куда чего отрицать?
Ты мне экзамен устраиваешь? a & b = !!(a & b) = !(!a | !b)
G>>Ну ты же понял идею . WH>Не понял.
Тут все настолько просто, что если не понял — значит не хочешь понимать. Предлагаю закрыть тему.
G>>Ссылки хороши. А чем max/min лучше умножения, кстати? WH>Видимо тем что работает...
Ты знаешь, все формулы работают, в том смысле, что если туда значения подставить, то обязательно результат получишь, причем, что характерно, всегда один и тот же. Ты попробуй значения подставить в мои формулы, может они тоже заработают? У меня работали .
Здравствуйте, Gaperton, Вы писали:
G>Ты мне экзамен устраиваешь?
Нет. Просто не понимаю ка ты предлагаешь делать это на умножениях.
Если взять то что ты предложил
"логическое и" соответствует вероятноти одновременных событий: p1*p2
"отрицание" это 1-p. Все, этот набор операций полон, через них выражается все остальное.
"логическое или" = 1 — p1*p2.
то эта формула не корректна G>a & b = !!(a & b) = !(!a | !b)
a * b = 1 — (1 — (1 — a) * (1 — b) ) = (1 — a) * (1 — b)
болие того даже это не работает
(a | b) | c = a | (b | c)
1 — (1 — a * b ) * c = 1 — a * ( 1 — b * c )
1 — c + a * b * c = 1 — a + a * b * c
...
Те с логикой это не имеет ни чего общего.
G>Тут все настолько просто, что если не понял — значит не хочешь понимать. Предлагаю закрыть тему.
ИМХО ты гдето запутался
G>Ты знаешь, все формулы работают, в том смысле, что если туда значения подставить, то обязательно результат получишь, причем, что характерно, всегда один и тот же. Ты попробуй значения подставить в мои формулы, может они тоже заработают? У меня работали .
А толку если к твоей логие не применимы операции над обычной логикой?
... << RSDN@Home 1.1.4 beta 3 rev. 185>>
Пусть это будет просто:
просто, как только можно,
но не проще.
(C) А. Эйнштейн
Здравствуйте, tinytjan, Вы писали:
T>все начнет работать если применять корректную формулу для логического или T>P1 V P2= P1+P2-P1*P2
Да ну
a | a = a
a + a — a * a = a
a & a = a
a * a = a
... << RSDN@Home 1.1.4 beta 3 rev. 185>>
Пусть это будет просто:
просто, как только можно,
но не проще.
(C) А. Эйнштейн
Здравствуйте, tinytjan, Вы писали:
T>Это к чему?
К тому что для четкой логике и не четкой на min/max выполняется a | a = a и a & a = a
Единственное чем отличается четкая логика от не четкой на min/max это тем что
a & !a != false
a | !a != true
Короче идем по этой ссылке и пытаемся повторить все что там есть на умножениях.
... << RSDN@Home 1.1.4 beta 3 rev. 185>>
Пусть это будет просто:
просто, как только можно,
но не проще.
(C) А. Эйнштейн
Здравствуйте, WolfHound, Вы писали:
WH>Здравствуйте, tinytjan, Вы писали:
T>>Это к чему? WH>К тому что для четкой логике и не четкой на min/max выполняется a | a = a и a & a = a WH>Единственное чем отличается четкая логика от не четкой на min/max это тем что WH>a & !a != false WH>a | !a != true
Понятно. А глюка не у меня в формуле, она правильная. Глюка в том, что a*a!=a в общем случае для нечеткой логики.
Если ее определить как a*b=min(a,b), то получается, что P1+P2-P1*P2(eq)max(P1,P2)
Здравствуйте, tinytjan, Вы писали:
T>Понятно. А глюка не у меня в формуле, она правильная. Глюка в том, что a*a!=a в общем случае для нечеткой логики.
Вот и я о томже. T>Если ее определить как a*b=min(a,b), то получается, что P1+P2-P1*P2(eq)max(P1,P2)
Те получается обыкновенная нечеткая логика, а не весьма сранное изобретение Gaperton'а.
... << RSDN@Home 1.1.4 beta 3 rev. 185>>
Пусть это будет просто:
просто, как только можно,
но не проще.
(C) А. Эйнштейн
Здравствуйте, WolfHound, Вы писали:
WH>Здравствуйте, Gaperton, Вы писали:
G>>Ты мне экзамен устраиваешь? WH>Нет. Просто не понимаю ка ты предлагаешь делать это на умножениях.
Ок, идея в следующем. Как известно, отрицание и логическое и образует полный набор операций, через который выражается произвольная логическая функция. Пусть наша величина — вероятность true. Определяем & как умножение, отрицание как 1-p. Выводим формулу для |
Как известно,
a | b = !! ( a | b ) = !( !a & !b )
соответственно a | b = 1 — ( 1 — a ) * ( 1 — b ) = 1 — ( 1 — b — a + ab ) = b + a — ab
Результат тоже лежит в отрезке 0..1, что и требовалось доказать.
Доказываем, ассоциативность: ( a | b ) | c = a | ( b | c ).
( a + b — ab ) | c = a + b — ab + c — ac — bc + abc = ( b + c — bc ) + a — a( b + c — bc ) = a | ( b + c — bc ).
Здравствуйте, WolfHound, Вы писали: T>>Это к чему? WH>К тому что для четкой логике и не четкой на min/max выполняется a | a = a и a & a = a
Да, теперь понятно, чем min/max лучше умножения.
Только один момент — по моему, я тебя об этом сразу спросил. Почему ты просто не ответил на вопрос сразу — я не понимаю. Так, видно, тут не заведено .
Здравствуйте, WolfHound, Вы писали:
WH>Здравствуйте, tinytjan, Вы писали:
T>>Понятно. А глюка не у меня в формуле, она правильная. Глюка в том, что a*a!=a в общем случае для нечеткой логики. WH>Вот и я о томже. T>>Если ее определить как a*b=min(a,b), то получается, что P1+P2-P1*P2(eq)max(P1,P2) WH>Те получается обыкновенная нечеткая логика, а не весьма сранное изобретение Gaperton'а.
Нормальное изобретение — что тут такого?
Здравствуйте, Gaperton, Вы писали:
G>Здравствуйте, WolfHound, Вы писали:
WH>>Здравствуйте, tinytjan, Вы писали:
T>>>Понятно. А глюка не у меня в формуле, она правильная. Глюка в том, что a*a!=a в общем случае для нечеткой логики. WH>>Вот и я о томже. T>>>Если ее определить как a*b=min(a,b), то получается, что P1+P2-P1*P2(eq)max(P1,P2) WH>>Те получается обыкновенная нечеткая логика, а не весьма сранное изобретение Gaperton'а. G>Нормальное изобретение — что тут такого?
У которого есть ма-аленькое преимущество перед мин-мах — наличие внятного "физического смысла" у величин — вероятность. С которым у логики, введенной через min-max есть проблемы (или по крайней мере я его не понимаю — может, ты объяснишь?).
Далее, при точных значениях 0 и 1 логики на умножении получается самая обычная — т. е. это ее предельный случай.
x * ( 1 — x ) дает честный ноль при х = 0 и 1. В серединке у нее в этом примере проблемы по одной простой причине — используется формула для вероятности независимых событий. Чтобы было все абсолютно корректно — надо забить на эту "нечеткую" логику, и формулировать условия по человечески, в терминах теории вероятностей . Как нормальные пацаны и делают. Имхо.
Здравствуйте, NotGonnaGetUs, Вы писали:
NGG>Я не стану ни с вами, ни с кем-либо ещё спорить на тему НС. Во первых потому, что у меня нет достаточной квалификации в этой области, во вторых — потому что у вас её ещё меньше.
Вот это ты зря. В RSDNе сидит куча народу, кто-нить точно вас обскачет, кто-нить вообще на нейронках собаку съел
Нельзя говорить так о квалификации сразу всех.
NGG>До универсальных нейрокомпьютеров ещё достаточно далеко. В железе реализуются частные виды сетей.
От себя добавлю:
нейросетевое железо называется систолические процессоры. И представляют они собой многопроцессорную систему, где процессор может выполнять очень ограниченный набор операций.
Из нейронок чаще всего реализуют именно персептрон.
СтОит такая штука вроде от сотни и выше.
В железке хранится уже обученная нейронка. (вроде)
Увеличение производительности по сравнению с РС достигается за счет того, что за один такт выполняется вычисление взвешенной суммы.
Используется такая штука в экспертных системах и для решения задач, связанных с нечеткой логикой.
...
NGG>2noobi:
NGG>Если твоя цель была изучить технологию и получать за её применение хорошие деньги в нашей стране — нейросети плохой выбор NGG>Во первых, это не перл или С — это наука и учиться придётся долго. NGG>Во вторых, задачи решаемые с применением НС сильно отличаются от общих задач программирования. Нет никакого смысла пытаться вставить нейронные сети туда, где обычные методы великолепно работают (если границы методов кому-то не видны, это не значит, что их нет).
NGG>Повторюсь, если цели заниматься наукой нет, в НС лучше не лезть, а то превратитись в ещё одного человека, который знает, что НС "сказки для выбивания денег"
Здравствуйте, NotGonnaGetUs, Вы писали:
NGG>Забавно читать ваши рассуждения. Вы рассуждаете о нейронных сетях в рамках "бытовых мифов". По другому не назвать.
В этом посте я не "рассуждаю о нейросетях", а пишу свое мнение об обсуждениях нейросетей на RSDN. Называйте как хотите.
NGG>Есть такое место "Научный центр нейрокомпьютеров при российской академии наук". Под редакцией его руководителя выпускается многотомник "нейромпьютеры". Уже выпущено около 20 томов и будет выпущено ещё порядка 10, если не ошибаюсь.
Да ради бога. Ну и что с того? Вы думаете меня приведет в трепет поминание РАН всуе?
NGG>Обратитесь к этой литературе, почитайте, поймите о чём идёт речь. Прочитать два предложения (1) про многослойную нейронную сеть с прямыми связями и (2) алгоритм обратного распространения, не значит понять НС, и тем более не повод говорить, что у НС нет применения.
Напрасно пытаетесь создать ореол элитарности, фундаментальности, и принципиальной непостижимости НС. Послушать вас, ну их нафиг, гораздо проще любую задачу в рукопашную решить. Впрочем, это реально проще Сами посчитайте — один учебник теории функций против 20 (!) каких-то непонятных томов, которых надо прочитать, чтобы ну хоть что-то понять. В двадцать томов половина мехматовской прогаммы математики уложится.
NGG>Я не стану ни с вами, ни с кем-либо ещё спорить на тему НС. Во первых потому, что у меня нет достаточной квалификации в этой области, во вторых — потому что у вас её ещё меньше.
Каждый видит то, что хочет видеть. Вот вы, например, хотите видеть вокруг идиотов, поэтому в вашем посте вы не спорите, это называется другим словом — зал*паться. Несколько забавно то, что помянув академию наук, вы в тоже время грубо нарушаете правила академической этики. И не только их, но и существенно менее жесткие рамки правил форума RSDN.
NGG>Если есть желание что-то узнать обратитесь к книгам,о которых я говорил. Если такого желания нет — продолжайте развивать свои "мифы".
О книгах вы не говорили ровным счетом ничего. Библиографическая ссылка выглядит по другому — упомянуть количество томов недостаточно. Во-вторых, все необходимое для себя о НС я знаю практически из первых рук — от одного из лучших в мире спецов по нелинейной динамике Магницкого Н.А., а уж я ему доверяю — если он мне не сказал, что я должен изучить вдобавок к лекциям и беседам 20 томов непойми чего, чтобы разобраться в предмете, значит это лишнее.
NGG>Классические теории хороши, но извините, бесполезны, при решении тех же самых систем нелинейных уравнений при заданных ограничениях на точность решения, скорость его получения и стоимость системы.
О, настал и на нашей улице празник . Это вы мне будете втирать про невозможность численного решения нелинейных диффуров? Значит так, спорить я с вами не буду, не смотря на то, что моей квалификации не достаточно. Я всего-навсего дипломированный математик (МГУ ВМиК — не мехмат конечно, но хороших нелинейщиков с мировым именем у нас достаточно — взять например Магницкого, Шишмарева, Стернина) со специализацией в области нелинейных диффуров (кафедра нелинейных динамических систем — нейросети, кстати, входят в специализацию). Дипломчик у меня был неплохой — одна интересная теоремка по нелинейной теории управления. Но ваша квалификация, очевидно, еще меньше.
Насколько мне известно, РАН выпускает журнал "Дифференциальные Уравнения", выпущена уже не одна сотня номеров, у будет выдущено еще несколько сотен. Обратитесь к этой литературе, почитайте, поймите о чём идёт речь.
В тех же случаях, когда численное решение уравнений по каким-либо причинам затруднительно, для приближения решений применяют сплайны. Так, например, разрабатывали систему автоматической посадки Бурана — вместо того, чтобы решать нелинейные уравнения Навье-Стокса, продули модельку в трубе, и проблизили решение сплайнами. Вот так делают, когда не хотят потерять корабль при посадке. А не выбирают алгоритм обучения.
Но вы впрочем, говорите, говорите. Мы тут с пацанами ржем што пипец Да, ничего личного.
Здравствуйте, Gaperton, Вы писали:
G>Напрасно пытаетесь создать ореол элитарности, фундаментальности, и принципиальной непостижимости НС. Послушать вас, ну их нафиг, гораздо проще любую задачу в рукопашную решить. Впрочем, это реально проще Сами посчитайте — один учебник теории функций против 20 (!) каких-то непонятных томов, которых надо прочитать, чтобы ну хоть что-то понять. В двадцать томов половина мехматовской прогаммы математики уложится.
Насчет сложности явный загон.
Всю основную специфику нейросетей и их особенности+ 10-15 основных архитектур можно впихнуть в один талмуд толщиной страниц 400. Это если с небольшими лирическими отступлениями, а вообще наверное меньше.
А по сложности -- ниче там сверхсложного нет.
Для меня самой сложной сетью оказалась ART. Да, кстати, если кто-нить видел хорошую инфу по ART3, киньте ссылочки, плз...
З.Ы. Я по крайней мере пытался доказать, что нейронки не пустой звук (и еще докажу наверное, если получится )
а вы сейчас действительно занимаетесь не чем иным, как замером пиписек, как недавно писалось.
Отвечу разом:
NGG>>Я не стану ни с вами, ни с кем-либо ещё спорить на тему НС. Во первых потому, что у меня нет достаточной квалификации в этой области, во вторых — потому что у вас её ещё меньше.
T>Вот это ты зря. В RSDNе сидит куча народу, кто-нить точно вас обскачет, кто-нить вообще на нейронках собаку съел T>Нельзя говорить так о квалификации сразу всех.
Я обращался прежде всего к автору сообщения и его "коллгам" по охаиванию НС на ровном месте.
Мои слова действительно можно не верно истолковать.
Что бы всё прояснить, уточняю: на лавры человека досконально знающего НС я не претендую.
Я просто изложил очевидные вещи, что бы noobi не воспринимал в серьёз слова даже не из третьих,
а из не понятно каких уст.
G> Каждый видит то, что хочет видеть. Вот вы, например, хотите видеть вокруг идиотов, поэтому в вашем посте вы не спорите, это называется другим словом — зал*паться. Несколько забавно то, что помянув академию наук, вы в тоже время грубо нарушаете правила академической этики. И не только их, но и существенно менее жесткие рамки правил форума RSDN.
Сказанное вами, в большей степени присуще вам, нежели мне.
Я, например, очень даже не хочу вас видеть. Честно.
Хорошо, для вас авторитетом в области нейронных сетей является "спец по нелинейной динамике Магницкий Н.А",
для меня таким человеком является д.т.н., проф., Галушкин А.И, он же директор НЦН.
Удачи и вам и "пацанам"
N>Вот мне как раз такая наука и интересна
Обратись в НЦН.
На базе НЦН существует кафедра нейрокомпьютеров МФТИ. Там обучаются люди и из других ВУС.
Короткая справка о кафедре http://www.frtk.mipt.ru/ncomp.html, тел НЦН: 2639430.
Здравствуйте, NotGonnaGetUs, Вы писали:
NGG>Я просто изложил очевидные вещи, что бы noobi не воспринимал в серьёз слова даже не из третьих, а из не понятно каких уст.
А с какой это стати ваши слова должны восприниматься в серьез? На то есть хоть одна серьезная причина?
NGG>Хорошо, для вас авторитетом в области нейронных сетей является "спец по нелинейной динамике Магницкий Н.А", NGG>для меня таким человеком является д.т.н., проф., Галушкин А.И, он же директор НЦН.
А, так директор этого вашего мега-центра, почти что НИИ РАН (понтов на полные штаны) — "доктор технических наук"? . Он же, видимо, и редактор этих 20-30 томов макулатуры, выходящих с дикой, не поддающейся воображению скоростью?
Наверно, у него в подчинении дюжина академиков, а он их труды, посвященные нелинейным диффурам, редактирует — здесь у вас ошибочка, г-н ак. РАН Самарский, поправьте пожалуйста вот это, и выучите наконец теорию нейронных сетей — по другому нелинейные диффуры не решаются, а то отправлю вас прозябать в "Институт Системного Анализа РАН" к д-р ф.м.н. Магницкому и ак. РАН Осипову — будете публиковаться в каких-то "дифференциальных уравнениях", выходящих всего 4 раза в год, под редакцией ак. РАН Ильина.
Здравствуйте, Gaperton, Вы писали:
G>Здравствуйте, tinytjan, Вы писали:
T>>З.Ы. Я по крайней мере пытался доказать, что нейронки не пустой звук (и еще докажу наверное, если получится ) G>Попробуй. У тебя получалось неплохо — ты приступил к рассмотрению конкретных задач. Все предыдущие по большей части либо орали "мамой клянусь", либо докладывали в таком ключе, как предыдущий докладчик. Такой энергичный, правда, в первый раз пападаиццо.
Обязательно, только попозжа. В среду предварительный показ проекта, со всеми вытекающими, поэтому я сейчас, в воскресенье, и торчу тута.
T>> а вы сейчас действительно занимаетесь не чем иным, как замером пиписек, как недавно писалось. G>Конечно, в чистом виде. Ну, не я первый начал. Если человек вывалил на стол все свое хозяйство, то что остается делать?
Ну меряйтесь, а я с удовольствием почитаю.
З.Ы. Универсальной нейронкой, которую мы с SunSonnet"ом накатали, уже интересуются . Даже если штука (нейросеть вообще) бесполезная, то хоть денюжку снимем.
Здравствуйте, Gaperton, Вы писали:
G>Извините, не могу удержаться — это супер: NGG>>Каждая из книг серии посвящена той или иной области применения НС, а не голому описанию основ. NGG>>Направлений много. NGG>>Отдельно вышли два тома о применении нейрокомпьютеров в Китае в наши дни: G>Если продолжить это конкретное направление , то следующими областями применения НС окажутся Корея, Вьетнам и Бангладеш.
Эти 2 книги не принадлежат серии, вышли отдельно от неё.
Они — простая констатация факта, что НС работают и достаточно эффективно. На примере Китая.
NGG>>Удачи и вам и "пацанам" G>Вам тоже . "Пацаны" привет передают — афтар жжот!
G>P.S.: Take it easy
Осталось собраться и попить пивка.
G> Наверно, у него в подчинении дюжина академиков, а он их труды,
Ну и к чему вы всё это пишите?
Это должно стать подтверждением, что А.И. ничего не смыслит в НС?
G> выучите наконец теорию нейронных сетей — по другому нелинейные диффуры не решаются
Хочется ответить вашими же словами: G> Каждый видит то, что хочет видеть. Вот вы, например, хотите видеть вокруг идиотов, поэтому в вашем посте вы не спорите, это называется другим словом — зал*паться.
А потом процитировать своё первое сообщение: NGG> Нет никакого смысла пытаться вставить нейронные сети туда, где обычные методы великолепно работают (если границы методов кому-то не видны, это не значит, что их нет).
И добавить:
Не нужно думать, что примение НС ограничивается решением диф.уравнений и пытаться острить(?) по этому поводу.
Задач, где обычные методы не справляются, либо не эффективны, достаточно много. Если вам интересны конкретные примеры,
обратитесь к многотомнику.
----
Интересно, в след.вашем сообщении вы в очередной раз напишите фамилии парочки мужиков и пошутите по поводу возможностей НС, за не имением сказать ничего дельного по теме?
Какой смысл продолжать пустой трёп, основанный на вашей не колебимой вере в безнадёжность НС?
Хотите в это верить — верте. Разубеждать вас я не стану.
Если вдруг(!) возникнут вопросы по существу — обращайтесь к книгам.
NGG>Если вдруг(!) возникнут вопросы по существу — обращайтесь к книгам.
Маленькое добавление: если вдруг вопросы будут по существу нейросетей, обращайтесь к мне , постараюсь найти время и помочь.
NGG>Каждая из книг серии посвящена той или иной области применения НС, а не голому описанию основ.
NGG>Удачи и вам и "пацанам"
N>>Вот мне как раз такая наука и интересна
NGG>Обратись в НЦН. NGG>На базе НЦН существует кафедра нейрокомпьютеров МФТИ. Там обучаются люди и из других ВУС. NGG>Короткая справка о кафедре http://www.frtk.mipt.ru/ncomp.html, тел НЦН: 2639430.
Здравствуйте, Sinclair, Вы писали:
S>Здравствуйте, Gaperton, Вы писали:
G>>Ну и так далее. S>Ну да. Такая логика будет работать. Есть только одна маааленькая тонкость, которая ограничивает "физический смысл": формулы вероятностей справедливы для независимых событий. Именно поэтому происходят сбои при вычислении (a & a) — это крайний случай полной зависимости. Для точного моделирования вероятностей придется как-то учитывать корреляции между событиями.
Здравствуйте, Gaperton, Вы писали:
G>У которого есть ма-аленькое преимущество перед мин-мах — наличие внятного "физического смысла" у величин — вероятность.
Вероятность чего? G>С которым у логики, введенной через min-max есть проблемы (или по крайней мере я его не понимаю — может, ты объяснишь?).
ИМХО в той статье что я привел все раписано довольно понятно.
G>Далее, при точных значениях 0 и 1 логики на умножении получается самая обычная — т. е. это ее предельный случай.
При этих значениях и min/max не отличим от четкой логики. G>x * ( 1 — x ) дает честный ноль при х = 0 и 1. В серединке у нее в этом примере проблемы по одной простой причине — используется формула для вероятности независимых событий. Чтобы было все абсолютно корректно — надо забить на эту "нечеткую" логику, и формулировать условия по человечески, в терминах теории вероятностей . Как нормальные пацаны и делают. Имхо.
Ну давай сформулмруй условия вот для этой задачки.
... << RSDN@Home 1.1.4 beta 4 rev. 303>>
Пусть это будет просто:
просто, как только можно,
но не проще.
(C) А. Эйнштейн
Здравствуйте, Sinclair, Вы писали:
S>Здравствуйте, Gaperton, Вы писали:
G>>Ну и так далее. S>Ну да. Такая логика будет работать. Есть только одна маааленькая тонкость, которая ограничивает "физический смысл": формулы вероятностей справедливы для независимых событий. Именно поэтому происходят сбои при вычислении (a & a) — это крайний случай полной зависимости. Для точного моделирования вероятностей придется как-то учитывать корреляции между событиями.
Зачем изобретать велосипед?
Если такая логика и будет работать, то она будет просто прреобразованием логики мин/макс в арифметические операции сложения, умножения и вычитания.
Вот пример такого выражения:
A * B= (A+B)/2-|A-B|/2
A & B= (A+B)-A*B
~A = 1-A
Только не говорите, что это будет работать быстрее минов и максов. Не поверю.
Здравствуйте, Sinclair, Вы писали:
T>>Зачем изобретать велосипед? T>>Если такая логика и будет работать, то она будет просто прреобразованием логики мин/макс в арифметические операции сложения, умножения и вычитания. S>Это кто тебе такое сказал?
А так оно и есть.
S>Эти выражения ничуть не лучше вероятностных формул, т.к. точно так же не учитывают корреляцию параметров.
Я понял в чем ваша ошибка. Если привязываться к вероятности, то А и В -- это не независимые события, и даже не зависимые, это вероятность выпадения [b]одного и того же[b] события в разных множествах, именно поэтому логическая операция and есть минимум этих вероятностей. Все.
Здравствуйте, tinytjan, Вы писали:
T>Здравствуйте, Sinclair, Вы писали:
T>>>Зачем изобретать велосипед? T>>>Если такая логика и будет работать, то она будет просто прреобразованием логики мин/макс в арифметические операции сложения, умножения и вычитания. S>>Это кто тебе такое сказал? T>А так оно и есть.
Тут уже не так важно, кто тебе это сказал, так как совершенно непонятно, что ты имеешь в виду. Поясни.
S>>Эти выражения ничуть не лучше вероятностных формул, т.к. точно так же не учитывают корреляцию параметров. T>Я понял в чем ваша ошибка. Если привязываться к вероятности,
т. е. другими словами — считать значение "вероятностью" или "частотой" события true, так?
T>то А и В -- это не независимые события, и даже не зависимые,
Если уж считать A и B случайными событиями, то тут, батенька, одно из двух, третьего не дано.
T>это вероятность выпадения [b]одного и того же[b] события в разных множествах, именно поэтому логическая операция and есть минимум этих вероятностей. Все.
??? Что? Поясни пожалуйста термин, которым ты пользуешься — "выпадение события A во множестве X", и каким именно образом событие A может выпасть во множестве Y. Что-то я не догоняю.
Вообще, тут немного спутали логику и теорию множеств. Ты вот, о чем говоришь?
Если о нечетких множествах, то все немного по другому. Каждому "четкому" множеству М подмножеству L соотв-т дискретная ф-я множества p:L->{0,1}, такая, что p( x ) = 1, x <- L, тогда и только тогда, когда x <- M.
Здорово. Пусть наше "нечеткое" множество определяется теперь функциями вида p:L->[0,1]. Внимание, вопрос: какова семантика значения p(x) = 0.5? Теперь смотри — пример, как можно ввести эту семантику натуральным образом.
Пусть у нас есть множество их 1000 точек на действительной оси, расположенных случайно, с распределением в виде гауссова колокольчика с центром в нуле. Приблизь это множество точек "нечетким множеством". Как ты это сделаешь?
Я вот, например, просто возьму в качестве функции множества функцию плотности распределения наших точек. Далее, операции пересечения и объединения моих множеств я введу просто и естественно — как плотность распределения случайной величины, являющейся соответствующей композицией случайных величин описываемых функциями входных множеств.
И, что характерно, с такой семантикой я не буду иметь никаких проблем. Никакого сюрприза — тервер вообще по сути является подразделом теории множеств .
А вот если ты начнешь брать при этих операциях минимумы и максимумы, то даже если ты и придашь изначальным значениям семантику вероятности принадлежности точки множеству, то эта семантика будет благополучно убита первой же операцией пересечения или объединения. В результате получится хрен знает что, лишенное всякого внятного смысла. Не знаю, как некоторые, но я на кофейной гуще гадать не люблю.
Другими словами, когда речь заходит о "нечетких множествах", я лично предпочитаю оперировать простым и очевидным понятием "вероятности принадлежности точки множеству". А не маловразумительной научной магией формул, где непонятно что подается на вход, и такое-же непонятно что получается на выходе.
Кстати, обратите внимание, как интересно, логично и красиво сплетаются теория вероятности, математическая логика, и теория множеств — все на самом деле об одном. Ну, или почти об одном . Что в случае нечеткой логики не наблюдается.
Здравствуйте, Gaperton, Вы писали:
G>Я вот, например, просто возьму в качестве функции множества функцию плотности распределения наших точек. Далее, операции пересечения и объединения моих множеств я введу просто и естественно — как плотность распределения случайной величины, являющейся соответствующей композицией случайных величин описываемых функциями входных множеств.
Поправка — это рассуждение не вполне верно. Функция нечеткого множества с подобной семантикой не будет являться плоностью распределения. Все несколько сложнее. Есть дополнительное требование — обычные, "четкие" функции множеств и операции над ними должны являтся предельным случаем "нечетких". Вот тогда все будет правильно. Чтобы выполнялось такое требование, функция нечеткого множества вообще говоря не должна быть нормированной, а посему — это не обязательно плотность распределения точек. При этом, семантика значения p(x) в точке х должна быть именно "вероятность принадлежности точки множеству".
С этими поправками, пример с гауссовым колокольчиком все равно корректен (колокольчик нормируем так, чтобы max(p(x)) = 1), подобные "обобщенные множества" возможны в рамках нашей теории. Прикольно получается — чем-то похоже на т. н. обобщенные функции , от которых можно брать интегралы, но вообще говоря нельзя посчитать значение в точке(пример — дельта-функция Дирака). Меру множества посчитать — на счет раз. Все по людски . А вот точно сказать, принадлежит-ли точка множеству — низзя .
WH>Далие это все оптимизируется и сводится к куче малопонятных if'ов которые и работают но этим занимается _машина_, а человек работает с простым и понятным языком описывющим нечеткую логику.
Это у нас — простой и понятный язык? Я плакаль... Вот тебе тоже самое, только без мозгополоскания:
A <- [ -1, 1 ] лево-право
D <- (0, +oo ) расстояние
С <- [ -1, 1 ] выход — куда и как поворячивать. С = -A / ( k*D + 1 ), где k <- (0, +oo) = Const, подбираемый коэффициент.
И все. Гораздо "нечетче", чем у тебя. Впрочем, если очень хочется, можно ввести дискретные уровни, и, немного поднастроив формулу, добится, чтобы результат был в точности как у тебя. Работать будет быстрее, оптимизировать тут нечего, и, что характерно, никакой кучи if-ов.
WH>Ключевые слова WH>
Здравствуйте, Gaperton, Вы писали:
G>Это у нас — простой и понятный язык? Я плакаль... Вот тебе тоже самое, только без мозгополоскания: G>A <- [ -1, 1 ] лево-право G>D <- (0, +oo ) расстояние G>С <- [ -1, 1 ] выход — куда и как поворячивать. G>С = -A / ( k*D + 1 ), где k <- (0, +oo) = Const, подбираемый коэффициент.
И если вдруг A == 0 то мы врезаемся в дерево.
Ты умудрился наглючить на такой простой задаче. А если условия будут сложнее?
... << RSDN@Home 1.1.4 beta 4 rev. 303>>
Пусть это будет просто:
просто, как только можно,
но не проще.
(C) А. Эйнштейн
Здравствуйте, Gaperton, Вы писали:
T>>то А и В -- это не независимые события, и даже не зависимые, G>Если уж считать A и B случайными событиями, то тут, батенька, одно из двух, третьего не дано.
A и B это степени принадлежности одного и того же события двум подмножествам универсального множества.
Вот тебе и третье. Поэтому с А и В ну никак нельзя работать как с независимыми или зависимыми событиями.
T>>это вероятность выпадения [b]одного и того же[b] события в разных множествах, именно поэтому логическая операция and есть минимум этих вероятностей. Все. G>??? Что? Поясни пожалуйста термин, которым ты пользуешься — "выпадение события A во множестве X", и каким именно образом событие A может выпасть во множестве Y. Что-то я не догоняю.
Терминилогия всегда была моим бичом. Ну не умею я доходчиво мысли свои излагать
"выпадение события A во множестве X" -- это степень принадлежности элемента А подмножеству.
Операция логического "и" проводится над подмножествами. Именно поэтому здесь используется мин/макс логика, а не теория вероятностей.
G>Вообще, тут немного спутали логику и теорию множеств. Ты вот, о чем говоришь?
Здравствуйте, WolfHound, Вы писали:
WH>Здравствуйте, Gaperton, Вы писали:
G>>Это у нас — простой и понятный язык? Я плакаль... Вот тебе тоже самое, только без мозгополоскания: G>>A <- [ -1, 1 ] лево-право G>>D <- (0, +oo ) расстояние G>>С <- [ -1, 1 ] выход — куда и как поворячивать. G>>С = -A / ( k*D + 1 ), где k <- (0, +oo) = Const, подбираемый коэффициент. WH> WH>И если вдруг A == 0 то мы врезаемся в дерево. WH>Ты умудрился наглючить на такой простой задаче. А если условия будут сложнее?
Нивапрос, браза. Так тут деревья надо объезжать? Что жы ты сразу ни сказал. А то "мы с пацанами нефкурили, как она брееццо", глядя на очень понятные формулы.
fA( x ) = x <= 0 | x + 1
x > 0 | x - 1
C = fA( A ) / ( k*D + 1 )
Здравствуйте, Gaperton, Вы писали:
G>Никакого факта не вижу. Эта беллетристика, буть то о Китае, Вьетнаме или Японии, ровным счетом ничего не констатирует.
Это примеры использования нейросетей на практике.
NGG>>Осталось собраться и попить пивка. G>С кем попало пивко не пью. Извини. Лучше с вышеупомянутым д-р ф.м.н. Стерниным пивка выпью при случае, когда он из Германии вернется.
Так я же не про себя, я совсем не пью Но вашу очередную шутку юмора оценил.
G>Все задачи, которые эффективно решаются нейросетями, решаются еще эффективнее сплайнами, марковскими автоматами, ..., и прямыми методами. Все до единой, без исключений — нейросеть во всем проигрывает сплайну, по всем пунктам. А то, что не решается "обычными" методами, не решается вообще ничем, в том числе и чудесными нейронными сетями.
G>Никак не могу взять в толк — как могут люди кривейший из придуманных способов экстраполяции, не имеющий никакого значения для остальной математики, считать "методом решения задач", альтернативным специализированной математике?
Очевиндо потому, что сети не являются тем, чем вам кажется.
Кстати, вам никогда не казалось, что компьютеры не имеют никакого (обрамлённого в bold) значения для математики?
G>Почему, например, никто никто не создает "Центра Преобразования Фурье" при РАН — хотя оно является одним из мощнейших инструментов в прикладной и фундаментальной математике? Почему никто не выпускает многотомников под названием "Применение преобразования Фурье в Корее"? Может, потому, что никому не надо доказывать его полезность, и с ним знаком любой приличный математик и инженер?
Именно, а так же потому, что преобразование фурье не является отдельным направлением в выч.математике.
Это было вопрос "по существу НС"?
G>Уважаемый, в математике на веру никто ничего не принимает. Со времен Гильберта, там принято тезисы строго доказывать, и не отнють не мешая оппонента с дерьмом, и не колотя себя копытом в грудь, и не ссылаясь на авторитеты, как это делаете вы. Например, моя математическая аргументация с подробными обоснованиями приведена в ссылках на предыдущие дискуссии, которые я дал в начале ветки.
Поэтому-то мне и забавно читать ваши "бесспорные утверждения".
Или аргументацией являются ссылки на другие обсуждения? Здоровый юмор.
Цитата: G> Сколько нейронов в этих сетях? Сотни? Сколько нейронов у человека в мозгу? Настоящих, которые обучаяются по взрослому, а не через метод backpropagation.
Я должен это считать "математической аргументацией" с подробным обоснованием?
NGG>>Интересно, в след.вашем сообщении вы в очередной раз напишите фамилии парочки мужиков и пошутите по поводу возможностей НС, за не имением сказать ничего дельного по теме? G>Вы говорили, что спорить и доказивать ничего не собираетесь, и что квалификации у вас для этого не хватает. Понятно, вашей квалификации хватает на то, чтобы нахамить. Что с вами серьезно разговаривать-то?
Посчитали на сколько фамилий вы сослались в своём ответе, что бы в очередной раз привести "математически строгий аргумент": "нейросеть во всем проигрывает сплайну, по всем пунктам" ?
Особенно если учесть, что НС это вычислительная машина с высокой степенью распараллеливания вычисленийй, а сплайн, грубо говоря, мат.метод.
G>С вами беседы не будет, и вот почему: G>1) У вас не было сказано совершенно ничего "дельного" по теме. Какая-то лапша про нелинейные уравнения (которую вы как-то очень быстро свернули — с чего это бы? ), и применение НС в Китае.
Всё, что я хотел сказать про НС, я сказал в первом сообщении.
Вызван мой пост был откровенной глупостью, которую я имел несчатье прочитать.
В нём я озвучил "очевидные" (вы же любите это слово) вещи для человека знакомого с НС.
Что до "лапши", если вы в состоаянии описать кучей диффуров поведение электрода в неоднородной среде состоящей из руды, в реал-тайм получить все не обходимые характеристики и успеть обсчитать их, то — флаг вам в руки,
заменяйте не эффективные пид-контроллеры на ваши любимые "сплайны". Куча $ будет гарантрована.
Пока же нс внедряются на производве. И не только в Китае, и не только в металлургии.
G>2) В довесок, с вашей стороны было совершенно неприличное поведение с переходом на личности с первого письма, плюс пара прямых оскорблений в мой адрес. После такого несколько глуповато рассчитывать на нормальную беседу.
Вот как? Т.е. вы хотите сказать, что не оскорбляете меня прямым образом утверждая такие вещи? В прочем не удивлюсь.
G>Что касательно "мужиков", то их фамилии математически образованному человеку скажут очень много. Например, человеку, рассуждающему о проблемах решения нелинейных диффуров (как это делали вы), стоило бы знать кто такой Самарский.
Очредной тонкий намёк на то, что я "дурачок"?
Вы выдаёте желаемое за действительное.
Попробуйте ещё раз прочитать мои сообщения и найти, где я говорю, что нелинейные диффуры нужно решать только НС.
С интересом прочитаю.
G> От его книг пользы в решении диффуров бывает гораздо больше, чем от чтения "многотомника".
Безусловно, т.к. "многотомник" описывает области применения НС, а не как решать диффуры.
НС это интсрумент в руках математика, а не заменитель математики.
G>Засим прощаюсь, так как беседа начинает меня доставать.
Не удивительно. Пока.
NGG>Посчитали на сколько фамилий вы сослались в своём ответе, что бы в очередной раз привести "математически строгий аргумент": "нейросеть во всем проигрывает сплайну, по всем пунктам" ? NGG>Особенно если учесть, что НС это вычислительная машина с высокой степенью распараллеливания вычисленийй, а сплайн, грубо говоря, мат.метод.
НС — "Вычислительная машина". С "высокой степенью распараллеливания". О-о-о! То есть ни разу не мат.метод. А сплайн — это оказывается "мат. метод". Да вы знаток математики.
NGG>Вызван мой пост был откровенной глупостью, которую я имел несчатье прочитать.
Ваш пост был откровенным хамством. Писать подобные посты — уже откровенная глупость. Как и поток сознания в вашем предыдущем абзаце.
G>>Что касательно "мужиков", то их фамилии математически образованному человеку скажут очень много. Например, человеку, рассуждающему о проблемах решения нелинейных диффуров (как это делали вы), стоило бы знать кто такой Самарский. NGG>Очредной тонкий намёк на то, что я "дурачок"?
Да какие тут намеки. Тут уже все понятно.
NGG>Вы выдаёте желаемое за действительное.
К сожалению, нет.
1) Это вы упорно выставляете себя дурачком, я здесь не причем.
2) Действительность часто оказывается хуже любых ожиданий.
NGG>Попробуйте ещё раз прочитать мои сообщения и найти, где я говорю, что нелинейные диффуры нужно решать только НС. NGG>С интересом прочитаю.
NGG>Классические теории хороши, но извините, бесполезны, при решении тех же самых систем нелинейных уравнений при заданных ограничениях на точность решения, скорость его получения и стоимость системы.
---плазма может оказаться устойчивой", профессора ржали, и отвечали "а она у них и неустойчива". При воспоминании о светлой до идиотизма идее стабилизировать плазму нейросетью смеялись до слез.
просто у вас не было специалиста кто толком задачу бы вам мог сформулировать. У чистых теоретиков часто такие такие проколы случаются.
G>НС — "Вычислительная машина". С "высокой степенью распараллеливания". О-о-о! То есть ни разу не мат.метод. А сплайн — это оказывается "мат. метод". Да вы знаток математики.
Ничего другого я от вас не ожидал.
НС — это действительно "вычислительная машина", такая же как любое другое специализированные вычислительное устройсто. Высокий параллелизм заключается в том, что за один такт, полностью отрабатывет один слой сети.
А "сплайны" просто способ описать кривую + методы работы с этими описаниями.
Только тогда, когда решение будет превращено в рабочий код для эвм или "железо", можно начинать сравнение с НС, брать отношение скорость/цена и т.д.
Хотя, что тут говориь, вы же знаток математики.
NGG>>Вызван мой пост был откровенной глупостью, которую я имел несчатье прочитать. G>Ваш пост был откровенным хамством. Писать подобные посты — уже откровенная глупость. Как и поток сознания в вашем предыдущем абзаце.
Я начинаю вас любить за вашу любовь к слову "хамство".
NGG>>Очредной тонкий намёк на то, что я "дурачок"? G>Да какие тут намеки. Тут уже все понятно.
Ну вот, как всё хорошо начиналось и к чему свелось.
NGG>>Вы выдаёте желаемое за действительное. G>К сожалению, нет.
К сожалению, да, поскольку вы игнорируете тот факт, что нс довольно успешно применяются на практике.
NGG>>Попробуйте ещё раз прочитать мои сообщения и найти, где я говорю, что нелинейные диффуры нужно решать только НС. NGG>>С интересом прочитаю.
G>NGG>Классические теории хороши, но извините, бесполезны, при решении тех же самых систем нелинейных уравнений при заданных ограничениях на точность решения, скорость его получения и стоимость системы.
И где тут фигурирует утверждения "только" и "нужно всегда"?
Пожалуйста, если вы можете решить уравнения описывающее процессы в электроплавильной печи и построить систему управляющую процессом, при этом управление будет эффективнее существующих схем — все вам скажут спасибо.
----
Если бы не вывихнутая ступня и вынужденный больничный, я бы не стал ничего вам писать и тем более читать ваш высокоинтеллектуальный продукт мысли, суть которого сводится всегда к одному и тому же
С вашей стороны диалог скатился к элементарной грубости, ваше право.
Вы в праве жить в мире, который себе придумали.
В праве видеть только то, что вам хочется; видеть соринку в чужом глазу и не замечать бревно в своём.
Не мне вас судить.
Посмотрим, что будет твориться в мире лет через 10
Привет, tinytjan ...
T>Маленькое добавление: если вдруг вопросы будут по существу нейросетей, обращайтесь к мне , постараюсь найти время и помочь.
Мне нужна небольшая консультация. Может быть ты в курсе, есть ли в природе CAD системы, позволяющие моделировать нейронные сети? Идеальный вариант: в графическом редакторе задать топологию НС, тип нелинейности, обратные связи (если есть) — чтобы на выходе получить просчитанные веса нейронов.
Если такие штуки существуют хотелось бы узнать как минимум название пакета. Если нет, то по-моему это свежая идея для тех, кто занимается шароварой. Можно много навернуть в плане алгоритмов обучения. А для повышения скорости использовать распределённые вычисления (mpi и подобные штуки) — вобщем клондайк для желающих заняться самообразованием .
Почему добро всегда побеждает зло? Потому что историю пишут победители.
Здравствуйте, Amethyst, Вы писали:
A>Мне нужна небольшая консультация. Может быть ты в курсе, есть ли в природе CAD системы, позволяющие моделировать нейронные сети? Идеальный вариант: в графическом редакторе задать топологию НС, тип нелинейности, обратные связи (если есть) — чтобы на выходе получить просчитанные веса нейронов.
Я думаю здесь ты найдешь немного интересной для тебя информации. Только заранее хочу "обрадовать" : клепалки нейросетей стоят бешеные деньги. И если сделать нечто подобное, как за рубежом, то со стоимостью примерно в 1000 баксов можно выходить на российский рынок практичесик без конкурентов. Короче это клондайк для того кто ээто сможет сделать. Жаль, я сейчас не знаю ситуации в России...
A>Если такие штуки существуют хотелось бы узнать как минимум название пакета. Если нет, то по-моему это свежая идея для тех, кто занимается шароварой. Можно много навернуть в плане алгоритмов обучения. А для повышения скорости использовать распределённые вычисления (mpi и подобные штуки) — вобщем клондайк для желающих заняться самообразованием .
Здравствуйте, Amethyst,
По-моему стандартные нейросети можно клепать в некоторых математических пакетах. >Можно много навернуть в плане алгоритмов обучения.
Много не навернешь. Их всего пару штук. >А для повышения скорости использовать распределённые вычисления (mpi и подобные штуки) — вобщем клондайк для желающих заняться самообразованием .
ИМХО, для нейросетей распределенные вычисления не дадут большого выигрыша.
А если использовать mpi, то вообще тормозня получится...
Распределение вычислений в нейросетях вроде используют только в их хардовой реализации, которая представляет собой многопроцессорную систему, а на компе -- такого я еще не видел.
Если увидишь где-нить поделись информацией.
Здравствуйте, Sinclair, Вы писали:
S>Вы представляете альтернативную точку зрения. Мне это очень интересно — может быть, Gaperton ошибается, а вместе с ним и я? Может, все же потрудитесь привести настоящие обоснования, вместо ссылок на двадцатитомники и практику металлургов Китая?
А что станет "настоящим" обоснованием?
Изложение теории в строгом мат.виде, описания конкретных решений на базе НС, реализованные коммерческие продукты?
.
В нём прозвучала бессмыслица.
Я изложил в чём она заключается и дал ссылки где можно поискать кокретную информацию по НС, если появится интерес.
Делать обзор теории нс в мои планы не входило, т.к.
— нужно достаточно много времени, что бы лаконично изложить суть НС, как я её представляю;
— НС не являются моим средством заработка, мне так же как и вам не хочется тратить время на изучение научных публикаций по НС.
Возможно мой первый ответ прозвучал резковато, но другой реакции на выше упомянутое сообщение быть не могло.
S>Лично для меня вес литературы большого значения не имеет — придите в любой книжный ларек и посмотрите на обилие трудов по психоэнергетике и накачке ауры.
Ну, а что вы хоите сказать? Что мои слова станут для вас более убедительны, чем изложение теории НС в литературе?
Думаю нет.
Хотите обзорную выжимку о НС? Тогда придёт "Gaperton"(имя нарицательное) и начнёт утверждать, что "сплайны круче всех на свете", как это делалось в этой ветке.
В итоге всё сведётся к тому, что есть сейчас: противник НС готов клясться мамой, что НС — тупик, я не могу тратить время на то, что бы его разубеждать приводя конкретные задачи и конкретные решение на базе НС. Известные примеры обзываются беллетристикой и игнорируются.
S>То есть здесь мы уже переходим к микроэлектронике, так? Ведь в математике нет никаких тактов. Голые формулы. Пока что я думал, что НС — это такая математическая абстракция. Реализовать ее можно в виде чипа, а можно в виде программы в фон-Неймановской архитектуре. Разве не так?
Нет. Мы переходим к тому, что НС обладает потенциальной возможностью "максимально распараллелить вычисление"(ой, как не грамотно звучит).
Есть такое понятие как алгоритмическая сложность задачи. Появляется оно, как только алгоритм решения задачи записан для исполнения неким вычислителем. Время исполения алгоритма зависит от входных параметров и мощности вычислителя.
Для сложных задач при увеличение точности вычислений/скорости в х-раз мощность вычислителя приходится увеличивать в f(x)>х раз, а стоимость таких вычислителей растёт ещё быстрее. По этому открывается ниша для НС.
Иллюстрация к сказанному (пример из книги 6 "Нейроматематика"):
Дано: вектор вещ. чисел {х1, х2, ... xN},
Надо: найти позицию i-го элемента после сортировки.
Решение:
Реализовать функцию
pos(i) = Sum[j=1..N](sign(Xi-Xj));
Эта функция реализуется двухслойной сетью с фиксированными коэф., из N нейронов.
В итоге вычислительная сложность становится O(1), вместо O(n) в классических алгоритмах.
Так же точно можно было бы сортировать весь масив за O(1), но для этого кол-во нейронов должно быть N^2, что не практично.
Можно подойти к вопросу с другой стороны, ввести функционал оптимизации, выбрать архитектуру сети, расчитать алгоритм настройки минимизирующий заданный функционал для данной архиетуры сети, настроить коэф.согласно этому алгоритму, после чего сортировка за o(1) готова.
И нет тут никакого шаманства, голая математика.
Суть в том, что решение записанное в нс уже готово для реализации в железе 1к1.
Очевидно, что эмулируя НС на PC, никакого o(1) получено не будет.
S> Насколько мне известно, задачей распараллеливания "классических" вычислительных моделей занимаются, и очень активно.
Нейросетями тоже занимаются очень активно, особенно с тех пор, как стоимость железа для НС стала приемлимой.
NGG>>А "сплайны" просто способ описать кривую + методы работы с этими описаниями. S> Вот именно. НС вроде тоже, способ описать зависимость выходного результата от входного. Или вы какую-то совершенно конкретную НС имеете в виду?
Я имею ввиду, что сети не требуют заниматься "задачей распараллеливания "классических" вычислительных моделей", поскольку уже представляют распараллеленнное до "не могу" решение.
S>Тут фигурирует упоминание ограничения на точность решения. А, насколько мне известно, способов хотя бы оценить точность решения при помощи НС, не существует. Опровергните, если это возможно.
При обучении сети вводится понятие функционал оптимизации. Например, среднеквадратичная ошибка.
Алгоритмы обучения используется для его минимизации. Эти алгоритмы имеют строгое обоснование.
Поэтоу говорить, что нет способов оценить точность решения несколько не верно.
NGG>>Посмотрим, что будет твориться в мире лет через 10 S>Нет уж, давайте решим все здесь и сейчас. Что это за дуэль такая — кто первый состарился, тот и проиграл?
Отчего же, просто время объективный судья в отличии от нас
---
Я ещё раз хочу сказать, я не являюсь энциклопедией по НС, не надо у меня выспрашивать тонкости и тем более спорить, сравнивая НС с десятками других технологий.
Я имею общее представление о НС, о ряде их плюсов и минусов, т.к. учился в НЦН.
Этих знаний досточно, что бы не воспринимать серьёзно словоблудие о принципиальной тупиковости НС.
Если кто-то уверен в этом, пусть пишет статью с обоснованием и выступает на очередной конференции, дискутирует с теми, кто занимается НС серьёзно.
...О нетерпимости И.Скалигера к научной критике "со стороны" ярко
говорит такой эпизод. Он страстно увлекся весьма популярной в его
время задачей "квадратуры круга" (требовалось, пользуясь только
циркулем и линейкой, построить квадрат, по площади строго равный
данному кругу, — точнее, разработать метод такого построения; за
прошедшие века появились сотни решений этой задачи, но ни одного —
правильного, поскольку, как сегодня известно, задача эта неразрешима в
строгом математическом смысле). И.Скалигер опубликовал книгу, в
которой утверждал, что ему удалось установить "истинную квадратуру".
Виет, Клавий и другие виднейшие математики пытались доказать ему,
что он ошибается. Так, из "квадратуры" И.Скалигера следовал абсурдный
вывод, будто периметр правильного 196-угольника больше длины
окружности, описанной вокруг него. Скалигер и его сторонники, не
признавая никаких доводов, отвечали только руганью, наделяли критиков
презрительными кличками, объявив в конце концов всех геометров
совершенными невеждами в области геометрии...
Есть такая передача на НТВ "К барьеру". Может Вам вызвать друг друга на дуель? ИМХО десятки тысячи программеров и математиков, посмотрят это шоу, если не впрямом эффире, так запишут ТВ-тюнерами и выложат в инет.
To NotGonnaGetUs: Я не спец в НС, я только прослушал курс в универе, и могу что нить главное не знать. Так вот, я считаю, что НС годятся только для распознавания образов, да и то, шести летний ребенок, за яблоко сделает это более качествено НС были изобретены больше века назад (поправьте если я не прав), но ничего серьезного на них не сделано, если не считать десятки томов книг и рекламных буклетов. Потрачены и до сих пор тратяться миллиарды баксов. Про фурье, Вам кажется уже говорили...
Сорри, что я вмешиваюсь, но мне хочется узнать ответы на два простых вопроса, но этот флейм уходит все дальше и дальше от математики
1. Могут ли НС решать систему линейных уравненй? Если могут, то какая должна быть сеть для системы n x n? Как долго мне придется обучать НС? Гарантирется ли точное решение, если исходные коэффициенты целые числа? А что будет если система вырождена? Какие изменения необходимо сделать, при изменения поля, например перейти от действительных чисел к комплексным?
2. Можно ли сделать проверку орфографии для русского языка, используя НС? Какие будут затраты и сложность?
... << RSDN@Home 1.1.4 beta 4 rev. 361>>
"Бог не терпит голой сингулярности" -- Роджер Пенроуз
Здравствуйте, CiViLiS, Вы писали:
CVL>To NotGonnaGetUs: НС были изобретены больше века назад (поправьте если я не прав),
Меньше. Простой персептрон был предложен в середине 50-х годов прошлого века.
CVL>Сорри, что я вмешиваюсь, но мне хочется узнать ответы на два простых вопроса, но этот флейм уходит все дальше и дальше от математики
Давай я немного расскажу, что такое НС на примере персептрона (времени у меня не очень много, чтобы развернутый трактат писать).
Если говорить о многослойном персептроне, то в классе 3-х слойных персептронов всегда найдется функция, сколь угодно близкая к произвольной заданной функции множества R^N->{0,1}. Множество приближается пересечиниями и объединениями "половинок" пространства R^N (их столько же, сколько и персептронов в первом слое), разделенных гиперплоскостями — такая суперпозиция "половинок" R^N и есть трехслойный персептрон. Само по себе, в этом нет никакой магии, и никакого зла. Думайте сами, какие задачи можно решить подбором такой функции подмножества R^N, а какие нельзя.
Если принять во внимание особенности алгоритма подбора коэффициентов персептрона ("обучения"), то можно сказать, что он решает задачу классификации для заданного множества точек (обучающего множества). С этими алгоритмами и связанны проблемы персептронов, и их неприятные свойства. Алгоритмы класса backprobagation состоят в минимизации функции ошибки персептрона градиентными методами (вся хитрость — в рассчете градиента, до этого фокуса догадались не сразу).
Разработаны также интересные статистические алгоритмы подбора коэффициентов многослойного персептрона, которые ни разу не похож на backpropagation и не требует рассчета производной. Этот метод получше. Но оба алгоритма не гарантируют достижения глобального минимума функции ошибки, т. е. "обучения" персептрона. Сеть может "обучиться" неадекватно по целой массе причин, и если структура обучающего множества неизвестна, то ее использование — это игра в гусарскую рулетку.
Интрересное свойство персептронов — потенциальная возможность выделять из точек довольно сложные множества — не обязательно выпуклые, разной формы и связности. Персептрон, например, теоретически способен правильно выделить из точек двойную спираль. Из-за этого свойства персептронами интересовались в том числе и очень хорошие математики, например, Минский. Однако, на практике
1) структура множества неизвестна, и благодаря убожеству алгоритмов подбора коэффициентов эта возможность так и остается потенциальной.
2) Сложно гарантировать результат. Даже при известной структуре множества обучить сеть — креатифф и гимаррой.
3) НС приписываются чудодейственные свойства. Большая часть нейросетевых проектов провалилась совсем не потому, что НС плохи. А потому, что к помощи "исскуственного интеллекта" часто прибегают те, кому не хватает естественного (я уверен, что нормальные люди не воспримут это лично, и не станут выбрасывать дерьмо на вентилятор). Они и формируют репутацию у НС, сходную с репутацией гербалайфа и чудодейственных присадок к моторному маслу, которые представляют собой "уникальный ревитализант", "восстанавливающий изношенные детали двигателя", "формируя нириально твердую атомарную пленку".
Мне вот было бы крайне любопытно, если бы уважаемый tinytjan таки показал, как он собирается решать нейросетью задачу определения коэффициентов эллипса с наименьшим среднеквадратичным отклонением от заданного множества точек. Case study своего рода. Причем, привел работающую прогу и честно описал все трудности, с которыми столкнулся. А я "половлю" его решение (я надеюсь, общественность мне поможет ). Пока никому не удалось привести мне пример реальной задачи, где было бы настолько очевидно преимущество НС, что НС бы являлись "препаратом выбора".
CVL>1. Могут ли НС решать систему линейных уравненй?
Ага. За О(1) . Нейросетевики весьма изобретательные люди, могут запросто придумать нетрадиционный способ удалить гланды, а если надо будет — то обзовут и формулы Крамера нейросетью .
CVL>2. Можно ли сделать проверку орфографии для русского языка, используя НС? Какие будут затраты и сложность?
Хм... Я вот, например, как и многие, просто не знаю, как проверяется орфография . Но мне кажется, у нас, в россии, так не делают. А вот в Китае — там все возможно
Здравствуйте, Gaperton, Вы писали:
G>Здравствуйте, CiViLiS, Вы писали:
CVL>>To NotGonnaGetUs: НС были изобретены больше века назад (поправьте если я не прав), G>Меньше. Простой персептрон был предложен в середине 50-х годов прошлого века.
Упс, мне казалось, что Розенблатт придумал это в начале прошлого века. Персептрон работал, но никто не мог понять почему в течении долгого времени.. А вот в 50-тых появилась известная теорема, о том что если персептрон не дурак, значит он обучаем. Ладненько пойдем учить матчасть
G>Если говорить о многослойном персептроне, то в классе 3-х слойных персептронов всегда найдется функция, сколь угодно близкая к произвольной заданной функции множества R^N->{0,1}. Множество приближается пересечиниями и объединениями "половинок" пространства R^N (их столько же, сколько и персептронов в первом слое), разделенных гиперплоскостями — такая суперпозиция "половинок" R^N и есть трехслойный персептрон. Само по себе, в этом нет никакой магии, и никакого зла. Думайте сами, какие задачи можно решить подбором такой функции подмножества R^N, а какие нельзя.
ИМХО Почти все используемые на практике множества ограничены, так что круг решаемых задач достаточно широк. Счетность/не счетность придумали теоретики Вот с действительными числами тут есть некоторые проблемы, но и они решаются...
G>Если принять во внимание особенности алгоритма подбора коэффициентов персептрона ("обучения"), то можно сказать, что он решает задачу классификации для заданного множества точек (обучающего множества). С этими алгоритмами и связанны проблемы персептронов, и их неприятные свойства.
Да я вкурсе что основная проблема, это обучить персептрон. Если мне не изменяет память, то СТЕПЕНЬ времи обучения (мощьности обучающего множетсво) растет экспоненциально от числа нейрон. Я здесь имею ввиду полное обучение.
G>Разработаны также интересные статистические алгоритмы подбора коэффициентов многослойного персептрона, которые ни разу не похож на backpropagation и не требует рассчета производной.
Про эти методы я не слышал... У нас на кафедре одна студентка занималась пороговыми функциями, которые и обеспечивают необходимый мат аппарат для нейросетиков От нее я и слышал все эти ужасные оценки...
G>Интрересное свойство персептронов — потенциальная возможность выделять из точек довольно сложные множества — не обязательно выпуклые, разной формы и связности. Персептрон, например, теоретически способен правильно выделить из точек двойную спираль. Из-за этого свойства персептронами интересовались в том числе и очень хорошие математики, например, Минский. Однако, на практике G>1) структура множества неизвестна, и благодаря убожеству алгоритмов подбора коэффициентов эта возможность так и остается потенциальной. G>2) Сложно гарантировать результат. Даже при известной структуре множества обучить сеть — креатифф и гимаррой.
Ну а вдруг кто нить придумает новые алгоритмы обучения?
CVL>>1. Могут ли НС решать систему линейных уравненй? G>Ага. За О(1) . Нейросетевики весьма изобретательные люди, могут запросто придумать нетрадиционный способ удалить гланды, а если надо будет — то обзовут и формулы Крамера нейросетью .
Ну я тут серьездно между прочем... Я вот тоже когда то думал, что НС это замена диффурам и прочей ручной математики.. Примерно в одно время я узнал, про мощьность обучаемого множества... А потом стал требовать чтобы мне показали как НС решает систему лин уравнений -- я же сам с кафедры МЛиВА (мат логика и высшая алгебра), все наши труды сводились к решению системы уравнений... Правда поля бывали не обычными, но в силу элементарности метода Гаусса, это хлопот прибавляло не много...
CVL>>2. Можно ли сделать проверку орфографии для русского языка, используя НС? Какие будут затраты и сложность? G>Хм... Я вот, например, как и многие, просто не знаю, как проверяется орфография . Но мне кажется, у нас, в россии, так не делают. А вот в Китае — там все возможно
Ну тут все просто... R = {абвг...я} N = 20 -- максимальная длина слова... Хоца взять и отобразить R^N -> {0,1}. Как раз стандратная постановка задачи.. А вот как обучать я уже не знаю... показывать НС надо не все слова, так как в русских словах достаточно простая структура... Помоему не такая и уж сложная задача для НС
<< RSDN@Home 1.1.4 beta 4 rev. 361>>
"Бог не терпит голой сингулярности" -- Роджер Пенроуз
Здравствуйте, CiViLiS, Вы писали:
CVL>>>2. Можно ли сделать проверку орфографии для русского языка, используя НС? Какие будут затраты и сложность? G>>Хм... Я вот, например, как и многие, просто не знаю, как проверяется орфография . Но мне кажется, у нас, в россии, так не делают. А вот в Китае — там все возможно CVL>Ну тут все просто... R = {абвг...я} N = 20 -- максимальная длина слова... Хоца взять и отобразить R^N -> {0,1}. Как раз стандратная постановка задачи.. А вот как обучать я уже не знаю... показывать НС надо не все слова, так как в русских словах достаточно простая структура... Помоему не такая и уж сложная задача для НС
Такая постановка задачи для обучения не пойдет. Придумай как подавать слова на вход, как получать выход, если че-нить дельное придумаешь, мона попробовать, благо софтинка есть .
Если будут идеи как подавать входы и выходы -- кидайте. Длина слов может быть разной, но количество нейронов на входе и выходе должно быть постоянным. Простое забивание пробелами не пойдет.
Здравствуйте, CiViLiS, Вы писали:
G>>1) структура множества неизвестна, и благодаря убожеству алгоритмов подбора коэффициентов эта возможность так и остается потенциальной. G>>2) Сложно гарантировать результат. Даже при известной структуре множества обучить сеть — креатифф и гимаррой. CVL>Ну а вдруг кто нить придумает новые алгоритмы обучения?
Ну вот когда придумает, тогда и можно будет о чем-то говорить. Без алгоритма подбора коэффициентов "сеть" вообще никому не нужна. Смотреть на нее штоль?
CVL>>>1. Могут ли НС решать систему линейных уравненй? G>>Ага. За О(1) . Нейросетевики весьма изобретательные люди, могут запросто придумать нетрадиционный способ удалить гланды, а если надо будет — то обзовут и формулы Крамера нейросетью . CVL>Ну я тут серьездно между прочем... Я вот тоже когда то думал, что НС это замена диффурам и прочей ручной математики.. Примерно в одно время я узнал, про мощьность обучаемого множества... А потом стал требовать чтобы мне показали как НС решает систему лин уравнений -- я же сам с кафедры МЛиВА (мат логика и высшая алгебра), все наши труды сводились к решению системы уравнений... Правда поля бывали не обычными, но в силу элементарности метода Гаусса, это хлопот прибавляло не много...
Известно 3 класса численных методов решения систем линейных уравнений, и штук 20-40 (или больше — боюсь соврать, не считал) разных методов их численного решения. Вам мало?
CVL>>>2. Можно ли сделать проверку орфографии для русского языка, используя НС? Какие будут затраты и сложность? G>>Хм... Я вот, например, как и многие, просто не знаю, как проверяется орфография . Но мне кажется, у нас, в россии, так не делают. А вот в Китае — там все возможно CVL>Ну тут все просто... R = {абвг...я} N = 20 -- максимальная длина слова... Хоца взять и отобразить R^N -> {0,1}. Как раз стандратная постановка задачи.. А вот как обучать я уже не знаю... показывать НС надо не все слова, так как в русских словах достаточно простая структура... Помоему не такая и уж сложная задача для НС.
То есть вы хотите слова со словарем сверять, чтоли? Использовать нейросеть в качестве std::map< std::string, bool >? Только с учетом словоформ?
1) Не хотите прикинуть неободимое количество нейронов для этой задачи — чтобы хотя бы на тысячу слов хватило?
2) Представляете, как будет выглядеть ваше искомое подмножество R^N? Его точки при вашем отображении будут распределены хаотическим образом. Поэтому обучить НС в этом случае у вас не получится даже не потому, что НС плохи — поймите меня правильно — я ни на что не намекаю .
Здравствуйте, Gaperton, Вы писали:
G>Известно 3 класса численных методов решения систем линейных уравнений, и штук 20-40 (или больше — боюсь соврать, не считал) разных методов их численного решения. Вам мало?
Дык я почти про все знаю... только медленные они все и не точные... Вот чтобы за O(1), да и точное решение получить. Было бы очень хорошо... Тады всякие лапаки с линпаками, а также большинство кластеров можно было бы повыкидывать
G>То есть вы хотите слова со словарем сверять, чтоли? Использовать нейросеть в качестве std::map< std::string, bool >? Только с учетом словоформ?
ну типа того А шо низя? G>1) Не хотите прикинуть неободимое количество нейронов для этой задачи — чтобы хотя бы на тысячу слов хватило?
Ну мои прикидывания вот такие: 33 буквы, максимальная длина 20 букв. Получается 33^20. Мдя.. что-то много получается. А могет, чисто ради эксперимента возьмем слова длины 5. Тады нужно всего 39135393 нейрончиков.... Вроде тоже много. Жаль такая идея пропала. Ладно пойду думать, могет через разреженные матрицы выкручусь
G>2) Представляете, как будет выглядеть ваше искомое подмножество R^N? Его точки при вашем отображении будут распределены хаотическим образом. Поэтому обучить НС в этом случае у вас не получится даже не потому, что НС плохи — поймите меня правильно — я ни на что не намекаю .
Ну почему хаотичным... ИМХО закономерности будут прослеживаться. Если не на глазок, то стат методы, должны показать всю поднаготную .
ЗЫ помоему я начинаю бредить
<< RSDN@Home 1.1.4 beta 4 rev. 361>>
"Бог не терпит голой сингулярности" -- Роджер Пенроуз
Сколько нейронов в этих сетях? Сотни? Сколько нейронов у человека в мозгу? Настоящих, которые обучаяются по взрослому, а не через метод backpropagation. 
. Даже если штука (нейросеть вообще) бесполезная, то хоть денюжку снимем. 
Нет, эти истории потом рассказывают студентам, передавая им заказ на разработку очередной нейросети. Вот например, другая история.
Из 20 нейронов 
), а самостоятельно — всегда почему то обходил численные методы (а это, кажется, оттуда?).
.
)
