Другими словами, когда речь заходит о "нечетких множествах", я лично предпочитаю оперировать простым и очевидным понятием "вероятности принадлежности точки множеству". А не маловразумительной научной магией формул, где непонятно что подается на вход, и такое-же непонятно что получается на выходе.
Кстати, обратите внимание, как интересно, логично и красиво сплетаются теория вероятности, математическая логика, и теория множеств — все на самом деле об одном. Ну, или почти об одном . Что в случае нечеткой логики не наблюдается.
Здравствуйте, Gaperton, Вы писали:
G>Я вот, например, просто возьму в качестве функции множества функцию плотности распределения наших точек. Далее, операции пересечения и объединения моих множеств я введу просто и естественно — как плотность распределения случайной величины, являющейся соответствующей композицией случайных величин описываемых функциями входных множеств.
Поправка — это рассуждение не вполне верно. Функция нечеткого множества с подобной семантикой не будет являться плоностью распределения. Все несколько сложнее. Есть дополнительное требование — обычные, "четкие" функции множеств и операции над ними должны являтся предельным случаем "нечетких". Вот тогда все будет правильно. Чтобы выполнялось такое требование, функция нечеткого множества вообще говоря не должна быть нормированной, а посему — это не обязательно плотность распределения точек. При этом, семантика значения p(x) в точке х должна быть именно "вероятность принадлежности точки множеству".
С этими поправками, пример с гауссовым колокольчиком все равно корректен (колокольчик нормируем так, чтобы max(p(x)) = 1), подобные "обобщенные множества" возможны в рамках нашей теории. Прикольно получается — чем-то похоже на т. н. обобщенные функции , от которых можно брать интегралы, но вообще говоря нельзя посчитать значение в точке(пример — дельта-функция Дирака). Меру множества посчитать — на счет раз. Все по людски . А вот точно сказать, принадлежит-ли точка множеству — низзя .
WH>Далие это все оптимизируется и сводится к куче малопонятных if'ов которые и работают но этим занимается _машина_, а человек работает с простым и понятным языком описывющим нечеткую логику.
Это у нас — простой и понятный язык? Я плакаль... Вот тебе тоже самое, только без мозгополоскания:
A <- [ -1, 1 ] лево-право
D <- (0, +oo ) расстояние
С <- [ -1, 1 ] выход — куда и как поворячивать. С = -A / ( k*D + 1 ), где k <- (0, +oo) = Const, подбираемый коэффициент.
И все. Гораздо "нечетче", чем у тебя. Впрочем, если очень хочется, можно ввести дискретные уровни, и, немного поднастроив формулу, добится, чтобы результат был в точности как у тебя. Работать будет быстрее, оптимизировать тут нечего, и, что характерно, никакой кучи if-ов.
WH>Ключевые слова WH>
Здравствуйте, Gaperton, Вы писали:
G>Это у нас — простой и понятный язык? Я плакаль... Вот тебе тоже самое, только без мозгополоскания: G>A <- [ -1, 1 ] лево-право G>D <- (0, +oo ) расстояние G>С <- [ -1, 1 ] выход — куда и как поворячивать. G>С = -A / ( k*D + 1 ), где k <- (0, +oo) = Const, подбираемый коэффициент.
И если вдруг A == 0 то мы врезаемся в дерево.
Ты умудрился наглючить на такой простой задаче. А если условия будут сложнее?
... << RSDN@Home 1.1.4 beta 4 rev. 303>>
Пусть это будет просто:
просто, как только можно,
но не проще.
(C) А. Эйнштейн
Здравствуйте, Gaperton, Вы писали:
T>>то А и В -- это не независимые события, и даже не зависимые, G>Если уж считать A и B случайными событиями, то тут, батенька, одно из двух, третьего не дано.
A и B это степени принадлежности одного и того же события двум подмножествам универсального множества.
Вот тебе и третье. Поэтому с А и В ну никак нельзя работать как с независимыми или зависимыми событиями.
T>>это вероятность выпадения [b]одного и того же[b] события в разных множествах, именно поэтому логическая операция and есть минимум этих вероятностей. Все. G>??? Что? Поясни пожалуйста термин, которым ты пользуешься — "выпадение события A во множестве X", и каким именно образом событие A может выпасть во множестве Y. Что-то я не догоняю.
Терминилогия всегда была моим бичом. Ну не умею я доходчиво мысли свои излагать
"выпадение события A во множестве X" -- это степень принадлежности элемента А подмножеству.
Операция логического "и" проводится над подмножествами. Именно поэтому здесь используется мин/макс логика, а не теория вероятностей.
G>Вообще, тут немного спутали логику и теорию множеств. Ты вот, о чем говоришь?
Здравствуйте, WolfHound, Вы писали:
WH>Здравствуйте, Gaperton, Вы писали:
G>>Это у нас — простой и понятный язык? Я плакаль... Вот тебе тоже самое, только без мозгополоскания: G>>A <- [ -1, 1 ] лево-право G>>D <- (0, +oo ) расстояние G>>С <- [ -1, 1 ] выход — куда и как поворячивать. G>>С = -A / ( k*D + 1 ), где k <- (0, +oo) = Const, подбираемый коэффициент. WH> WH>И если вдруг A == 0 то мы врезаемся в дерево. WH>Ты умудрился наглючить на такой простой задаче. А если условия будут сложнее?
Нивапрос, браза. Так тут деревья надо объезжать? Что жы ты сразу ни сказал. А то "мы с пацанами нефкурили, как она брееццо", глядя на очень понятные формулы.
fA( x ) = x <= 0 | x + 1
x > 0 | x - 1
C = fA( A ) / ( k*D + 1 )
Здравствуйте, Gaperton, Вы писали:
G>Никакого факта не вижу. Эта беллетристика, буть то о Китае, Вьетнаме или Японии, ровным счетом ничего не констатирует.
Это примеры использования нейросетей на практике.
NGG>>Осталось собраться и попить пивка. G>С кем попало пивко не пью. Извини. Лучше с вышеупомянутым д-р ф.м.н. Стерниным пивка выпью при случае, когда он из Германии вернется.
Так я же не про себя, я совсем не пью Но вашу очередную шутку юмора оценил.
G>Все задачи, которые эффективно решаются нейросетями, решаются еще эффективнее сплайнами, марковскими автоматами, ..., и прямыми методами. Все до единой, без исключений — нейросеть во всем проигрывает сплайну, по всем пунктам. А то, что не решается "обычными" методами, не решается вообще ничем, в том числе и чудесными нейронными сетями.
G>Никак не могу взять в толк — как могут люди кривейший из придуманных способов экстраполяции, не имеющий никакого значения для остальной математики, считать "методом решения задач", альтернативным специализированной математике?
Очевиндо потому, что сети не являются тем, чем вам кажется.
Кстати, вам никогда не казалось, что компьютеры не имеют никакого (обрамлённого в bold) значения для математики?
G>Почему, например, никто никто не создает "Центра Преобразования Фурье" при РАН — хотя оно является одним из мощнейших инструментов в прикладной и фундаментальной математике? Почему никто не выпускает многотомников под названием "Применение преобразования Фурье в Корее"? Может, потому, что никому не надо доказывать его полезность, и с ним знаком любой приличный математик и инженер?
Именно, а так же потому, что преобразование фурье не является отдельным направлением в выч.математике.
Это было вопрос "по существу НС"?
G>Уважаемый, в математике на веру никто ничего не принимает. Со времен Гильберта, там принято тезисы строго доказывать, и не отнють не мешая оппонента с дерьмом, и не колотя себя копытом в грудь, и не ссылаясь на авторитеты, как это делаете вы. Например, моя математическая аргументация с подробными обоснованиями приведена в ссылках на предыдущие дискуссии, которые я дал в начале ветки.
Поэтому-то мне и забавно читать ваши "бесспорные утверждения".
Или аргументацией являются ссылки на другие обсуждения? Здоровый юмор.
Цитата: G> Сколько нейронов в этих сетях? Сотни? Сколько нейронов у человека в мозгу? Настоящих, которые обучаяются по взрослому, а не через метод backpropagation.
Я должен это считать "математической аргументацией" с подробным обоснованием?
NGG>>Интересно, в след.вашем сообщении вы в очередной раз напишите фамилии парочки мужиков и пошутите по поводу возможностей НС, за не имением сказать ничего дельного по теме? G>Вы говорили, что спорить и доказивать ничего не собираетесь, и что квалификации у вас для этого не хватает. Понятно, вашей квалификации хватает на то, чтобы нахамить. Что с вами серьезно разговаривать-то?
Посчитали на сколько фамилий вы сослались в своём ответе, что бы в очередной раз привести "математически строгий аргумент": "нейросеть во всем проигрывает сплайну, по всем пунктам" ?
Особенно если учесть, что НС это вычислительная машина с высокой степенью распараллеливания вычисленийй, а сплайн, грубо говоря, мат.метод.
G>С вами беседы не будет, и вот почему: G>1) У вас не было сказано совершенно ничего "дельного" по теме. Какая-то лапша про нелинейные уравнения (которую вы как-то очень быстро свернули — с чего это бы? ), и применение НС в Китае.
Всё, что я хотел сказать про НС, я сказал в первом сообщении.
Вызван мой пост был откровенной глупостью, которую я имел несчатье прочитать.
В нём я озвучил "очевидные" (вы же любите это слово) вещи для человека знакомого с НС.
Что до "лапши", если вы в состоаянии описать кучей диффуров поведение электрода в неоднородной среде состоящей из руды, в реал-тайм получить все не обходимые характеристики и успеть обсчитать их, то — флаг вам в руки,
заменяйте не эффективные пид-контроллеры на ваши любимые "сплайны". Куча $ будет гарантрована.
Пока же нс внедряются на производве. И не только в Китае, и не только в металлургии.
G>2) В довесок, с вашей стороны было совершенно неприличное поведение с переходом на личности с первого письма, плюс пара прямых оскорблений в мой адрес. После такого несколько глуповато рассчитывать на нормальную беседу.
Вот как? Т.е. вы хотите сказать, что не оскорбляете меня прямым образом утверждая такие вещи? В прочем не удивлюсь.
G>Что касательно "мужиков", то их фамилии математически образованному человеку скажут очень много. Например, человеку, рассуждающему о проблемах решения нелинейных диффуров (как это делали вы), стоило бы знать кто такой Самарский.
Очредной тонкий намёк на то, что я "дурачок"?
Вы выдаёте желаемое за действительное.
Попробуйте ещё раз прочитать мои сообщения и найти, где я говорю, что нелинейные диффуры нужно решать только НС.
С интересом прочитаю.
G> От его книг пользы в решении диффуров бывает гораздо больше, чем от чтения "многотомника".
Безусловно, т.к. "многотомник" описывает области применения НС, а не как решать диффуры.
НС это интсрумент в руках математика, а не заменитель математики.
G>Засим прощаюсь, так как беседа начинает меня доставать.
Не удивительно. Пока.
NGG>Посчитали на сколько фамилий вы сослались в своём ответе, что бы в очередной раз привести "математически строгий аргумент": "нейросеть во всем проигрывает сплайну, по всем пунктам" ? NGG>Особенно если учесть, что НС это вычислительная машина с высокой степенью распараллеливания вычисленийй, а сплайн, грубо говоря, мат.метод.
НС — "Вычислительная машина". С "высокой степенью распараллеливания". О-о-о! То есть ни разу не мат.метод. А сплайн — это оказывается "мат. метод". Да вы знаток математики.
NGG>Вызван мой пост был откровенной глупостью, которую я имел несчатье прочитать.
Ваш пост был откровенным хамством. Писать подобные посты — уже откровенная глупость. Как и поток сознания в вашем предыдущем абзаце.
G>>Что касательно "мужиков", то их фамилии математически образованному человеку скажут очень много. Например, человеку, рассуждающему о проблемах решения нелинейных диффуров (как это делали вы), стоило бы знать кто такой Самарский. NGG>Очредной тонкий намёк на то, что я "дурачок"?
Да какие тут намеки. Тут уже все понятно.
NGG>Вы выдаёте желаемое за действительное.
К сожалению, нет.
1) Это вы упорно выставляете себя дурачком, я здесь не причем.
2) Действительность часто оказывается хуже любых ожиданий.
NGG>Попробуйте ещё раз прочитать мои сообщения и найти, где я говорю, что нелинейные диффуры нужно решать только НС. NGG>С интересом прочитаю.
NGG>Классические теории хороши, но извините, бесполезны, при решении тех же самых систем нелинейных уравнений при заданных ограничениях на точность решения, скорость его получения и стоимость системы.
---плазма может оказаться устойчивой", профессора ржали, и отвечали "а она у них и неустойчива". При воспоминании о светлой до идиотизма идее стабилизировать плазму нейросетью смеялись до слез.
просто у вас не было специалиста кто толком задачу бы вам мог сформулировать. У чистых теоретиков часто такие такие проколы случаются.
G>НС — "Вычислительная машина". С "высокой степенью распараллеливания". О-о-о! То есть ни разу не мат.метод. А сплайн — это оказывается "мат. метод". Да вы знаток математики.
Ничего другого я от вас не ожидал.
НС — это действительно "вычислительная машина", такая же как любое другое специализированные вычислительное устройсто. Высокий параллелизм заключается в том, что за один такт, полностью отрабатывет один слой сети.
А "сплайны" просто способ описать кривую + методы работы с этими описаниями.
Только тогда, когда решение будет превращено в рабочий код для эвм или "железо", можно начинать сравнение с НС, брать отношение скорость/цена и т.д.
Хотя, что тут говориь, вы же знаток математики.
NGG>>Вызван мой пост был откровенной глупостью, которую я имел несчатье прочитать. G>Ваш пост был откровенным хамством. Писать подобные посты — уже откровенная глупость. Как и поток сознания в вашем предыдущем абзаце.
Я начинаю вас любить за вашу любовь к слову "хамство".
NGG>>Очредной тонкий намёк на то, что я "дурачок"? G>Да какие тут намеки. Тут уже все понятно.
Ну вот, как всё хорошо начиналось и к чему свелось.
NGG>>Вы выдаёте желаемое за действительное. G>К сожалению, нет.
К сожалению, да, поскольку вы игнорируете тот факт, что нс довольно успешно применяются на практике.
NGG>>Попробуйте ещё раз прочитать мои сообщения и найти, где я говорю, что нелинейные диффуры нужно решать только НС. NGG>>С интересом прочитаю.
G>NGG>Классические теории хороши, но извините, бесполезны, при решении тех же самых систем нелинейных уравнений при заданных ограничениях на точность решения, скорость его получения и стоимость системы.
И где тут фигурирует утверждения "только" и "нужно всегда"?
Пожалуйста, если вы можете решить уравнения описывающее процессы в электроплавильной печи и построить систему управляющую процессом, при этом управление будет эффективнее существующих схем — все вам скажут спасибо.
----
Если бы не вывихнутая ступня и вынужденный больничный, я бы не стал ничего вам писать и тем более читать ваш высокоинтеллектуальный продукт мысли, суть которого сводится всегда к одному и тому же
С вашей стороны диалог скатился к элементарной грубости, ваше право.
Вы в праве жить в мире, который себе придумали.
В праве видеть только то, что вам хочется; видеть соринку в чужом глазу и не замечать бревно в своём.
Не мне вас судить.
Посмотрим, что будет твориться в мире лет через 10
Здравствуйте, NotGonnaGetUs, Вы писали:
Очень интересно читать столь интеллигентную беседу двух высокоученых коллег.
Я бы хотел скромно напомнить, что вы ведете вовсе не приватный диалог. За вами с замиранием сердца наблюдает огромная аудитория.
Так что помимо обсуждения качеств этических друг друга, нелишне было бы приводить и более универсальные аргументы. Во время предыдущих обсуждений данной темы Gaperton убедил многих (в том числе меня), что НС — это тупиковое направление эволюции.
Вы представляете альтернативную точку зрения. Мне это очень интересно — может быть, Gaperton ошибается, а вместе с ним и я? НС и решения дифуров — совершенно не то, чем занимаюсь я. Поэтому лично тратить месяцы на исследования вопроса я не могу. Но мне крайне интересно следить за отраслями IT этаким общим планом, "с высоты птичьего полета".
Может, все же потрудитесь привести настоящие обоснования, вместо ссылок на двадцатитомники и практику металлургов Китая?
Лично для меня вес литературы большого значения не имеет — придите в любой книжный ларек и посмотрите на обилие трудов по психоэнергетике и накачке ауры. Не думаю, что китайские металлурги радикально отличаются от российских энергетиков. А последние, например, не стеснялись еще десяток лет назад тратить миллионы долларов на зарубежные системы измерения скорости потока дистиллированной воды, с последующим приглашением наших ученых для "подкручивания" системы, т.к. она давала некорректные результаты на насыщенной угольной взвеси
NGG>НС — это действительно "вычислительная машина", такая же как любое другое специализированные вычислительное устройсто. Высокий параллелизм заключается в том, что за один такт, полностью отрабатывет один слой сети.
То есть здесь мы уже переходим к микроэлектронике, так? Ведь в математике нет никаких тактов. Голые формулы. Пока что я думал, что НС — это такая математическая абстракция. Реализовать ее можно в виде чипа, а можно в виде программы в фон-Неймановской архитектуре. Разве не так? Насколько мне известно, задачей распараллеливания "классических" вычислительных моделей занимаются, и очень активно. NGG>А "сплайны" просто способ описать кривую + методы работы с этими описаниями.
Вот именно. НС вроде тоже, способ описать зависимость выходного результата от входного. Или вы какую-то совершенно конкретную НС имеете в виду? G>>К сожалению, нет. NGG>К сожалению, да, поскольку вы игнорируете тот факт, что нс довольно успешно применяются на практике.
А еще на практике успешно применяется астрология и уринотерапия. Что делать? G>>NGG>Классические теории хороши, но извините, бесполезны, при решении тех же самых систем нелинейных уравнений при заданных ограничениях на точность решения, скорость его получения и стоимость системы. NGG>И где тут фигурирует утверждения "только" и "нужно всегда"?
Тут фигурирует упоминание ограничения на точность решения. А, насколько мне известно, способов хотя бы оценить точность решения при помощи НС, не существует. Опровергните, если это возможно. NGG>Посмотрим, что будет твориться в мире лет через 10
Нет уж, давайте решим все здесь и сейчас. Что это за дуэль такая — кто первый состарился, тот и проиграл?
... << RSDN@Home 1.1.4 beta 4 rev. 347>>
Уйдемте отсюда, Румата! У вас слишком богатые погреба.
Привет, tinytjan ...
T>Маленькое добавление: если вдруг вопросы будут по существу нейросетей, обращайтесь к мне , постараюсь найти время и помочь.
Мне нужна небольшая консультация. Может быть ты в курсе, есть ли в природе CAD системы, позволяющие моделировать нейронные сети? Идеальный вариант: в графическом редакторе задать топологию НС, тип нелинейности, обратные связи (если есть) — чтобы на выходе получить просчитанные веса нейронов.
Если такие штуки существуют хотелось бы узнать как минимум название пакета. Если нет, то по-моему это свежая идея для тех, кто занимается шароварой. Можно много навернуть в плане алгоритмов обучения. А для повышения скорости использовать распределённые вычисления (mpi и подобные штуки) — вобщем клондайк для желающих заняться самообразованием .
Почему добро всегда побеждает зло? Потому что историю пишут победители.
Здравствуйте, Amethyst, Вы писали:
A>Мне нужна небольшая консультация. Может быть ты в курсе, есть ли в природе CAD системы, позволяющие моделировать нейронные сети? Идеальный вариант: в графическом редакторе задать топологию НС, тип нелинейности, обратные связи (если есть) — чтобы на выходе получить просчитанные веса нейронов.
Я думаю здесь ты найдешь немного интересной для тебя информации. Только заранее хочу "обрадовать" : клепалки нейросетей стоят бешеные деньги. И если сделать нечто подобное, как за рубежом, то со стоимостью примерно в 1000 баксов можно выходить на российский рынок практичесик без конкурентов. Короче это клондайк для того кто ээто сможет сделать. Жаль, я сейчас не знаю ситуации в России...
A>Если такие штуки существуют хотелось бы узнать как минимум название пакета. Если нет, то по-моему это свежая идея для тех, кто занимается шароварой. Можно много навернуть в плане алгоритмов обучения. А для повышения скорости использовать распределённые вычисления (mpi и подобные штуки) — вобщем клондайк для желающих заняться самообразованием .
Здравствуйте, Amethyst,
По-моему стандартные нейросети можно клепать в некоторых математических пакетах. >Можно много навернуть в плане алгоритмов обучения.
Много не навернешь. Их всего пару штук. >А для повышения скорости использовать распределённые вычисления (mpi и подобные штуки) — вобщем клондайк для желающих заняться самообразованием .
ИМХО, для нейросетей распределенные вычисления не дадут большого выигрыша.
А если использовать mpi, то вообще тормозня получится...
Распределение вычислений в нейросетях вроде используют только в их хардовой реализации, которая представляет собой многопроцессорную систему, а на компе -- такого я еще не видел.
Если увидишь где-нить поделись информацией.
Здравствуйте, Sinclair, Вы писали:
S>Вы представляете альтернативную точку зрения. Мне это очень интересно — может быть, Gaperton ошибается, а вместе с ним и я? Может, все же потрудитесь привести настоящие обоснования, вместо ссылок на двадцатитомники и практику металлургов Китая?
А что станет "настоящим" обоснованием?
Изложение теории в строгом мат.виде, описания конкретных решений на базе НС, реализованные коммерческие продукты?
.
В нём прозвучала бессмыслица.
Я изложил в чём она заключается и дал ссылки где можно поискать кокретную информацию по НС, если появится интерес.
Делать обзор теории нс в мои планы не входило, т.к.
— нужно достаточно много времени, что бы лаконично изложить суть НС, как я её представляю;
— НС не являются моим средством заработка, мне так же как и вам не хочется тратить время на изучение научных публикаций по НС.
Возможно мой первый ответ прозвучал резковато, но другой реакции на выше упомянутое сообщение быть не могло.
S>Лично для меня вес литературы большого значения не имеет — придите в любой книжный ларек и посмотрите на обилие трудов по психоэнергетике и накачке ауры.
Ну, а что вы хоите сказать? Что мои слова станут для вас более убедительны, чем изложение теории НС в литературе?
Думаю нет.
Хотите обзорную выжимку о НС? Тогда придёт "Gaperton"(имя нарицательное) и начнёт утверждать, что "сплайны круче всех на свете", как это делалось в этой ветке.
В итоге всё сведётся к тому, что есть сейчас: противник НС готов клясться мамой, что НС — тупик, я не могу тратить время на то, что бы его разубеждать приводя конкретные задачи и конкретные решение на базе НС. Известные примеры обзываются беллетристикой и игнорируются.
S>То есть здесь мы уже переходим к микроэлектронике, так? Ведь в математике нет никаких тактов. Голые формулы. Пока что я думал, что НС — это такая математическая абстракция. Реализовать ее можно в виде чипа, а можно в виде программы в фон-Неймановской архитектуре. Разве не так?
Нет. Мы переходим к тому, что НС обладает потенциальной возможностью "максимально распараллелить вычисление"(ой, как не грамотно звучит).
Есть такое понятие как алгоритмическая сложность задачи. Появляется оно, как только алгоритм решения задачи записан для исполнения неким вычислителем. Время исполения алгоритма зависит от входных параметров и мощности вычислителя.
Для сложных задач при увеличение точности вычислений/скорости в х-раз мощность вычислителя приходится увеличивать в f(x)>х раз, а стоимость таких вычислителей растёт ещё быстрее. По этому открывается ниша для НС.
Иллюстрация к сказанному (пример из книги 6 "Нейроматематика"):
Дано: вектор вещ. чисел {х1, х2, ... xN},
Надо: найти позицию i-го элемента после сортировки.
Решение:
Реализовать функцию
pos(i) = Sum[j=1..N](sign(Xi-Xj));
Эта функция реализуется двухслойной сетью с фиксированными коэф., из N нейронов.
В итоге вычислительная сложность становится O(1), вместо O(n) в классических алгоритмах.
Так же точно можно было бы сортировать весь масив за O(1), но для этого кол-во нейронов должно быть N^2, что не практично.
Можно подойти к вопросу с другой стороны, ввести функционал оптимизации, выбрать архитектуру сети, расчитать алгоритм настройки минимизирующий заданный функционал для данной архиетуры сети, настроить коэф.согласно этому алгоритму, после чего сортировка за o(1) готова.
И нет тут никакого шаманства, голая математика.
Суть в том, что решение записанное в нс уже готово для реализации в железе 1к1.
Очевидно, что эмулируя НС на PC, никакого o(1) получено не будет.
S> Насколько мне известно, задачей распараллеливания "классических" вычислительных моделей занимаются, и очень активно.
Нейросетями тоже занимаются очень активно, особенно с тех пор, как стоимость железа для НС стала приемлимой.
NGG>>А "сплайны" просто способ описать кривую + методы работы с этими описаниями. S> Вот именно. НС вроде тоже, способ описать зависимость выходного результата от входного. Или вы какую-то совершенно конкретную НС имеете в виду?
Я имею ввиду, что сети не требуют заниматься "задачей распараллеливания "классических" вычислительных моделей", поскольку уже представляют распараллеленнное до "не могу" решение.
S>Тут фигурирует упоминание ограничения на точность решения. А, насколько мне известно, способов хотя бы оценить точность решения при помощи НС, не существует. Опровергните, если это возможно.
При обучении сети вводится понятие функционал оптимизации. Например, среднеквадратичная ошибка.
Алгоритмы обучения используется для его минимизации. Эти алгоритмы имеют строгое обоснование.
Поэтоу говорить, что нет способов оценить точность решения несколько не верно.
NGG>>Посмотрим, что будет твориться в мире лет через 10 S>Нет уж, давайте решим все здесь и сейчас. Что это за дуэль такая — кто первый состарился, тот и проиграл?
Отчего же, просто время объективный судья в отличии от нас
---
Я ещё раз хочу сказать, я не являюсь энциклопедией по НС, не надо у меня выспрашивать тонкости и тем более спорить, сравнивая НС с десятками других технологий.
Я имею общее представление о НС, о ряде их плюсов и минусов, т.к. учился в НЦН.
Этих знаний досточно, что бы не воспринимать серьёзно словоблудие о принципиальной тупиковости НС.
Если кто-то уверен в этом, пусть пишет статью с обоснованием и выступает на очередной конференции, дискутирует с теми, кто занимается НС серьёзно.
...О нетерпимости И.Скалигера к научной критике "со стороны" ярко
говорит такой эпизод. Он страстно увлекся весьма популярной в его
время задачей "квадратуры круга" (требовалось, пользуясь только
циркулем и линейкой, построить квадрат, по площади строго равный
данному кругу, — точнее, разработать метод такого построения; за
прошедшие века появились сотни решений этой задачи, но ни одного —
правильного, поскольку, как сегодня известно, задача эта неразрешима в
строгом математическом смысле). И.Скалигер опубликовал книгу, в
которой утверждал, что ему удалось установить "истинную квадратуру".
Виет, Клавий и другие виднейшие математики пытались доказать ему,
что он ошибается. Так, из "квадратуры" И.Скалигера следовал абсурдный
вывод, будто периметр правильного 196-угольника больше длины
окружности, описанной вокруг него. Скалигер и его сторонники, не
признавая никаких доводов, отвечали только руганью, наделяли критиков
презрительными кличками, объявив в конце концов всех геометров
совершенными невеждами в области геометрии...
Есть такая передача на НТВ "К барьеру". Может Вам вызвать друг друга на дуель? ИМХО десятки тысячи программеров и математиков, посмотрят это шоу, если не впрямом эффире, так запишут ТВ-тюнерами и выложат в инет.
To NotGonnaGetUs: Я не спец в НС, я только прослушал курс в универе, и могу что нить главное не знать. Так вот, я считаю, что НС годятся только для распознавания образов, да и то, шести летний ребенок, за яблоко сделает это более качествено НС были изобретены больше века назад (поправьте если я не прав), но ничего серьезного на них не сделано, если не считать десятки томов книг и рекламных буклетов. Потрачены и до сих пор тратяться миллиарды баксов. Про фурье, Вам кажется уже говорили...
Сорри, что я вмешиваюсь, но мне хочется узнать ответы на два простых вопроса, но этот флейм уходит все дальше и дальше от математики
1. Могут ли НС решать систему линейных уравненй? Если могут, то какая должна быть сеть для системы n x n? Как долго мне придется обучать НС? Гарантирется ли точное решение, если исходные коэффициенты целые числа? А что будет если система вырождена? Какие изменения необходимо сделать, при изменения поля, например перейти от действительных чисел к комплексным?
2. Можно ли сделать проверку орфографии для русского языка, используя НС? Какие будут затраты и сложность?
... << RSDN@Home 1.1.4 beta 4 rev. 361>>
"Бог не терпит голой сингулярности" -- Роджер Пенроуз
Здравствуйте, CiViLiS, Вы писали:
CVL>To NotGonnaGetUs: НС были изобретены больше века назад (поправьте если я не прав),
Меньше. Простой персептрон был предложен в середине 50-х годов прошлого века.
CVL>Сорри, что я вмешиваюсь, но мне хочется узнать ответы на два простых вопроса, но этот флейм уходит все дальше и дальше от математики
Давай я немного расскажу, что такое НС на примере персептрона (времени у меня не очень много, чтобы развернутый трактат писать).
Если говорить о многослойном персептроне, то в классе 3-х слойных персептронов всегда найдется функция, сколь угодно близкая к произвольной заданной функции множества R^N->{0,1}. Множество приближается пересечиниями и объединениями "половинок" пространства R^N (их столько же, сколько и персептронов в первом слое), разделенных гиперплоскостями — такая суперпозиция "половинок" R^N и есть трехслойный персептрон. Само по себе, в этом нет никакой магии, и никакого зла. Думайте сами, какие задачи можно решить подбором такой функции подмножества R^N, а какие нельзя.
Если принять во внимание особенности алгоритма подбора коэффициентов персептрона ("обучения"), то можно сказать, что он решает задачу классификации для заданного множества точек (обучающего множества). С этими алгоритмами и связанны проблемы персептронов, и их неприятные свойства. Алгоритмы класса backprobagation состоят в минимизации функции ошибки персептрона градиентными методами (вся хитрость — в рассчете градиента, до этого фокуса догадались не сразу).
Разработаны также интересные статистические алгоритмы подбора коэффициентов многослойного персептрона, которые ни разу не похож на backpropagation и не требует рассчета производной. Этот метод получше. Но оба алгоритма не гарантируют достижения глобального минимума функции ошибки, т. е. "обучения" персептрона. Сеть может "обучиться" неадекватно по целой массе причин, и если структура обучающего множества неизвестна, то ее использование — это игра в гусарскую рулетку.
Интрересное свойство персептронов — потенциальная возможность выделять из точек довольно сложные множества — не обязательно выпуклые, разной формы и связности. Персептрон, например, теоретически способен правильно выделить из точек двойную спираль. Из-за этого свойства персептронами интересовались в том числе и очень хорошие математики, например, Минский. Однако, на практике
1) структура множества неизвестна, и благодаря убожеству алгоритмов подбора коэффициентов эта возможность так и остается потенциальной.
2) Сложно гарантировать результат. Даже при известной структуре множества обучить сеть — креатифф и гимаррой.
3) НС приписываются чудодейственные свойства. Большая часть нейросетевых проектов провалилась совсем не потому, что НС плохи. А потому, что к помощи "исскуственного интеллекта" часто прибегают те, кому не хватает естественного (я уверен, что нормальные люди не воспримут это лично, и не станут выбрасывать дерьмо на вентилятор). Они и формируют репутацию у НС, сходную с репутацией гербалайфа и чудодейственных присадок к моторному маслу, которые представляют собой "уникальный ревитализант", "восстанавливающий изношенные детали двигателя", "формируя нириально твердую атомарную пленку".
Мне вот было бы крайне любопытно, если бы уважаемый tinytjan таки показал, как он собирается решать нейросетью задачу определения коэффициентов эллипса с наименьшим среднеквадратичным отклонением от заданного множества точек. Case study своего рода. Причем, привел работающую прогу и честно описал все трудности, с которыми столкнулся. А я "половлю" его решение (я надеюсь, общественность мне поможет ). Пока никому не удалось привести мне пример реальной задачи, где было бы настолько очевидно преимущество НС, что НС бы являлись "препаратом выбора".
CVL>1. Могут ли НС решать систему линейных уравненй?
Ага. За О(1) . Нейросетевики весьма изобретательные люди, могут запросто придумать нетрадиционный способ удалить гланды, а если надо будет — то обзовут и формулы Крамера нейросетью .
CVL>2. Можно ли сделать проверку орфографии для русского языка, используя НС? Какие будут затраты и сложность?
Хм... Я вот, например, как и многие, просто не знаю, как проверяется орфография . Но мне кажется, у нас, в россии, так не делают. А вот в Китае — там все возможно
Здравствуйте, Gaperton, Вы писали:
G>Здравствуйте, CiViLiS, Вы писали:
CVL>>To NotGonnaGetUs: НС были изобретены больше века назад (поправьте если я не прав), G>Меньше. Простой персептрон был предложен в середине 50-х годов прошлого века.
Упс, мне казалось, что Розенблатт придумал это в начале прошлого века. Персептрон работал, но никто не мог понять почему в течении долгого времени.. А вот в 50-тых появилась известная теорема, о том что если персептрон не дурак, значит он обучаем. Ладненько пойдем учить матчасть
G>Если говорить о многослойном персептроне, то в классе 3-х слойных персептронов всегда найдется функция, сколь угодно близкая к произвольной заданной функции множества R^N->{0,1}. Множество приближается пересечиниями и объединениями "половинок" пространства R^N (их столько же, сколько и персептронов в первом слое), разделенных гиперплоскостями — такая суперпозиция "половинок" R^N и есть трехслойный персептрон. Само по себе, в этом нет никакой магии, и никакого зла. Думайте сами, какие задачи можно решить подбором такой функции подмножества R^N, а какие нельзя.
ИМХО Почти все используемые на практике множества ограничены, так что круг решаемых задач достаточно широк. Счетность/не счетность придумали теоретики Вот с действительными числами тут есть некоторые проблемы, но и они решаются...
G>Если принять во внимание особенности алгоритма подбора коэффициентов персептрона ("обучения"), то можно сказать, что он решает задачу классификации для заданного множества точек (обучающего множества). С этими алгоритмами и связанны проблемы персептронов, и их неприятные свойства.
Да я вкурсе что основная проблема, это обучить персептрон. Если мне не изменяет память, то СТЕПЕНЬ времи обучения (мощьности обучающего множетсво) растет экспоненциально от числа нейрон. Я здесь имею ввиду полное обучение.
G>Разработаны также интересные статистические алгоритмы подбора коэффициентов многослойного персептрона, которые ни разу не похож на backpropagation и не требует рассчета производной.
Про эти методы я не слышал... У нас на кафедре одна студентка занималась пороговыми функциями, которые и обеспечивают необходимый мат аппарат для нейросетиков От нее я и слышал все эти ужасные оценки...
G>Интрересное свойство персептронов — потенциальная возможность выделять из точек довольно сложные множества — не обязательно выпуклые, разной формы и связности. Персептрон, например, теоретически способен правильно выделить из точек двойную спираль. Из-за этого свойства персептронами интересовались в том числе и очень хорошие математики, например, Минский. Однако, на практике G>1) структура множества неизвестна, и благодаря убожеству алгоритмов подбора коэффициентов эта возможность так и остается потенциальной. G>2) Сложно гарантировать результат. Даже при известной структуре множества обучить сеть — креатифф и гимаррой.
Ну а вдруг кто нить придумает новые алгоритмы обучения?
CVL>>1. Могут ли НС решать систему линейных уравненй? G>Ага. За О(1) . Нейросетевики весьма изобретательные люди, могут запросто придумать нетрадиционный способ удалить гланды, а если надо будет — то обзовут и формулы Крамера нейросетью .
Ну я тут серьездно между прочем... Я вот тоже когда то думал, что НС это замена диффурам и прочей ручной математики.. Примерно в одно время я узнал, про мощьность обучаемого множества... А потом стал требовать чтобы мне показали как НС решает систему лин уравнений -- я же сам с кафедры МЛиВА (мат логика и высшая алгебра), все наши труды сводились к решению системы уравнений... Правда поля бывали не обычными, но в силу элементарности метода Гаусса, это хлопот прибавляло не много...
CVL>>2. Можно ли сделать проверку орфографии для русского языка, используя НС? Какие будут затраты и сложность? G>Хм... Я вот, например, как и многие, просто не знаю, как проверяется орфография . Но мне кажется, у нас, в россии, так не делают. А вот в Китае — там все возможно
Ну тут все просто... R = {абвг...я} N = 20 -- максимальная длина слова... Хоца взять и отобразить R^N -> {0,1}. Как раз стандратная постановка задачи.. А вот как обучать я уже не знаю... показывать НС надо не все слова, так как в русских словах достаточно простая структура... Помоему не такая и уж сложная задача для НС
<< RSDN@Home 1.1.4 beta 4 rev. 361>>
"Бог не терпит голой сингулярности" -- Роджер Пенроуз
Ну, или почти об одном 
. Что в случае нечеткой логики не наблюдается.
, от которых можно брать интегралы, но вообще говоря нельзя посчитать значение в точке(пример — дельта-функция Дирака). Меру множества посчитать — на счет раз. Все по людски 
Я плакаль... 
То есть ни разу не мат.метод. А сплайн — это оказывается "мат. метод". Да вы знаток математики.
Ладненько пойдем учить матчасть 