Здравствуйте, Sharov, Вы писали:

S>Ну чего, будущее уже здесь? Как по вашему это повлияет на индустрию -- программисты будущего не будут знать конвенциональные яп и парадигмы, а будут знать фреймворки или (что скорее всего) какие-нибудь DSL языки пригодные для научения нс? И повлияет ли вообще... Или это очередной пшик?

Это как с big data. Все пишут, но не понимают о чем. Идем в английскую вики и читаем этот раздел до просветления.

По сути — это многослойный персептрон, в котором хитро обучаются внутренние слои. Главную проблему нейронных сетей это не решает, а именно:

1) Что делать, когда вектор измерений меняет размерность?
2) Что делать, когда предъявляется вектор измерений, который выбивается из того, чему сеть обучали?

Для ответа на второй вопрос были придуманы АРТ-1 и АРТ-2 (специальные виды рекуррентных нейронных сетей) в бородатых 80-х годах. А вот
на первый вопрос ответа до сих пор нет, и ждать его смысла особого не имеет.

В общем, на мой взгляд, это очередная мода, такая же как NoSQL и Big Data. Просто с NoSQL народ не понимал РСУБД, с Big Data мат. статистику,
а с Deep Learning не понимают МНК и классическую теорию Machine Learning. Это пройдет, но уши прожужжать успеют.

Здравствуйте, Sharov, Вы писали:

S>Здравствуйте.

S>Тут господин Левенчук проповедует за новый тип программ в виде нейронных сеток, которые не нужно будет программировать, а нужно будет обучать. Т.е. программирование эволюционирует в обучение, а дальше "оно само".

Видимо хочет правительственный грант попилить. Кстати стоит зайти на сайт аффтора — http://techinvestlab.ru/, сразу все станет ясно.


S>Ну чего, будущее уже здесь? Как по вашему это повлияет на индустрию -- программисты будущего не будут знать конвенциональные яп и парадигмы, а будут знать фреймворки или (что скорее всего) какие-нибудь DSL языки пригодные для научения нс? И повлияет ли вообще... Или это очередной пшик?
Все, кто понимают что такое нейросети и как они работают, ржут над такой статьей.

Здравствуйте, Sharov, Вы писали:

Было бы неплохо увидеть пример такого обучения (пусть на теории), превращающее Paint в AutoCAD

Здравствуйте, Sharov, Вы писали:

S> Ну чего, будущее уже здесь?

Еще нет, но движение в эту сторону явно наметилось.
Вот, например: Image Scaling using Deep Convolutional Neural Networks. Нейросеть ресайзит изображения. Причем делает это явно лучше, чем бикубическая интерполяция.

S> Как по вашему это повлияет на индустрию -- программисты будущего не будут знать конвенциональные яп и парадигмы, а будут знать фреймворки или (что скорее всего) какие-нибудь DSL языки пригодные для научения нс?

Нет, до новой парадигмы пока очень далеко. Универсального подхода к любой задаче с помощью нейросетей пока не существует. Высокоуровневые фреймворки будут специализированными. А на низком уровне предвижу следущий шаг — перенос вычислений на GPU. И как следствие — некоторая стандартизация описания сетей и алгоритмов на них. Дальше, разумеется, появятся DSL. А там видно будет.

P.S. Для интересующихся — введение в тему: Michael A. Nielsen, "Neural Networks and Deep Learning"

Здравствуйте, Sharov, Вы писали:

S>Ну чего, будущее уже здесь? Как по вашему это повлияет на индустрию -- программисты будущего не будут знать конвенциональные яп и парадигмы, а будут знать фреймворки или (что скорее всего) какие-нибудь DSL языки пригодные для научения нс? И повлияет ли вообще... Или это очередной пшик?

И пшик, и нет. В реальности он всё сильно преувеличивает: то же распознавание образов сетки осуществляют не лучше человека, а просто по другому. Например, моя годовалая дочка с первого взгляда захрюкает, глядя на пару неловких карандашных линий, означающих мордочку поросёнка. Современным нейросетям, обученным хоть Гуглом на своей огромной базе, до такого результата ещё лететь и лететь. Просто эволюция шла своими путями, а учёные идут своими.
Левенчук же всё больше смотрит на красивые результаты и радуется графикам и картинкам. Насколько далеки глубокие нейросети от по-настоящему прорывных вещей, какие у них есть принципиальные проблемы он не понимает. Занимается популяризацией — да, это хорошо.
Кстати, вот недавний пример распиаренной во всех местах статьи от Гугловцев "Real-Time Pedestrian Detection With Deep Networks Cascades". Что они там пишут:

Our algorithm runs in real-time at 15 frames per second. The resulting approach achieves a 26.2% average miss rate on the Caltech Pedestrian detection benchmark, which is competitive with the very best reported results. It is the first work we are aware of that achieves extremely high accuracy while running in real-time.

Реалтйам на NVIDIA K20 Tesla GPU это у них 15 fps?!! Хвалятся качеством? А оно не такое уж и выдающееся. Фактически это звучит так: "Мы применили новый модный Deep learning на мощнейшем железе, всё медленно и не так уж и хорошо". Можно посмотреть на статьи тех же Тойотовцев со своим CoHOG: и быстрее, и качественней, и железо слабее. Просто сидят на модном пузыре.

Здравствуйте.

Тут господин Левенчук проповедует за новый тип программ в виде нейронных сеток, которые не нужно будет программировать, а нужно будет обучать. Т.е. программирование эволюционирует в обучение, а дальше "оно само". Пару цитат:

Это разнообразие не случайно: если интернет – это просто вид связи, то глубокие нейронные сети (deep neural networks, DNN) – по сути, новый тип программ, столь же универсальный, как и традиционные компьютерные программы. Эта универсальность доказана теоретически: нейронная сеть в теории может бесконечно точно аппроксимировать любую функцию многих переменных – а еще проводить вычисления, эквивалентные вычислениям машины Тьюринга.

В отличие от традиционных компьютерных программ, нейронные сети не нужно «писать», их нужно «учить». И их можно научить тому, что бесконечно трудно (если вообще возможно) воплотить традиционной программной инженерией. Например, нейронные сети уже научились распознавать аудио и видео на уровне людей – и даже лучше них. Или наоборот, создавать аудио и видео – если у вас есть воплощенное в наученной глубокой нейронной сети понимание изображений каких-то объектов, это же понимание можно использовать и для создания изображений этих объектов. Синтез голоса, текста и изображений еще не появился на рынке, но эксперименты уже показывают успехи, раньше в этой области недостижимые. Более того, нейронные сетки могут не только анализировать данные, но и выдавать команды. Так, они научились играть в игры Atari 2600, причем во многие даже лучше человека, и их не пришлось специально для этого программировать.

Ну чего, будущее уже здесь? Как по вашему это повлияет на индустрию -- программисты будущего не будут знать конвенциональные яп и парадигмы, а будут знать фреймворки или (что скорее всего) какие-нибудь DSL языки пригодные для научения нс? И повлияет ли вообще... Или это очередной пшик?

Здравствуйте, Sharov, Вы писали:

Ты его сайт видел?

освоения компьютерных систем управления инженерными данными, методик 4D- и 6D-проектирования.

В моём докладе речь пойдёт о примере типового проекта, лежащего в основе некой технологической платформы, и многократно реализующегося с определёнными модификациями (это может быть атомная или тепловая электростанция, типовой корабль или автомобиль, даже типовое бытовое изделие). При этом мы должны рассматривать специальную форму жизненного цикла, которая может напомнить вам доклад Тайсона Браунинга (Tyson Browning) «Проблемы и инструменты для интеграционного моделирования всего жизненного цикла системы». Там было продемонстрировано, в частности, как функционирующая система со временем теряет свою ценность для заинтересованного в ней лица, далее в результате модернизации вновь приближается к желательному уровню ценности, и вновь теряет ценность до момента неизбежного принятия решения о выводе её из эксплуатации.

Мошенник какой-то.

Здравствуйте, LaptevVV, Вы писали:

LVV>Это опять новый термин для давно известных вещей?

нейронные сети, они как бы разные бывают.

бывают сверточные, рекурсивные, машины больцмана, и тд.
DNN -- еще один подтип.

Здравствуйте, vdimas, Вы писали:

NB>>но суть та же.

V>а рекурсия — это рекурсия. ))
V>тот же корень, но уже в значении "повторение".

вот же педант попался

Здравствуйте, night beast, Вы писали:

NB>вот же педант попался

перфекционист, скорее ))

Здравствуйте, vdimas, Вы писали:

V>Здравствуйте, Sharov, Вы писали:

S>>Ну чего, будущее уже здесь?

V>Нет. ))

V>Например, даже воссоздав мозг человека, сложно будет заставить его работать.
V>Наш мозг устроен так, что он прекрасно умеет решать задачи из разряда "есть задача — нужно решение". Основные задачи, отобранные эволюцией — это выживание и размножение. Отсюда у нас инстинкты поберечь больную конечность (дать зажить ране), страх смерти, стремление к комфорту, жажда трахацца. Причем, жажда перетрахать как можно больше партнёров — для этой цели нам дано наше ЧСВ, результат деятельности которого у самцов привлекает самок, а у самок наоборот. Не зря дамское ЧСВ в корне отличается от господского.

Человеческий мозг очень сложен, в нем много отделов, которые вовсе не обязательно копировать. Даже если удастся смоделировать небольшой кусок левого полушария (которое отвечает за логическое мышление), этого может быть достаточно для использования в "народном хозяйстве".

Здравствуйте, Nuzhny, Вы писали:

N> W>Я привел эту статью для иллюстрации того, что нейросети стали все больше использовать для решения разнообразных практических задач, а не только для защиты дипломов или банальшины вроде OCR. Еще лет пять назад, ЕМНИП, этого еще не было.

N> Я спорю с выделенным утверждением. То что ты привёл — это чистое наукообразие: впервые применим такой-то метод для решения такой-то задачи. Что-то получилось, сравнили с самой примитивщиной. Ну, гут. И что? И ничего, никакого практического выхлопа.

Вау. Сайт, приносящий деньги — это для тебя "чистое наукообразие" и "никакого практического выхлопа"? Ну тогда хз чем тебе угодить... Оставайся при своем мнении.

Здравствуйте, wildwind, Вы писали:

W>Вау. Сайт, приносящий деньги — это для тебя "чистое наукообразие" и "никакого практического выхлопа"? Ну тогда хз чем тебе угодить... Оставайся при своем мнении.

Где ты видишь сайт приносящий деньги? Кинь ссылку. Всё, что ты показал, это статья, в заголовке которой написано:

This past summer I interned at Flipboard in Palo Alto, California. I worked on machine learning based problems, one of which was Image Upscaling. This post will show some preliminary results, discuss our model and its possible applications to Flipboard’s products.

Переведу на всякий случай на простой язык: разработчик был интерном, занимался проблемой, найденное решение ВОЗМОЖНО будет применяться в конечном продукте. Если я что-то упустил, то подскажи.

Здравствуйте, LaptevVV, Вы писали:

LVV>Непонятно, почему нейронные сети называются глубокие ...

Это способ обучения нс так называется.

Здравствуйте, night beast, Вы писали:


NB>нейронные сети, они как бы разные бывают.
NB>бывают сверточные, рекурсивные,

рекуррентные наверно?

Здравствуйте, Sharov, Вы писали:

S>

S>Я сегодня рассказывал для этого сюжета, что примерно так же комментировал интернет лет двадцать назад (в 1995, а вебсайты же я делал с 1994 года -- первый вебсайт до сих пор живёт, ему уж 21 год будет через пару недель: http://libertarium.ru/). Как и сегодня про искуственный интеллект в целом и глубокое обучение в частности, я тогда пел песню, что "это перевернёт жизнь миллиардов людей", а телевизионщики, да и не только они, хихикали и поминали "Москва слезам не верит" с его "не будет ни газет, ни книг, ни кино, ни театров, а будет одно сплошное телевидение".

S>http://ailev.livejournal.com/1202950.html

Кстати, прозорливость человека в одном случае совсем не означает такую же в другом. Можно посмотреть примеры ошибок у Невзорова:

Что такое учёный? Это человек, который сделал некое открытие, то есть проявил в строго определённом вопросе некую безошибочность. Давайте посмотрим, распространяется ли эта безошибочность вообще на всё, с чем учёные имеют дело. Давайте посмотрим на набор смешных невероятных заблуждений и ошибок, которые были присущи потрясающим, великолепным, значительнейшим учёным. Например, тот же самый Исаак Ньютон был убеждён, что метеориты – это чепуха, потому что им вообще неоткуда падать. И тот же самый Исаак был убеждён и горячо проповедовал, что в соотношении исторических и археологических данных Земля имеет 6 тысяч лет своего возраста.

Фрэнсис Бэкон был убеждён в злобном влиянии ведьм на качество посевов, Бехтерев Владимир Михайлович всерьёз говорил о цветотерапии, Либих не верил, что дрожжи являются живым организмом. Роберт Бойль, который Бойль – Мариотт, обязывал рудокопов докладывать, на какой глубине начинаются демонские гнёзда, и описывать, как выглядят гнёзда демонов. Бюффон был убеждён что в Америке, по сравнению со всеми остальными континентами, эволюция идёт гораздо медленнее, Кеплер считал, что кратеры на луне – это строения, которые воздвигли лунные жители, Фламмарион был убеждён, что на Луне есть растительность. А Галилео Галилей всерьёз полагал, что разговор Кеплера о том, что приливы и отливы это следствие влияния Луны, – это глупость и ребячество.

Здравствуйте, Sharov, Вы писали:

S>Ну чего, будущее уже здесь?

Нет. ))

Например, даже воссоздав мозг человека, сложно будет заставить его работать.
Наш мозг устроен так, что он прекрасно умеет решать задачи из разряда "есть задача — нужно решение". Основные задачи, отобранные эволюцией — это выживание и размножение. Отсюда у нас инстинкты поберечь больную конечность (дать зажить ране), страх смерти, стремление к комфорту, жажда трахацца. Причем, жажда перетрахать как можно больше партнёров — для этой цели нам дано наше ЧСВ, результат деятельности которого у самцов привлекает самок, а у самок наоборот. Не зря дамское ЧСВ в корне отличается от господского.

"Разумная" часть мозга в постановке перечисленных и аналогичных задач не участвует — эти задачи даются как бы извне нашего осмысленного и формируют наше целеполагание.

Если целеполагание нарушено, то будь человек хоть трижды гений, он будет тем самым "умная голова дураку дана". Считается, что качественное целеполагание в перспективе даже выгодней, чем способность лучше решать задачи, т.е. находить самые эффективные решения.

Так вот, чем больше размер ИИ, тем сложнее у него с целеполаганием. Для обучения нужен стимул. Простую сеть можно обучать по какому-нить алгоритму спуска по градиенту. На сложных сетках с обратными связями всё намного печальней. Собсно, современные разработки в области ИИ — это изучение сеток с обратными связями и способы их обучения.


S>Как по вашему это повлияет на индустрию -- программисты будущего не будут знать конвенциональные яп и парадигмы, а будут знать фреймворки или (что скорее всего) какие-нибудь DSL языки пригодные для научения нс? И повлияет ли вообще... Или это очередной пшик?

Основная проблема ИИ — это непонятно, что с ним делать. Т.е. круг задач на ближайшее будущее уже понятен — это распознавание образов, осмысленный перевод м/у языками, медицинская диагностика и т.д. Но все эти задачи решаемы однонаправленными многослойными сетками с до безобразия простым матаппаратом — дело только в размерности сетки. Если же речь о чем-то более сложном, чем однонаправленная сетка — то плохо понятно, что с ней делать. Т.е., считается, что сетка с обратными связями может хранить на порядки больше инфы и совершать на порядки более сложные вычисления в процессе стабилизации сигналов после возбуждения. Непонятна самая малость — что с этим всем делать и нафига оно. ))

Собсно, разработки в области аппаратных нейрочипов и попытки строить большие ИИ — это всё пока исследования и только исследования, бо наши представления об ИИ на сегодня находятся в зачаточном состоянии.

S>

S>Это разнообразие не случайно: если интернет – это просто вид связи, то глубокие нейронные сети (deep neural networks, DNN) – по сути, новый тип программ, столь же универсальный, как и традиционные компьютерные программы. Эта универсальность доказана теоретически: нейронная сеть в теории может бесконечно точно аппроксимировать любую функцию многих переменных – а еще проводить вычисления, эквивалентные вычислениям машины Тьюринга.

Непонятно, почему нейронные сети называются глубокие ...

LVV>>Непонятно, почему нейронные сети называются глубокие ...
S>Это способ обучения нс так называется.
Да вот же он именно сети называет так:

глубокие нейронные сети (deep neural networks, DNN) – по сути, новый тип программ

И далее:

Глубокая нейронная сеть – значит, с глубиной больше двух слоев.

Это опять новый термин для давно известных вещей?

Здравствуйте, gandjustas, Вы писали:

G>Здравствуйте, Sharov, Вы писали:

S>>Здравствуйте.

S>>Тут господин Левенчук проповедует за новый тип программ в виде нейронных сеток, которые не нужно будет программировать, а нужно будет обучать. Т.е. программирование эволюционирует в обучение, а дальше "оно само".

G>Видимо хочет правительственный грант попилить. Кстати стоит зайти на сайт аффтора — http://techinvestlab.ru/, сразу все станет ясно.

А вот мне не ясно. Давно и с удовольствием читаю его блог. Что касается сайта, то это сайт созданной им консалтинговой фирмы. Какие из этого можно сделать далеко идущие выводы, мне непонятно...


S>>Ну чего, будущее уже здесь? Как по вашему это повлияет на индустрию -- программисты будущего не будут знать конвенциональные яп и парадигмы, а будут знать фреймворки или (что скорее всего) какие-нибудь DSL языки пригодные для научения нс? И повлияет ли вообще... Или это очередной пшик?
G>Все, кто понимают что такое нейросети и как они работают, ржут над такой статьей.

Отучаемся говорить за всех.

S>Ну чего, будущее уже здесь? Как по вашему это повлияет на индустрию -- программисты будущего не будут знать конвенциональные яп и парадигмы, а будут знать фреймворки или (что скорее всего) какие-нибудь DSL языки пригодные для научения нс? И повлияет ли вообще... Или это очередной пшик?
Пока это чисто беллетристика.

Здравствуйте, LaptevVV, Вы писали:

LVV>>>Непонятно, почему нейронные сети называются глубокие ...
S>>Это способ обучения нс так называется.
LVV>Да вот же он именно сети называет так:
LVV>[q]
LVV>глубокие нейронные сети (deep neural networks, DNN) – по сути, новый тип программ

LVV>Это опять новый термин для давно известных вещей?

Видимо да. Термин для нс с глубоким обучением. Я не специалист (пока?) по нс. Я больше делал упор в топике на выделенную цитату (см. выше).

Здравствуйте, Nikе, Вы писали:

N>Мошенник какой-то.

Вы чего тут все, сговорились что-ли? Вот его блог -- http://ailev.livejournal.com/ , нормальный инженерный блог. Вот информация с сайта физтеха. Неужто на распильщика похож? Нет, понятно что с претензией на евангелизм и визионерство, не без этого. Но особых перехлестов не видел.

Здравствуйте, Sharov, Вы писали:

G>>Видимо хочет правительственный грант попилить. Кстати стоит зайти на сайт аффтора — http://techinvestlab.ru/, сразу все станет ясно.

S>А вот мне не ясно. Давно и с удовольствием читаю его блог.
Посмотрел его блог — человек активно продает НС при этом чего-то нового я там не увидел.

S>Что касается сайта, то это сайт созданной им консалтинговой фирмы. Какие из этого можно сделать далеко идущие выводы, мне непонятно...
пахнет попилом с первой страницы.


S>>>Ну чего, будущее уже здесь? Как по вашему это повлияет на индустрию -- программисты будущего не будут знать конвенциональные яп и парадигмы, а будут знать фреймворки или (что скорее всего) какие-нибудь DSL языки пригодные для научения нс? И повлияет ли вообще... Или это очередной пшик?
G>>Все, кто понимают что такое нейросети и как они работают, ржут над такой статьей.
S>Отучаемся говорить за всех.
Я только за тех, кто в теме.

Ну, имхо, вот это характеризует: http://techinvestlab.ru/til_ailev

С 1990 года по 1999 год активно занимался развитием российского рынка ценных бумаг и его инфраструктуры.
Организовал и возглавил Ассоциацию участников рынка ценных бумаг (1990-1991), занимавшуюся развитием фондового рынка еще в условиях СССР.
Затем, незадолго до августовского путча 1991 года, создал Институт коммерческой инженерии, директором которого был по сентябрь 1996г.
С октября 1996 года по август 1999 года работал директором проекта в Институте развития правовой экономики, занимаясь консультированием ФКЦБ России по вопросам развития рынка ценных бумаг.
В августе 1999 года создает консалтинговую компанию TechInvestLab и становится ее президентом.
Консультирует РАО "ЕЭС России" и предприятия электроэнергетики в ходе реформы элекстроэнергетики, Минэкономразвития по программе "Электронное правительство".

Сплошные ценные бумаги + консультант.
Не видно профи по системной инженерии ни разу, ни по сетям, ни по другим специальным предметным областям.

Здравствуйте, LaptevVV, Вы писали:

LVV>Ну, имхо, вот это характеризует: http://techinvestlab.ru/til_ailev

LVV>Сплошные ценные бумаги + консультант.

И что? Биржа очень далека от ит? Многие разработчики, и довольно классные, работают консультантами.

LVV>Не видно профи по системной инженерии ни разу, ни по сетям, ни по другим специальным предметным областям.

Читайте блог, вступайте с ним в дискуссии, объясните ему, что он ничегошеньки не понимает как в системной инженерии, так и по другим специальным предметным областям. И вообще даром есть свой хлеб.

ЗЫ: Почему-то все как на подбор бросились обсуждать автора. По теме сказать нечего. Ну т.е. обычное "аффтар дурак и вывсеврети".

Здравствуйте, Sharov, Вы писали:
S>Ну чего, будущее уже здесь? Как по вашему это повлияет на индустрию -- программисты будущего не будут знать конвенциональные яп и парадигмы, а будут знать фреймворки или (что скорее всего) какие-нибудь DSL языки пригодные для научения нс? И повлияет ли вообще... Или это очередной пшик?
Процентов на 95% пшик, точнее каша из топора, но следующие несколько лет будет активно пиариться.

S>ЗЫ: Почему-то все как на подбор бросились обсуждать автора. По теме сказать нечего. Ну т.е. обычное "аффтар дурак и вывсеврети".
Про статью я уже написал — беллетристика.

Здравствуйте, LaptevVV, Вы писали:

S>>ЗЫ: Почему-то все как на подбор бросились обсуждать автора. По теме сказать нечего. Ну т.е. обычное "аффтар дурак и вывсеврети".
LVV>Про статью я уже написал — беллетристика.

Я сегодня рассказывал для этого сюжета, что примерно так же комментировал интернет лет двадцать назад (в 1995, а вебсайты же я делал с 1994 года -- первый вебсайт до сих пор живёт, ему уж 21 год будет через пару недель: http://libertarium.ru/). Как и сегодня про искуственный интеллект в целом и глубокое обучение в частности, я тогда пел песню, что "это перевернёт жизнь миллиардов людей", а телевизионщики, да и не только они, хихикали и поминали "Москва слезам не верит" с его "не будет ни газет, ни книг, ни кино, ни театров, а будет одно сплошное телевидение".

http://ailev.livejournal.com/1202950.html

Здравствуйте, Sharov, Вы писали:

S>Я сегодня рассказывал для этого сюжета, что примерно так же комментировал интернет лет двадцать назад (в 1995, а вебсайты же я делал с 1994 года -- первый вебсайт до сих пор живёт, ему уж 21 год будет через пару недель: http://libertarium.ru/). Как и сегодня про искуственный интеллект в целом и глубокое обучение в частности, я тогда пел песню, что "это перевернёт жизнь миллиардов людей", а телевизионщики, да и не только они, хихикали и поминали "Москва слезам не верит" с его "не будет ни газет, ни книг, ни кино, ни театров, а будет одно сплошное телевидение".
S>[/q]

S>http://ailev.livejournal.com/1202950.html

Это всегда так. Господа программисты при виде Алиева начинают писать кипятком, потому что не понимают, о чем он вообще говорит.

Тут где-то недалеко был тред, где утверждалось, что стать узким специалистом по страхованию старушек или там — какой-то особой обточке каких-то особых валов выгоднее, чем стать хорошим программистом. У Алиева не первый год двигается тема "инженерии знаний", направленная как раз на то, чтобы опыт таких вот "узких специалистов" можно было использовать без участия самих специалистов. Основная проблема в том, что эти самые "выгодные узкие специалисты" свою деятельность нихрена не документируют, потому их и держат. В то время как IT документированно очень хорошо, в отличие от любой другой отрасли. В этом ее сила, и в этом же слабость — зовут индусов вместо людей. Когда практики IT в документировании будут распространены на другие отрасли, начнется новая революция в экономике, а узкие специалисты останутся без своей job security и взвоют.

Здравствуйте, vdimas, Вы писали:

NB>>нейронные сети, они как бы разные бывают.
NB>>бывают сверточные, рекурсивные,

V>рекуррентные наверно?

да. сорри.
но суть та же.

Здравствуйте, night beast, Вы писали:

NB>но суть та же.

Ммм... рекуррентность — это возвращение по-русски
Викисловарь вещает:

From Latin recurro ‎(“run back”)

этим термином иногда называют обратную связь

а рекурсия — это рекурсия. ))
тот же корень, но уже в значении "повторение".

Здравствуйте, Nuzhny, Вы писали:
...
N>Давайте посмотрим на набор смешных невероятных заблуждений и ошибок, которые были присущи потрясающим, великолепным, значительнейшим учёным....

Было бы неплохо ещё сравнить с набором заблуждений и ошибок, присущим людям обыкновенным той же эпохи, да сравнить.

Здравствуйте, 1303, Вы писали:

N>>Давайте посмотрим на набор смешных невероятных заблуждений и ошибок, которые были присущи потрясающим, великолепным, значительнейшим учёным....
1>Было бы неплохо ещё сравнить с набором заблуждений и ошибок, присущим людям обыкновенным той же эпохи, да сравнить.

Ну, можешь сравнить, если интересно. Я лишь иллюстрировал давно известный всем принцип — нельзя безоглядно доверяться авторитетам.

Здравствуйте, wildwind, Вы писали:

W>Еще нет, но движение в эту сторону явно наметилось.
W>Вот, например: Image Scaling using Deep Convolutional Neural Networks. Нейросеть ресайзит изображения. Причем делает это явно лучше, чем бикубическая интерполяция.

Да! Это ещё один яркий пример того, как сравнивается реализация на нейросетях с простейшим алгоритмом, которому уже много лет, и который ну никак не является стандартом качества. Теперь бы ещё оценить ресурсоёмкость подхода, чтобы понять насколько он плох на современных архитектурах (и на GPU в том числе).

Здравствуйте, Nuzhny, Вы писали:

N>Да! Это ещё один яркий пример того, как сравнивается реализация на нейросетях с простейшим алгоритмом, которому уже много лет, и который ну никак не является стандартом качества. Теперь бы ещё оценить ресурсоёмкость подхода, чтобы понять насколько он плох на современных архитектурах (и на GPU в том числе).

Да тут такое дело, что ИИ потенциально неплохо масштабируется с ростом выч. мощностей. Т.е. принцип работы тупой до безобразия — это интерполяция/экстраполяция, где точность растёт с ростом кол-ва членов многочлена и точности вычислений (разрядности). Таких настолько хорошо масштабируемых алгоритмов и нет, наверно. Например, бикубическая интерполяция не покажет лучших результатов при увеличении выч. мощностей, разве что быстрее работать будет.

Здравствуйте, vdimas, Вы писали:

V>Да тут такое дело, что ИИ потенциально неплохо масштабируется с ростом выч. мощностей. Т.е. принцип работы тупой до безобразия — это интерполяция/экстраполяция, где точность растёт с ростом кол-ва членов многочлена и точности вычислений (разрядности). Таких настолько хорошо масштабируемых алгоритмов и нет, наверно. Например, бикубическая интерполяция не покажет лучших результатов при увеличении выч. мощностей, разве что быстрее работать будет.

Да, я с этим согласен. Мне не понятно, почему:
а) Идёт сравнение именно с древней и простой бикубической интерполяцией, а не с чем-нибудь более современным и/или мощным. Я могу найти сотни работ по этой теме с различными подходами (фракталы, вейвлеты — их легион), которые в хлам уделывают бикубик. Где сравнение с ними?
б) В статье не сказано, какой ценой было достигнуто улучшение. Адекватно ли десятикратное (цифра взята из головы) увеличение стоимости полученным результатам качества?

Несколькими постами выше я уже кидал ссылку на работу по распознаванию пешеходов, где были получены весьма сомнительные результаты. Понятно, что универсальный аппроксиматор (т.е. их нейросеть) можно настроить таким образом, чтобы он работал с требуемой точностью с любой задачей. И даже был полным по Тьюрингу, что не устаёт напоминать г-н Левенчук чуть ли не в каждом своём посте. Но это совсем не говорит об оптимальности полученных инженерных решений. На практике очень часто получается, что применение deep learning носит лишь интересный иллюстративный характер, красивый и показательный, но на практике не применимый. ИМХО, задача image scaling (по ссылке выше) как раз из таких: да, прикольно, но не для нас.

С>Тут где-то недалеко был тред, где утверждалось, что стать узким специалистом по страхованию старушек или там — какой-то особой обточке каких-то особых валов выгоднее, чем стать хорошим программистом. У Алиева не первый год двигается тема "инженерии знаний", направленная как раз на то, чтобы опыт таких вот "узких специалистов" можно было использовать без участия самих специалистов. Основная проблема в том, что эти самые "выгодные узкие специалисты" свою деятельность нихрена не документируют, потому их и держат. В то время как IT документированно очень хорошо, в отличие от любой другой отрасли. В этом ее сила, и в этом же слабость — зовут индусов вместо людей. Когда практики IT в документировании будут распространены на другие отрасли, начнется новая революция в экономике, а узкие специалисты останутся без своей job security и взвоют.
Где статьи Левенчука по инженерии знаний?
Я просто в теме — не вижу его статей.
ИМХО он в этом — дилетант и рассуждает по дилетантски.
Инженерия знаний — довольно давняя отрасль в ИИ.
Последнее время подсела на термин "онтология",
хотя по мне — практически не отличается от семантических сетей (которые с начала 60-х годов известны... )
Где статьи господина Левенчука по онтологиям?
Или по каким другим моделям ?
Вот, например, из журнала Информационные технологии: http://novtex.ru/IT/it2009/number_10_annot.html#10

А. Н. Данчул, д-р техн. наук, проф.,
зав. кафедрой, Российская академия государственной службы при Президенте PФ, e-mail: danch@ur.rags.ru,
А. П. Новиков, инженер, Учебно-методический центр по информационно-аналитической работе департамента образования г. Москвы

Представление знаний о предметной области на основе гносеологической модели

Изложены концепции представления знаний о предметной области на основе гносеологической модели. Рассмотрено формирование сетевой структуры в гносеологической модели, которое приводит к представлению знаний о предметной области в виде квазиграфа. Отмечается, что созданная оболочка экспертной системы, реализующая предложенные концепции, обладает необходимой оперативностью актуализации знаний.
Ключевые слова: гносеологическая модель, представление знаний, сетевая структура.

Стр. 44 – 50

Или вот: http://novtex.ru/IT/it2010/number_09_annot.html#5

И. П. Норенков, д-р техн. наук, проф., зав. каф. МГТУ им. Н. Э. Баумана, e-mail: norenkov@wwwcdl.bmstu.ru

Генетические алгоритмы поиска решений в онтологических базах знаний*

На примере задачи синтеза оптимальных маршрутов обучения и поддерживающих их электронных учебных пособий показано применение генетических алгоритмов к поиску решений на альтернативных И/ИЛИ-графах.
Ключевые слова: системы принятия решений, онтологии, И/ИЛИ-графы, генетические алгоритмы, траектории обучения.

Стр. 20 – 24

Здравствуйте, LaptevVV, Вы писали:

LVV>Где статьи Алиева по инженерии знаний?

Простите, что вмешиваюсь, но о каком Алиеве идет речь? А.И. Левенчук. ЖЖ блогер ailev.

S>Простите, что вмешиваюсь, но о каком Алиеве идет речь? А.И. Левенчук. ЖЖ блогер ailev.
Ну, да. Я исправил.

Здравствуйте, wildwind, Вы писали:

W>Вот, например: Image Scaling using Deep Convolutional Neural Networks. Нейросеть ресайзит изображения. Причем делает это явно лучше, чем бикубическая интерполяция.

Просто это сравнение с неправильным ресайзом. Обычно после интерполяции применяют sharpen.

Здравствуйте, Nuzhny, Вы писали:

N> Да, я с этим согласен. Мне не понятно, почему:
N> а) Идёт сравнение именно с древней и простой бикубической интерполяцией, а не с чем-нибудь более современным и/или мощным. Я могу найти сотни работ по этой теме с различными подходами (фракталы, вейвлеты — их легион), которые в хлам уделывают бикубик. Где сравнение с ними?

Никто не ставил себе такой задачи. Человек просто описал задачу, которую им нужно было решить, и описал найденное решение. Сопоставление результатов с бикубической интерполяцией дано исключительно для того, чтобы показать, что метод работает и работает хорошо. Автор даже не пытался продвинуть метод как самый лучший для этой задачи или оптимальный по каким-либо критериям. С чем ты споришь, непонятно.

Я привел эту статью для иллюстрации того, что нейросети стали все больше использовать для решения разнообразных практических задач, а не только для защиты дипломов или банальшины вроде OCR. Еще лет пять назад, ЕМНИП, этого еще не было.

Здравствуйте, wildwind, Вы писали:

W>Я привел эту статью для иллюстрации того, что нейросети стали все больше использовать для решения разнообразных практических задач, а не только для защиты дипломов или банальшины вроде OCR. Еще лет пять назад, ЕМНИП, этого еще не было.

В дипломах эта же практическая задача этим же способом решалась 16 лет назад.
http://dl.acm.org/citation.cfm?id=2319807&CFID=538799060&CFTOKEN=85349085

Здравствуйте, wildwind, Вы писали:

W>Никто не ставил себе такой задачи. Человек просто описал задачу, которую им нужно было решить, и описал найденное решение. Сопоставление результатов с бикубической интерполяцией дано исключительно для того, чтобы показать, что метод работает и работает хорошо.

Выделенное в статье не показывается, т.к. нет оценки сложности. Так можно достать пузырьковую сортировку и показать, что она — вуаля! — сортирует.

W>Автор даже не пытался продвинуть метод как самый лучший для этой задачи или оптимальный по каким-либо критериям. С чем ты споришь, непонятно.

А что пытался автор сделать? Показать, что универсальный аппроксиматор умеет аппроксимировать? Если да, то я с этим и не спорю. Хорошо, показал.

W>Я привел эту статью для иллюстрации того, что нейросети стали все больше использовать для решения разнообразных практических задач, а не только для защиты дипломов или банальшины вроде OCR. Еще лет пять назад, ЕМНИП, этого еще не было.

Я спорю с выделенным утверждением. То что ты привёл — это чистое наукообразие: впервые применим такой-то метод для решения такой-то задачи. Что-то получилось, сравнили с самой примитивщиной. Ну, гут. И что? И ничего, никакого практического выхлопа.

Здравствуйте, Слава, Вы писали:

С>Здравствуйте, Sharov, Вы писали:

S>>Я сегодня рассказывал для этого сюжета, что примерно так же комментировал интернет лет двадцать назад (в 1995, а вебсайты же я делал с 1994 года -- первый вебсайт до сих пор живёт, ему уж 21 год будет через пару недель: http://libertarium.ru/). Как и сегодня про искуственный интеллект в целом и глубокое обучение в частности, я тогда пел песню, что "это перевернёт жизнь миллиардов людей", а телевизионщики, да и не только они, хихикали и поминали "Москва слезам не верит" с его "не будет ни газет, ни книг, ни кино, ни театров, а будет одно сплошное телевидение".
S>>[/q]

S>>http://ailev.livejournal.com/1202950.html

С>Это всегда так. Господа программисты при виде Алиева начинают писать кипятком, потому что не понимают, о чем он вообще говорит.

С>Тут где-то недалеко был тред, где утверждалось, что стать узким специалистом по страхованию старушек или там — какой-то особой обточке каких-то особых валов выгоднее, чем стать хорошим программистом. У Алиева не первый год двигается тема "инженерии знаний"

Инженерия знаний — ортогональное направление по отношению к нейросетям

Здравствуйте, D. Mon, Вы писали:

DM> В дипломах эта же практическая задача этим же способом решалась 16 лет назад.
DM> http://dl.acm.org/citation.cfm?id=2319807&CFID=538799060&CFTOKEN=85349085

Да, в дипломах решалась. А теперь пошла в продакшен.

P.S. Наверное, стоило переформулировать; вместо "практических задач" — "для практического решения".

Здравствуйте, Nuzhny, Вы писали:

N> Переведу на всякий случай на простой язык: разработчик был интерном, занимался проблемой, найденное решение ВОЗМОЖНО будет применяться в конечном продукте. Если я что-то упустил, то подскажи.

Похоже, это я упустил. Вначале я понял так, что уже применяется. Прошу прощения и спасибо за поправку.

Но я почему-то уверен, что все же применяется. Можно спросить у автора в Твиттере, но меня там нет.

Кстати, сейчас он в стартапе той же тематики, получившем неплохое финансирование.