Deep learning или новый тип программ.
От: Sharov Россия  
Дата: 19.08.15 15:58
Оценка: :))
Здравствуйте.

Тут господин Левенчук проповедует за новый тип программ в виде нейронных сеток, которые не нужно будет программировать, а нужно будет обучать. Т.е. программирование эволюционирует в обучение, а дальше "оно само". Пару цитат:

Это разнообразие не случайно: если интернет – это просто вид связи, то глубокие нейронные сети (deep neural networks, DNN) – по сути, новый тип программ, столь же универсальный, как и традиционные компьютерные программы. Эта универсальность доказана теоретически: нейронная сеть в теории может бесконечно точно аппроксимировать любую функцию многих переменных – а еще проводить вычисления, эквивалентные вычислениям машины Тьюринга.


В отличие от традиционных компьютерных программ, нейронные сети не нужно «писать», их нужно «учить». И их можно научить тому, что бесконечно трудно (если вообще возможно) воплотить традиционной программной инженерией. Например, нейронные сети уже научились распознавать аудио и видео на уровне людей – и даже лучше них. Или наоборот, создавать аудио и видео – если у вас есть воплощенное в наученной глубокой нейронной сети понимание изображений каких-то объектов, это же понимание можно использовать и для создания изображений этих объектов. Синтез голоса, текста и изображений еще не появился на рынке, но эксперименты уже показывают успехи, раньше в этой области недостижимые. Более того, нейронные сетки могут не только анализировать данные, но и выдавать команды. Так, они научились играть в игры Atari 2600, причем во многие даже лучше человека, и их не пришлось специально для этого программировать.


Ну чего, будущее уже здесь? Как по вашему это повлияет на индустрию -- программисты будущего не будут знать конвенциональные яп и парадигмы, а будут знать фреймворки или (что скорее всего) какие-нибудь DSL языки пригодные для научения нс? И повлияет ли вообще... Или это очередной пшик?
Кодом людям нужно помогать!
Re: Deep learning или новый тип программ.
От: vdimas Россия  
Дата: 19.08.15 16:15
Оценка:
Здравствуйте, Sharov, Вы писали:

S>Ну чего, будущее уже здесь?


Нет. ))

Например, даже воссоздав мозг человека, сложно будет заставить его работать.
Наш мозг устроен так, что он прекрасно умеет решать задачи из разряда "есть задача — нужно решение". Основные задачи, отобранные эволюцией — это выживание и размножение. Отсюда у нас инстинкты поберечь больную конечность (дать зажить ране), страх смерти, стремление к комфорту, жажда трахацца. Причем, жажда перетрахать как можно больше партнёров — для этой цели нам дано наше ЧСВ, результат деятельности которого у самцов привлекает самок, а у самок наоборот. Не зря дамское ЧСВ в корне отличается от господского.

"Разумная" часть мозга в постановке перечисленных и аналогичных задач не участвует — эти задачи даются как бы извне нашего осмысленного и формируют наше целеполагание.

Если целеполагание нарушено, то будь человек хоть трижды гений, он будет тем самым "умная голова дураку дана". Считается, что качественное целеполагание в перспективе даже выгодней, чем способность лучше решать задачи, т.е. находить самые эффективные решения.

Так вот, чем больше размер ИИ, тем сложнее у него с целеполаганием. Для обучения нужен стимул. Простую сеть можно обучать по какому-нить алгоритму спуска по градиенту. На сложных сетках с обратными связями всё намного печальней. Собсно, современные разработки в области ИИ — это изучение сеток с обратными связями и способы их обучения.


S>Как по вашему это повлияет на индустрию -- программисты будущего не будут знать конвенциональные яп и парадигмы, а будут знать фреймворки или (что скорее всего) какие-нибудь DSL языки пригодные для научения нс? И повлияет ли вообще... Или это очередной пшик?


Основная проблема ИИ — это непонятно, что с ним делать. Т.е. круг задач на ближайшее будущее уже понятен — это распознавание образов, осмысленный перевод м/у языками, медицинская диагностика и т.д. Но все эти задачи решаемы однонаправленными многослойными сетками с до безобразия простым матаппаратом — дело только в размерности сетки. Если же речь о чем-то более сложном, чем однонаправленная сетка — то плохо понятно, что с ней делать. Т.е., считается, что сетка с обратными связями может хранить на порядки больше инфы и совершать на порядки более сложные вычисления в процессе стабилизации сигналов после возбуждения. Непонятна самая малость — что с этим всем делать и нафига оно. ))

Собсно, разработки в области аппаратных нейрочипов и попытки строить большие ИИ — это всё пока исследования и только исследования, бо наши представления об ИИ на сегодня находятся в зачаточном состоянии.
Re: Deep learning или новый тип программ.
От: Varavva  
Дата: 19.08.15 16:17
Оценка: +1 :))) :)
Здравствуйте, Sharov, Вы писали:

Было бы неплохо увидеть пример такого обучения (пусть на теории), превращающее Paint в AutoCAD
Re: Deep learning или новый тип программ.
От: LaptevVV Россия  
Дата: 19.08.15 16:45
Оценка:
S>

S>Это разнообразие не случайно: если интернет – это просто вид связи, то глубокие нейронные сети (deep neural networks, DNN) – по сути, новый тип программ, столь же универсальный, как и традиционные компьютерные программы. Эта универсальность доказана теоретически: нейронная сеть в теории может бесконечно точно аппроксимировать любую функцию многих переменных – а еще проводить вычисления, эквивалентные вычислениям машины Тьюринга.

Непонятно, почему нейронные сети называются глубокие ...
Хочешь быть счастливым — будь им!
Без булдырабыз!!!
Re: Deep learning или новый тип программ.
От: gandjustas Россия http://blog.gandjustas.ru/
Дата: 19.08.15 17:01
Оценка: +5 -2
Здравствуйте, Sharov, Вы писали:

S>Здравствуйте.


S>Тут господин Левенчук проповедует за новый тип программ в виде нейронных сеток, которые не нужно будет программировать, а нужно будет обучать. Т.е. программирование эволюционирует в обучение, а дальше "оно само".


Видимо хочет правительственный грант попилить. Кстати стоит зайти на сайт аффтора — http://techinvestlab.ru/, сразу все станет ясно.


S>Ну чего, будущее уже здесь? Как по вашему это повлияет на индустрию -- программисты будущего не будут знать конвенциональные яп и парадигмы, а будут знать фреймворки или (что скорее всего) какие-нибудь DSL языки пригодные для научения нс? И повлияет ли вообще... Или это очередной пшик?

Все, кто понимают что такое нейросети и как они работают, ржут над такой статьей.
Re[2]: Deep learning или новый тип программ.
От: Sharov Россия  
Дата: 19.08.15 17:01
Оценка: +1
Здравствуйте, LaptevVV, Вы писали:

LVV>Непонятно, почему нейронные сети называются глубокие ...


Это способ обучения нс так называется.
Кодом людям нужно помогать!
Re[3]: Deep learning или новый тип программ.
От: LaptevVV Россия  
Дата: 19.08.15 17:14
Оценка:
LVV>>Непонятно, почему нейронные сети называются глубокие ...
S>Это способ обучения нс так называется.
Да вот же он именно сети называет так:

глубокие нейронные сети (deep neural networks, DNN) – по сути, новый тип программ

И далее:

Глубокая нейронная сеть – значит, с глубиной больше двух слоев.

Это опять новый термин для давно известных вещей?
Хочешь быть счастливым — будь им!
Без булдырабыз!!!
Re[2]: Deep learning или новый тип программ.
От: Sharov Россия  
Дата: 19.08.15 17:14
Оценка:
Здравствуйте, gandjustas, Вы писали:

G>Здравствуйте, Sharov, Вы писали:


S>>Здравствуйте.


S>>Тут господин Левенчук проповедует за новый тип программ в виде нейронных сеток, которые не нужно будет программировать, а нужно будет обучать. Т.е. программирование эволюционирует в обучение, а дальше "оно само".


G>Видимо хочет правительственный грант попилить. Кстати стоит зайти на сайт аффтора — http://techinvestlab.ru/, сразу все станет ясно.


А вот мне не ясно. Давно и с удовольствием читаю его блог. Что касается сайта, то это сайт созданной им консалтинговой фирмы. Какие из этого можно сделать далеко идущие выводы, мне непонятно...


S>>Ну чего, будущее уже здесь? Как по вашему это повлияет на индустрию -- программисты будущего не будут знать конвенциональные яп и парадигмы, а будут знать фреймворки или (что скорее всего) какие-нибудь DSL языки пригодные для научения нс? И повлияет ли вообще... Или это очередной пшик?

G>Все, кто понимают что такое нейросети и как они работают, ржут над такой статьей.

Отучаемся говорить за всех.
Кодом людям нужно помогать!
Re: Deep learning или новый тип программ.
От: LaptevVV Россия  
Дата: 19.08.15 17:17
Оценка:
S>Ну чего, будущее уже здесь? Как по вашему это повлияет на индустрию -- программисты будущего не будут знать конвенциональные яп и парадигмы, а будут знать фреймворки или (что скорее всего) какие-нибудь DSL языки пригодные для научения нс? И повлияет ли вообще... Или это очередной пшик?
Пока это чисто беллетристика.
Хочешь быть счастливым — будь им!
Без булдырабыз!!!
Re[4]: Deep learning или новый тип программ.
От: Sharov Россия  
Дата: 19.08.15 17:19
Оценка:
Здравствуйте, LaptevVV, Вы писали:

LVV>>>Непонятно, почему нейронные сети называются глубокие ...

S>>Это способ обучения нс так называется.
LVV>Да вот же он именно сети называет так:
LVV>[q]
LVV>глубокие нейронные сети (deep neural networks, DNN) – по сути, новый тип программ

LVV>Это опять новый термин для давно известных вещей?


Видимо да. Термин для нс с глубоким обучением. Я не специалист (пока?) по нс. Я больше делал упор в топике на выделенную цитату (см. выше).
Кодом людям нужно помогать!
Re: Deep learning или новый тип программ.
От: Nikе Россия  
Дата: 19.08.15 17:33
Оценка: :))
Здравствуйте, Sharov, Вы писали:

Ты его сайт видел?

освоения компьютерных систем управления инженерными данными, методик 4D- и 6D-проектирования.

В моём докладе речь пойдёт о примере типового проекта, лежащего в основе некой технологической платформы, и многократно реализующегося с определёнными модификациями (это может быть атомная или тепловая электростанция, типовой корабль или автомобиль, даже типовое бытовое изделие). При этом мы должны рассматривать специальную форму жизненного цикла, которая может напомнить вам доклад Тайсона Браунинга (Tyson Browning) «Проблемы и инструменты для интеграционного моделирования всего жизненного цикла системы». Там было продемонстрировано, в частности, как функционирующая система со временем теряет свою ценность для заинтересованного в ней лица, далее в результате модернизации вновь приближается к желательному уровню ценности, и вновь теряет ценность до момента неизбежного принятия решения о выводе её из эксплуатации.

Мошенник какой-то.
Нужно разобрать угил.
Re[2]: Deep learning или новый тип программ.
От: Sharov Россия  
Дата: 19.08.15 17:47
Оценка:
Здравствуйте, Nikе, Вы писали:

N>Мошенник какой-то.


Вы чего тут все, сговорились что-ли? Вот его блог -- http://ailev.livejournal.com/ , нормальный инженерный блог. Вот информация с сайта физтеха. Неужто на распильщика похож? Нет, понятно что с претензией на евангелизм и визионерство, не без этого. Но особых перехлестов не видел.
Кодом людям нужно помогать!
Re: Deep learning или новый тип программ.
От: m.aksenov Россия http://maksenov.info/
Дата: 19.08.15 17:54
Оценка: 77 (6) +1
Здравствуйте, Sharov, Вы писали:

S>Ну чего, будущее уже здесь? Как по вашему это повлияет на индустрию -- программисты будущего не будут знать конвенциональные яп и парадигмы, а будут знать фреймворки или (что скорее всего) какие-нибудь DSL языки пригодные для научения нс? И повлияет ли вообще... Или это очередной пшик?


Это как с big data. Все пишут, но не понимают о чем. Идем в английскую вики и читаем этот раздел до просветления.

По сути — это многослойный персептрон, в котором хитро обучаются внутренние слои. Главную проблему нейронных сетей это не решает, а именно:

1) Что делать, когда вектор измерений меняет размерность?
2) Что делать, когда предъявляется вектор измерений, который выбивается из того, чему сеть обучали?

Для ответа на второй вопрос были придуманы АРТ-1 и АРТ-2 (специальные виды рекуррентных нейронных сетей) в бородатых 80-х годах. А вот
на первый вопрос ответа до сих пор нет, и ждать его смысла особого не имеет.

В общем, на мой взгляд, это очередная мода, такая же как NoSQL и Big Data. Просто с NoSQL народ не понимал РСУБД, с Big Data мат. статистику,
а с Deep Learning не понимают МНК и классическую теорию Machine Learning. Это пройдет, но уши прожужжать успеют.
Re[3]: Deep learning или новый тип программ.
От: gandjustas Россия http://blog.gandjustas.ru/
Дата: 19.08.15 18:04
Оценка:
Здравствуйте, Sharov, Вы писали:

G>>Видимо хочет правительственный грант попилить. Кстати стоит зайти на сайт аффтора — http://techinvestlab.ru/, сразу все станет ясно.


S>А вот мне не ясно. Давно и с удовольствием читаю его блог.

Посмотрел его блог — человек активно продает НС при этом чего-то нового я там не увидел.

S>Что касается сайта, то это сайт созданной им консалтинговой фирмы. Какие из этого можно сделать далеко идущие выводы, мне непонятно...

пахнет попилом с первой страницы.


S>>>Ну чего, будущее уже здесь? Как по вашему это повлияет на индустрию -- программисты будущего не будут знать конвенциональные яп и парадигмы, а будут знать фреймворки или (что скорее всего) какие-нибудь DSL языки пригодные для научения нс? И повлияет ли вообще... Или это очередной пшик?

G>>Все, кто понимают что такое нейросети и как они работают, ржут над такой статьей.
S>Отучаемся говорить за всех.
Я только за тех, кто в теме.
Re[4]: Deep learning или новый тип программ.
От: night beast СССР  
Дата: 19.08.15 18:13
Оценка: +2
Здравствуйте, LaptevVV, Вы писали:

LVV>Это опять новый термин для давно известных вещей?


нейронные сети, они как бы разные бывают.

бывают сверточные, рекурсивные, машины больцмана, и тд.
DNN -- еще один подтип.
Re[3]: Deep learning или новый тип программ.
От: LaptevVV Россия  
Дата: 19.08.15 18:49
Оценка:
Ну, имхо, вот это характеризует: http://techinvestlab.ru/til_ailev

С 1990 года по 1999 год активно занимался развитием российского рынка ценных бумаг и его инфраструктуры.
Организовал и возглавил Ассоциацию участников рынка ценных бумаг (1990-1991), занимавшуюся развитием фондового рынка еще в условиях СССР.
Затем, незадолго до августовского путча 1991 года, создал Институт коммерческой инженерии, директором которого был по сентябрь 1996г.
С октября 1996 года по август 1999 года работал директором проекта в Институте развития правовой экономики, занимаясь консультированием ФКЦБ России по вопросам развития рынка ценных бумаг.
В августе 1999 года создает консалтинговую компанию TechInvestLab и становится ее президентом.
Консультирует РАО "ЕЭС России" и предприятия электроэнергетики в ходе реформы элекстроэнергетики, Минэкономразвития по программе "Электронное правительство".

Сплошные ценные бумаги + консультант.
Не видно профи по системной инженерии ни разу, ни по сетям, ни по другим специальным предметным областям.
Хочешь быть счастливым — будь им!
Без булдырабыз!!!
Re[4]: Deep learning или новый тип программ.
От: Sharov Россия  
Дата: 19.08.15 18:56
Оценка:
Здравствуйте, LaptevVV, Вы писали:

LVV>Ну, имхо, вот это характеризует: http://techinvestlab.ru/til_ailev


LVV>Сплошные ценные бумаги + консультант.


И что? Биржа очень далека от ит? Многие разработчики, и довольно классные, работают консультантами.

LVV>Не видно профи по системной инженерии ни разу, ни по сетям, ни по другим специальным предметным областям.


Читайте блог, вступайте с ним в дискуссии, объясните ему, что он ничегошеньки не понимает как в системной инженерии, так и по другим специальным предметным областям. И вообще даром есть свой хлеб.

ЗЫ: Почему-то все как на подбор бросились обсуждать автора. По теме сказать нечего. Ну т.е. обычное "аффтар дурак и вывсеврети".
Кодом людям нужно помогать!
Re: Deep learning или новый тип программ.
От: denisko http://sdeniskos.blogspot.com/
Дата: 19.08.15 18:58
Оценка:
Здравствуйте, Sharov, Вы писали:
S>Ну чего, будущее уже здесь? Как по вашему это повлияет на индустрию -- программисты будущего не будут знать конвенциональные яп и парадигмы, а будут знать фреймворки или (что скорее всего) какие-нибудь DSL языки пригодные для научения нс? И повлияет ли вообще... Или это очередной пшик?
Процентов на 95% пшик, точнее каша из топора, но следующие несколько лет будет активно пиариться.
<Подпись удалена модератором>
Re[5]: Deep learning или новый тип программ.
От: LaptevVV Россия  
Дата: 19.08.15 19:03
Оценка:
S>ЗЫ: Почему-то все как на подбор бросились обсуждать автора. По теме сказать нечего. Ну т.е. обычное "аффтар дурак и вывсеврети".
Про статью я уже написал — беллетристика.
Хочешь быть счастливым — будь им!
Без булдырабыз!!!
Re[5]: Deep learning или новый тип программ.
От: vdimas Россия  
Дата: 19.08.15 19:05
Оценка: +1
Здравствуйте, night beast, Вы писали:


NB>нейронные сети, они как бы разные бывают.

NB>бывают сверточные, рекурсивные,

рекуррентные наверно?
Подождите ...
Wait...
Пока на собственное сообщение не было ответов, его можно удалить.