Re: Специализации с высоким порогом входа
От: Nuzhny Россия https://github.com/Nuzhny007
Дата: 10.10.16 08:48
Оценка: 21 (5) +2
Здравствуйте, sin_cos, Вы писали:

_>машинное обучение -- кажется, что там не такой уж высокий порог входа. или я ошибаюсь?


И да, и нет. Сейчас можно взять мощный framework от гигантов отрасли, готовую архитектуру нейросети и в 20 строк на Питоне решить задачу, о которой раньше и не думали. В этом смысле порог входа снизился: машинное обучение массово идёт решать задачи, о которых раньше и не думали или решение которой требовало сложных математических моделей. Сейчас смартфон по фотографии скажет сколько стоит этот же товар в других магазинах. Распознает производителя платья. Найдёт человека вконтакте по фото из метро. Это сейчас могут сделать даже студенты в качестве курсовой/диплома. И это круто!

Но также появляются новые задачи, которые пока таким способом не решаются. Или требуют слишком больших ресурсов, а надо впихнуть в мобильное железо. И тут приходят на помощь умные бородатые дядьки, многие с диссертациями и начинают толпой месяцами биться над задачей.
Re: Специализации с высоким порогом входа
От: kaa.python Ниоткуда РСДН профессионально мёртв и завален ватой.
Дата: 10.10.16 06:05
Оценка: 1 (1) +2
Здравствуйте, sin_cos, Вы писали:

_>какие специализации с высоким порогом входа по вашему мнению будут или уже востребованы? разумеется, где деньги есть. безопасность и квантовые вычисления? что еще?

_>машинное обучение -- кажется, что там не такой уж высокий порог входа. или я ошибаюсь?

Я думаю ты правильно написал. Мой список: безопасность, все виды AI и распределенные/параллельные вычисления.
Re[3]: Специализации с высоким порогом входа
От: senglory  
Дата: 10.10.16 20:13
Оценка: +1 -1 :)
S>в системах управления летательных апаратов и ПЛ деньги теперь есть

Нах они нужны, если сидеть будешь 10 лет, а то и пожизненно крепостным холопом его величества?
Специализации с высоким порогом входа
От: sin_cos Земля  
Дата: 10.10.16 05:36
Оценка: 6 (2)
какие специализации с высоким порогом входа по вашему мнению будут или уже востребованы? разумеется, где деньги есть. безопасность и квантовые вычисления? что еще?
машинное обучение -- кажется, что там не такой уж высокий порог входа. или я ошибаюсь?
Re: Специализации с высоким порогом входа
От: Kernan Ниоткуда https://rsdn.ru/forum/flame.politics/
Дата: 10.10.16 08:27
Оценка: 1 (1) -1
Здравствуйте, sin_cos, Вы писали:

_>какие специализации с высоким порогом входа по вашему мнению будут или уже востребованы? разумеется, где деньги есть. безопасность и квантовые вычисления? что еще?

Финансы и всё что там будет использоваться.
Sic luceat lux!
Re[5]: Специализации с высоким порогом входа
От: Nuzhny Россия https://github.com/Nuzhny007
Дата: 11.10.16 11:13
Оценка: 15 (1)
Здравствуйте, Sharov, Вы писали:

S>Не знал, интересно. Но о нейронке тут речь не идет. Там куча GPU нужно.


  Нейронка

Image artistic style transfer, neural doodles and texture synthesis

Дмитрий Ульянов, аспирант Сколтеха

Пятница, 14 октября 2016

В эту пятницу на спецсеминаре выступит аспирант Сколтеха Дмитрий Ульянов. Доклад будет посвящён быстрому переносу стиля с одного изображения на другое (скажем, перерисовать фотографию в стиле картины Ван Гога). Эту задачу впервые предложили решать нейросетями всего год назад (!). Этот процесс занимал десятки минут на самых мощных видеокартах. Полгода назад Дмитрий и другие исследователи нашли способ, как делать то же самое за секунды при помощи feedforward сети. Ещё через несколько месяцев вышло популярнейшее приложение Prisma, которое может сделать стилизацию изображения за пару секунд на мобильном телефоне. В общем, применение глубинного обучения в художественных целях развивается захватывающим дух темпом. Тем интересней послушать доклад от непосредственного участника событий.


Так что можно лично сходить и убедиться.


В любом случае нейронки ускоряют сейчас со всех сторон:
1. Переход от float32 к float16 привёл к практически двукратному ускорению.
2. Ведутся исследования к переходу от float к binary! Т.е. весами будут являться 0 или 1.
3. Есть техника сжатия нейросетей, которая способна уменьшить размер на порядок, а скорость работы увеличить в 3-4 раза: "The total size of AlexNet decreased from 240MB to 6.9MB, which is small enough to be put into on-chip SRAM, eliminating the need to store the model in energy-consuming DRAM memory."
4. Есть ещё dropout.
Re[9]: Специализации с высоким порогом входа
От: Sharov Россия  
Дата: 11.10.16 17:42
Оценка: 5 (1)
Здравствуйте, senglory, Вы писали:

N>>Получают много, потому что от их кода зависит быстродействие и устойчивость всей системы не меньше, чем от качественных алгоритмов анализа.


S>Если открыть HH.RU, то "много" там только раза в 2 от силы и то, по сравнению с "инженерами-электронщиками", которых, как известно, как грязи и где <рыночная зарплата хорошего электронщика 1000 баксов>


С инженерами, говорят, вообще беда -- https://vc.ru/p/engineers-salary
Кодом людям нужно помогать!
Re[7]: Специализации с высоким порогом входа
От: placement_new  
Дата: 11.10.16 18:22
Оценка: 5 (1)
Здравствуйте, sergey2b, Вы писали:

S>3) это не единичный пример среди моих знакомых, возможно я изменю свое мнение в будушем но пока — программист получающий в США не больше 100k в год имеет уровень жизни сопостовимый со своим русским коллегой ранвым ему по квалификации


Так такие зарплаты там только у выпускников таких заведений http://www.wsj.com/articles/coding-boot-camps-attract-tech-companies-1470945503
Re: Специализации с высоким порогом входа
От: gandjustas Россия http://blog.gandjustas.ru/
Дата: 10.10.16 11:56
Оценка: 1 (1)
Здравствуйте, sin_cos, Вы писали:

_>какие специализации с высоким порогом входа по вашему мнению будут или уже востребованы? разумеется, где деньги есть. безопасность и квантовые вычисления? что еще?

Ты спрашиваешь про рынок вообще или про отдельные вакансии?

Если заниматься анализом безопасности программ, то там можно много денег зарабатывать. А можно и не зарабатывать, потому что вакансий по теме оооооочень мало.
Если есть очень денежный рынок в целом, то порог входа туда неизбежно падает.

_>машинное обучение -- кажется, что там не такой уж высокий порог входа. или я ошибаюсь?

В ml порог входа низкий, но получить пользу на "входном уровне" почти нереально.
Re[3]: Специализации с высоким порогом входа
От: Nuzhny Россия https://github.com/Nuzhny007
Дата: 11.10.16 10:17
Оценка: 1 (1)
Здравствуйте, Sharov, Вы писали:

S>Это не сматрфон делает, а бекэнд. Смартфон фоточку только отправляет и результат получает.


Android-версия Prisma заработала в оффлайне:
  Скрытый текст

На данный момент только 60% всех фильтров в Prisma могут работать в автономном режиме, но разработчики обещают, что до конца месяца все стили будут доступны для использования без подключения к Интернету. Так как теперь обработка выполняется непосредственно на самом устройстве, то скорость этого процесса напрямую зависит от мощности центрального процессора. По словам соучредителя Prisma Арама Айрапетяна, обработка снимка на Galaxy S7 происходит примерно за 2 секунды, тогда как Xiaomi Redmi Note 3 справляется за 5 секунд.

Re: Специализации с высоким порогом входа
От: landerhigh Пират  
Дата: 10.10.16 09:19
Оценка: +1
Здравствуйте, sin_cos, Вы писали:

_>какие специализации с высоким порогом входа по вашему мнению будут или уже востребованы? разумеется, где деньги есть. безопасность и квантовые вычисления? что еще?


Промышленная автоматизация. Порог входа очень высокий.
Только денег там нет
www.blinnov.com
Re[4]: Специализации с высоким порогом входа
От: sergey2b ЮАР  
Дата: 11.10.16 09:11
Оценка: +1
Здравствуйте, senglory, Вы писали:

S>>в системах управления летательных апаратов и ПЛ деньги теперь есть


S>Нах они нужны, если сидеть будешь 10 лет, а то и пожизненно крепостным холопом его величества?


а не пох где сидеть ?
я пару недель назад встречался с другом, он живет не в мск и спб и уровень жизни у него выше чем у многих европейцев/американцев например
Re[2]: Специализации с высоким порогом входа
От: Sharov Россия  
Дата: 11.10.16 10:11
Оценка: -1
Здравствуйте, Nuzhny, Вы писали:

N>Здравствуйте, sin_cos, Вы писали:


_>>машинное обучение -- кажется, что там не такой уж высокий порог входа. или я ошибаюсь?


N>И да, и нет. Сейчас можно взять мощный framework от гигантов отрасли, готовую архитектуру нейросети и в 20 строк на Питоне решить задачу, о которой раньше и не думали. В этом смысле порог входа снизился: машинное обучение массово идёт решать задачи, о которых раньше и не думали или решение которой требовало сложных математических моделей. Сейчас смартфон по фотографии скажет сколько стоит этот же товар в других магазинах. Распознает производителя платья. Найдёт человека вконтакте по фото из метро. Это сейчас могут сделать даже студенты в качестве курсовой/диплома. И это круто!


Это не сматрфон делает, а бекэнд. Смартфон фоточку только отправляет и результат получает.
Кодом людям нужно помогать!
Re[5]: Специализации с высоким порогом входа
От: gandjustas Россия http://blog.gandjustas.ru/
Дата: 11.10.16 15:28
Оценка: +1
Здравствуйте, __kot2, Вы писали:

__>Здравствуйте, Nuzhny, Вы писали:

N>>Насколько я понимаю, у нейросетей пока проблемы с эмуляцией памяти. Например, автоматический перевод, когда сети посимвольно скармливается текст. Раньше такой проблемы вообще не было.
__>у всего машинелернинга основная проблема — дороговизна вычислительный мощей если ставить в продакшен
Весь машинлернинг разный. Распознавание лиц работает на небольших мощностях в реальном времени и не требует хранилища образов.

В частности про нейросети.
Нейросети быстрые — это умножение вектора на матрицу и нелинейная функция активации, повторенные три раза.
Сверточные нейросети чуть больше ресурсов требуют, то все равно это умножение вектора на матрицу + свертка. С большими изображениями можно десятки раз в секунду выполнять.

А вот обучение нейросетей может требовать огромных ресурсов.
Re[6]: Специализации с высоким порогом входа
От: senglory  
Дата: 11.10.16 17:14
Оценка: +1
Смотрю я на все это благолепие и фигею — и за "перерисовку картины в стиле Ван Гога" находятся те, кто будет платить $$$$$$$ ? Какое-то использование электронного микроскопа для гнета при закваске капусты...
Re[9]: Специализации с высоким порогом входа
От: Nuzhny Россия https://github.com/Nuzhny007
Дата: 11.10.16 18:06
Оценка: +1
Здравствуйте, senglory, Вы писали:

S>Если открыть HH.RU, то "много" там только раза в 2 от силы и то, по сравнению с "инженерами-электронщиками", которых, как известно, как грязи и где <рыночная зарплата хорошего электронщика 1000 баксов>


Не уверен, что ты именно это смотрел. Я говорю о сеньёрах, которые мастера своего дела. Их нанимает, например, Касперский или Яндекс. Платят много.
Re[2]: Специализации с высоким порогом входа
От: sergey2b ЮАР  
Дата: 10.10.16 10:30
Оценка:
Здравствуйте, landerhigh, Вы писали:

L>Здравствуйте, sin_cos, Вы писали:


_>>какие специализации с высоким порогом входа по вашему мнению будут или уже востребованы? разумеется, где деньги есть. безопасность и квантовые вычисления? что еще?


L>Промышленная автоматизация. Порог входа очень высокий.

L>Только денег там нет

в системах управления летательных апаратов и ПЛ деньги теперь есть
Re[3]: Специализации с высоким порогом входа
От: Слава  
Дата: 10.10.16 10:42
Оценка:
Здравствуйте, sergey2b, Вы писали:

S>в системах управления летательных апаратов и ПЛ деньги теперь есть


И пять лет без выезда тоже есть.
Re[3]: Специализации с высоким порогом входа
От: sin_cos Земля  
Дата: 10.10.16 13:07
Оценка:
Здравствуйте, sergey2b, Вы писали:



S>в системах управления летательных апаратов и ПЛ деньги теперь есть


что за ПЛ?
Re[4]: Специализации с высоким порогом входа
От: sergey2b ЮАР  
Дата: 10.10.16 13:25
Оценка:
Здравствуйте, sin_cos, Вы писали:

_>Здравствуйте, sergey2b, Вы писали:




S>>в системах управления летательных апаратов и ПЛ деньги теперь есть


_>что за ПЛ?


подводные лодки
Re[2]: Специализации с высоким порогом входа
От: senglory  
Дата: 10.10.16 20:11
Оценка:
N>Но также появляются новые задачи, которые пока таким способом не решаются.
Например?
Re[3]: Специализации с высоким порогом входа
От: Nuzhny Россия https://github.com/Nuzhny007
Дата: 10.10.16 20:19
Оценка:
Здравствуйте, senglory, Вы писали:

N>>Но также появляются новые задачи, которые пока таким способом не решаются.

S>Например?

Насколько я понимаю, у нейросетей пока проблемы с эмуляцией памяти. Например, автоматический перевод, когда сети посимвольно скармливается текст. Раньше такой проблемы вообще не было.
Re[4]: Специализации с высоким порогом входа
От: __kot2  
Дата: 10.10.16 22:43
Оценка:
Здравствуйте, Nuzhny, Вы писали:
N>Насколько я понимаю, у нейросетей пока проблемы с эмуляцией памяти. Например, автоматический перевод, когда сети посимвольно скармливается текст. Раньше такой проблемы вообще не было.
у всего машинелернинга основная проблема — дороговизна вычислительный мощей если ставить в продакшен

несколько лет смотрел выступление товарища из Яндекса, который говорил что хранение 1 доп. байта на сайт обходится компании в 10 тыщ баксов. не помню уже толи вообще, толи в месяц. тут примерно та же система, только хранить нужно уже совсем не 1 байт, и ставить в продакшен хотя бы сотни совсем не слабых компов. короче, тут легко только на "эксперименты" профукать миллионы долларов. а если еще добавить сюда тормознутость всяких этих фреймворков "с низким порогов вхождения", то это только увеличивает цифру подобных расходов в разы
Re[3]: Специализации с высоким порогом входа
От: D. Petrov США  
Дата: 11.10.16 06:32
Оценка:
Здравствуйте, senglory, Вы писали:

N>>Но также появляются новые задачи, которые пока таким способом не решаются.

S>Например?

Например, данных очень мало (не по объему, а по сути) и стандартные методы дают результат бинарного классификатора не сильно лучше чем рандомное бросание монетки.

Или более изощренный пример — нужен классификатор, а размеченных для обучения данных нет и нет возможности их получить. Зато есть данные от похожей задачи но напрямую применить не получается. Задача — скрести ежа с ужом. Т.е. перетренеруй работающий классификатор под другую задачу.
Re[4]: Специализации с высоким порогом входа
От: Sharov Россия  
Дата: 11.10.16 10:53
Оценка:
Здравствуйте, Nuzhny, Вы писали:

N>Здравствуйте, Sharov, Вы писали:


S>>Это не сматрфон делает, а бекэнд. Смартфон фоточку только отправляет и результат получает.


N>Android-версия Prisma заработала в оффлайне:

N>
  Скрытый текст
N>

N>На данный момент только 60% всех фильтров в Prisma могут работать в автономном режиме, но разработчики обещают, что до конца месяца все стили будут доступны для использования без подключения к Интернету. Так как теперь обработка выполняется непосредственно на самом устройстве, то скорость этого процесса напрямую зависит от мощности центрального процессора. По словам соучредителя Prisma Арама Айрапетяна, обработка снимка на Galaxy S7 происходит примерно за 2 секунды, тогда как Xiaomi Redmi Note 3 справляется за 5 секунд.



Не знал, интересно. Но о нейронке тут речь не идет. Там куча GPU нужно.
Кодом людям нужно помогать!
Re[6]: Специализации с высоким порогом входа
От: sin_cos Земля  
Дата: 11.10.16 11:58
Оценка:
Здравствуйте, Nuzhny, Вы писали:

а ты вообще какие области видишь перспективными и денежными с высоким порогом входа, кроме машин. обучения?
Re[7]: Специализации с высоким порогом входа
От: Nuzhny Россия https://github.com/Nuzhny007
Дата: 11.10.16 12:20
Оценка:
Здравствуйте, sin_cos, Вы писали:

_>а ты вообще какие области видишь перспективными и денежными с высоким порогом входа, кроме машин. обучения?


Кто в чём разбирается, тот о том и говорит. Я тут не сильно большой знаток.
Вокруг меня ещё всегда были востребованы специалисты, которые разбираются в написании приложений, работающих с высокой сетевой нагрузкой. Глубокое знание внутренностей Linux, Windows — обязательно.
Занимаются они передачей данных и по обычным сетям, и по радиоканалам, знают что такое PLC модемы.
Короче, классические системные программисты.
Получают много, потому что от их кода зависит быстродействие и устойчивость всей системы не меньше, чем от качественных алгоритмов анализа. Попасть туда также непросто: надо много прочитать книг и кода, набить множество шишек, расковырять кучу чужих приложений и архитектур.
Re[4]: Специализации с высоким порогом входа
От: gandjustas Россия http://blog.gandjustas.ru/
Дата: 11.10.16 15:23
Оценка:
Здравствуйте, Nuzhny, Вы писали:

N>Здравствуйте, senglory, Вы писали:


N>>>Но также появляются новые задачи, которые пока таким способом не решаются.

S>>Например?

N>Насколько я понимаю, у нейросетей пока проблемы с эмуляцией памяти.

Что значит "проблемы с эмуляцией памяти"? Веса нейронов и есть эмуляция памяти, или ты про другое?
Автоматический перевод нейросетями не делается.

N>Например, автоматический перевод, когда сети посимвольно скармливается текст. Раньше такой проблемы вообще не было.


1) Примитивный автоматический перевод делается по словарю — слова или словосочетания просто находятся в таблице и к ним подставляется аналог на другом языке. Так делалось еще 30 лет назад.
2) Чуть более навороченный перевод предполагает разбор предложения на составные части, получение времени\падежей\склонений и обработка по правилам для получения корректных времен\падежей\склонений в целевом языке + словарь. Для русского языка можно словарь с морфологией взять на http://opencorpora.org/. При продвинутом переводе возникает проблема, что разбор часто неоднозначный.
3) Современный вариант — пользователю предлагают "улучшить перевод", пользователь сам может выбрать варианты подстановки слов и разбора в полученном результате (как у гугла). Эта информация сохраняется в базу, вместе с характеристиками исходного предложения. В дальнейшем при генерации перевода полученные варианты пропускаются через нейросеть, натренированную на статистике переводов и она дает другой порядок выбора вариантов, часто давая более подходящий.

То есть нейросеть в переводе на другой язык почти не используется.

Собственно и в других практических задачах так — нейросеть является не центральным элементом алгоритма, а вспомогательным инструментом, чтобы обрабатывать feedback пользователей. Например поиск, рекомендательные системы, и практические любые алгоритмы, где есть список результатов.
Re[6]: Специализации с высоким порогом входа
От: gandjustas Россия http://blog.gandjustas.ru/
Дата: 11.10.16 15:39
Оценка:
Здравствуйте, Nuzhny, Вы писали:

N>Здравствуйте, Sharov, Вы писали:



N>

N>Image artistic style transfer, neural doodles and texture synthesis

N>Дмитрий Ульянов, аспирант Сколтеха

N>Пятница, 14 октября 2016

N>В эту пятницу на спецсеминаре выступит аспирант Сколтеха Дмитрий Ульянов. Доклад будет посвящён быстрому переносу стиля с одного изображения на другое (скажем, перерисовать фотографию в стиле картины Ван Гога). Эту задачу впервые предложили решать нейросетями всего год назад (!).


В 2006 году видел примеры нейросетей, совмещающие фотографии. Там цель была другой — моделированеи лиц, но идея ни разу не новая.
Re[5]: Специализации с высоким порогом входа
От: Nuzhny Россия https://github.com/Nuzhny007
Дата: 11.10.16 16:27
Оценка:
Здравствуйте, gandjustas, Вы писали:

G>Что значит "проблемы с эмуляцией памяти"? Веса нейронов и есть эмуляция памяти, или ты про другое?

G>Автоматический перевод нейросетями не делается.

Дружище, ты же сначала прочитал вопрос, а потом начал отвечать, верно? Или нет? Вопрос был как раз в том, что пробуют сделать.


G>То есть нейросеть в переводе на другой язык почти не используется.

Я очень рад, что ты в курсе. Но практика в лице Гугл.Транслейта говорит, что описанные тобой подходы нифига не работают.
Сейчас как раз такой тренд начинается, что нейросети хотят посимвольно скармливать текст. Да, именно так, чтобы она сама разбиралась в нём, организовывала у себя кратковременную и долговременную память, учитывала контекст. Именно это передовая науки, а не перевод со словарём. Ты же не думаешь, что прогресс остановился где-то там в середине 20 века?

G>Собственно и в других практических задачах так — нейросеть является не центральным элементом алгоритма, а вспомогательным инструментом, чтобы обрабатывать feedback пользователей. Например поиск, рекомендательные системы, и практические любые алгоритмы, где есть список результатов.


Ну, в том же попсовом примере как Prisma всё наоборот — нейросеть является центральным и единственным алгоритмом.
Re[7]: Специализации с высоким порогом входа
От: Nuzhny Россия https://github.com/Nuzhny007
Дата: 11.10.16 16:28
Оценка:
Здравствуйте, gandjustas, Вы писали:

G>В 2006 году видел примеры нейросетей, совмещающие фотографии. Там цель была другой — моделированеи лиц, но идея ни разу не новая.


Морфинг — это совсем другая задача. И причём тут он? Мы говорим про конкретное приложение.
Re[6]: Специализации с высоким порогом входа
От: Nuzhny Россия https://github.com/Nuzhny007
Дата: 11.10.16 16:38
Оценка:
Здравствуйте, gandjustas, Вы писали:

G>Весь машинлернинг разный. Распознавание лиц работает на небольших мощностях в реальном времени и не требует хранилища образов.


Если ты про Cognitec (круче промышленных систем, вроде, нет), то распознавание лиц у них требует хранения объектов, каждое лицо запоминается в нескольких экземплярах. Человек заносится в базу: чуть крутит головой, его отфоткивают. В процессе работы можно добавлять фотографий. Да, в реальном времени, но мощности требуются приличные.
У них даже рекомендованная система содержит отдельный сервер для хранилища и распознавания лиц и несколько видеосерверов, которые ищут лица в видеопотоке и отправляют их на первый сервер.

Если ты знаешь что-то круче Cognitec'а, то скажи, посмотрим как у них.
Re[5]: Специализации с высоким порогом входа
От: senglory  
Дата: 11.10.16 17:03
Оценка:
S>а не пох где сидеть ?
S>я пару недель назад встречался с другом, он живет не в мск и спб и уровень жизни у него выше чем у многих европейцев/американцев например

При таком раскладе он сильно зависит от благополучи одного места с нулевой возможностью сбежать из него, если там начнется жопа.
Re[6]: Специализации с высоким порогом входа
От: gandjustas Россия http://blog.gandjustas.ru/
Дата: 11.10.16 17:17
Оценка:
Здравствуйте, Nuzhny, Вы писали:

N>Здравствуйте, gandjustas, Вы писали:


G>>Что значит "проблемы с эмуляцией памяти"? Веса нейронов и есть эмуляция памяти, или ты про другое?

G>>Автоматический перевод нейросетями не делается.
N>Дружище, ты же сначала прочитал вопрос, а потом начал отвечать, верно? Или нет? Вопрос был как раз в том, что пробуют сделать.
Пробуют всегда, не только сейчас. Но тупо скормить тонну инфы нейросетям не дает никакого эффекта от слова вообще.



G>>То есть нейросеть в переводе на другой язык почти не используется.

N>Я очень рад, что ты в курсе. Но практика в лице Гугл.Транслейта говорит, что описанные тобой подходы нифига не работают.
По сравнению с Prompt 2000 качество перевода потрясающее. Еще бы научили контекст угадывать. потому что словарь для разбора и перевода на практике сильно зависит от тематики текста.

N>Сейчас как раз такой тренд начинается, что нейросети хотят посимвольно скармливать текст. Да, именно так, чтобы она сама разбиралась в нём, организовывала у себя кратковременную и долговременную память, учитывала контекст. Именно это передовая науки, а не перевод со словарём. Ты же не думаешь, что прогресс остановился где-то там в середине 20 века?

Могу поспорить на $1000 баксов, что у них нифига не выйдет. А если выйдет, то это будет не нейросеть, а совершенно другая конструкция.

Если немного разбираться в нейросетях, то сразу понимаешь бесперспективность затеи.


G>>Собственно и в других практических задачах так — нейросеть является не центральным элементом алгоритма, а вспомогательным инструментом, чтобы обрабатывать feedback пользователей. Например поиск, рекомендательные системы, и практические любые алгоритмы, где есть список результатов.

N>Ну, в том же попсовом примере как Prisma всё наоборот — нейросеть является центральным и единственным алгоритмом.
Это исключение.
Re[6]: Специализации с высоким порогом входа
От: sergey2b ЮАР  
Дата: 11.10.16 17:21
Оценка:
Здравствуйте, senglory, Вы писали:

S>>а не пох где сидеть ?

S>>я пару недель назад встречался с другом, он живет не в мск и спб и уровень жизни у него выше чем у многих европейцев/американцев например

S>При таком раскладе он сильно зависит от благополучи одного места с нулевой возможностью сбежать из него, если там начнется жопа.


1) многие в том числе и я говорили ему примерно тоже самое, но когда компания где он проработал 16 лет уволила его, он тут же нашел другую работу
2) что бы не писали на rsdn но в реальности, стоимость жизни в РФ меньше, и соответственно для американского уровня жизни надо зарабатывать меньше
3) это не единичный пример среди моих знакомых, возможно я изменю свое мнение в будушем но пока — программист получающий в США не больше 100k в год имеет уровень жизни сопостовимый со своим русским коллегой ранвым ему по квалификации
Re[8]: Специализации с высоким порогом входа
От: senglory  
Дата: 11.10.16 17:24
Оценка:
N>Получают много, потому что от их кода зависит быстродействие и устойчивость всей системы не меньше, чем от качественных алгоритмов анализа.

Если открыть HH.RU, то "много" там только раза в 2 от силы и то, по сравнению с "инженерами-электронщиками", которых, как известно, как грязи и где <рыночная зарплата хорошего электронщика 1000 баксов>
Re[6]: Специализации с высоким порогом входа
От: senglory  
Дата: 11.10.16 17:37
Оценка:
N>Ты же не думаешь, что прогресс остановился где-то там в середине 20 века?

Судя по качеству перевода от гугла, особенно с/на немецкий, он таки не покинул пределы 20 века.
Re[7]: Специализации с высоким порогом входа
От: Nuzhny Россия https://github.com/Nuzhny007
Дата: 11.10.16 18:03
Оценка:
Здравствуйте, gandjustas, Вы писали:

G>Пробуют всегда, не только сейчас. Но тупо скормить тонну инфы нейросетям не дает никакого эффекта от слова вообще.


Как раз принцип "скормить тонну информации" и является принципиальным в начале хайла deep learning'а. Без этого ничего не было бы. Так что посмотрим.
Re[7]: Специализации с высоким порогом входа
От: Nuzhny Россия https://github.com/Nuzhny007
Дата: 11.10.16 18:05
Оценка:
Здравствуйте, senglory, Вы писали:

N>>Ты же не думаешь, что прогресс остановился где-то там в середине 20 века?

S>Судя по качеству перевода от гугла, особенно с/на немецкий, он таки не покинул пределы 20 века.

Я о том же. Гугл.Транслейт — это как раз перевод со словарём. Уже сказали, что новая версия на нейросетях готова, дорабатывается и скоро будет представлена.
Re[7]: Специализации с высоким порогом входа
От: gandjustas Россия http://blog.gandjustas.ru/
Дата: 11.10.16 18:57
Оценка:
Здравствуйте, Nuzhny, Вы писали:

N>Здравствуйте, gandjustas, Вы писали:


G>>Весь машинлернинг разный. Распознавание лиц работает на небольших мощностях в реальном времени и не требует хранилища образов.


N>Если ты про Cognitec (круче промышленных систем, вроде, нет)


Я про банальную функцию фокусировке на лице в любом фотоаппарате.
Re[7]: Специализации с высоким порогом входа
От: gandjustas Россия http://blog.gandjustas.ru/
Дата: 11.10.16 18:59
Оценка:
Здравствуйте, Nuzhny, Вы писали:

N>Если ты знаешь что-то круче Cognitec'а, то скажи, посмотрим как у них.


Про Cognitec не в курсе. Но видел одну отечественную разработку на НС для распознавания лиц — а 100 фотографиях точность порядка 80%, на 1000 — совсем плохо, менее 20%.
Re[8]: Специализации с высоким порогом входа
От: gandjustas Россия http://blog.gandjustas.ru/
Дата: 11.10.16 19:03
Оценка:
Здравствуйте, Nuzhny, Вы писали:

N>Здравствуйте, gandjustas, Вы писали:


G>>Пробуют всегда, не только сейчас. Но тупо скормить тонну инфы нейросетям не дает никакого эффекта от слова вообще.


N>Как раз принцип "скормить тонну информации" и является принципиальным в начале хайла deep learning'а. Без этого ничего не было бы. Так что посмотрим.


Пока ни одного успеха на этом поле не было. Обычно в задачах обработки данных БОЛЬШАЯ часть приходится не на сами НС или другие алгоритмы, а на подготовку данных.
Я предпочитаю не тешиться надеждами, что изобретут НС, которой можно скормить любую массив информации и оно выдаст ченить осмысленное. Тем более мы же прекрасно знаем, что результат работы НС зачастую непонятен.
Re[8]: Специализации с высоким порогом входа
От: placement_new  
Дата: 11.10.16 19:04
Оценка:
Здравствуйте, gandjustas, Вы писали:

G>Здравствуйте, Nuzhny, Вы писали:


N>>Если ты знаешь что-то круче Cognitec'а, то скажи, посмотрим как у них.


G>Про Cognitec не в курсе. Но видел одну отечественную разработку на НС для распознавания лиц — а 100 фотографиях точность порядка 80%, на 1000 — совсем плохо, менее 20%.


Разве у них не НС?
http://ntechlab.com/
http://megaface.cs.washington.edu/results/facescrubresults.html
Re[9]: Специализации с высоким порогом входа
От: gandjustas Россия http://blog.gandjustas.ru/
Дата: 11.10.16 19:07
Оценка:
Здравствуйте, placement_new, Вы писали:

_>Здравствуйте, gandjustas, Вы писали:


G>>Здравствуйте, Nuzhny, Вы писали:


N>>>Если ты знаешь что-то круче Cognitec'а, то скажи, посмотрим как у них.


G>>Про Cognitec не в курсе. Но видел одну отечественную разработку на НС для распознавания лиц — а 100 фотографиях точность порядка 80%, на 1000 — совсем плохо, менее 20%.


_>Разве у них не НС?

_>http://ntechlab.com/
_>http://megaface.cs.washington.edu/results/facescrubresults.html

Не в курсе. Но что-то мне кажется, что при наличии кучи фотографий лица под разными углами можно и без НС справиться. Или использовать сверточные НС только для получения признаков на фотографиях, а искать совпадения уже другими алгоритмами.
Re[8]: Специализации с высоким порогом входа
От: Nuzhny Россия https://github.com/Nuzhny007
Дата: 12.10.16 08:32
Оценка:
Здравствуйте, gandjustas, Вы писали:

G>Я про банальную функцию фокусировке на лице в любом фотоаппарате.


Ну так ты ошибся терминологией. Поиску лица скажи спасибо Виоле и Джонсу, они произвели одну из первых революций в области.
Re[8]: Специализации с высоким порогом входа
От: Nuzhny Россия https://github.com/Nuzhny007
Дата: 12.10.16 08:38
Оценка:
Здравствуйте, gandjustas, Вы писали:

G>Про Cognitec не в курсе. Но видел одну отечественную разработку на НС для распознавания лиц — а 100 фотографиях точность порядка 80%, на 1000 — совсем плохо, менее 20%.


Cognitec лежит в основе большинства систем распознавания лиц в мире и в России. Кодт, вроде, работал в ЦРТ, у которых тоже что-то подобное было. Если он в курсе, то может сказать, что использовалось для распознавания лиц, уверен на 100%, что покупали у Cognitec'а.

Вроде как у Вокорда своя система. И он в Мегафейс выигрывал у Гугла и Фейсбука. Как и другая российская же разработка по поиску человека вконтакте по фото — FindFace. Так там нейросети во всей красе.
Ну и как не вспомнить OpenFace — нейросети, они же родные.
Re[7]: Специализации с высоким порогом входа
От: S-SH Россия http://shmakov.ru/
Дата: 13.10.16 14:59
Оценка:
G>По сравнению с Prompt 2000 качество перевода потрясающее. Еще бы научили контекст угадывать. потому что словарь для разбора и перевода на практике сильно зависит от тематики текста.

G>Если немного разбираться в нейросетях, то сразу понимаешь бесперспективность затеи.


http://rsdn.org/forum/philosophy/2219744
Автор: S-SH
Дата: 17.11.06
IMHO. смайлики добавить по вкусу.
Re[7]: Специализации с высоким порогом входа
От: DreamMaker  
Дата: 13.10.16 19:36
Оценка:
Здравствуйте, gandjustas, Вы писали:

G>Могу поспорить на $1000 баксов, что у них нифига не выйдет.


уже вышло. гугл в продакшен выкатил перевод между англ и китайским; остальные пары обещают скоро. качество сильно выше.

с вас $1000
In P=NP we trust.
Re[8]: Специализации с высоким порогом входа
От: gandjustas Россия http://blog.gandjustas.ru/
Дата: 13.10.16 20:08
Оценка:
Здравствуйте, DreamMaker, Вы писали:

DM>Здравствуйте, gandjustas, Вы писали:


G>>Могу поспорить на $1000 баксов, что у них нифига не выйдет.


DM>уже вышло. гугл в продакшен выкатил перевод между англ и китайским; остальные пары обещают скоро. качество сильно выше.


DM>с вас $1000


Всего-то осталось алгоритм показать.
Re[9]: Специализации с высоким порогом входа
От: Nuzhny Россия https://github.com/Nuzhny007
Дата: 13.10.16 20:14
Оценка:
Здравствуйте, gandjustas, Вы писали:

DM>>с вас $1000

G>Всего-то осталось алгоритм показать.

Статья в Nature
Re[2]: Специализации с высоким порогом входа
От: AlexGin Беларусь  
Дата: 16.10.16 08:23
Оценка:
Здравствуйте, Kernan, Вы писали:

K>Здравствуйте, sin_cos, Вы писали:


_>>какие специализации с высоким порогом входа по вашему мнению будут или уже востребованы? разумеется, где деньги есть. безопасность и квантовые вычисления? что еще?

K>Финансы и всё что там будет использоваться.
Вот тут требуются большие уточнения: в финансах (например банк) ИМХО довольно скромные зарплаты.
По крайней мере для просто программиста (мне как-то предлагали вакансию в одном из минских банков, там з/п ниже средней по РБ — я рад, что не клюнул).
Что же касается порога входа — в чём отличие от других задач документооборота? Формочки и запросы к БД, какие-то узко специальные языки и средства
разработки (увязнуть-то не хочется)...
Отредактировано 16.10.2016 8:27 AlexGin . Предыдущая версия . Еще …
Отредактировано 16.10.2016 8:24 AlexGin . Предыдущая версия .
Re[3]: Специализации с высоким порогом входа
От: bnk СССР http://unmanagedvisio.com/
Дата: 16.10.16 09:06
Оценка:
Здравствуйте, AlexGin, Вы писали:

_>>>какие специализации с высоким порогом входа по вашему мнению будут или уже востребованы? разумеется, где деньги есть. безопасность и квантовые вычисления? что еще?

K>>Финансы и всё что там будет использоваться.

AG>Вот тут требуются большие уточнения: в финансах (например банк) ИМХО довольно скромные зарплаты.

AG>По крайней мере для просто программиста (мне как-то предлагали вакансию в одном из минских банков, там з/п ниже средней по РБ — я рад, что не клюнул).
AG>Что же касается порога входа — в чём отличие от других задач документооборота? Формочки и запросы к БД, какие-то узко специальные языки и средства
AG>разработки (увязнуть-то не хочется)...

Скорее всего имелись в виду "другие" финансы — HFT.
Возможно эта отрасль вообще отсутствует в РБ, речь скорее про Лондон и Сингапур.
Re[10]: Специализации с высоким порогом входа
От: gandjustas Россия http://blog.gandjustas.ru/
Дата: 17.10.16 11:41
Оценка:
Здравствуйте, Nuzhny, Вы писали:

N>Здравствуйте, gandjustas, Вы писали:


DM>>>с вас $1000

G>>Всего-то осталось алгоритм показать.

N>Статья в Nature


Это не то, о чем ты говоришь.

Тут надо понимать особенности китайского языка. Каждый иероглиф — не отдельная буква, а слово. Причем смысл слова зависит от контекста, то есть окружающих иероглифов, а еще иероглифы бывают составными.
Тем не менее для компьютера каждый иероглиф — отдельный символ.

Ранее алгоритм гугла был статистическим. Он тупо собирал статистику переводов одних слов в другие. Даже в интерфейсе отображались вероятности.
Для китайского такой алгоритм не подходит, так как смысл отдельного иероглифа(символа) неоднозначен, а делать статистику для сочетаний иероглифов (слов) — затратно.

В итоге решили применить алгоритм сверхточных нейросетей для выявления смысла иероглифа с учетом контекста. Технически это посимвольный перевод.
Практически сделать аналог для перевода с русского на анлийский не получится. Размеры такой нейросети превзойдут разумные пределы и время обучения тоже, а точность будет под огромным вопросом.

ЗЫ. Сверточные нейросети сильно отличаются от обычных многослойных перцептронов, о которых думают неоптыные программисты при слове "нейросеть"
Re[11]: Специализации с высоким порогом входа
От: Nuzhny Россия https://github.com/Nuzhny007
Дата: 17.10.16 13:25
Оценка:
Здравствуйте, gandjustas, Вы писали:

N>>Статья в Nature

G>Это не то, о чем ты говоришь.

Ещё не то, но уже нейросети. Как раз тот факт, что ты отрицал.

G>ЗЫ. Сверточные нейросети сильно отличаются от обычных многослойных перцептронов, о которых думают неоптыные программисты при слове "нейросеть"


Блин, свёрточным нейросетям уже под 40 лет, а ты преподносишь это как какую-то новинку. Да все знают, что это такое.
Re[4]: Специализации с высоким порогом входа
От: Kernan Ниоткуда https://rsdn.ru/forum/flame.politics/
Дата: 17.10.16 14:02
Оценка:
Здравствуйте, bnk, Вы писали:

bnk>Скорее всего имелись в виду "другие" финансы — HFT.

bnk>Возможно эта отрасль вообще отсутствует в РБ, речь скорее про Лондон и Сингапур.
Это и есть единственно возможные финансы (не забываем ещё трейд. платформы всякие), то, что он упоминает это т.н. "банковское дело" и, как и любой документооборот, клоака если ты не сидишь на самом верху.
Sic luceat lux!
Re[12]: Специализации с высоким порогом входа
От: gandjustas Россия http://blog.gandjustas.ru/
Дата: 17.10.16 14:13
Оценка:
Здравствуйте, Nuzhny, Вы писали:


N>Ещё не то, но уже нейросети. Как раз тот факт, что ты отрицал.

Я не отрицал применение нейросетей в задачах перевода, я отрицал что можно сделать НС, которой скармливать посимвольно любой текст и получать перевод независимо от языка.
Получается текст не любой, а китайский, потому что там один символ — одно или даже несколько слов.

Если внимательно почитать по ссылке https://research.googleblog.com/2016/09/a-neural-network-for-machine.html, то там не идет речь о скармливании текста побуквенно вообще.
Re[5]: Специализации с высоким порогом входа
От: AlexGin Беларусь  
Дата: 17.10.16 14:42
Оценка:
Здравствуйте, Kernan, Вы писали:

K>Здравствуйте, bnk, Вы писали:


bnk>>Скорее всего имелись в виду "другие" финансы — HFT.

bnk>>Возможно эта отрасль вообще отсутствует в РБ, речь скорее про Лондон и Сингапур.
K>Это и есть единственно возможные финансы (не забываем ещё трейд. платформы всякие), то, что он упоминает это т.н. "банковское дело" и, как и любой документооборот, клоака если ты не сидишь на самом верху.
+100500
Да, это именно так.
Я раньше, по незнанию, думал что в банке — огромные зариплаты — будто там они на деньгах сидят

Ну а насчёт HFT — похоже, что этого на всём пост-советском пространстве днём с огнем не найти
Re: Специализации с высоким порогом входа
От: AlexGin Беларусь  
Дата: 17.10.16 14:46
Оценка:
Здравствуйте, sin_cos, Вы писали:

_>какие специализации с высоким порогом входа по вашему мнению будут или уже востребованы? разумеется, где деньги есть. безопасность и квантовые вычисления? что еще?

_>машинное обучение -- кажется, что там не такой уж высокий порог входа. или я ошибаюсь?

Я добавлю моё ИМХО:
Обработка и анализ видео и статических изображений, обработка, анализ и синтез звука.
Системы MES (управления произвоством).
Re[6]: Специализации с высоким порогом входа
От: placement_new  
Дата: 17.10.16 21:14
Оценка:
Здравствуйте, AlexGin, Вы писали:

AG>Ну а насчёт HFT — похоже, что этого на всём пост-советском пространстве днём с огнем не найти


В Москве есть.
Re[7]: Специализации с высоким порогом входа
От: kaa.python Ниоткуда РСДН профессионально мёртв и завален ватой.
Дата: 17.10.16 23:45
Оценка:
Здравствуйте, placement_new, Вы писали:

AG>>Ну а насчёт HFT — похоже, что этого на всём пост-советском пространстве днём с огнем не найти

_>В Москве есть.

В Дойче что-ли? Но там ЗП самая обыкновенная, нет того, основного плюса HFS который в этой ветке приводится
Re[8]: Специализации с высоким порогом входа
От: placement_new  
Дата: 17.10.16 23:49
Оценка:
Здравствуйте, kaa.python, Вы писали:

KP>Здравствуйте, placement_new, Вы писали:


AG>>>Ну а насчёт HFT — похоже, что этого на всём пост-советском пространстве днём с огнем не найти

_>>В Москве есть.

KP>В Дойче что-ли? Но там ЗП самая обыкновенная, нет того, основного плюса HFS который в этой ветке приводится


Не только, я знаю еще как минимум тройку маленьких компаний. Но зп не уровня NY/London конечно. Но выше средне-московского уровня.
Отредактировано 17.10.2016 23:54 placement_new . Предыдущая версия . Еще …
Отредактировано 17.10.2016 23:53 placement_new . Предыдущая версия .
 
Подождите ...
Wait...
Пока на собственное сообщение не было ответов, его можно удалить.