Здравствуйте, sin_cos, Вы писали:
_>а ты вообще какие области видишь перспективными и денежными с высоким порогом входа, кроме машин. обучения?
Кто в чём разбирается, тот о том и говорит. Я тут не сильно большой знаток.
Вокруг меня ещё всегда были востребованы специалисты, которые разбираются в написании приложений, работающих с высокой сетевой нагрузкой. Глубокое знание внутренностей Linux, Windows — обязательно.
Занимаются они передачей данных и по обычным сетям, и по радиоканалам, знают что такое PLC модемы.
Короче, классические системные программисты.
Получают много, потому что от их кода зависит быстродействие и устойчивость всей системы не меньше, чем от качественных алгоритмов анализа. Попасть туда также непросто: надо много прочитать книг и кода, набить множество шишек, расковырять кучу чужих приложений и архитектур.
Здравствуйте, Nuzhny, Вы писали:
N>Здравствуйте, senglory, Вы писали:
N>>>Но также появляются новые задачи, которые пока таким способом не решаются. S>>Например?
N>Насколько я понимаю, у нейросетей пока проблемы с эмуляцией памяти.
Что значит "проблемы с эмуляцией памяти"? Веса нейронов и есть эмуляция памяти, или ты про другое?
Автоматический перевод нейросетями не делается.
N>Например, автоматический перевод, когда сети посимвольно скармливается текст. Раньше такой проблемы вообще не было.
1) Примитивный автоматический перевод делается по словарю — слова или словосочетания просто находятся в таблице и к ним подставляется аналог на другом языке. Так делалось еще 30 лет назад.
2) Чуть более навороченный перевод предполагает разбор предложения на составные части, получение времени\падежей\склонений и обработка по правилам для получения корректных времен\падежей\склонений в целевом языке + словарь. Для русского языка можно словарь с морфологией взять на http://opencorpora.org/. При продвинутом переводе возникает проблема, что разбор часто неоднозначный.
3) Современный вариант — пользователю предлагают "улучшить перевод", пользователь сам может выбрать варианты подстановки слов и разбора в полученном результате (как у гугла). Эта информация сохраняется в базу, вместе с характеристиками исходного предложения. В дальнейшем при генерации перевода полученные варианты пропускаются через нейросеть, натренированную на статистике переводов и она дает другой порядок выбора вариантов, часто давая более подходящий.
То есть нейросеть в переводе на другой язык почти не используется.
Собственно и в других практических задачах так — нейросеть является не центральным элементом алгоритма, а вспомогательным инструментом, чтобы обрабатывать feedback пользователей. Например поиск, рекомендательные системы, и практические любые алгоритмы, где есть список результатов.
Здравствуйте, __kot2, Вы писали:
__>Здравствуйте, Nuzhny, Вы писали: N>>Насколько я понимаю, у нейросетей пока проблемы с эмуляцией памяти. Например, автоматический перевод, когда сети посимвольно скармливается текст. Раньше такой проблемы вообще не было. __>у всего машинелернинга основная проблема — дороговизна вычислительный мощей если ставить в продакшен
Весь машинлернинг разный. Распознавание лиц работает на небольших мощностях в реальном времени и не требует хранилища образов.
В частности про нейросети.
Нейросети быстрые — это умножение вектора на матрицу и нелинейная функция активации, повторенные три раза.
Сверточные нейросети чуть больше ресурсов требуют, то все равно это умножение вектора на матрицу + свертка. С большими изображениями можно десятки раз в секунду выполнять.
А вот обучение нейросетей может требовать огромных ресурсов.
Здравствуйте, Nuzhny, Вы писали:
N>Здравствуйте, Sharov, Вы писали:
N>
N>Image artistic style transfer, neural doodles and texture synthesis
N>Дмитрий Ульянов, аспирант Сколтеха
N>Пятница, 14 октября 2016
N>В эту пятницу на спецсеминаре выступит аспирант Сколтеха Дмитрий Ульянов. Доклад будет посвящён быстрому переносу стиля с одного изображения на другое (скажем, перерисовать фотографию в стиле картины Ван Гога). Эту задачу впервые предложили решать нейросетями всего год назад (!).
В 2006 году видел примеры нейросетей, совмещающие фотографии. Там цель была другой — моделированеи лиц, но идея ни разу не новая.
Здравствуйте, gandjustas, Вы писали:
G>Что значит "проблемы с эмуляцией памяти"? Веса нейронов и есть эмуляция памяти, или ты про другое? G>Автоматический перевод нейросетями не делается.
Дружище, ты же сначала прочитал вопрос, а потом начал отвечать, верно? Или нет? Вопрос был как раз в том, что пробуют сделать.
G>То есть нейросеть в переводе на другой язык почти не используется.
Я очень рад, что ты в курсе. Но практика в лице Гугл.Транслейта говорит, что описанные тобой подходы нифига не работают.
Сейчас как раз такой тренд начинается, что нейросети хотят посимвольно скармливать текст. Да, именно так, чтобы она сама разбиралась в нём, организовывала у себя кратковременную и долговременную память, учитывала контекст. Именно это передовая науки, а не перевод со словарём. Ты же не думаешь, что прогресс остановился где-то там в середине 20 века?
G>Собственно и в других практических задачах так — нейросеть является не центральным элементом алгоритма, а вспомогательным инструментом, чтобы обрабатывать feedback пользователей. Например поиск, рекомендательные системы, и практические любые алгоритмы, где есть список результатов.
Ну, в том же попсовом примере как Prisma всё наоборот — нейросеть является центральным и единственным алгоритмом.
Здравствуйте, gandjustas, Вы писали:
G>В 2006 году видел примеры нейросетей, совмещающие фотографии. Там цель была другой — моделированеи лиц, но идея ни разу не новая.
Морфинг — это совсем другая задача. И причём тут он? Мы говорим про конкретное приложение.
Здравствуйте, gandjustas, Вы писали:
G>Весь машинлернинг разный. Распознавание лиц работает на небольших мощностях в реальном времени и не требует хранилища образов.
Если ты про Cognitec (круче промышленных систем, вроде, нет), то распознавание лиц у них требует хранения объектов, каждое лицо запоминается в нескольких экземплярах. Человек заносится в базу: чуть крутит головой, его отфоткивают. В процессе работы можно добавлять фотографий. Да, в реальном времени, но мощности требуются приличные.
У них даже рекомендованная система содержит отдельный сервер для хранилища и распознавания лиц и несколько видеосерверов, которые ищут лица в видеопотоке и отправляют их на первый сервер.
Если ты знаешь что-то круче Cognitec'а, то скажи, посмотрим как у них.
S>а не пох где сидеть ? S>я пару недель назад встречался с другом, он живет не в мск и спб и уровень жизни у него выше чем у многих европейцев/американцев например
При таком раскладе он сильно зависит от благополучи одного места с нулевой возможностью сбежать из него, если там начнется жопа.
Смотрю я на все это благолепие и фигею — и за "перерисовку картины в стиле Ван Гога" находятся те, кто будет платить $$$$$$$ ? Какое-то использование электронного микроскопа для гнета при закваске капусты...
Здравствуйте, Nuzhny, Вы писали:
N>Здравствуйте, gandjustas, Вы писали:
G>>Что значит "проблемы с эмуляцией памяти"? Веса нейронов и есть эмуляция памяти, или ты про другое? G>>Автоматический перевод нейросетями не делается. N>Дружище, ты же сначала прочитал вопрос, а потом начал отвечать, верно? Или нет? Вопрос был как раз в том, что пробуют сделать.
Пробуют всегда, не только сейчас. Но тупо скормить тонну инфы нейросетям не дает никакого эффекта от слова вообще.
G>>То есть нейросеть в переводе на другой язык почти не используется. N>Я очень рад, что ты в курсе. Но практика в лице Гугл.Транслейта говорит, что описанные тобой подходы нифига не работают.
По сравнению с Prompt 2000 качество перевода потрясающее. Еще бы научили контекст угадывать. потому что словарь для разбора и перевода на практике сильно зависит от тематики текста.
N>Сейчас как раз такой тренд начинается, что нейросети хотят посимвольно скармливать текст. Да, именно так, чтобы она сама разбиралась в нём, организовывала у себя кратковременную и долговременную память, учитывала контекст. Именно это передовая науки, а не перевод со словарём. Ты же не думаешь, что прогресс остановился где-то там в середине 20 века?
Могу поспорить на $1000 баксов, что у них нифига не выйдет. А если выйдет, то это будет не нейросеть, а совершенно другая конструкция.
Если немного разбираться в нейросетях, то сразу понимаешь бесперспективность затеи.
G>>Собственно и в других практических задачах так — нейросеть является не центральным элементом алгоритма, а вспомогательным инструментом, чтобы обрабатывать feedback пользователей. Например поиск, рекомендательные системы, и практические любые алгоритмы, где есть список результатов. N>Ну, в том же попсовом примере как Prisma всё наоборот — нейросеть является центральным и единственным алгоритмом.
Это исключение.
Здравствуйте, senglory, Вы писали:
S>>а не пох где сидеть ? S>>я пару недель назад встречался с другом, он живет не в мск и спб и уровень жизни у него выше чем у многих европейцев/американцев например
S>При таком раскладе он сильно зависит от благополучи одного места с нулевой возможностью сбежать из него, если там начнется жопа.
1) многие в том числе и я говорили ему примерно тоже самое, но когда компания где он проработал 16 лет уволила его, он тут же нашел другую работу
2) что бы не писали на rsdn но в реальности, стоимость жизни в РФ меньше, и соответственно для американского уровня жизни надо зарабатывать меньше
3) это не единичный пример среди моих знакомых, возможно я изменю свое мнение в будушем но пока — программист получающий в США не больше 100k в год имеет уровень жизни сопостовимый со своим русским коллегой ранвым ему по квалификации
Здравствуйте, senglory, Вы писали:
N>>Получают много, потому что от их кода зависит быстродействие и устойчивость всей системы не меньше, чем от качественных алгоритмов анализа.
S>Если открыть HH.RU, то "много" там только раза в 2 от силы и то, по сравнению с "инженерами-электронщиками", которых, как известно, как грязи и где <рыночная зарплата хорошего электронщика 1000 баксов>
Здравствуйте, gandjustas, Вы писали:
G>Пробуют всегда, не только сейчас. Но тупо скормить тонну инфы нейросетям не дает никакого эффекта от слова вообще.
Как раз принцип "скормить тонну информации" и является принципиальным в начале хайла deep learning'а. Без этого ничего не было бы. Так что посмотрим.
Здравствуйте, senglory, Вы писали:
N>>Ты же не думаешь, что прогресс остановился где-то там в середине 20 века? S>Судя по качеству перевода от гугла, особенно с/на немецкий, он таки не покинул пределы 20 века.
Я о том же. Гугл.Транслейт — это как раз перевод со словарём. Уже сказали, что новая версия на нейросетях готова, дорабатывается и скоро будет представлена.
Здравствуйте, senglory, Вы писали:
S>Если открыть HH.RU, то "много" там только раза в 2 от силы и то, по сравнению с "инженерами-электронщиками", которых, как известно, как грязи и где <рыночная зарплата хорошего электронщика 1000 баксов>
Не уверен, что ты именно это смотрел. Я говорю о сеньёрах, которые мастера своего дела. Их нанимает, например, Касперский или Яндекс. Платят много.
Здравствуйте, sergey2b, Вы писали:
S>3) это не единичный пример среди моих знакомых, возможно я изменю свое мнение в будушем но пока — программист получающий в США не больше 100k в год имеет уровень жизни сопостовимый со своим русским коллегой ранвым ему по квалификации
Здравствуйте, Nuzhny, Вы писали:
N>Здравствуйте, gandjustas, Вы писали:
G>>Весь машинлернинг разный. Распознавание лиц работает на небольших мощностях в реальном времени и не требует хранилища образов.
N>Если ты про Cognitec (круче промышленных систем, вроде, нет)
Я про банальную функцию фокусировке на лице в любом фотоаппарате.
