Re[2]: Skychain - нейросети, над которыми мы работаем
От: sharpcoder Россия  
Дата: 02.04.19 12:12
Оценка: 7 (2)
Здравствуйте, CodeMonkey, Вы писали:

CM>Здравствуйте, sharpcoder, Вы писали:


S>>Плюс мы очень плотно заниматься определением и детальной классификацией рака груди, рака простаты, рака кишечника по гистологии — это самая хай-тэк тема, ничего подобного тому что мы делаем еще в мире нет. Это не только определение есть рак или нет, это определение 40 признаков и деталей, от которых зависит протокол лечения и позволяет повысить в разы прогноз излечения.


CM>На каком железе работаете?


Рабочие станции программистов:
GIGABYTE B360M DS3H
Intel Core i7 8700 Coffee Lake OEM
Kingston KVR26N19D8/16 — 4шт
KINGSTON UV500 SUV500/240G
NVidia GeForce GTX 1080Ti — 2шт

Серваки для обучения:
SuperMicro SSG-6028R-E1CR12N
Intel Xeon E5-2630v4 — 2шт
Kingston KVR24R17D4/32 — 8шт
Seagate ST600MP0006 — 2шт
Seagate ST1200MM0088 — 4шт
NVidia Titan V — 4шт
Re[2]: Skychain - нейросети, над которыми мы работаем
От: Qt-Coder http://qtcoder.blogspot.com
Дата: 02.04.19 12:51
Оценка:
Здравствуйте, Nuzhny, Вы писали:

N>2. Почему простатой занимается девушка, а раком груди — мальчик? Казалось бы, что для повышения мотивации их задачи надо поменять.

Ну мальчикам же интересно груди рассматривать, значит мотивация выше.
Я себя очень странно чувствовал — словно есть разница, в каком вагоне ехать.
Re: Skychain - нейросети, над которыми мы работаем
От: wamaco  
Дата: 02.04.19 19:15
Оценка:
Здравствуйте, sharpcoder, Вы писали:

S>Задачи, над которыми они работают:

S> https://www.youtube.com/watch?v=tyv0iIHl2GA

Помнится в школе, на уроке труда мы делали деревянные шкатулки, потом обжигали их, покрывали лаком и
"трудовик" ездил с ними в районный центр и торговал ими на местном рынке.
Иногда, когда подходило 8 марта,нам удавалась выпросить пару собственно сделанных шкатулок, для подарков маме и бабушке.

Вопрос: как у вас обстоят дела с "выносом" опыта из-за стенок компании?
Подписываете ли некое соглашение с сотрудниками о неразглашении тайны?
можно ли халтурить на сторону в рабочее время?
Re[3]: Skychain - нейросети, над которыми мы работаем
От: CodeMonkey  
Дата: 02.04.19 19:57
Оценка: :)
Здравствуйте, sharpcoder, Вы писали:

S> NVidia GeForce GTX 1080Ti — 2шт


Кстати, а почему nVidia? Насколько я слышал, майнеры предпочитают AMD — они вроде как лучше для вычислений.
Re[14]: Skychain - нейросети, над которыми мы работаем
От: Sharov Россия  
Дата: 03.04.19 12:01
Оценка:
Здравствуйте, Nuzhny, Вы писали:

N>Здравствуйте, Sharov, Вы писали:


S>>Работа по настройке на смазку или что? Остальное вроде все кроссплатыорменное.


N>Выйдет новый принцип обучения или работы нейросетей, Гугл выпустит версию для своих серверов с TPU и GPU, сделает поддержку в телефонах и забьёт на остальное. А остальное либо силами коммьюнити, либо Майкрософт впряжётся. Вы реально думаете, что они какие-то добрые ангелы, которые на блюдечке выкладывают вам первоклассные фреймворки? Где бы были нейросетевики, если бы не добрая воля Гугла и Фейсбука? (Ну и Майкрософт свои исследования пооткрывал, отдадим и им должное.) А толком нигде, сидели бы на первом Caffe с C++ или на Торче с lua. По факту ситуация в отрасли складывается сверхблагоприятная: тут тебе и железо Нвидиа подгоняет, и она же делает cuDNN, Интел тоже старается, корпорации выпускают фреймворки, университеты выкладывают бесплатные курсы. Бери — не хочу. Где и когда такое ещё было? В СССР? Вся эта отрасль сейчас держится на доброй воле корпораций.


Это все замечательно, но я про работу на смарку, если все изначально делается кроссплатформенно, т.е. на том же питоне? Все эти библиотеки на ОС же закладываются, хотя могут быть нюансы для железа типа GPU.
Но опять же все это будет спрятано от разработчика.
Кодом людям нужно помогать!
Re[15]: Skychain - нейросети, над которыми мы работаем
От: Nuzhny Россия https://github.com/Nuzhny007
Дата: 03.04.19 13:45
Оценка: 3 (1)
Здравствуйте, Sharov, Вы писали:

S>Это все замечательно, но я про работу на смарку, если все изначально делается кроссплатформенно, т.е. на том же питоне? Все эти библиотеки на ОС же закладываются, хотя могут быть нюансы для железа типа GPU.

S>Но опять же все это будет спрятано от разработчика.

Я о том, что всегда может быть случай, что выйдет новая версия фреймфорка, на которой запускаяется новая модная архитектура нейросети и у которого будет поддержка только, условно, Линукса и Андроида. Или новая версия видеокарт + CUDA, где надо будет собирать самому ветку master, чтобы поскорее выпустить в продакшен. И пойдёт прахом всё то, с чем мучались ранее при настройке.

Ну и на Питон я бы не закладывался во всех задачах. На С++ сейчас можно получить ускорение при обработке видео: декодирование на CUDA в видеопамять, копирование в input Tensor, который тоже в видеопамяти и запуск графа.
Как будет на Питоне: почти то же самое, но с промежуточным копированием в системную память и обратно между декодером и тензором. Официальная позиция — такое будет только в С++ API. То есть потенциально я на одном сервере с одной и той же моделью могу на С++ обрабатывать больше кадров или больше видеопотоков. Хотя казалось бы, что Питон в этой задаче не является узким местом, а работает просто как клей. Но не всё так просто.
https://elibrary.ru/author_counter.aspx?id=875549
Re[4]: Skychain - нейросети, над которыми мы работаем
От: sharpcoder Россия  
Дата: 03.04.19 14:09
Оценка: 10 (3)
Здравствуйте, CodeMonkey, Вы писали:

CM>Здравствуйте, sharpcoder, Вы писали:


S>> NVidia GeForce GTX 1080Ti — 2шт


CM>Кстати, а почему nVidia? Насколько я слышал, майнеры предпочитают AMD — они вроде как лучше для вычислений.


Вычисления для майнинга это совсем другая тема, в майнинге просто конвейер бесполезных операций, здесь нужно:
— большая и очень быстрая видео память, т.к. нейросетка должна вся в ней помещаться
— тензорные ядра дают очень значимый прирост производительности

В итоге у дорогого сервака 4 слота для видюшки, и ставить туда более дешевые но в несколько раз менее производительные карты AMD не рентабельно, т.к. общая стоимость сервака снизится скажем на 30% а производительность на 70%.
Re[5]: Skychain - нейросети, над которыми мы работаем
От: Nuzhny Россия https://github.com/Nuzhny007
Дата: 03.04.19 14:13
Оценка:
Здравствуйте, sharpcoder, Вы писали:

S> — тензорные ядра дают очень значимый прирост производительности


Почему вы тогда используете 1080Ti, у которых тензорных ядер нет? Переходите уже на 20хх!
https://elibrary.ru/author_counter.aspx?id=875549
Re[6]: Skychain - нейросети, над которыми мы работаем
От: sharpcoder Россия  
Дата: 03.04.19 15:20
Оценка:
Здравствуйте, Nuzhny, Вы писали:

N>Здравствуйте, sharpcoder, Вы писали:


S>> — тензорные ядра дают очень значимый прирост производительности


N>Почему вы тогда используете 1080Ti, у которых тензорных ядер нет? Переходите уже на 20хх!


Они только у разрабов, которым нужно проверить что нейросетка компилится и обучается , а уже само обучение на полном дата-сете закидывается на сервер.
Re[5]: Skychain - нейросети, над которыми мы работаем
От: CodeMonkey  
Дата: 03.04.19 15:47
Оценка:
Здравствуйте, sharpcoder, Вы писали:

S> — большая и очень быстрая видео память, т.к. нейросетка должна вся в ней помещаться


Vega VII — 16 Gb HBM2

S>В итоге у дорогого сервака 4 слота для видюшки, и ставить туда более дешевые но в несколько раз менее производительные карты AMD не рентабельно, т.к. общая стоимость сервака снизится скажем на 30% а производительность на 70%.


Понятно.

Еще такой вопрос. FPGA используете или планируете использовать? Или слышали, что кто-то использует?
Отредактировано 03.04.2019 16:28 CodeMonkey . Предыдущая версия .
Re[6]: Skychain - нейросети, над которыми мы работаем
От: sharpcoder Россия  
Дата: 04.04.19 10:04
Оценка: 6 (2)
Здравствуйте, CodeMonkey, Вы писали:

CM>Здравствуйте, sharpcoder, Вы писали:


S>> — большая и очень быстрая видео память, т.к. нейросетка должна вся в ней помещаться


CM>Vega VII — 16 Gb HBM2


Да может быть, но железом мы уже обеспечены под завязку.

S>>В итоге у дорогого сервака 4 слота для видюшки, и ставить туда более дешевые но в несколько раз менее производительные карты AMD не рентабельно, т.к. общая стоимость сервака снизится скажем на 30% а производительность на 70%.


CM>Понятно.


CM>Еще такой вопрос. FPGA используете или планируете использовать? Или слышали, что кто-то использует?


Не используем. Не слышали. О технологии читали, но не пробовали.
Мое мнение что FPGA будет востребовано во встраиваемых решениях, типа инференс непосредственно в камере наблюдения, или каком-то смарт датчике. Там где важен инференс на месте чтобы трафик rawdata не гонять, а ставить полноценный комп рядом с камерой не выгодно.

О том что FPGA может по мощности тягаться с мощными видюшками не слышал и пока не очень верю что сможет в ближайшие годы.

Я думаю, для рывка в области ИИ нужны другие архитектуры и решения, в которых искусственные нейроны не просто будут реализованы в железе, но и их устройство будет другим. Они всегда будут обучаться при каждом прохождении сигнала, они должны иметь память, работать автономно (как нейроны у животных от «нечего делать» могут общаться друг с другом), они должны при обучении менять свою активаторную функцию, должны быть общие воздействующие на работу нейронов сигналы (по типу дофаминов, эндорфинов, психоделиков) с помощью которых нейронная сеть должна подстраиваться под изменяющиеся условия реальности.
Исследователи во всем мире сейчас разрабатывают подобные идеи, результат я ожидаю лет через 15.
Re[3]: Skychain - нейросети, над которыми мы работаем
От: Nuzhny Россия https://github.com/Nuzhny007
Дата: 04.04.19 17:56
Оценка: +1
Здравствуйте, Слава, Вы писали:

С>Опытные инженеры-плюсовики понаписали такого кроссплатформенного софта, который только на убунте работает?


Ещё один привет виндузятнику Славе от Майкрософта. Сделала она игру TextWorld:

TextWorld requires Python 3 and only supports Linux and macOS systems at the moment.

Шах и мат!
Рассказывай теперь мне, как космические корабли под управлением Windows бороздят большой театр, когда сама Майкрософт для нейросетей её не использует. Sharpcoder'у на заметку.
https://elibrary.ru/author_counter.aspx?id=875549
Re: Skychain - нейросети, над которыми мы работаем
От: waterman  
Дата: 05.04.19 18:42
Оценка: 27 (2) +1
А как там насчёт ico? Я около 20к долларов вложил, я сильно лоханулся? По вашей реф ссылке кстати
Re[2]: Skychain - нейросети, над которыми мы работаем
От: uuuser  
Дата: 05.04.19 20:16
Оценка: +1 :))
Здравствуйте, waterman, Вы писали:

W>А как там насчёт ico? Я около 20к долларов вложил, я сильно лоханулся? По вашей реф ссылке кстати


забудь.
Re[3]: Skychain - нейросети, над которыми мы работаем
От: waterman  
Дата: 06.04.19 07:11
Оценка:
Да я и забыл уже, сумма-то небольшая, я даже точно и не помню, сколько. Но раз уж Геннадий тут радует успехами, почему бы не спросить.
Re[7]: Skychain - нейросети, над которыми мы работаем
От: CodeMonkey  
Дата: 06.04.19 17:27
Оценка:
Здравствуйте, sharpcoder, Вы писали:

Кстати, а какого размера у вас нейронные сети?
Re[7]: Skychain - нейросети, над которыми мы работаем
От: CodeMonkey  
Дата: 16.04.19 23:47
Оценка:
Здравствуйте, sharpcoder, Вы писали:

Так можно примерно узнать, какой примерно размер сети и объем данных может реально потянуть GTX 1080Ti?
Re[4]: Skychain - нейросети, над которыми мы работаем
От: falcoware https://falcoware.com
Дата: 17.04.19 05:34
Оценка: :)
W>Да я и забыл уже, сумма-то небольшая, я даже точно и не помню, сколько. Но раз уж Геннадий тут радует успехами, почему бы не спросить.

Мавроди нервно курит в сторонке.
Re[2]: Skychain - нейросети, над которыми мы работаем
От: Kernan Ниоткуда https://rsdn.ru/forum/flame.politics/
Дата: 17.04.19 09:24
Оценка:
Здравствуйте, waterman, Вы писали:

W>А как там насчёт ico? Я около 20к долларов вложил, я сильно лоханулся? По вашей реф ссылке кстати

Они в телеге активно отвечают. Проблема пока такая — нет релаьного контракта и хотя бы одной реальной денежной транзакции через их систему.
Sic luceat lux!
Отредактировано 17.04.2019 9:31 Kernan . Предыдущая версия .
Re[4]: Skychain - нейросети, над которыми мы работаем
От: furnow  
Дата: 24.04.19 14:27
Оценка:
Здравствуйте, waterman, Вы писали:

W>Да я и забыл уже, сумма-то небольшая, я даже точно и не помню, сколько. Но раз уж Геннадий тут радует успехами, почему бы не спросить.


ну разве что сумма для тебя действительно плевая, то можно просто так ее выбросить, хотя даже миллионеры не склонны к такому неуважительному отношению к деньгам
но, как по мне, то лучше было бы купить какие-то сверх-дешевые акции какой-то маленькой компании, а вось выстрелит в 20 раз, и то риски меньше
Подождите ...
Wait...
Пока на собственное сообщение не было ответов, его можно удалить.