Здравствуйте, Hоmunculus, Вы писали:
H>Ты в нейронках сам в видюху не лезешь, все фреймворки делают
Не везде и не всегда.
0. Это старый пример, но самый популярный детектор объектов YOLO написан был одним человеком и пережил несколько реинкарнаций только на С + CUDA: раз, два, три.
1. В половине известных программ для LLM лежит в основе llama.cpp, которую просто для себя сделал Georgi Gerganov. Теперь это перешло под крыло Huggingface.
2. Можно посмотреть, что регулярно выпускает antirez.
3. Ну или по классике Fabrice Bellard тоже пишет свои имплементации нейросетей.
4. Нужны молодые и модные — Andrej karpathy реализует все те же LLM.
5. Ещё могу поперечислять, если интересно.
Всё это говорит о том, что реализация этого дела не такая и сложная, область молодая, под конкретное устройство senior GPU developer может написать свою конкретную реализацию так, что она обгонит все текущие general фреймворки. Ну и такие проекты регулярно выходят и становятся популярными. Не говоря уже о компаниях, которые пилят свои закрытые решения и никому их не показывают — таких тоже парочку знаю в РФ.
Здравствуйте, sergey2b, Вы писали:
S>посоветуйте что можно написать на “Senior GPU Engineer” project S>что бы можно было показать на собеседованиях
S>а то то что я расказываю с последней работы не производит вау эффекта
Раньше было модно что-то из криптовалют на gpu писать типа майнера, сейчас я бы что-нибудь для нейросети сделал
S> посоветуйте что можно написать на “Senior GPU Engineer” project S> что бы можно было показать на собеседованиях
S> а то то что я расказываю с последней работы не производит вау эффекта
Юниор:
1) знание архитектур GPU
2) знание наборов инструкций
3) знание стандартов (SPIR-V и т.п.)
4) знание тулинга (какие есть программы-компиляторы, какие у них команды)
5) знание библиотек
6) знание алгоритмов (базовые для работы с видеокартой)
7) интегрированность в процесс разработки (git, jira и прочий CI)
8) знание прикладных алгоритмов, которые нужны заказчику в его области деятельности
Миддл:
знание области деятельности (чтобы понимать, какие задачи нужны, какие не нужны)
Сеньёр:
обучающие курсы для юниоров и для мидлов.
Здравствуйте, sergey2b, Вы писали:
S>а то то что я расказываю с последней работы не производит вау эффекта
Говорят, сейчашние GPU (которые для нейронок, а не картинки рисовать) упираются в то, как развести между памятью и вычислителями такие потоки данных, с которыми они оперируют.
Здравствуйте, __kot2, Вы писали:
S>>а то то что я расказываю с последней работы не производит вау эффекта __>Раньше было модно что-то из криптовалют на gpu писать типа майнера, сейчас я бы что-нибудь для нейросети сделал
Ты в нейронках сам в видюху не лезешь, все фреймворки делают
Здравствуйте, __kot2, Вы писали:
S>>а то то что я расказываю с последней работы не производит вау эффекта __>Раньше было модно что-то из криптовалют на gpu писать типа майнера, сейчас я бы что-нибудь для нейросети сделал
с майнерами я не хочу связываться
я показал пример связанный енкодиром видео и zero-copy GPU buffers, сказали не круто надо что то связанное с вычислениями
Здравствуйте, Pzz, Вы писали:
Pzz>Здравствуйте, sergey2b, Вы писали:
S>>а то то что я расказываю с последней работы не производит вау эффекта
Pzz>Говорят, сейчашние GPU (которые для нейронок, а не картинки рисовать) упираются в то, как развести между памятью и вычислителями такие потоки данных, с которыми они оперируют.
Да не обязательно. Сейчас сами нейронки могут иметь сжатое (например сильно разреженное)представление и можно делать кастомный код на gpu который работают прямо на сжатом представлении.
Здравствуйте, Hоmunculus, Вы писали:
S>>>а то то что я расказываю с последней работы не производит вау эффекта __>>Раньше было модно что-то из криптовалют на gpu писать типа майнера, сейчас я бы что-нибудь для нейросети сделал H>Ты в нейронках сам в видюху не лезешь, все фреймворки делают
О том и речь, спуститься на этот уровень. Чем не показатель сеньерности в гпу?
Здравствуйте, sergey2b, Вы писали:
S>а то то что я расказываю с последней работы не производит вау эффекта
Ты просто неправильно это преподносишь. Если надо достичь ВАУ эффекта нужно в презентации давить на эмоции и на важные для аудитории показатели.
Здравствуйте, sergey2b, Вы писали:
S>посоветуйте что можно написать на “Senior GPU Engineer” project S>а то то что я расказываю с последней работы не производит вау эффекта
Сколько раз слово "AI" встречается в твоём резюме? 🤖
Здравствуйте, Артём, Вы писали:
Аё>Сколько раз слово "AI" встречается в твоём резюме? 🤖
три раза
AI для детектирования что у человека в руках
AI для детектирования заболеваний в полости человека
AI для детектирования по видео стадии операции