Здравствуйте, Hоmunculus, Вы писали:

H>Ты в нейронках сам в видюху не лезешь, все фреймворки делают

Не везде и не всегда.
0. Это старый пример, но самый популярный детектор объектов YOLO написан был одним человеком и пережил несколько реинкарнаций только на С + CUDA: раз, два, три.
1. В половине известных программ для LLM лежит в основе llama.cpp, которую просто для себя сделал Georgi Gerganov. Теперь это перешло под крыло Huggingface.
2. Можно посмотреть, что регулярно выпускает antirez.
3. Ну или по классике Fabrice Bellard тоже пишет свои имплементации нейросетей.
4. Нужны молодые и модные — Andrej karpathy реализует все те же LLM.
5. Ещё могу поперечислять, если интересно.

Всё это говорит о том, что реализация этого дела не такая и сложная, область молодая, под конкретное устройство senior GPU developer может написать свою конкретную реализацию так, что она обгонит все текущие general фреймворки. Ну и такие проекты регулярно выходят и становятся популярными. Не говоря уже о компаниях, которые пилят свои закрытые решения и никому их не показывают — таких тоже парочку знаю в РФ.