Здравствуйте, Vzhyk2, Вы писали:

Аё>>Когда inferrence крутится на GPU- весь графический стек останавливается и ждёт, это выглядит как будто система наглухо зависла.
V>Это где так у тебя?
Один взгляд лучше тысячи слов https://microsoft.github.io/onnxruntime-web-demo/#/yolo запусти камеру и сравни отзывчивость при GPU и при Webasm.


V>Периодически обучаю сетки на 1080 с загрузкой по их утилите в 90-95% — вообще не влияет на остальную ось (а да, игры не запустятся и упадут или движок нейронки упадет).
Я не обучал сетки- возможно обучалки умеют отправлять задачи достаточно маленькими, чтобы GPU отвис до следующего кадра отрисовки.

V>Правда я на линухе обитаю. Про винду не скажу.
Я сижу на Fedora Linux 40- поведение одинаковое что десктоп, что андроид, что ios.

Здравствуйте, Vzhyk2, Вы писали:

Аё>>Когда inferrence крутится на GPU- весь графический стек останавливается и ждёт, это выглядит как будто система наглухо зависла.
V>Это где так у тебя?
Один взгляд лучше тысячи слов https://microsoft.github.io/onnxruntime-web-demo/#/yolo запусти камеру и сравни отзывчивость при GPU и при Webasm.
Upd — запусти динамичный видос в ютубе. При GPU его fps просядет. Я смотрю на ноуте с встройкой.


V>Периодически обучаю сетки на 1080 с загрузкой по их утилите в 90-95% — вообще не влияет на остальную ось (а да, игры не запустятся и упадут или движок нейронки упадет).
Я не обучал сетки- возможно обучалки умеют отправлять задачи достаточно маленькими, чтобы GPU отвис до следующего кадра отрисовки.

V>Правда я на линухе обитаю. Про винду не скажу.
Я сижу на Fedora Linux 40- поведение одинаковое что десктоп, что андроид, что ios.