Здравствуйте, Артём, Вы писали:

Аё>По моему опыту, нейронки 100% бегают на проце, особенно бодренько с avx512,
На openvino? Редкий зверь, но возможно, что те нейронки, что ты юзаешь на него портированы.
Ну и еще предупрежу, AVX512 еще тот обогреватель.