CuDnn для Win32
От: Vicul  
Дата: 13.03.24 05:46
Оценка: +1
Нужно собрать последний Opencv 4.9 с поддержкой CUDA для 32-разрядного приложения для 10 Windows. По видеокарте нахожу соответствующую версию CUDA toolkit
и с архива вытаскиваю CuDnn zip для этого тулкита. Раскрываю архив, а там все для х64 и нет ничего для Win32. Выходит, что работать с opencv через CUDA
мне надо переводить программу на х64?
Re: CuDnn для Win32
От: kov_serg Россия  
Дата: 13.03.24 09:41
Оценка: 2 (1)
Здравствуйте, Vicul, Вы писали:

V>Нужно собрать последний Opencv 4.9 с поддержкой CUDA для 32-разрядного приложения для 10 Windows. По видеокарте нахожу соответствующую версию CUDA toolkit

V>и с архива вытаскиваю CuDnn zip для этого тулкита. Раскрываю архив, а там все для х64 и нет ничего для Win32.
А вы чего хотели? Расизм

V>Выходит, что работать с opencv через CUDA мне надо переводить программу на х64?

Или двигайтесь по течению, или придётся прикладывать немалые усилия для движения не по магистрали.

ps: Но с другой стороны вам же надо hpc. Почему он у вас 32бит да еще и windows?
Re[2]: CuDnn для Win32
От: Vicul  
Дата: 13.03.24 09:52
Оценка:
_>Или двигайтесь по течению, или придётся прикладывать немалые усилия для движения не по магистрали.

Я уже пропарсил этот список, везде только x64


_>ps: Но с другой стороны вам же надо hpc. Почему он у вас 32бит да еще и windows?


По наследству досталось
Re[3]: CuDnn для Win32
От: kov_serg Россия  
Дата: 13.03.24 10:10
Оценка:
Здравствуйте, Vicul, Вы писали:

_>>ps: Но с другой стороны вам же надо hpc. Почему он у вас 32бит да еще и windows?

V>По наследству досталось
Тогда OPENCV_DNN_CUDA=OFF
Re: CuDnn для Win32
От: Nuzhny Россия https://github.com/Nuzhny007
Дата: 13.03.24 10:36
Оценка: 2 (1)
Здравствуйте, Vicul, Вы писали:

V>мне надо переводить программу на х64?


Разумеется, да. И тут дело не только в том, что кому-то там лень писать под 32 бита. Но если просто посмотреть на размер бинарников, сразу станет ясно, что 32 бита просто мало по максимальному объёму памяти. CUDA + cuDNN — это библиотеки-монстры, которые собраны с поддержкой овердофига архитектур, исходники закрыты, там ничего не вырезать. Их оптимизации — это сделать отложенную загрузку библиотек, чтобы при старте не сильно тормозило. Если OpenCV можно ещё как-то конфигурировать при сборке и ограничивать, то библиотеки от Nvidia просто есть и ничего с этим не сделать.
А теперь будем смотреть, что программа делает и сколько памяти будут занимать данные. А данные в хост-памяти будут такого же объёма, а то и вдвое больше, чем в видеопамяти. Сможете уложиться?
Только решив все эти проблемы можно начать думать о поиске правильных библиотек.
Re[4]: CuDnn для Win32
От: Vicul  
Дата: 13.03.24 11:04
Оценка:
V>>По наследству досталось
_>Тогда OPENCV_DNN_CUDA=OFF

Отключил, Cмаке выдал ошибку

CMake Error: The following variables are used in this project, but they are set to NOTFOUND.
Please set them or make sure they are set and tested correctly in the CMake files:
CUDA_cublas_LIBRARY (ADVANCED)


Полез в установленный тулкит, cublas есть только в х64. Короче, криво выходит, буду искать другие решения
Re[5]: CuDnn для Win32
От: Nuzhny Россия https://github.com/Nuzhny007
Дата: 13.03.24 11:20
Оценка: 2 (1)
Здравствуйте, Vicul, Вы писали:

V>Полез в установленный тулкит, cublas есть только в х64. Короче, криво выходит, буду искать другие решения


Самый простой способ — сделать стороннее х64 приложение: сервис это будет сетевой или консольная програмка — пофиг.
Re[2]: CuDnn для Win32
От: Vicul  
Дата: 13.03.24 11:28
Оценка:
N>А теперь будем смотреть, что программа делает и сколько памяти будут занимать данные. А данные в хост-памяти будут такого же объёма, а то и вдвое больше, чем в видеопамяти. Сможете уложиться?

Буду искать другое решение, очень криво все выходит, прога для пенсов и домохозяек, проект не предусматривает покупку дополнительного железа.
Предыдущая верисия программы на 3 опенсв более менее работает, для новых свойств в проге надо что то думать.
Всем спасибо
Re[6]: CuDnn для Win32
От: Vicul  
Дата: 13.03.24 11:33
Оценка:
N>Самый простой способ — сделать стороннее х64 приложение: сервис это будет сетевой или консольная програмка — пофиг.

Подумаю, хотя у меня уже такая х64 примочка уже стоит на видео потоке. Проще наверно всю прогу перевести на 64 бита.
Re[3]: CuDnn для Win32
От: Nuzhny Россия https://github.com/Nuzhny007
Дата: 13.03.24 12:02
Оценка: 2 (1)
Здравствуйте, Vicul, Вы писали:

V>Предыдущая верисия программы на 3 опенсв более менее работает, для новых свойств в проге надо что то думать.


Если это нейросети, то можно попробовать их квантовать и запускать на CPU через OpenVINO, будет полегче в плане потребления памяти. Весь инструментарий там есть.
 
Подождите ...
Wait...
Пока на собственное сообщение не было ответов, его можно удалить.