Re: CuDnn для Win32
От: kov_serg Россия  
Дата: 13.03.24 09:41
Оценка: 2 (1)
Здравствуйте, Vicul, Вы писали:

V>Нужно собрать последний Opencv 4.9 с поддержкой CUDA для 32-разрядного приложения для 10 Windows. По видеокарте нахожу соответствующую версию CUDA toolkit

V>и с архива вытаскиваю CuDnn zip для этого тулкита. Раскрываю архив, а там все для х64 и нет ничего для Win32.
А вы чего хотели? Расизм

V>Выходит, что работать с opencv через CUDA мне надо переводить программу на х64?

Или двигайтесь по течению, или придётся прикладывать немалые усилия для движения не по магистрали.

ps: Но с другой стороны вам же надо hpc. Почему он у вас 32бит да еще и windows?
Re: CuDnn для Win32
От: Nuzhny Россия https://github.com/Nuzhny007
Дата: 13.03.24 10:36
Оценка: 2 (1)
Здравствуйте, Vicul, Вы писали:

V>мне надо переводить программу на х64?


Разумеется, да. И тут дело не только в том, что кому-то там лень писать под 32 бита. Но если просто посмотреть на размер бинарников, сразу станет ясно, что 32 бита просто мало по максимальному объёму памяти. CUDA + cuDNN — это библиотеки-монстры, которые собраны с поддержкой овердофига архитектур, исходники закрыты, там ничего не вырезать. Их оптимизации — это сделать отложенную загрузку библиотек, чтобы при старте не сильно тормозило. Если OpenCV можно ещё как-то конфигурировать при сборке и ограничивать, то библиотеки от Nvidia просто есть и ничего с этим не сделать.
А теперь будем смотреть, что программа делает и сколько памяти будут занимать данные. А данные в хост-памяти будут такого же объёма, а то и вдвое больше, чем в видеопамяти. Сможете уложиться?
Только решив все эти проблемы можно начать думать о поиске правильных библиотек.
Re[5]: CuDnn для Win32
От: Nuzhny Россия https://github.com/Nuzhny007
Дата: 13.03.24 11:20
Оценка: 2 (1)
Здравствуйте, Vicul, Вы писали:

V>Полез в установленный тулкит, cublas есть только в х64. Короче, криво выходит, буду искать другие решения


Самый простой способ — сделать стороннее х64 приложение: сервис это будет сетевой или консольная програмка — пофиг.
Re[3]: CuDnn для Win32
От: Nuzhny Россия https://github.com/Nuzhny007
Дата: 13.03.24 12:02
Оценка: 2 (1)
Здравствуйте, Vicul, Вы писали:

V>Предыдущая верисия программы на 3 опенсв более менее работает, для новых свойств в проге надо что то думать.


Если это нейросети, то можно попробовать их квантовать и запускать на CPU через OpenVINO, будет полегче в плане потребления памяти. Весь инструментарий там есть.
CuDnn для Win32
От: Vicul  
Дата: 13.03.24 05:46
Оценка: +1
Нужно собрать последний Opencv 4.9 с поддержкой CUDA для 32-разрядного приложения для 10 Windows. По видеокарте нахожу соответствующую версию CUDA toolkit
и с архива вытаскиваю CuDnn zip для этого тулкита. Раскрываю архив, а там все для х64 и нет ничего для Win32. Выходит, что работать с opencv через CUDA
мне надо переводить программу на х64?
Re[2]: CuDnn для Win32
От: Vicul  
Дата: 13.03.24 09:52
Оценка:
_>Или двигайтесь по течению, или придётся прикладывать немалые усилия для движения не по магистрали.

Я уже пропарсил этот список, везде только x64


_>ps: Но с другой стороны вам же надо hpc. Почему он у вас 32бит да еще и windows?


По наследству досталось
Re[3]: CuDnn для Win32
От: kov_serg Россия  
Дата: 13.03.24 10:10
Оценка:
Здравствуйте, Vicul, Вы писали:

_>>ps: Но с другой стороны вам же надо hpc. Почему он у вас 32бит да еще и windows?

V>По наследству досталось
Тогда OPENCV_DNN_CUDA=OFF
Re[4]: CuDnn для Win32
От: Vicul  
Дата: 13.03.24 11:04
Оценка:
V>>По наследству досталось
_>Тогда OPENCV_DNN_CUDA=OFF

Отключил, Cмаке выдал ошибку

CMake Error: The following variables are used in this project, but they are set to NOTFOUND.
Please set them or make sure they are set and tested correctly in the CMake files:
CUDA_cublas_LIBRARY (ADVANCED)


Полез в установленный тулкит, cublas есть только в х64. Короче, криво выходит, буду искать другие решения
Re[2]: CuDnn для Win32
От: Vicul  
Дата: 13.03.24 11:28
Оценка:
N>А теперь будем смотреть, что программа делает и сколько памяти будут занимать данные. А данные в хост-памяти будут такого же объёма, а то и вдвое больше, чем в видеопамяти. Сможете уложиться?

Буду искать другое решение, очень криво все выходит, прога для пенсов и домохозяек, проект не предусматривает покупку дополнительного железа.
Предыдущая верисия программы на 3 опенсв более менее работает, для новых свойств в проге надо что то думать.
Всем спасибо
Re[6]: CuDnn для Win32
От: Vicul  
Дата: 13.03.24 11:33
Оценка:
N>Самый простой способ — сделать стороннее х64 приложение: сервис это будет сетевой или консольная програмка — пофиг.

Подумаю, хотя у меня уже такая х64 примочка уже стоит на видео потоке. Проще наверно всю прогу перевести на 64 бита.
 
Подождите ...
Wait...
Пока на собственное сообщение не было ответов, его можно удалить.