Здравствуйте, Shmj, Вы писали:
S>Пишут — вроде норм. вариант для отдельных нейросеток: S>Еще Nvidia Tesla V100.
Если не убита криптой или не кривая переделка, то вполне нормальная карта.
Здравствуйте, Vzhyk2, Вы писали:
S>>NVIDIA Tesla P40 S>>Еще Nvidia Tesla V100.
V>Если не убита криптой или не кривая переделка, то вполне нормальная карта.
Здравствуйте, Shmj, Вы писали:
S>Я за них дергать не буду. Но пишут что вроде Stable Diffusion их юзает и из-за карты без яиц — скорость выдачи картинок будет в 2 раза ниже.
Тогда смотри тесты твоего софта на разных карточках, как он умеет использовать архитектуры, ядра и какие, память и т.п.
Здравствуйте, Shmj, Вы писали:
S>Еще Nvidia Tesla V100.
S>Кто что скажет?
Обе плохие. Ну V100 особенно версия 32GB получше (16GB за копейки отдают, не очень нужна).
У P40 пропускная памяти 346GB/s, архитектура древнючая. На более новой архитектуре 3090 c теми же 24GB интереснее, в 3 раза по пропускной быстрее (раза в 2-3 дороже), еще и по архитектуре скорее все будет норм запускаться.
Интересные только V100 которые 32GB и которые в виде блока с 4 картами идут где все соединены NVlink и затем этот отдельный корпус с блоком питания к PCI-e компа подключается гибким кабелем. Увы, там поколение Volta, что тоже сильно старое и ценники на такое пока высоковаты.
Более заточенное под LLM начинается с поколения Ampere, и в принципе достаточно сильно заточилось на поколении Ada Lovelace, что следующее поколение особо не добавит. Т.е. одна карточка 4090 переделанная на 48GB сильно интереснее чем системник в который напихали кучу старого г. Поэтому и стоит скорее совсем неадекватно, ведь вышло поколение 5***, но странно что старая карта может стоить даже дороже.
Здравствуйте, Vzhyk2, Вы писали:
S>>Какая из? Пишут нет тензорных ядер каких-то. V>А ты знаешь зачем тебе эти тензорные яйца?
Там не только в этом. Нет поддержки float16, int4. Не поддерживается последняя CUDA, то есть надо будет сидеть на старых библиотеках. И вот вся эта куча приведёт к тому, что то одна, то другая сеть или запускаться не будет, или работать в несколько раз медленнее на и так не быстрой карточке.
Здравствуйте, Nuzhny, Вы писали:
V>>А ты знаешь зачем тебе эти тензорные яйца? N>Там не только в этом. Нет поддержки float16, int4. Не поддерживается последняя CUDA, то есть надо будет сидеть на старых библиотеках. И вот вся эта куча приведёт к тому, что то одна, то другая сеть или запускаться не будет, или работать в несколько раз медленнее на и так не быстрой карточке.
Мне архитектуры Pasсal хватает для тех небольших нейронок, что я делаю иногда.
З.Ы. Понимаю, что тебе поспорить просто хочется, причем на пустом месте, причем с вопросом челу, понимает ли он зачем ему эти тензорные яйца ему. Наверное ты лучше Шимжи знаешь, что нужно и не нужно Шимже.
Здравствуйте, Vzhyk2, Вы писали:
V>Мне архитектуры Pasсal хватает для тех небольших нейронок, что я делаю иногда.
О, круто! Поздравляю.
V>З.Ы. Понимаю, что тебе поспорить просто хочется, причем на пустом месте, причем с вопросом челу, понимает ли он зачем ему эти тензорные яйца ему. Наверное ты лучше Шимжи знаешь, что нужно и не нужно Шимже.
Я и правда думаю, что знаю лучше. Примерно как врач лучше знает, что нужно пациенту.
Здравствуйте, Nuzhny, Вы писали:
N>Я и правда думаю, что знаю лучше. Примерно как врач лучше знает, что нужно пациенту.
Даже представил: "Пациент Шимжа на приеме у врача Нужного".
Ты бы это, таки вылечил Шимжу наконец. Он реально достал тут многих со своим заболеванием.
Здравствуйте, Nuzhny, Вы писали:
N>Я и правда думаю, что знаю лучше. Примерно как врач лучше знает, что нужно пациенту.
Ну то такое. Пример так себе. Не раз видал врачей, которые шарили в болезнях пациента хуже самого пациента (он то с ней уже не один год) и даже хуже нейронки.
Есть логика намерений и логика обстоятельств, последняя всегда сильнее.
Здравствуйте, Vzhyk2, Вы писали:
V>Даже представил: "Пациент Шимжа на приеме у врача Нужного".
Давайте обойдёмся без перехода на личности. Давайте по делу. Сопоставлять лучше факты. А кому что надо он сам решит. Сюда люди за инфой приходят, а не за обсуждением своей персоны и своих слов.
Есть логика намерений и логика обстоятельств, последняя всегда сильнее.
