Наиболее удачное железо для нейросетей
От: Shmj Ниоткуда  
Дата: 29.03.24 12:44
Оценка: :))) :)
Какое железо лучше взять для нейросетей? Кто решал?
Re: Наиболее удачное железо для нейросетей
От: Vzhyk2  
Дата: 30.03.24 06:27
Оценка:
Здравствуйте, Shmj, Вы писали:

S>Какое железо лучше взять для нейросетей? Кто решал?

Для серьезной работы нвидия производит сервера и кластеры из серверных компом и своих GPU карт.
На их сайте найдешь.
Re[2]: Наиболее удачное железо для нейросетей
От: Shmj Ниоткуда  
Дата: 30.03.24 06:54
Оценка:
Здравствуйте, Vzhyk2, Вы писали:

S>>Какое железо лучше взять для нейросетей? Кто решал?

V>Для серьезной работы нвидия производит сервера и кластеры из серверных компом и своих GPU карт.
V>На их сайте найдешь.

А вы что используете то?
Re[3]: Наиболее удачное железо для нейросетей
От: Mihal9  
Дата: 30.03.24 07:43
Оценка:
Здравствуйте, Shmj, Вы писали:


S>А вы что используете то?


А Vzhyk2 только трепется.
Re: Наиболее удачное железо для нейросетей
От: Michael7 Россия  
Дата: 30.03.24 12:02
Оценка: 6 (1) +1
Здравствуйте, Shmj, Вы писали:

S>Какое железо лучше взять для нейросетей? Кто решал?


Смотря какие потребности. Чем собираешься заняться и какой бюджет. Если, например, учиться нейросетям и бюджет не слишком большой, то минимум выбираешь видеокарточку с 16 Гб памяти, в крайнем случае 12 Гб — nvidia rtx 4060 с 16 Гб, nvidia rtx 3060 с 12 Гб, можно AMD RX 6000 — й или 7000 — й серии с аналогичными требованиями к памяти, CPU хотя бы 4-6-ти ядерный не самый древний и вперед. Стандарт де-факто для нейросетей карты Nvidia, соответственно с настройкой работы под AMD придется немного потрахаться (в частности использовать только линукс и не любой, не все фреймворки поддерживаются), но вполне может устроить (меня устроило). Хотя и под Nvidia не все гладко из коробки, например, некоторые фреймворки для работы с cuda, в любом случае (хоть amd, хоть nvidia) требуют скачать специальную версию.

Если бюджета хватает, то берешь вк RTX 4090 и остальное, чтобы примерно соответствовало, короче нормальный игровой комп собираешь Если бюджета совсем хватает, то RTX A6000-ю бери с 48Гб. Есть нейросетки, которым нужно много обычной RAM, например 192 Гб и более. Короче все от задач сильно зависит.

Но может прежде чем тратиться на не самые дешевые вещи есть смысл арендовать сервер с GPU и посмотреть как оно работает и что нужно.
Re: Наиболее удачное железо для нейросетей
От: Артём Австралия жж
Дата: 02.04.24 03:10
Оценка:
Здравствуйте, Shmj, Вы писали:

S>Какое железо лучше взять для нейросетей? Кто решал?


Для чатгопоты не нужно хостящее железо.Более того- afaik для индивидуалок некоммерческое использование бесплатно- в облаках OpenAI.

Ты строчишь так много сообщений и все бессмысленные, что ChatGPT это реальный помощник. А может быть, ты уже его используешь для флуда?
Re[2]: Наиболее удачное железо для нейросетей
От: Mihal9  
Дата: 02.04.24 04:59
Оценка:
Здравствуйте, Michael7, Вы писали:


M>Но может прежде чем тратиться на не самые дешевые вещи есть смысл арендовать сервер с GPU и посмотреть как оно работает и что нужно.



Я пользовался selectel, ощущения — негативные
 
Подождите ...
Wait...
Пока на собственное сообщение не было ответов, его можно удалить.