Re: Коробочка для локальных LLM
От: swame  
Дата: 10.01.25 09:31
Оценка:
Здравствуйте, Артём, Вы писали:

Аё>HP Z2 Mini G1a

Аё>https://www.hp.com/us-en/workstations/z2-mini-a.html

Аё>Наверное, будет стоить неприлично дорого как workstation.

Аё>

А размеры и вес где-то написаны? Это побольше тех коробочек которые ты собрался покупать.
Мы покупали лет 7 назад HP на Corei7 подобного размера несколько штук, примерно 28x28x12, хорошая вещь,
стоила в пределах $1000
Если это опять 15x15x5 то фтопку.
Судя по картинке где-то между этими размерами.
Засунуть в такой размер топовый процессор для длительной нагрузки плохая идея.
РАзве только чтобы был

Аё>Ryzen AI Max+ Pro 395 teamed with 128GB LPDDR5X

Аё>128, Карл, из которых 96 можно отдать под GPU, и гонять inference LLM-к, которые 4090 укакивается запихнуть в VRAM. В маленькой коробочке- клоне мак мини, но с любимым линухом вместо анально-плагной макоси.

Аё>Круто же?
Отредактировано 10.01.2025 12:21 swame . Предыдущая версия . Еще …
Отредактировано 10.01.2025 9:51 swame . Предыдущая версия .
Отредактировано 10.01.2025 9:49 swame . Предыдущая версия .
Отредактировано 10.01.2025 9:35 swame . Предыдущая версия .
Отредактировано 10.01.2025 9:33 swame . Предыдущая версия .
Отредактировано 10.01.2025 9:31 swame . Предыдущая версия .
 
Подождите ...
Wait...
Пока на собственное сообщение не было ответов, его можно удалить.