Сообщение Re: Коробочка для локальных LLM от 10.01.2025 9:31
Изменено 10.01.2025 9:51 swame
Re: Коробочка для локальных LLM
Здравствуйте, Артём, Вы писали:
Аё>HP Z2 Mini G1a
Аё>https://www.hp.com/us-en/workstations/z2-mini-a.html
Аё>Наверное, будет стоить неприлично дорого как workstation.
Аё>
А размеры и вес где-то написаны? Это побольше тех коробочек которые ты собрался покупать.
Мы покупали лет 7 назад HP на Corei7 подобного размера несколько штук, примерно 28x28x10, хорошая вещь,
стоила в пределах $1000
Если это опять 15x15x5 то фтопку.
Судя по картинке где-то между этими размерами.
Засунуть в такой размер топовый процессор для постоянной нагрузки плохая идея.
РАзве только чтобы был
Аё>Ryzen AI Max+ Pro 395 teamed with 128GB LPDDR5X
Аё>128, Карл, из которых 96 можно отдать под GPU, и гонять inference LLM-к, которые 4090 укакивается запихнуть в VRAM. В маленькой коробочке- клоне мак мини, но с любимым линухом вместо анально-плагной макоси.
Аё>Круто же?
Аё>HP Z2 Mini G1a
Аё>https://www.hp.com/us-en/workstations/z2-mini-a.html
Аё>Наверное, будет стоить неприлично дорого как workstation.
Аё>
А размеры и вес где-то написаны? Это побольше тех коробочек которые ты собрался покупать.
Мы покупали лет 7 назад HP на Corei7 подобного размера несколько штук, примерно 28x28x10, хорошая вещь,
стоила в пределах $1000
Если это опять 15x15x5 то фтопку.
Судя по картинке где-то между этими размерами.
Засунуть в такой размер топовый процессор для постоянной нагрузки плохая идея.
РАзве только чтобы был
Аё>Ryzen AI Max+ Pro 395 teamed with 128GB LPDDR5X
Аё>128, Карл, из которых 96 можно отдать под GPU, и гонять inference LLM-к, которые 4090 укакивается запихнуть в VRAM. В маленькой коробочке- клоне мак мини, но с любимым линухом вместо анально-плагной макоси.
Аё>Круто же?
Re: Коробочка для локальных LLM
Здравствуйте, Артём, Вы писали:
Аё>HP Z2 Mini G1a
Аё>https://www.hp.com/us-en/workstations/z2-mini-a.html
Аё>Наверное, будет стоить неприлично дорого как workstation.
Аё>
А размеры и вес где-то написаны? Это побольше тех коробочек которые ты собрался покупать.
Мы покупали лет 7 назад HP на Corei7 подобного размера несколько штук, примерно 28x28x12, хорошая вещь,
стоила в пределах $1000
Если это опять 15x15x5 то фтопку.
Судя по картинке где-то между этими размерами.
Засунуть в такой размер топовый процессор для постоянной нагрузки плохая идея.
РАзве только чтобы был
Аё>Ryzen AI Max+ Pro 395 teamed with 128GB LPDDR5X
Аё>128, Карл, из которых 96 можно отдать под GPU, и гонять inference LLM-к, которые 4090 укакивается запихнуть в VRAM. В маленькой коробочке- клоне мак мини, но с любимым линухом вместо анально-плагной макоси.
Аё>Круто же?
Аё>HP Z2 Mini G1a
Аё>https://www.hp.com/us-en/workstations/z2-mini-a.html
Аё>Наверное, будет стоить неприлично дорого как workstation.
Аё>
А размеры и вес где-то написаны? Это побольше тех коробочек которые ты собрался покупать.
Мы покупали лет 7 назад HP на Corei7 подобного размера несколько штук, примерно 28x28x12, хорошая вещь,
стоила в пределах $1000
Если это опять 15x15x5 то фтопку.
Судя по картинке где-то между этими размерами.
Засунуть в такой размер топовый процессор для постоянной нагрузки плохая идея.
РАзве только чтобы был
Аё>Ryzen AI Max+ Pro 395 teamed with 128GB LPDDR5X
Аё>128, Карл, из которых 96 можно отдать под GPU, и гонять inference LLM-к, которые 4090 укакивается запихнуть в VRAM. В маленькой коробочке- клоне мак мини, но с любимым линухом вместо анально-плагной макоси.
Аё>Круто же?