Здравствуйте, x-code, Вы писали:

XC>компьютер относительно старый: AMD Ryzen 7 2700, GIGABYTE B450M H, 32Gb RAM, несколько hdd и ssd, блок питания 600W.

XC>просто выскажите свои мнения, как бы вы поступили.

Вполне запустится Qwen3-Coder-30B-A3B-Instruct-Q8_0 даже с минимальной видюхой 1070. Видюха около топовая но древняя — необходима для pp, для старого железа пойдет любая, но лучше получше.
В целом требуется очень многоканальная память и лучше бы DDR5 + топовая с большой пропускной способностью видюха, хватит 1080ti/2080/3080. Либо куча топовых выдюх где памяти хватит... но стоит это очень много...

Тебе не хватит даже если продать почку на — NVIDIA DGX B200 8× B200 SXM 180GB
И это устареет через год... Через два года продать такое — за 1/10.

Здравствуйте, x-code, Вы писали:

XC>компьютер относительно старый: AMD Ryzen 7 2700, GIGABYTE B450M H, 32Gb RAM, несколько hdd и ssd, блок питания 600W.

XC>просто выскажите свои мнения, как бы вы поступили.

Вполне запустится Qwen3-Coder-30B-A3B-Instruct-Q8_0 даже с минимальной видюхой 1070. Видюха около топовая но древняя — необходима для pp, для старого железа пойдет любая, но лучше получше.
В целом требуется очень многоканальная память и лучше бы DDR5 + топовая с большой пропускной способностью видюха, хватит 1080ti/2080/3080. Либо куча топовых выдюх где памяти хватит... но стоит это очень много...

Тебе не хватит даже если продать почку на — NVIDIA DGX B200 8× B200 SXM 180GB
И это устареет через год... Через два года продать такое — за 1/10.

Вообще, небольшие LLM отлично гонять на топ старых видюхах — 3090 скорее топ по цене за 24GB, но на них майнили и будут убитые платы.