M>Критерии такие — чтобы плюсовый код быстро собирало.

Какая ОС и компилятор? Windows в этом плане может неприятно удивить в сравнении с macOS/Linux, из-за особенностей работы с файловой системой.
Каков бюджет? В районе threadripper'ов, или только обычные, бытовые?

M>Ещё думаю потрогать нейронки локально, с каким-то дообучением, чтобы кормить своими сорцами и доками, а оно бы мне советовало, что и как.

Здесь бюджет может быть неограничен. Проще (и дешевле) купить доступ к какой-нибудь opus 4.5, если твои сырцы можно сдавать "налево" без последствий.

M>Рассматриваю два варианта — нубук и десктоп

На ноутбуке быстро быть не может. Но если именно ноутбук, то, наверное, что-то на Ryzen 9 9955HX (без 3D cache, т.к. оно не особо помогает при компиляции).