Критерии такие — чтобы плюсовый код быстро собирало. Ещё думаю потрогать нейронки локально, с каким-то дообучением, чтобы кормить своими сорцами и доками, а оно бы мне советовало, что и как.
Здравствуйте, Marty, Вы писали:
M>Здравствуйте!
M>Критерии такие — чтобы плюсовый код быстро собирало. Ещё думаю потрогать нейронки локально
M>Рассматриваю два варианта — нубук и десктоп
Скорее нужна воркстейшен с большим количеством видеокарт. Была возможность собрать на ddr4 за недорого чтобы и полный deep seek и вообще все что угодно крутить, но увы память стоит 5x.
Самый дешевый десктоп что крутит все это не быстро — чего-то вида e-atx древний двухсокет но в сумме 8 каналов ddr4 — 2011-3 материнка lenovo RD450X hyperscale (увы хоть и за копейки платы, но они вытащены из суперкомпьютеров и там много разных плат и не совместимы по BIOS. Новые версии с 10Gbit сеткой скорее совсем другие и все это под одним неазванрием платы, но их наверно 100тыс наштамповали во всех модификациях) 2-сокет, топ процы линеек 26** v4. Далее Epyc DDR4 где 8 каналов на сокет и т.д. где 12 каналов но уже DDR5.
Что быстрее всего за единицу денег — Epyc 64 ядерные на DDR4 последнего поколения Milan — всякие OEM могут стоить недорого типа 7B13/7C13 и т.п. Плата под такое — как не странно очень качественный китай и еще такое работает не хуже брендов — huananzhi h12d-8d.
Здравствуйте, Marty, Вы писали:
M>Критерии такие — чтобы плюсовый код быстро собирало.
Слишком расплывчатый критерий. Вот сколько у тебя сейчас ОЗУ/процессора и как быстро собирает тот же firefox? Ну чтобы сравнить.
M>Ещё думаю потрогать нейронки локально, с каким-то дообучением, чтобы кормить своими сорцами и доками, а оно бы мне советовало, что и как.
Тут скорее на данный момент — лучше арендовать, побаловаться и прекратить аренду. Дешевле будет, чем купишь и все-равно же не будешь постоянно использовать — просто для галочки. Вот как я идиот — поставил себе IPS матрицу в монитор ноута — и нафига? Я же все-равно монитор ноута не испольую.
M>Рассматриваю два варианта — нубук и десктоп
Ноутбук нужно использовать с умом — разбиваеть проект на модули и компилить только кусочек. А вы ж любите 100500 файлов в одном проекте и все пересобирать чуть ли не каждый раз.
Здравствуйте, Marty, Вы писали:
M>Критерии такие — чтобы плюсовый код быстро собирало.
Что есть быстро?
Меня, например, раздражает, когда проект, скажем, минуту собирается. Но я сишник-гошник, избалован быстрой компиляцией. А с C++, наверное, и полчаса не слишком долго
M>Ещё думаю потрогать нейронки локально, с каким-то дообучением, чтобы кормить своими сорцами и доками, а оно бы мне советовало, что и как.
Я не знаток. Но это, наверное, видеокарты приличные нужны. Возможно и не одна.
M>Рассматриваю два варианта — нубук и десктоп
Я б рассматривал дектоп на Intel Core i7 14700. Вроде как это сейчас самый удачный выбор за разумные деньги (ну или эквивалентный AMD, но у меня к ним настороженное отношение).
Ноуты сильно проигрывают дектопам, даже если в однопоточном режиме сравнимы. Сказывается ограничения по энергопотреблению. Твой компилятор умеет использовать сразу несколько ядер для ускорения компиляции?
Здравствуйте, Pzz, Вы писали:
M>>Критерии такие — чтобы плюсовый код быстро собирало.
Pzz>Что есть быстро?
LLVM на домашнем у меня сутки где-то собиралось, на рабочих не пробовал. GRPC на домашнем часа полтора собирается, на казённом (совсем не топовом) раза в два быстрее
Pzz>Меня, например, раздражает, когда проект, скажем, минуту собирается. Но я сишник-гошник, избалован быстрой компиляцией. А с C++, наверное, и полчаса не слишком долго
Меня тоже раздражает долгая сборка, хочу — нажал F5 и сразу отлаживаю
M>>Ещё думаю потрогать нейронки локально, с каким-то дообучением, чтобы кормить своими сорцами и доками, а оно бы мне советовало, что и как.
Pzz>Я не знаток. Но это, наверное, видеокарты приличные нужны. Возможно и не одна.
Я примерно также полагаю
M>>Рассматриваю два варианта — нубук и десктоп
Pzz>Я б рассматривал дектоп на Intel Core i7 14700. Вроде как это сейчас самый удачный выбор за разумные деньги (ну или эквивалентный AMD, но у меня к ним настороженное отношение).
Хз, посматриваю на амд, вроде они реально пошустрее
Pzz>Ноуты сильно проигрывают дектопам, даже если в однопоточном режиме сравнимы. Сказывается ограничения по энергопотреблению. Твой компилятор умеет использовать сразу несколько ядер для ускорения компиляции?
Умеет. Это не только от компилятора зависит, но и от системы сборки. Насчёт ядер я конечно хз, но локальное распараллеливание почти везде уже есть
Здравствуйте, Pzz, Вы писали:
Pzz>Я б рассматривал дектоп на Intel Core i7 14700.
Intel 13th & 14th Gen CPU degradation (Raptor Lake)
Pzz>(ну или эквивалентный AMD, но у меня к ним настороженное отношение).
Вроде у самых свежих AMD с 3D Cache тоже начался массовый падёж. Но советовать 14 поколение интела странно imho.
Pzz>Ноуты сильно проигрывают дектопам, даже если в однопоточном режиме сравнимы. Сказывается ограничения по энергопотреблению.
Да. Но помимо проца, компиляция может упереться в скорость ssd. А там тоже не так просто, якобы то же самое железо под Win 11 файловые операции медленнее, чем под линухом.
M>Критерии такие — чтобы плюсовый код быстро собирало.
Какая ОС и компилятор? Windows в этом плане может неприятно удивить в сравнении с macOS/Linux, из-за особенностей работы с файловой системой.
Каков бюджет? В районе threadripper'ов, или только обычные, бытовые?
M>Ещё думаю потрогать нейронки локально, с каким-то дообучением, чтобы кормить своими сорцами и доками, а оно бы мне советовало, что и как.
Здесь бюджет может быть неограничен. Проще (и дешевле) купить доступ к какой-нибудь opus 4.5, если твои сырцы можно сдавать "налево" без последствий.
M>Рассматриваю два варианта — нубук и десктоп
На ноутбуке быстро быть не может. Но если именно ноутбук, то, наверное, что-то на Ryzen 9 9955HX (без 3D cache, т.к. оно не особо помогает при компиляции).
Здравствуйте, Marty, Вы писали:
M>Критерии такие — чтобы плюсовый код быстро собирало. Ещё думаю потрогать нейронки локально, с каким-то дообучением, чтобы кормить своими сорцами и доками, а оно бы мне советовало, что и как.
Уже сказали, что десктоп. Для нейронок лучше много видеопамяти. С несколькими видеокартами заморачиваться с самого начала не стоит, поэтому найди ту, у которой максимум видеопамяти и бери. Сможешь запускать небольшие нейронки локально. Дообучаться оно не будет, да и не должно, оно работает как RAG.
Здравствуйте, Артём, Вы писали:
Pzz>>(ну или эквивалентный AMD, но у меня к ним настороженное отношение). Аё>Вроде у самых свежих AMD с 3D Cache тоже начался массовый падёж. Но советовать 14 поколение интела странно imho.
Почему?
Pzz>>Ноуты сильно проигрывают дектопам, даже если в однопоточном режиме сравнимы. Сказывается ограничения по энергопотреблению. Аё>Да. Но помимо проца, компиляция может упереться в скорость ssd. А там тоже не так просто, якобы то же самое железо под Win 11 файловые операции медленнее, чем под линухом.
Не знаю, насчет венды. Под линухом, если памяти хватает, вторая компиляция идет из кеша, а не прям с диска. Первая прогревает кеш.
Здравствуйте, SkyDance, Вы писали:
SD>Какая ОС и компилятор? Windows в этом плане может неприятно удивить в сравнении с macOS/Linux, из-за особенностей работы с файловой системой.
Windows, но имхо, на SSD это мало роялит, разбор плюсиков — это основная нагрузка
SD>Каков бюджет? В районе threadripper'ов, или только обычные, бытовые?
Тысяч двести могу потратить, в баксах это тыщи три по текущему курсу, но я хз, как рублёвые цены в наших магазинах соответствуют долларовым
M>>Ещё думаю потрогать нейронки локально, с каким-то дообучением, чтобы кормить своими сорцами и доками, а оно бы мне советовало, что и как.
SD>Здесь бюджет может быть неограничен. Проще (и дешевле) купить доступ к какой-нибудь opus 4.5, если твои сырцы можно сдавать "налево" без последствий.
Это понятно, но хочется локально, есть идея потом в конторе попробовать внедрить, а там сорцы на сторону нельзя отдавать
M>>Рассматриваю два варианта — нубук и десктоп
SD>На ноутбуке быстро быть не может. Но если именно ноутбук, то, наверное, что-то на Ryzen 9 9955HX (без 3D cache, т.к. оно не особо помогает при компиляции).
Да, вот в соседней теме почитал твои вроде рекомендации про этот кеш, почитал обзоры, но в них тесты компиляции нигде не делали, этот момент интересует. А почему доп кеш не ускоряет компиляцию? Мне казалось, что должно бы
Здравствуйте, Nuzhny, Вы писали:
M>>Критерии такие — чтобы плюсовый код быстро собирало. Ещё думаю потрогать нейронки локально, с каким-то дообучением, чтобы кормить своими сорцами и доками, а оно бы мне советовало, что и как.
N>Уже сказали, что десктоп. Для нейронок лучше много видеопамяти. С несколькими видеокартами заморачиваться с самого начала не стоит, поэтому найди ту, у которой максимум видеопамяти и бери. Сможешь запускать небольшие нейронки локально. Дообучаться оно не будет, да и не должно, оно работает как RAG.
Здравствуйте, Shmj, Вы писали:
S>>>Там вариант Building with bazel (recommended) или же через Building with CMake. M>>Да, собирал CMake'ом
S>Ну вот результат — 6 мин. против 1.5 часа — как такое может быть? Тут дело не в процессоре. Возможно упираешься в ОЗУ?
Если ставить через VCPKG, то собирается за несколько минут. Но в варианте VCPKG там, например, используется OpenSSL, если собирать склоненное с гитхаба, то там какой-то boringssl. Возможно, упирается не в ОЗУ, а в какие-то опции сборки.
Здравствуйте, Marty, Вы писали:
S>>Ну вот результат — 6 мин. против 1.5 часа — как такое может быть? Тут дело не в процессоре. Возможно упираешься в ОЗУ?
M>Если ставить через VCPKG, то собирается за несколько минут. Но в варианте VCPKG там, например, используется OpenSSL, если собирать склоненное с гитхаба, то там какой-то boringssl. Возможно, упирается не в ОЗУ, а в какие-то опции сборки.
Ну на MacOS еще и ARM-архитектура же, там сборка проще, может по этому.
Вообще неплохо бы иметь некий эталонный проект, по скорости сборки которого оценивать возможности того или иного компа.
Здравствуйте, Marty, Вы писали:
M>Критерии такие — чтобы плюсовый код быстро собирало.
У C++ многоядерная сборка.
Для примера
make -j#
Где # количество логических ядер. Обычно количество логических ядер равно 2x от физических. Да и IDE уже вроде Qt Creator и прочих сами могут выставить многоядерную компиляцию. Раньше ещё была схема #+1 логических ядер, но сейчас люди компилируют с SSD. Потому если можешь компилировать с SSD, компилируй с SSD, это тоже даст буст.
Скорость многоядерной компиляции будет примерно пропорциональна баллам на сайте.
M>Ещё думаю потрогать нейронки локально, с каким-то дообучением, чтобы кормить своими сорцами и доками, а оно бы мне советовало, что и как.
Никогда не пробовал, но там нужны видеокарты NVidia и как можно больше видеопамяти. Суть в том, чтобы данные помещались в видеопамяти. Так что покупать видеокарту с недостаточным объёмом видеопамяти бессмысленно. А сколько конкретно нужно это уже надо смотреть на проекты, которые ты будешь запускать. Но общее правило больше — лучше.
А ещё есть вариант сервер, где используются серверные процессоры и серверные видеокарты. По большому счёту всё сводится к тому, сколько у тебя денег.
Касательно ноутбуков тоже всё стандартно. Современные ноутбуки очень производительные и я не раз говорил, что они могут заменить для большинства людей десктопы. Но топовые десктопы всё равно гораздо производительнее ноутбуков. А топовые сервера гораздо производительнее десктопов.
На тех же сайтах можно посмотреть производительность процессора и видеокарты. И так же лучше брать процессоры AMD и видеокарты NVidia в последнем случае ещё смотря на объём видеопамяти. Хотя и так понятно, что лучше серверов с новейшими процессорами и видеокартами от этих производителей всё равно ничего не найдёшь для твоих целей.
Возможно тебе вообще нужен не ноутбук, а ультрамобильный ПК вроде GPD Win 4 2025, кто знает. А на быструю компиляцию забить или использовать сервер. Ноутбук же требует посадки за стол или лёжа на кровати, с ним не получится работать стоя или на ходу.
M>Тысяч двести могу потратить
Ну понятно, что денег у тебя считай и нет. Сервера сразу отпадают, ты там даже процессор не сможешь купить. Может на скромную потребительскую видеокарту тебе и хватит с обычным центральным процессором не хватающим звёзд с неба. Да и ноутбук ты за такие деньги можешь купить только обычный. Учитывая задачу с ещё и нейронками для которых нужна видеопамять здесь надо думать насчёт доступной видеокарты.
Короче чудес не будет. Максимум можно поискать соотношение цена производительность для десктопа. Ну и понятное дело у обычной памяти для десктопа не будет проверки на ошибки. Да и вообще предположим у сервера два процессора по 192 ядра, а у пользователя на десктопе 4-8 ядер, может 16 ядер. Какие тут могут быть чудеса при компилировании C++. Правки опций я не рассматриваю, так как это уже зависит от пользователя, а не от железа.
И дело понятно не в ядрах, а в баллах на вышеуказанных сайтах. Можно посмотреть на свой текущий процессор и сколько у него баллов по рейтингу и просчитать во сколько раз будет ускорение относительно баллов того процессора, который купишь. А ещё сразу переключайся на вкладку Price Performance, всё равно при отсутствии денег придётся брать по соотношению лучшей цены на производительность, а не ультимативный топ.
Что касается баллов на этих сайтах, то когда-то давно я проверял свои задачи и эти баллы соответствуют действительности. Какие-то узкие места с недостатком какой-либо памяти или ещё чего-то я понятно дело не беру. Просто не надо покупать компьютер с узкими местами. И, кстати, насчёт памяти, сейчас её покупать невыгодно, а значит и новый компьютер покупать невыгодно, разве что частями с донорством от старого.
Да и в целом сложно решить задачу типа, хочу купить суперкар, но у меня 200 тысяч рублей. Теоретически не невозможно, практически сложно.
