Здравствуйте, Vzhyk2, Вы писали:
V>Запускать нейронку это одно, а разрабатывать и учить это в корне другое. V>Некоторые обученные нейронки и подготовленные ты даже на ардуинке запустишь.
Ерунду не говори. Там идет речь о запуске не дистиллированных версий того же ДипСика. У него по минимуму нужно ~1342 ГБ VRAM (т.е. памяти на GPU) или 671 ГБ при использовании FP8. Если, конечно, под запустишь не понимать теоретической возможности со скоростью выхлопа 0.5 токена в секунду.
Есть логика намерений и логика обстоятельств, последняя всегда сильнее.