Здравствуйте, Tai, Вы писали:

Tai>Здравствуйте, __kot2, Вы писали:


__>>и спецаильно для того, чтобы не упираться в обьем оперативки ноута я купил на авито сервер. стоят они копейки с разборок датацентров, правда работают шумно, но поиграться как раз само то

Tai>И что ты там наиграл?
Да просто сам оценил уровень развития современных llm, нормальный уровень, юзабельный для очень многих приложений. И да, уровень llm растет с увеличением размера, но не прямо так пропорционально. По моему личному мнению для , там, умного дома и простейшей модели хватит и работать она будет на чем угодно

Вещь, которую многие упускают — да, качество самых большых моделей постоянно растет, но качество маленьких моделей на их основе растет еще быстрее. Современные мелкие модели по качеству обгоняют устаревшие большие