Здравствуйте, vsb, Вы писали:

vsb>Я не очень понимаю смысл запускать что-либо у себя. Есть облака, в которых уже всё задеплоено и которые дают API на пользование этими LLM. Наценка у них, насколько я понимаю, небольшая, как раз за счёт того, что они GPU используют на 100% в отличие от локальных деплойментов.

1. Уже были примеры с утечками данных. Например, Samsung запретила пользоваться ChatGPT сотрудникам: в неё загрузили внутренний код компании, он утёк. Это не аргумент? Нет интернета или он ограничен — не аргумент? И т.д.
2. У нас какая тема-то? Про облачное закрытое и то, что можно запустить у себя.

vsb>При этом модели можно дообучать и я не ограничен пуританскими правилами OpenAI, то бишь могу генерировать что угодно, хоть порнографию, хоть скам (не то, чтобы мне это было нужно, но сам факт ограничения мне не нравится).

Можно, конечно. Есть для этого мощности? Скорее всего конкретно у тебя нет. Компании, у которых есть такие мощности, уже начнут попадать в категорию крупных игроков. Противоречие, однако.
Далее, берём компании поменьше, смотрим на их открытый результат. Насколько он далёк от результата OpenAI/M*ta/Google/Microsoft?