Предположим, я хочу сгенерировать фентези текст. Я спарсю там тысячу фентези рассказов. И куда мне эти фентези рассказы засунуть, чтобы получить ещё тысячу похожих? На русском языке, желательно используя самые современные достижения в области ИИ. Желательно не используя API, а делая все вычисления у себя. Размер каждого может быть достаточно большой, как книжка. Я так понимаю, нужно скачать какую-то языковую модель (какую?), потом заказать несколько видеокарт в облаке (каком?), потом как-то (как?) дотренировать эту модель, задать промпт (какой?) и получать выхлоп? Надо как-то разбивать запросы на сюжет и отдельные главы (или ещё мельче?) или нейросеть может сгенерить всё разом?
По цене должно быть доступно в рамках небольшого бюджета (сотни долларов).
Re: Как генерировать тексты на заданную тематику с ИИ?
vsb>Предположим, я хочу сгенерировать фентези текст. Я спарсю там тысячу фентези рассказов. И куда мне эти фентези рассказы засунуть, чтобы получить ещё тысячу похожих? На русском языке, такой
samlib.ru
И всё уже засунуто, и похожее генерится.
Re: Как генерировать тексты на заданную тематику с ИИ?
Здравствуйте, vsb, Вы писали:
vsb>Предположим, я хочу сгенерировать фентези текст vsb>По цене должно быть доступно в рамках небольшого бюджета (сотни долларов).
С таким бюджетом и "умной идеей" может сразу кассиром в "пятёрочку"?
Re: Как генерировать тексты на заданную тематику с ИИ?
Здравствуйте, vsb, Вы писали:
vsb>По цене должно быть доступно в рамках небольшого бюджета (сотни долларов).
Вот про детали обучения не сильно в курсе. Можно посмотреть сюда — Open-Assistant и OpenChatKit.
А инференс — это LLama или даже llama.cpp. Будет работать у тебя локально на сервере безо всяких облаков.
Про генерацию. У чатов есть ограничение по размеру выдаваемого текста. У 4-го оно увеличилось до 32 Кб, что уже много. Но большие тексты генерируются обычно иерархически. Типа, "сгенерируй оглавление для книги на такую-то тему". Потом просишь детализировать первую главу, вторую и т.д.
Re[2]: Как генерировать тексты на заданную тематику с ИИ?
Здравствуйте, Nuzhny, Вы писали:
N>Про генерацию. У чатов есть ограничение по размеру выдаваемого текста. У 4-го оно увеличилось до 32 Кб, что уже много. Но большие тексты генерируются обычно иерархически. Типа, "сгенерируй оглавление для книги на такую-то тему". Потом просишь детализировать первую главу, вторую и т.д.
А контекст между главами передается? Или каждая глава — отдельное произведение?
Sine vilitate, sine malitiosa mente
Re[3]: Как генерировать тексты на заданную тематику с ИИ?
