Здравствуйте, Unhandled_Exception, Вы писали:

U_E>Есть у меня один старый продукт, рантайм-анализатор приложений. Он выдает некие отчеты, которые программисты должны сами анализировать. За эти годы накопились разные кейсы, обращения в саппорт и т.д. Увы, нередко, чтобы получить пользу от продукта, надо писать мне в саппорт, и я уже смотрю отчет, чтобы дать какие-то советы на что обратить внимание.

U_E>Я не специалист в области AI (пользуюсь chatgpt, как-то бот для тг писал для себя, который его API использует, да и только), но как будто напрашивается добавить его в продукт.

U_E>Никак не могу понять, есть ли такой движок (коллеги, может это наивно, а вдруг), чтобы я его мог на свой сервер поставить, скормить ему информацию (на натуральном языке) о том, что у меня за продукт, какие отчеты он делает, как их следует читать, и далее вести некую базу знаний (если в отчете вот такие цифры большие, то это может значить то-то и то-то, и всякое такое). В итоге пользователи могли бы получать советы автоматически.

Посмотри в сторону ChatGPT, structured output.
https://openai.com/index/introducing-structured-outputs-in-the-api/

Я что-то похожее недавно прикручивал (правда не в свой продукт, а в дядин). Задаешь сначала спецификацю и структуру вывода.
Потом вызываешь API со вводом пользователя, он выдает тебе на выход JSON в заданном формате. Далее ты этот JSON обрабатываешь уже как тебе надо в коде.
Вещь довольно свежая (Microsoft во только выкатил в прошлом месяце в их версии, т.е. доступно в Azure тоже, чтобы не посылать данные не в OpenAI а в Microsoft, с которым у контор уже есть какие-то соглашения)
Мелкомягкая версия (того же самого) вот: https://azure.microsoft.com/en-us/products/ai-services/openai-service Если взять биллинг gpt4-mini, получается совсем не дорого.

Можно его натравить и на (текстовые) файлы тоже (см. "Assistant API")
Чтобы это работало еще и с файлами (в контексте), их надо приаттачить.

В чем была идея фичи которую пилил для дяди. Пользователь пишет на вход "Хочу план того как мне создать магазин по продаже велосипедов".
Получает на выходе предлагаемую диаграмму (графику) с планом, шагами, описаниями действий.
Да, дальше может этот план так же модифицировать (словами, то есть, типа "хочу улучшить маркетинг, добавь-ка что-нибудь по этому поводу)
Идея так себе, но "все побежали и я побежал", это же не мой продукт в конце концов, я только объяву разместил

Я понимаю что это совсем не твой сценарий похоже, но думаю structured output как идея хорошо должна зайти в принципе.

Здравствуйте, Unhandled_Exception, Вы писали:

U_E>Есть у меня один старый продукт, рантайм-анализатор приложений. Он выдает некие отчеты, которые программисты должны сами анализировать. За эти годы накопились разные кейсы, обращения в саппорт и т.д. Увы, нередко, чтобы получить пользу от продукта, надо писать мне в саппорт, и я уже смотрю отчет, чтобы дать какие-то советы на что обратить внимание.

U_E>Я не специалист в области AI (пользуюсь chatgpt, как-то бот для тг писал для себя, который его API использует, да и только), но как будто напрашивается добавить его в продукт.

U_E>Никак не могу понять, есть ли такой движок (коллеги, может это наивно, а вдруг), чтобы я его мог на свой сервер поставить, скормить ему информацию (на натуральном языке) о том, что у меня за продукт, какие отчеты он делает, как их следует читать, и далее вести некую базу знаний (если в отчете вот такие цифры большие, то это может значить то-то и то-то, и всякое такое). В итоге пользователи могли бы получать советы автоматически.

Посмотри в сторону ChatGPT, structured output.
https://openai.com/index/introducing-structured-outputs-in-the-api/

Я что-то похожее недавно прикручивал (правда не в свой продукт, а в дядин). Задаешь сначала спецификацю и структуру вывода.
Потом вызываешь API со вводом пользователя, он выдает тебе на выход JSON в заданном формате. Далее ты этот JSON обрабатываешь уже как тебе надо в коде.
Вещь довольно свежая (Microsoft во только выкатил в прошлом месяце в их версии, т.е. доступно в Azure тоже, чтобы не посылать данные не в OpenAI а в Microsoft, с которым у контор уже есть какие-то соглашения)
Мелкомягкая версия (того же самого) вот: https://azure.microsoft.com/en-us/products/ai-services/openai-service Если взять биллинг gpt4-mini, получается совсем не дорого.

Можно его натравить и на (текстовые) файлы тоже (см. "Assistant API")
Чтобы это работало еще и с файлами (в контексте), их надо приаттачить.

В чем была идея фичи которую пилил для дяди. Пользователь пишет на вход "Хочу план того как мне создать магазин по продаже велосипедов".
Получает на выходе предлагаемую диаграмму (графику) с планом, шагами, описаниями действий.
Да, дальше может этот план так же модифицировать (словами, то есть, типа "хочу улучшить маркетинг, добавь-ка что-нибудь по этому поводу)
Идея так себе, но "все побежали и я побежал", это же не мой продукт в конце концов, я только объяву разместил

Я понимаю что это совсем не твой сценарий похоже, но думаю structured output как идея хорошо должна зайти в принципе для интеграции "обычного" софта с AI.