Как принимать push сообщения на сервере и сохранять в базу?
От: _VW_ Марс  
Дата: 15.01.16 17:37
Оценка:
Есть сторонний push data сервис, который отправляет сообщения в формате csv или xml. Нужно их принимать и записывать в базу данных на другом, моем сервере. Как организовать архитектуру? Это может просто питон скрип на моем сервере, который работает 24/7 и просто записывает их в базу. Все? Это надежно?
Re: Как принимать push сообщения на сервере и сохранять в базу?
От: Sharov Россия  
Дата: 15.01.16 18:59
Оценка: 2 (2)
Здравствуйте, _VW_, Вы писали:

_VW>Есть сторонний push data сервис, который отправляет сообщения в формате csv или xml. Нужно их принимать и записывать в базу данных на другом, моем сервере. Как организовать архитектуру? Это может просто питон скрип на моем сервере, который работает 24/7 и просто записывает их в базу. Все? Это надежно?


С какой точки зрения надежно -- отказоустойчиво или безопасно? Если первое, то ничего не надежно в этом мире, поэтому спокойно используйте питон, или что душе угодно лишь бы веб-сокеты поддерживались. Если второе, то шифруйте канал.
Кодом людям нужно помогать!
Re[2]: Как принимать push сообщения на сервере и сохранять в базу?
От: _VW_ Марс  
Дата: 16.01.16 04:50
Оценка:
Здравствуйте, Sharov, Вы писали:

S>Здравствуйте, _VW_, Вы писали:


_VW>>Есть сторонний push data сервис, который отправляет сообщения в формате csv или xml. Нужно их принимать и записывать в базу данных на другом, моем сервере. Как организовать архитектуру? Это может просто питон скрип на моем сервере, который работает 24/7 и просто записывает их в базу. Все? Это надежно?


S>С какой точки зрения надежно -- отказоустойчиво или безопасно? Если первое, то ничего не надежно в этом мире, поэтому спокойно используйте питон, или что душе угодно лишь бы веб-сокеты поддерживались. Если второе, то шифруйте канал.



отказоустойчиво
никакой брокер сообщений там (на моем сервере) не нужен будет для этой конкретной задачи, типа kafka или rabbitmq?
Re[3]: Как принимать push сообщения на сервере и сохранять в базу?
От: Sharov Россия  
Дата: 16.01.16 09:45
Оценка:
Здравствуйте, _VW_, Вы писали:

_VW>отказоустойчиво

_VW>никакой брокер сообщений там (на моем сервере) не нужен будет для этой конкретной задачи, типа kafka или rabbitmq?

Зачем из пушки по воробьям?
Кодом людям нужно помогать!
Re[4]: Как принимать push сообщения на сервере и сохранять в базу?
От: _VW_ Марс  
Дата: 19.01.16 10:38
Оценка:
Здравствуйте, Sharov, Вы писали:


_VW>>отказоустойчиво

_VW>>никакой брокер сообщений там (на моем сервере) не нужен будет для этой конкретной задачи, типа kafka или rabbitmq?

S>Зачем из пушки по воробьям?



нужно, чтобы было как можно более отказоустойчиво

если так:
1) rabbitmq принимает сообщения от push сервера, а питон скрипт читает из rabbitmq и сохраняет в базу
2) питон скрипт сам принимает сообщения от push сервера и сохраняет в базу


разве 1ое не более надежно?
Re[5]: Как принимать push сообщения на сервере и сохранять в базу?
От: Sharov Россия  
Дата: 19.01.16 10:54
Оценка: 2 (2)
Здравствуйте, _VW_, Вы писали:

_VW>нужно, чтобы было как можно более отказоустойчиво


_VW>если так:

_VW>1) rabbitmq принимает сообщения от push сервера, а питон скрипт читает из rabbitmq и сохраняет в базу
_VW>2) питон скрипт сам принимает сообщения от push сервера и сохраняет в базу


_VW>разве 1ое не более надежно?


Первое надежнее в том плане, что вроде имеется (вроде бы, но точно не знаю) свое хранилище для сообщений, т.е. если упадет, то сообщения, которые уже получены не будут потеряны. Но для такой простой задачи я бы не стал связываться. Простой скрип, принимающий сообщения и пишущий их в базу ничем не хуже.
Кодом людям нужно помогать!
Re[6]: Как принимать push сообщения на сервере и сохранять в базу?
От: _VW_ Марс  
Дата: 20.01.16 04:00
Оценка:
Здравствуйте, Sharov, Вы писали:



_VW>>разве 1ое не более надежно?


S>Первое надежнее в том плане, что вроде имеется (вроде бы, но точно не знаю) свое хранилище для сообщений, т.е. если упадет, то сообщения, которые уже получены не будут потеряны. Но для такой простой задачи я бы не стал связываться. Простой скрип, принимающий сообщения и пишущий их в базу ничем не хуже.


Так ведь в 1ом случае скрипт-то сразу в базу пишет. Так что разницы по логике нет.

Как отслеживают падения таких скриптов? Как их перезапускают? Возможно ли в автоматическом режиме
все это отслеживать и перезапустить? Желательно без использования сторонних веб сервисов, а простыми, штатными средствами.
Re[7]: Как принимать push сообщения на сервере и сохранять в базу?
От: Sharov Россия  
Дата: 20.01.16 10:13
Оценка:
Здравствуйте, _VW_, Вы писали:

_VW>Так ведь в 1ом случае скрипт-то сразу в базу пишет. Так что разницы по логике нет.


Брокеры обычно пишут в свою базу, со своей структурой. Вообще говоря, тип бд должен быть настраиваемым. Но сути это не меняет -- придется подстраиваться под чужую систему.

_VW>Как отслеживают падения таких скриптов? Как их перезапускают? Возможно ли в автоматическом режиме

_VW> все это отслеживать и перезапустить? Желательно без использования сторонних веб сервисов, а простыми, штатными средствами.

Надо смотреть на ср-ва ОС. Вот для питона нагуглилсь по запросу "restart python script" и "restart python script after crash":
1)http://blog.petrzemek.net/2014/03/23/restarting-a-python-script-within-itself/
2)http://stackoverflow.com/questions/11329917/restart-python-script-from-within-itself
3)http://unix.stackexchange.com/questions/107939/how-to-restart-the-python-script-automatically-if-it-is-killed-or-dies
Кодом людям нужно помогать!
Re: Как принимать push сообщения на сервере и сохранять в базу?
От: Sinclair Россия https://github.com/evilguest/
Дата: 03.03.16 07:00
Оценка:
Здравствуйте, _VW_, Вы писали:

_VW>Есть сторонний push data сервис, который отправляет сообщения в формате csv или xml. Нужно их принимать и записывать в базу данных на другом, моем сервере. Как организовать архитектуру? Это может просто питон скрип на моем сервере, который работает 24/7 и просто записывает их в базу. Все? Это надежно?

Протокол этого сервиса какой? HTTP POST на ваш адрес?
Уйдемте отсюда, Румата! У вас слишком богатые погреба.
Re[2]: Как принимать push сообщения на сервере и сохранять в базу?
От: _VW_ Марс  
Дата: 03.03.16 07:06
Оценка:
Здравствуйте, Sinclair, Вы писали:

S>Здравствуйте, _VW_, Вы писали:


_VW>>Есть сторонний push data сервис, который отправляет сообщения в формате csv или xml. Нужно их принимать и записывать в базу данных на другом, моем сервере. Как организовать архитектуру? Это может просто питон скрип на моем сервере, который работает 24/7 и просто записывает их в базу. Все? Это надежно?

S>Протокол этого сервиса какой? HTTP POST на ваш адрес?

STOMP.
 
Подождите ...
Wait...
Пока на собственное сообщение не было ответов, его можно удалить.