Re[6]: Вот такой я крутой программист! =)
От: Sharov Россия  
Дата: 15.09.20 11:11
Оценка:
Здравствуйте, Skorodum, Вы писали:


IID>>Тогда зачем ты пишешь

IID>>

S>>>250К insert'ов в секунду.

S>Это наиболее краткий способ сказать "добавление записи в таблицу бд с индексированием", а как это реализовнно это уже другой вопрос.

Зачем индекс на таких объемах операций в секунду? Без него быстрее же будет.
Кодом людям нужно помогать!
Re[7]: Вот такой я крутой программист! =)
От: Skorodum Россия  
Дата: 15.09.20 11:49
Оценка:
Здравствуйте, Sharov, Вы писали:

S>Зачем индекс на таких объемах операций в секунду? Без него быстрее же будет.

А зачем данные без возможности поиска? Индексировалось все: IP-адреса, порты, протоколы.
Re[8]: Вот такой я крутой программист! =)
От: Sharov Россия  
Дата: 15.09.20 18:59
Оценка:
Здравствуйте, Skorodum, Вы писали:

S>>Зачем индекс на таких объемах операций в секунду? Без него быстрее же будет.

S>А зачем данные без возможности поиска? Индексировалось все: IP-адреса, порты, протоколы.

Как обычно компромисс -- при такой нагрузке, быстрая запись, наверное, важнее чем чтение.
Кодом людям нужно помогать!
Re[2]: Вот такой я крутой программист! =)
От: Kaifa Россия  
Дата: 17.09.20 05:38
Оценка:
SS>3. Программа, которая находила процесс сапёра, глядела на него (делая скриншоты), и играла в него. Опционально, перестартовала игру при проигрыше. Таким образом у меня был рекорд 1 секунда на pentium 200. После апгрейда на какой-то селерон, программа стабильно побеждала за <1с — 0 секунд на таймере.

не помню уже на какой системе, но скорее всего на вин98 был глюк в сапере, там можно с помощью каких-то не очень хитрых манипуляций (открыл случайно) застопить таймер. так что у меня там тоже был рекорд секунда или что-то в этом роде на уровне сложности профессионал.
Re: Вот такой я крутой программист! =)
От: Kaifa Россия  
Дата: 17.09.20 05:57
Оценка: :)
CEM>У каждого из нас есть какие-то неординарные достижения в программировании, которыми можно похвалиться и/или поудивлять других. Как-то так:

достижением не назову, т.к. фигня, но было смешно. на первом курсе имели доступ только к ХТ и нескольким 286 полураздроченным.
старшекурсники сидели на 386, поэтому мы их классово ненавидели.
везде стояла нетварь (ну новелловская). и с помощью нехитрого API там можно было слать мгновенные сообщения на комп. ну как только получилось заслать, естественно сразу пишу резидент, который через каждую минуту шлет случайное сообщение на случайный комп в сети из текстового файла, который был отдан на заполнение упоротому КВН-щику. и был пополняем.
в общем запустил и ушел домой от греха. старшекурсники нервные и что-то в это время там сдавали как раз. квн-щик потом рассказывает, влетают в аудиторию, начинают орать и кидаться на него, мозгов-то не хватало понять, что резидент шлет, а не он. в общем спасло его только то, что у меня глюк был в проге, при случайном выборе компа жертвы не исключался комп, с которого идет отправка. в итоге ему повезло и ему тоже пришло сообщение с очередной тупой шуткой. это его и спасло (типа это же значит что шлют и ему, а значит он не при делах). иначе бы точно отмудохали его. короче ржали на следующий день.
Re[2]: Вот такой я крутой программист! =)
От: CEMb  
Дата: 17.09.20 07:13
Оценка:
Здравствуйте, Kaifa, Вы писали:

K>и с помощью нехитрого API там можно было слать мгновенные сообщения на комп.

netsend же?
Это была невероятно весёлая и удобная штука в своё время. Кроме классического "привет от хакеров", в те времена можно было быстро отправлять сообщения коллегам по сетке, ничего дополнительно не устанавливая и не запуская, а консоль всегда была под руками. Ну и было весело, когда кто-нибудь по глупости бродкаст делал — характерный массовый beep по всем офисам, а потом шли бить его всей работой
Re[2]: Вот такой я крутой программист! =)
От: landerhigh Пират  
Дата: 17.09.20 07:58
Оценка:
Здравствуйте, Skorodum, Вы писали:

S>Сохранял информацию о всех TCP/UDP сессиях на скорости 10 GB в кольцевом буфере размером 100 Гб, с моментальным поиском.


А что такое UDP сессия?

S>Под кольцевой буфер использовался PostgreSQL, порядка 250К insert'ов в секунду.


Постгрес и больше инсертов прожевать может.
А вот попробуй хотя бы столько же update
www.blinnov.com
Re[3]: Вот такой я крутой программист! =)
От: CreatorCray  
Дата: 17.09.20 08:02
Оценка:
Здравствуйте, CEMb, Вы писали:

CEM>netsend же?

CEM>Это была невероятно весёлая и удобная штука в своё время. Кроме классического "привет от хакеров", в те времена можно было быстро отправлять сообщения коллегам по сетке, ничего дополнительно не устанавливая и не запуская, а консоль всегда была под руками.

Я когда то написал свой вариант который умел отправлять от "чужого имени", не переменовывая при этом комп. В итоге чутка поразвлекались на работе рассылая мессаги от имени директора.
... << RSDN@Home 1.3.110 alpha 5 rev. 62>>
Re[3]: Вот такой я крутой программист! =)
От: CreatorCray  
Дата: 17.09.20 08:21
Оценка:
Здравствуйте, landerhigh, Вы писали:

L>Постгрес и больше инсертов прожевать может.

L>А вот попробуй хотя бы столько же update

Онож по хорошему всё в лог фигачится должно и потом разгребаться
... << RSDN@Home 1.3.110 alpha 5 rev. 62>>
Re[4]: Вот такой я крутой программист! =)
От: landerhigh Пират  
Дата: 17.09.20 08:30
Оценка: 8 (1)
Здравствуйте, CreatorCray, Вы писали:

L>>А вот попробуй хотя бы столько же update

CC>Онож по хорошему всё в лог фигачится должно и потом разгребаться

Постгрес-версионник.
По сути каждый update (даже незакоммиченный) — новая версия записи.
На О большое поиска влияет очень сильно. Эффект заметен невооруженным глазом, если честно.

Поэтому там есть vacuum.
www.blinnov.com
Re[3]: Вот такой я крутой программист! =)
От: Kaifa Россия  
Дата: 17.09.20 08:47
Оценка:
CEM>netsend же?
да, насколько я помню он те же апи использует. но я им не пользовался. посылал команды напрямую.
Re[4]: Вот такой я крутой программист! =)
От: Kaifa Россия  
Дата: 17.09.20 08:48
Оценка:
CC>Я когда то написал свой вариант который умел отправлять от "чужого имени", не переменовывая при этом комп. В итоге чутка поразвлекались на работе рассылая мессаги от имени директора.

по-моему я тоже подменял. но не помню на пустую строчку или на другой комп.
Re[3]: Вот такой я крутой программист! =)
От: Skorodum Россия  
Дата: 17.09.20 09:22
Оценка:
Здравствуйте, landerhigh, Вы писали:

L>А что такое UDP сессия?

В данном контексте уникальное сочетание IP-адресов и портов.

S>>Под кольцевой буфер использовался PostgreSQL, порядка 250К insert'ов в секунду.

L>Постгрес и больше инсертов прожевать может.
Сильно сомневаюсь, что из коробки и в лоб такое получится даже на сегодняшнем железе, если есть индексация хотя бы по 4-5 полям (для примера IP адреса и порты и строка символов на 15).
Re[4]: Вот такой я крутой программист! =)
От: landerhigh Пират  
Дата: 17.09.20 09:26
Оценка:
Здравствуйте, Skorodum, Вы писали:

S>>>Под кольцевой буфер использовался PostgreSQL, порядка 250К insert'ов в секунду.

L>>Постгрес и больше инсертов прожевать может.
S>Сильно сомневаюсь, что из коробки и в лоб такое получится даже на сегодняшнем железе, если есть индексация хотя бы по 4-5 полям (для примера IP адреса и порты и строка символов на 15).

IP адрес и порт уже сами по себе практически индексы. Тут скорее дело в пропускной способности того, куда это писаться будет. Ну и вряд ли 250К в секунду — это продолжительная нагрузка.
www.blinnov.com
Re[5]: Вот такой я крутой программист! =)
От: Skorodum Россия  
Дата: 17.09.20 09:30
Оценка:
Здравствуйте, landerhigh, Вы писали:

L>IP адрес и порт уже сами по себе практически индексы. Тут скорее дело в пропускной способности того, куда это писаться будет.

Не только. Создание индексов можно распараллелить, ЕМНИП, это дало прирост скорости в несколько раз.

L>Ну и вряд ли 250К в секунду — это продолжительная нагрузка.

В моем случае именно что постоянная была.
Re[6]: Вот такой я крутой программист! =)
От: landerhigh Пират  
Дата: 17.09.20 14:18
Оценка:
Здравствуйте, Skorodum, Вы писали:

L>>IP адрес и порт уже сами по себе практически индексы. Тут скорее дело в пропускной способности того, куда это писаться будет.

S>Не только. Создание индексов можно распараллелить, ЕМНИП, это дало прирост скорости в несколько раз.

Интересно. Я уже пару лет с БД не работаю, но не знал про выделенное

L>>Ну и вряд ли 250К в секунду — это продолжительная нагрузка.

S>В моем случае именно что постоянная была.

Круто... только как именно ring buffer был организован? Отдельный процесс удалял старые записи? Partitioning?
www.blinnov.com
Re[5]: Вот такой я крутой программист! =)
От: CreatorCray  
Дата: 17.09.20 18:09
Оценка:
Здравствуйте, landerhigh, Вы писали:

L>>>А вот попробуй хотя бы столько же update

CC>>Онож по хорошему всё в лог фигачится должно и потом разгребаться

L>Постгрес-версионник.

L>По сути каждый update (даже незакоммиченный) — новая версия записи.

Ну т.е как я и говорил: при insert/update всё будет падать в линейный лог так что тут особой доблести нету. Потом надо лог replay и применить на основную базу, но это можно сделать потом.

L>На О большое поиска влияет очень сильно. Эффект заметен невооруженным глазом, если честно.

Ожидаемо.
... << RSDN@Home 1.3.110 alpha 5 rev. 62>>
Re[6]: Вот такой я крутой программист! =)
От: landerhigh Пират  
Дата: 17.09.20 21:06
Оценка:
Здравствуйте, CreatorCray, Вы писали:


CC>Ну т.е как я и говорил: при insert/update всё будет падать в линейный лог так что тут особой доблести нету.


Не-не. С insert в Постгресе все хорошо искаропки. Получше, чем DB2.
Вот постоянные апдейты одних и тех же записей портят всю малину на счет раз. Нужно либо постоянно пылесосить, либо придумывать, как обойтись без них.

L>>На О большое поиска влияет очень сильно. Эффект заметен невооруженным глазом, если честно.

CC>Ожидаемо.
www.blinnov.com
Re[7]: Вот такой я крутой программист! =)
От: CreatorCray  
Дата: 18.09.20 01:27
Оценка:
Здравствуйте, landerhigh, Вы писали:

L>Вот постоянные апдейты одних и тех же записей портят всю малину на счет раз. Нужно либо постоянно пылесосить, либо придумывать, как обойтись без них.

А, дык это потому что надо сначала прочитать последнюю запись а она в логе за кучей такого же говна. Для такого сценария по идее можно было сделать оптимизацию, но тут я хз сделали или нет.
... << RSDN@Home 1.3.110 alpha 5 rev. 62>>
Re[3]: Вот такой я крутой программист! =)
От: Bjorn Skalpe Земля  
Дата: 18.09.20 13:14
Оценка:
CEM>О, про взлом и дебаг можно отдельную тему создавать

Помню в нулевые вскрывал IDA Pro в триальной IDA Pro x)))))))
Щас уже не вскрываю, прошу купить все что нужно работодателя. Все хотят быть честными.
Отредактировано 18.09.2020 13:15 Bjorn Skalpe . Предыдущая версия . Еще …
Отредактировано 18.09.2020 13:15 Bjorn Skalpe . Предыдущая версия .
Подождите ...
Wait...
Пока на собственное сообщение не было ответов, его можно удалить.