Здравствуйте, Khimik, Вы писали:

K>Сорри, пока не понял ничего.
K>Когда мне пишут — шифруют закрытым или открытым ключом?
K>На каком этапе здесь математические операции — перемножение чисел и разложение чисел на простые множители?

Ну, если делать очень наивно, генерируют псевдослучайный ключ для симметричного шифрования (очень короткий, 16-32 байта) и передают его тебе, зашифровав твоим открытим ключом — чтобы ты своим закрытым ключом мог расшифровать.

Сам по себе этот псевдослучайный ключ, используют с каким-нибудь алгоритмом шифрования (ну, например, AES), но используют его не в лоб, а в каком-нибудь режиме (https://ru.wikipedia.org/wiki/%D0%A0%D0%B5%D0%B6%D0%B8%D0%BC_%D1%88%D0%B8%D1%84%D1%80%D0%BE%D0%B2%D0%B0%D0%BD%D0%B8%D1%8F). Один из простейших режимов — можно шифровать AES-ом последовательный счетчик (0, 1, 2, ...), а получившуюся псевдослучайную последовательность накладывать уже на открытый текст, получая зашифрованный текст.

Всё это сложнее, чем ты думаешь, и очень легко насвистеть. Ошибки-то не слишком заметны. Вроде всё зашифровывается и расшифровывается, и на вид выглядит надёжно. А на практике, содержит какую-нибудь уязвимость. Даже профессиональные криптографы иногда допускают ошибки, и иногда достаточно хитрые, так что их только через несколько лет обнаруживают, при том, что все эти годы алгоритм и использовался активно и другие профессионалы на него смотрели.