Здравствуйте, bnk, Вы писали:

SVZ>>Ну я пока не нашел, как это сделать иначе чем через клиентский сертификат. А его серверная сторона не принимает. Пишет, мол, "неивестный са" и всё тут. Хотя корневой сертификат вроде бы предоставляю, правда тоже самовыпущенный.

bnk>Просто положи сертификат в trusted root на сервере и всё заработает (если винда),

OpenSSL умеет в виндовое хранилище сертификатов ходить? Сертификат заимпортировал в хранилище, но это не помогло.
Я передаю имя файла сертификата в SSL_CTX_load_verify_locations().
Но всё равно получаю ошибку на сервере

error:14094418:SSL routines:ssl3_read_bytes:tlsv1 alert unknown ca

bnk>по сертификату сразу же видно нормальный он или нет, на "плохом" красный крест стоит.

Ты имеешь в виду браузер? У Лисы, если интернет не врёт, собственное хранилище сертификатов и там конкретный сертификат добавляется в список исключений.
С отключенной проверкой клиентского сертификата firefox сперва ругается на серверный сертификат, но после добавления в исключения коннектится и даже корректно отображает полученное.
А если на сервере включить SSL_VERIFY_PEER | SSL_VERIFY_FAIL_IF_NO_PEER_CERT то уже никто не может подключиться.
Чую пятой точкой , что проблема в сертификатах, продолжаю ковырять.