Pred.S. Красивей не нашел, если кто придумал лучше, напишите.
Решил таким образом:
[-] написал dll которая обрабатывает вызов от rundll32.exe
ей передается строка запроса (ssh:хост:порт) и путь к программе обработчика
[-] добавил в реестр к URL листу свой
[HKEY_CLASSES_ROOT\SSH]
@="URL:Протокол SSH"
"EditFlags"=dword:00000002
"URL Protocol"=""