Здравствуйте, Zavialov.
Подписывать нужно .cat-файл, а не бинарник.
Если только это не BOOT-драйвер. Имеются и другие нюансы, связанные с цифровыми подписями — навскидку не вспомню.
Почитайте, здесь например:
Signing Drivers for Public Release (Windows Vista and Later)