I>Насколько легко сломать такую защиту? Как я понимаю, самое узкое место здесь это посылка/принятие сообщений.
Узкое место тут в другом. Все это ломается элементарно. Служба вообще выбрасывается на помойку и закорачивается проверка в самом приложении. А что там хеширует служба никого не интересует.

I>Вообще, надо ли это делать именно так или проще все проверки сделать в приложении(генерацию хэша, получение хэша из реестра), естественно предварительно запутав код?
Не тем ты занят. Не зря говорят, что "российские программы — это глубокие, хорошо продуманные, архитектурно безупречные защиты от копирования с небольшими дополнительными возможностями". Вложив энергию в собственно приложение, ты получишь отдачу гораздо больше.