Задачу можно свести к "Запуск одной копии приложения". Только чтобы это было кросс-платформенное решение — а именно хочется boost.
Кроме как создавать shared memory что еще есть? named_mutex не совсем понял — решает проблему или нет?