S>Процесс может сам себе поменять маску по ядрам. Можно ли как-то это запретить?

Если сработает ограничение прав на job`у как описал в этом сообщении (Запрет программе запуск других программ), то через JOB_OBJECT_LIMIT_AFFINITY.