Или еще проще.
Когда рамка не нужна — удаляем статик (или просто не создаем).
Статик всегда рисует одним цветом (красным, например).

Т.е. функция установки рамки для кнопки:
— берет четырехугольник кнопки
— расширяет его во все стороны
— создает статик и устанавливает z-order "перед кнопкой"

Для статика можно еще сделать таймер, чтобы оттенки красного
циклически менялись для большей заметности.

Необходимость подсветки кнопки, насколько я понял, выясняется в рантайм,
а не при рисовании формы в редакторе ресурсов.
Соответственно, в обработчике WM_INITDIALOG при необходимости
зовем функцию создания статика для нужной кнопки.

Или еще проще.
Когда рамка не нужна — удаляем статик (или просто не создаем).
Статик всегда рисует одним цветом (красным, например).

Т.е. функция установки рамки для кнопки:
— берет четырехугольник кнопки
— расширяет его во все стороны
— создает статик и устанавливает z-order "под кнопкой"

Для статика можно еще сделать таймер, чтобы оттенки красного
циклически менялись для большей заметности.

Необходимость подсветки кнопки, насколько я понял, выясняется в рантайм,
а не при рисовании формы в редакторе ресурсов.
Соответственно, в обработчике WM_INITDIALOG при необходимости
зовем функцию создания статика для нужной кнопки.