Здравствуйте, Евгений Музыченко, Вы писали:
По WM_DRAWITEM просто рисую рамку через FrameRgn, красным — для выделения, фоновым — для стирания.

При использовании визуальных тем нет единого фонового цвета.
Диалог или property page может использовать (и в реальности использует) текстуру/градиент.
Чтобы правильно эмулировать отсутствие рамки надо вызывать DrawThemeParentBackground.