Доброго Нового года!
int iRes = wcscmp(L"актёр", L"актуа");
Почему в этом случае iRes == 1?
Эксперименты с setlocale, сравнение как однобайтовых строк и так далее — ничего не дают. В любом случае сортировка идёт неправильно. Спотыкается или на букве Ё или Й.