Никак не могу понять неужели не существует функции, преобразующей
строку c числом в hex к BYTE.

Существует. Зовется sscanf()

А strtol, strtoul не подходит?

Здравствуйте, Vamp, Вы писали:

V>Существует. Зовется sscanf()
Или strtoul (указать систему счисления = 16)

Здравствуйте, Аноним, Вы писали:

А>Никак не могу понять неужели не существует функции, преобразующей
А>строку c числом в hex к BYTE.

Существует:
строка: str[10]="AF";
байт: BYTE b;
преобразование: sscanf(str,"%x",&b);