Здравствуйте, %, Вы писали:

%>Ничего не понятно. Сравнение с битовой маской, которых 8 штук по одной на бит? Что это вообще?

Я ж говорю, код с ошибками.

Там

if (i < s_arr1) { code[arr1[i]] |= mask1; if (code[arr1[i]] == maskEnd) return  arr1[i]; }

должно быть.

Здравствуйте, %, Вы писали:

%>Ничего не понятно. Сравнение с битовой маской, которых 8 штук по одной на бит? Что это вообще?

Я ж говорю, код с ошибками.

Там

if (i < s_arr1) { code[arr1[i]] |= mask1; if (code[arr1[i]] == maskEnd) return  arr1[i]; }

должно быть.
Подсчет идет числом единичных битов в code[char].