Небходимо сравнить два бинарных файла. Достаточно лишь узнать идентичны ли файлы побайтово, или нет.
Что приходит в голову:
1. Сравнить размеры. Если размеры различаются, файлы не равны, иначе п 2.
2. Сравнить хэши. Если хэши различаются, файлы не равны, иначе п 3.
3. А вот тут не знаю что... Можно начинать делить файл пополам и сравнивать хэши половионок и так далее... Или тупо сравнивать побайтово...

Не хочу изобретать велосипед, наверняка у такой классической задачи есть какой-то классический алгоритм, но только я его не знаю. Кто чем пожет?