public static void main(String[] args) {
        System.out.println(0xFFFFFFFF >>> 0 == 0xFFFFFFFF >>> 32);
    }

Кто-нибудь может объяснить поведение?

Спеку читал, про использование остатка от деления на 32 для правого операнда ничего нет

http://docs.oracle.com/javase/specs/jls/se7/html/jls-15.html#jls-15.19