avr gcc

Это у тебя глюк, обусловленный невнимательным чтением книг.

А чего ты ожидал? Арифметика в Си всегда минимум int, следовательнно ~0x00nn == 0xFFmm которые НИКОГДА не равны 0x00xx или пусть даже 0xFFxx.

Запиши как if ((unsigned char)(~w1) == (unsigned char)w2) и будет тебе счастье. И никаких там фокусов после этого быть не должно, ну а если неэффективно - ну что поделать.

Аркадий