Я победил свой энкодер, все дело было в 2-х резисторах, которые соединяли 2 контакта на плате, их надо выпаять или перерезать дорожки, идущие к ним:
Все отлично работает!!
Теперь есть целых 5 кнопок:
поворот влево
поворот вправо
нажатие
поворот влево + нажатие
поворот вправо + нажатие
Надо еще заставить работать второй энкодер.