Потому что маска 768 , для АЦП больше и не требовалось, у него разрядность 10бит
768+255=1023, а Тебе для передачи 16 битного значения нужно использовать маску 65280
Я бы все таки посоветовал разобраться с логическими преобразованиями, а то без этого много не на программируешь.
Я программирование начал осваивать именно с логических преобразований.