Вот эти строки
OCR1A = 3000
вызывают очень большое сомнение - OCR1B наверняка максимум 8-битный. Поэтому больше 255 туда записать не получится.