В WinHEX редакторе. Файл BIN. Нужно найти места, где под определенные разрешения прописаны тайминги, и методом проб и ошибок заставить монитор работать правильно.
Блок EDID даст возможность операционной системе корректно определить параметры монитора.