Я не помню точные параметры когда настраивал.
попробуй поставить так:
40,00 800 864 928 1088 480 481 484 509 +hsync + vsync (36.8 kHz)
Напиши в аську. Попробуем настроить. Если все хорошо получится то результат здесь выложим.