Попробуй плавно подними частоту(Scan Rate) до 17500 и плавно опускай до 7868, при этом смотри на экран. Синхру с какой ножки VGA разьема снимал?