Возможно стоит небного обновить первый пост.
1. Нет необходимости лазить по реестру и в ручную редактировать TotalDTDCount.
Достаточно в DTD калькулятор на закладке Regisry Hack нажать на кнопку More необходимое количество настроек.
2. Для понимания, что прописывать на закладке Calculation, достаточно взять данные из Linux modeline parameters: ("768x576" 14,774 768 784 848 944 576 581 586 626 interlace -hsync -vsync) данные по вертикали соответствуют строке начиная с частоты.