Надо установить 0-модемное соединение между парой виртуальных СОМ-портов ( можно использовать программу com0com ). Данные слать из эмулятора в один порт пары, приложение настроить на второй. Настройки эмулятора такие же как и для сетевой версии, только вместо "TCP" выбрать "Serial port". Как проявляется нестабильность?