У меня была такая же ситуация с невозможностью выхода из полного экрана при просмотре фильма. Причину нашел - стояли какие-то кривые кодеки. Поставил K-Lite, настроил все гнать через ffmpeg и вуаля
Заодно в ffmpeg настроил кривизну экрана - у меня 16:9 при разрешении 800х600 - раньше фильмы плющились, теперь один-в-один как надо кажет. Ну, и звук тоже полезно выставить в кодеке на 100% - а то некоторые авишники попадаются с таким тихим звуком, что вообще ничего не слышно.