1) Splitter не понимает MKV, сделаные с помощью mkvmerge без указания ключа --no-comperession для каждой дороги (а это поведение mkvmerge по умолчанию)
2) Muxer создает файл не воспринимаемый mplayer-ом (http://sourceforge.net/projects/mplayer-win32/). Муксил AVC(x264)+PCM(вывод с AC3filter)