Yo ahora mismo no lo tengo instalado,pero para ver los Mkv,los comprimia con el Format Factory y quedaban bien. Las opciones que ponia eran:
Video Size: 800x480
Bitrate:Auto
Fps:Auto
Aspect radio: Expandido ( creo se llamaba así,para aprovechar toda la pantalla)
Encode 2 pass:No
Lo demas todo como está,salvo en Volume control le ponia +6db.
Ah! y para verlos suelo usar el Vplayer,el Rockplayer tambien funciona bien.
Espero que te funcione
Salu2