En 16:9 la cámara no usa toda la superficie del sensor, puesto que la imagen se recorta por el borde superior e inferior. Por eso tiene menos píxeles. Por lo tanto es físicamente imposible que la imagen resultante tenga 5 mpx. Si los tiene, es porque la app realiza una interpolación por software y, lógicamente no gana en calidad.
