Lo haces mal.
Ese archivo es el Tar, ese que acaba en 7z, dentro esta la imagen, no tienes que extraer nada mas, tu intentas extraer del fichero que necesitas cosa mas y no es asi.
Una vez hayas extraido el system rooted.img con el winrar, ese fichero rooted system.img lo metes a la raiz del telefono.
