Abro este hilo porque aún no he visto a nadie que hable de este problema con el RN6 y evidentemente aun no he dado con la solución.
Una vez desbloqueado el terminal y demás, al instalar TWRP y arrancar desde este bootloader lo primero que te pide es una contraseña para desencriptar los datos y poder montar la partición.
Por lo que he podido indagar hasta ahora, parece ser una contraseña que pide la propia versión de Android, la cual se desconoce.
Por lo visto, en versiones anteriores en el RN5 y otros modelos se tragaba poniendo la contraseña de bloqueo de pantalla que tuvieses puesta en MIUI (o su equivalente en patrón de desbloqueo) tal como se indica en este hilo:
http://en.miui.com/thread-1579833-1-1.html
Lo que pasa es que para el RN6 esto no funciona. Al parecer es cosa de la Oreo, que ya no se traga esto.
La única solución encontrada hasta ahora, es hacer un wipe de los datos desde el propio TWRP y así poder acceder a la partición para instalar la ROM. Y aunque esto podria ser aceptable para una primera instalación, no es funcional a la hora de actualizaciones o instalaciones de otros parches, etc...
He probado las últimas versiones de TWRP.... y todas las que se traga el teléfono hacen lo mismo.
En fin, dejo esto aqui por si a alguien mas le pasa y se consigue llegar a una solucion.
Un saludo