Comprueba que al instalar el twrp, la opcion depuración usb dentro de las opciones de desarrollar, esté habilitada. A mi me pasó que lo instalé sin haber habilitado dicha opción, y me ocurría exactamente eso. No era capaz de desencriptar y daba error al intentar instalar rom xiaomi. Eu. Se solucionó volviendo a instalar twrp con la opcion depuración habilitada.
Saludos