Hola, puede comenzar desbloqueando el bootloader, para el Redmi Note 5 existen más de 30 custom rom entre MIUI, AOSP, y variantes de LineageOS (Antigua Cyanogenmods) lo invito a pasar por los foros de XDA y este grupo de Telegram de habla hispana donde le puede ayudar con más detalle:
https://t.me/xiaomi_Redmi_Note_5_global