Hola, a lo mejor tu problema radica en que cuando le das a "Apagar" en la Z, no se apaga de verdad. Para entrar en HBOOT, apaga, quita la bateria y vuelve a ponerla, y entonces enciende manteniendo Power+Volumen Abajo.
De todas formas con esto sólo conseguirás entrar en el Bootloader, lo cual no basta para hacer root y meter roms. Tendrás que hacer primero downgrade y S-Off, pasate por los hilos correspondientes para informarte de todo el tema