Yo también tuve que borrar varias veces las claves del registro. Al final muchas veces lo que hacía para evitar problemas de permisos, era poner mi usuario como Propietario y marcar la casilla de "Reemplazar propietario en subcontenedores y objetos". Con esto y los permisos adecuados, debería poder eliminar todas las carpetas del registro y las claves internas, salvo la carpeta Properties, que no hay manera (igual en 32 bits si que se puede).
¿no te llega ni a instalar el primer driver, el "HTC Dream Composite ADB"?