Por lo visto están en
/data/data/com.google.android.apps.books/files/accounts/tu@cuenta/volumes
Pero también creo que están cifrados...
Lo interesante ahora sería saber si copiando el contenido de ese directorio sería suficiente para hacer el backup de los libros. O tal vez haciendo backup desde el subdirectorio "tu@cuenta"...