Yo acabo de probar un vídeo a 60 fps y me deja ponerlo a 720p...
prueba a actualizar la apk de youtube, si no te sale en google play prueba con descargar este archivo (tienes que tener activada la instalación de aplicaciones de orígenes desconocidos, en ajuste>seguridad)
http://www.apkmirror.com/apk/google-...-apk-download