Yo probé dolby en roms 8.1 aosp (resurrection remix, havoc) y los módulos que se bajan desde magisk no sirven así que será por oreo.
Con viper no hay problema, funciona bien.
También uso youtube vanced, con desinstalar las actualizaciones de la app de youtube ya funciona, no es necesario desinstalar la app de sistema. Sigue siendo para actualizar youtube en el play así que hay que tener cuidado de no actualizarlo porque se pierde el vanced hasta que desinstalas la actualización.