Bueno, de momento olvídate de “apk”, que en iOS no se funciona así!. Lo más sencillo y seguro es buscar las apps que quieras en la Apple store.
Por otra parte, no te gusta la app de música nativa?. Lo malo es que tienes que pasar la música al teléfono a través de iTunes (y digo lo malo porque hay a quien le molesta, pero vamos, que al menos para mi no es para tanto).
Una vez pasada la música a través de iTunes, en la app de música de iOS la tendrás en tu biblioteca del teléfono, y la reproducirás de manera local.
De otras aplicaciones no puedo hablarte ya que a mi con esa opción me basta! Suerte compañero!