Por un lado tenemos /cache que lo suele utilizar algunos juegos para almacenar archivos temporales y el propio sistema, generalmente las actualizaciones vía OTA y me parece que el recovery también.
En /data/dalvik-cache/ se encuentran todas los APK de /data/app, /system/app y /data/app-private en formato DEX, que viene a ser lo mismo que la APK solo que optimizado para que la maquina virtual Dalvik pueda leerlo.
Si borramos dalvik-cache, al iniciar el sistema éste tardara más de lo normal, ya que tendrá que volver a generar todas las apk optimizadas para la maquina virtual dalvik.