Un mod te cambia cosas puntuales(icono de la bateria,dialer,etc) y un theme es mas completo,se supone que te cambia todo el aspecto visual(color,iconos, etc) y sobre la compatibilidad generalmente el ultimo que pongas es el que predomina
aunque hay veces que se mezclan.