Yo las quito primero por manía propia, me gusta tener controlado lo que uso y lo que no, y si algo no lo uso no lo necesito.
Al iguál que de vez en cuando con el explorador root elimino las carpetas residuales que dejan programas que he usado y he desinstalado.
Luego está el tema de que muchas apps que mete el fabricante o los operadores están hechas para que funcionen siempre chupando recursos.
El móvil es un ordenador, y por lo tanto a mayor número de apps, peor rendimiento.