En general yo opino que es conveniente actualizar. Pongo como ejemplo el Titanium Backup: con cada nueva actualización la app es más rápida, tiene menos bugs y mayores funcionalidades. Como contra-ejemplo citaría el Go Launcher: a base de actualizaciones pasó de ser un launcher rápido a un ladrillo debido al aumento brutal de opciones de configuración. En mi experiencia, el primer caso está bastante más extendido que el segundo.