Hola. Felicidades por tu nueva adquisición. Yo también soy nuevo en android.

Depende de como se haya hecho la aplicación, pero básicamente, si oprimes el botón central (home) la aplicación sigue corriendo en segundo plano al tiempo que vas directamente al escritorio, y esto siempre será así (si no me equivoco). Es como un "acceso directo".
Con el botón atrás (volver) el comportamiento puede ser el mismo, o no... Muchas aplicaciones te preguntarán si quieres salir de la aplicación (en lugar de dejarla en segundo plano). En otros casos sirve para volver a un menú anterior. Si la aplicación no se cierra y se queda en segundo plano, da igual un botón que otro.