Desconozco los detalles del API bluetooth pero imagino que serán como los sockets de TCP e intercambiarás datos con InputStream y OutputStream, ¿no? La forma de cerrar la conexión es cerrando esos streams.
Sobre cómo detectar que la app se cierre, para eso tienes el onPause y el onStop de la activity, ahí cierras lo que quieras.