Si ya tienes una web que accede a la base de datos será algo hecho en PHP probablemente, o quizá un wordpress o algún otro CMS.
Lo que necesitas es un servicio web, que en el fondo es como una página web pero que en vez de devolver un HTML bonito para que lo vea una persona con su navegador, devuelve los datos en un formato que entienda la app (normalmente JSON o texto simple). Pero sigue siendo una comunicación HTTP, y en la app accederías como si fueras a descargar una web normal por HTTP, solo cambia lo que recibes.
Acceder directamente desde la app a la base de datos no es nada recomendable, entre otras cosas porque la contraseña a la base de datos debería estar solo en el servidor, no en tu app (que entonces cualquier la descompila y te hace el lío).
Depende de esa página web cómo esté hecha, si usa algún CMS es posible que incluso existan plugins para acceder fácilmente a la información desde una app.