Tienes que usar la misma codificación en base de datos, PHP y cliente, o hacer conversiones, claro.
Supuesto que tu PHP devuelve el json codificado en UTF-8, tendrías que hacer algo así en Android:
Código:
String json = new String(response.data, "UTF-8");
Si fuera ISO Latin 1 sería "ISO-8859-1" en vez de "UTF-8".