Locale.getDefault().getLanguage();
Devuelve un String con el código ISO-639 de 2 caracteres. Es decir, para español es "es", para inglés "en", para alemán "de".
Tienes todos los códigos en esta página:
http://en.wikipedia.org/wiki/List_of_ISO_639-1_codes