Eso lo conseguirás con el AudioManager:
Código:
AudioManager am;
am= (AudioManager) getBaseContext().getSystemService(Context.AUDIO_SERVICE);
am.setRingerMode(AudioManager.RINGER_MODE_NORMAL);
am.setRingerMode(AudioManager.RINGER_MODE_SILENT);
am.setRingerMode(AudioManager.RINGER_MODE_VIBRATE);
También te permite modificar los volúmenes del sistema
Fuente:
http://stackoverflow.com/a/11699631 