Siento decirte, que Google decidió fastidiarnos con eso a partir de la versión ICS.
En Ginger había volúmenes separados para tono de llamada y notificaciones.
En ICS lo unieron, sin posibilidad de separarlo, y en JB parece que lo mismo.

Sé que hay alguna aplicación por ahí que lo que hace es internamente cambiar el tono de las notificaciones por un "silence", y entonces se consigue eso que quieres.

Pero los volúmenes por separado, parece que JB tampoco..

Habías cosas que estaban mejor en GB...