Puedes sobreescribir onBackPressed para que inicie a la Activity "anterior", si usas FLAG_ACTIVITY_CLEAR_TOP provocará el mismo efecto que pulsar atrás. Lo único malo es que se creará una instancia nueva, y no la instancia que ya tenías antes.
Es decir, si abres la app y tienes A que tiene un EditText y pones un texto, y después vas a B, en condiciones normales volverías a A con el EditText aún relleno.
Si sobreescribes onBackPressed para que haga lo que te he dicho provocará que cuando vayas a B y vuelvas a A el EditText esté vacío. Pero si abres la notificación y se abre B y luego pulsas Back aparecerá A.
Después de todo este rollazo te voy a contar lo que hago yo, que me pasaba algo parecido.
La app abre A, que puedes navegar a B y muchos sitios más. La notificación debe mostrar a B. Pero lo que hago es desde la notificación lanzar a A con un Extra en el que le indico que la estoy abriendo desde una notificación, así que en el onCreate de A compruebo el Extra y si existe lanzo inmediatamente a B. El usuario verá sólo a B, pero al pulsar Back estará A.