Depende de si tu aplicación necesita de Fragments o no, no son obligatorios.
Te pongo unos ejemplos de uso de Fragments:
Ejemplo 1 (Maestro-Detalle para móvil y tablet)
Es el ejemplo típico de uso de Fragment, y el que viene en la documentación oficial de Google, o al menos el que venía cuando salió ICS.
Tienes una Activity que es una lista, que al pulsarla muestra el elemento de la lista en detalle en otra Activity. Eso en móviles funciona muy bien, pero en tablet quizás te interesaría mostrar una lista ocupando 1/3 de la pantalla y luego a la derecha ocupando 2/3 el detalle, así puedes ir cambiando de elemento que ves sin tener que ir pasando de una pantalla a otra.
En este caso tendrías 2 Fragments, uno con la lista y otro con el detalle, y 2 Activities, uno para móvil y otro para tablet. El del móvil carga siempre 1 único Fragment y se va reemplazando entre lista y detalle, el de la tablet carga 2 Fragments y sólo reemplaza el detalle.
De esta manera el 90% del código es igual entre móvil y tablet, y no necesitas hacer 3 Activities distintas, 2 para móvil y 1 para tablet. Así es más fácil mantener el código.
Ejemplo 2 (Sistema de navegación)
Tienes un sistema de navegación, ya sea en Tabs o en Navigation Drawer. En vez de tener que replicar el sistema en todas tus Activities, tienes 1 única Activity con los Tabs o Navigation Drawer, y vas reemplazando el contenido por el Fragment en cuestión al que quieres navegar.
Esto mismo vale en ViewPagers también.
En cualquier otro caso, apps cuyas Activities no tengan relación con ninguna otra no tienes porqué usar Fragments. Yo por ejemplo sólo uso Fragments para las pantallas que van en la parte principal de la aplicación (donde está el sistema de navegación), a partir de ahí todas las subpantallas que se van abriendo son Activities (salvo que alguna tenga un ViewPager).
Espero haberte ayudado.