Como bien dices, nginx es un proxy, un intermediario de las conexiones entrantes que las procesa y redirige donde haga falta. No sustituye al servidor de aplicaciones (tomcat, wildfly, vert.x, node.js, etc.)
¿Que para qué quieres un proxy en vez de conectar directamente con el puerto del servidor de aplicaciones? Porque es ligero y facilita enormemente las conexiones seguras SSL. Instalas los certificados en nginx que es editar un fichero de texto y poco más, y los usuarios se conectan a través de nginx de forma segura. Sin embargo, los servicios por dentro los implementas sin preocuparte de cómo se configura el SSL en cada servidor o en cada servicio.
Tiene más ventajas, es muy bueno para servir contenido web estático, permite balanceo de carga, reescritura de URLs y redirección de tráfico. A mí por ejemplo esto último me vino muy bien cuando cambié de servidor, tuve el viejo con nginx redirigiendo tráfico al nuevo mientras se actualizaban las DNS y así el 100% de los usuarios estaban accediendo al servidor nuevo incluso si la IP a la que estaban conectados era la vieja.
Si no quieres usar nginx tendrás que lidiar con Tomcat y la keystore de java para instalar los certificados. Y si mañana quieres instalar un servicio basado en node.js tendrás que lidiar con la configuración de SSL en node.js. O si decides usar vert.x, más de lo mismo, a buscar cómo se implementa SSL. Y el día que tengas que renovar el certificado, fiesta, porque tendrás que cambiarlo en varios sitios en vez de en uno solo. Ya solo por eso merece la pena, lo configuras una vez y te olvidas de que existe si quieres.
