En el caso de los móviles la memoria ROM hace referencia a la memoria flash donde se instalan las aplicaciones. Resumiendo cuando hablamos de móviles y de Android más concretamente:
RAM: Donde se almacen las aplicaciones en ejecución. Limita la cantidad (multitarea) y el tamaño de las aplicaciones que podemos ejecutar y afecta directamente al rendimiento. Se libera al apagar el móvil.
ROM: Memoria flash interna donde se almacena el sistema y las aplicaciones (en Android normalmente es el lugar por defecto si no se usa app2sd ni se copian a la SD). Limita la cantidad de aplicaciones que podemos tener instaladas en el teléfono y no afecta directamente al rendimiento. No se pierde al quedarse sin alimentación.
Es precisamente por este motivo por el que los "firmwares" (ROM's=S.O.) de los móviles reciben el nombre de ROM puesto que es la memoria donde se instalan.