Ikaos lo ha explicado perfectamente. Para ampliarte un poco más.
Imáginate el Sistema Operativo del móvil en capas, como una cebolla: El Kernel sería la capa más interna, la "base" del sistema operativo, donde se ejecutan las operaciones a nivel básico, y la "Rom" sería la parte más externa que se encarga de relacionar esa "capa base" con todas las características del aparato: Conexiones, pantalla, interfaz, etc.
Así pues, son relativamente independientes, pero relacionados: a la hora de actualizar el kernel, por ejemplo, hay que escoger uno "que sea compatible" con la Rom que llevas puesta, no puedes poner el que quieras.
Todo ésto dentro de mi ignorancia y confiando en no soltar un rebuzno.
Nota: Si no te lo digo yo, te lo dirá algún otro: No es "Room" (habitación en inglés), sino "Rom" (Read-only Memory). Aunque veas escrito "room" en muchos sitios, no es la manera correcta de decirlo. Eso sí, una vez que se sabe cómo se dice, cada uno puede hacerlo como le de la gana

.
Un saludo.