La RAM no se aumenta, como mucho darle una ayuda con la particion swap o segun el kernel o ROM con zRAM. Seria para entendernos como uan RAM virtual para swap y una parte de la RAM comprimida para zRAM/compcache.
Si te pasas aumentandola la multitarea aumentatara el sistema se volvera mas pesado, como mucho esa particion deberia de ser de unos 90Mb, como mucho 128Mb los swappines configuralos como mucho al 30/40% para que no chupe la bateria en unas horas y de paso preservar la vida util de la micro SD (ese % es el uso que hace swap de la SD siendo el 100% un uso constante y un gasto descomunal de energia).
Para zRAM no estoy seguro con este movil pero tal vez el 18% este bien
No es necesario cambiar la ROM pero si de kernel por uno que admita estas opciones extras.
Edito: en el HTC Magic la version de google estos lograron sacar mas RAM haciendo cambios en la radio (modem en los samsung) Hboot (bootloader en los samsung), trucando la camara de fotos (aunque no perdio calidad ni velocidad) y la scene con optimizaciones del kernel le añadieron algo mas tambien. Asi logro google una version de froyo muy rapida y estable para ese terminal (cosa que con eclair ni se plantearon actualizar por que no era fluido con la RAM de serie)