Instalando
QuickPic no te complicarías la vida. Si prefieres complicártela tienes que buscar con un buen explorador (Root explorer o Super Manager , por ejemplo) tu galería (no se cómo se llama) en
system/app para eliminarla, o buscarla con
Titanium Backup para congelarla. Para ello deberás tener el teléfono rooteado y darle a la galería los permisos adecuados para borrarla con los exploradores. Previamente tendrás que haber conseguido la galería original para instalarla, yo no sé cuál es; si es la genérica de ICS la tienes aquí
Gallery ICS.
Con el método fácil solo tienes que instalar
QuickPic y marcarlo como galería preseleccionada cuando lo pida. Es mejor y trabaja con mayor tipo de archivos que la galería normal ;)