De momento lo he arreglado instalando un APK muy raro que de alguna forma impide que el Market viejo se actualice. Mi problema era que el Market viejo, que sí funciona en mi teléfono, se actualizaba todo el rato a sí mismo al Google Play nuevo, que es el que se me cierra solo todo el rato.