Efectivamente, si ya cambiaste el conector USB y sigue haciendo cosas raras solo te quedan un par de cosas por hacer.

Resetear el movil de fabrica, ojo que pierdes los contactos y las apps, las fotos y videos de las memorias no se perderán a menos que tu quieras. Está en Ajustes...

O como te dijeron, una batería fiable, ya que las baterias que venden por ahi algunas no dan la calidad o los voltajes que el movil requiere y entra en un bucle de no-retorno.

Otra cosa que te digo también, usa un cargador Samsung original o alguno que te dé 5 Voltios, 700 mA..... porque si el cargador no es bueno tambien puede hacer cosas raras el telefono.

Busca en Amazon o Ebay, hay baterias y cargadores originales... te lo garantizo.