Ufff que cosa mas rara. Si no te importa empezar de 0 yo probaría con una ROM stock para odin de esas que tienen todos los archivos en lugar de solo 1 "con todo lo necesario".
Suelen solucionar esos problemas raros de tamaños locos en las particiones. Una vez instalada haz format desde las opciones de android y despues en el recovery original un reset al sistema.
Ahora lo del cifrado me ha dejado loco.
Suerte compi.
EDITO: Y si puedes usa Odin 1.85 (creo que ese fue el ultimo para el S2) aunque parecen iguales todos en este caso no siempre la version mas reciente es la mejor, si no la que es compatible con tu terminal. Por ejemplo para que te hagas una idea de la importancia de la version especifica para cada modelo de galaxy de Odin; con Galaxy ACE Odin no usa ni el mismo formato de archivo para las ROMs, Modem, etc...