La mayor diferencia es el diseño. Por un lado, es más fino y dimensiones ligeramente menores, además de menor peso. Por otro lado, los materiales son mejores, cristal y aluminio, lo que lo hace mucho más bonito que su antecesor.
Por lo demás, lleva un procesador ligeramente mejor y a mayor frecuencia y una batería que aunque de menor capacidad, se supone que dura más, pero ni una cosas ni otra la notarás demasiado, ya que la fluidez y la capacidad son muy buenas en el z2 tb.
Otra cosa es la versión de Android, más actual la del z3, y además se actualizará antes a lolipop.
He probado los dos, y en mi opinión, el z3 es una versión mejorada sobretodo en diseño del z2. Mi recomendación es que si tienes un z2, no merece la pena pasar al z3 sino es porque te encanta el nuevo diseño, pero si tienes que decidir entre los dos, verte de cabeza al z3.
Por último, yo he tenido cero problemas con el z3. Ni círculo rosa en fotos, ni fuga de luz, ni notificaciones bajas. No se si he tenido suerte o es que la gente es muy tikismikis pero puedes leer en foro otros posts donde habla de los problemas, y juzgar tu mismo.