C'est plus qu'étrange...

Du moment que tu coches "Limiter la taille..." la qualité jpg n'a aucune influence, qu'elle ait été sur 100 ou 0 avant.
Et le redimensionnement ne doit pas donner de décalage.

Est-ce que tu as des plugins installés ?