Certes il existe plein de formats de compression d'image meilleurs que le jpeg: les waveslets, WebP, etc. Mais soyons honnêtes: Le JPEG n'est pas prêt de disparaître.
Il y a quelques astuces pour limiter les dégâts:
 - Réduire la résolution de l'image (Non, une image 3500x2000 n'a rien à faire au sein d'une page web).
 - Utiliser un bon logiciel de compression JPEG (http://luci.criosweb.ro/riot/)
 - Éliminer les informations inutiles avec jpegtran (http://sebsauvage.net/links/?0DwJxQ)
 - Passer les JPEG en progressif (http://sebsauvage.net/links/?c5ZnRg).

Mozilla veut apporter sa pierre: Ils ont forké libjpeg-turbo et mixé avec jpgcrush afin de créer un outils qui semble donner 10% de réduction sur la plupart des JPEG.

Moi je pense qu'on a même pas besoin de cet outils pour améliorer 95% des sites web, si ces derniers voulaient bien:
  1) Réduire la qualité jpeg (70-80% est souvent largement suffisant, arrêtez de nous faire du 90 ou 95%, ça ne sert à rien.)
  2) Les mettre tous en progressif.  Bordel.

(Coucou GooglePlay, gros lourdingue. Je n'arrive pas à comprendre comment Google, chantre de l'optimisation, arrive à faire un site à tel point MERDIQUE en temps de chargement des images. D'autres site ont bien compris, comme BoingBoing qui - depuis quelques temps - utilisent du JPEG progressif, ce qui a amélioré de manière spectaculaire la vitesse de chargement de leurs articles, même dans un agrégateur RSS.)