Logiquement un fichier image.tif est supérieur à un fichier image en .jpg (compression) mais risque de fortement augmenter la taille du fichier à transmettre à votre fournisseur.
De plus il faut considérer le format du livre que vous comptez réaliser et également la définition d'origine de vos images.
S'il s'agit d'un livre de petit format un fichier jpg en haute qualité est certainement acceptable, mais pour un livre grand format il faut vérifier.

Consultez les sites des fournisseurs de livres photo, il y a des informations pour vous guider
Il y a des fournisseurs qui limitent le choix des fichiers à transmettre
Le site de Blurb a des informations intéressantes