Après deux apparitions épisodiques en 1957 (comme compositeur) et 1964 (oeuvres de Monteverdi) c’est à partir de 1966 que sa carrière discographique prends son envol avec la maison Philips et la sortie d’un disque de Toccatas, enregistré à Berlin ! Après un passage de quelques années chez le label neerlandais Festivo pour lequel il enregistra 7 vinyles, ce fut le tour du label nord-americain Dorian avec lequel furent publies 15 volumes, dont une intégrale Franck. À partir de la moitié des années 1990 et au début du nouveau siècle, Jean Guillou enregistra plusieurs CD (dont une intégrale Bach) à nouveau pour le groupe Universal (Philips, Decca). À partir de 2008 la relève a été assurée par le label Augure.