Cette basse spécialisée dans le répertoire comique commence sa carrière à Rome en 1748-49, chantant des pages d'Antonio Aurisicchio et Lorenzo Bologna. On l'entend ensuite à Venise puis Milan où il crée en 1750 L'Arcadia in Brenta de Galuppi et La Favola dei tre gobbi de Ciampi avec le couple Paganini et le castrat Peretti. L'âge d'or de l'opera buffa commence, et Leonardi joue son rôle dans cette émergence en multipliant les créations pour Galuppi, Cocchi et Fischietti, trois grands noms du genre dans les années 1750. Il se produit essentiellement au San Samuele de Venise, mais aussi Padoue, Milan, Brescia, Turin... Certains de ses collègues du moment sont la célèbre contralto Serafina Penni, les sopranos Zamperini et Conti, le ténor Laschi, les basses Carattoli, Del Zanca et Baglioni.
En 1759 et les années suivantes, Leonardi conserve le même répertoire, continuant à créer et reprendre Galuppi et consorts, cette fois-ci plutôt entre Rome et Gênes, Turin, Milan... Il est par exemple de la première de La Ritornata di Londra de Galuppi avec les castrats Vasquez et Orti (1759) ou encore La Buona Figliuola maritata de Piccinni (1762) avec les castrats Fabbri, Giustinelli et le ténor Lovattini.

Leonardi est ensuite engagé pour la cour de Lisbonne, où il chante au théâtre jusqu'à la fin de sa carrière. Il débute dans Il Cavaliere per amore de Piccinni en 1764, reprend beaucoup de succès italiens de Traetta, Fischietti, Piccinni Scolari, Bertoni, etc. et crée quelques opéras d'auteurs locaux comme Carvalho ou Avondano (Il Mondo della Luna en 1765). L'ensemble repose sur des nombreux castrats (Vasquez, Orti ou encore Romanini, mais aussi la basse Cavalli. Giovanni participe à trois productions bouffes de Jommelli en 1770, et au dramma serio-comico Le Avventure di Cleomede du même en 1772, avec les castrats de l'opera seria Ripa et Reina. Ses prestations se raréfient sur scène après 1776, mais on l'entend encore de 1784 à 1786 pour finir avec Il Fratelli Pappamosca de Guglielmi. Il faut noter que Giovanni assure aussi la direction de productions opératiques.