Fameuse basse colorature, Filippo s'impose comme un grand nom du premier tiers du siècle, marqué par la révolution rossinienne puis l'avènement du premier romantisme encore largement teinté de belcantisme.

Il débute pourtant comme ténor, et s'impose comme tel pendant une dizaine d'années. C'est à Venise qu'on le repère en 1804, au San Moisè spécialisé dans le répertoire comique, notamment dans La Burla fortunata de Pucitta avec d'autres jeunes artistes appelés à de grands succès durant la même période : les basses Nicola Bassi et Andrea Verni, et la soprano Francesca Festa. Dès 1804-05, à Parme, il ajoute l'opera seria à son arc, avec La Morte di Semiramide de Nasolini – il y chante Arsace, rôle créé par le castrat Crescentini. À Naples de 1805 à 1808, il partage ses talents entre le San Carlo, pour le genre sérieux signé Zingarelli entre autres, et le Teatro dei Fiorentini, consacré à l'opéra bouffe.
Cependant, sa carrière se développe ensuite dans le nord de la Péninsule, entre Livourne, Parme, Turin, Florence, Padoue, Vicence... Galli continue de chanter opera seria, semi-seria et buffa, avec des reprises de Mayr, Nasolini, Cimarosa, Fioraventi, Coccia et Portugal, mais aussi des créations (par exemple Oreste de Morlacchi avec la contralto Marcolini en 1808 et Così si fa alle donne de Caruso en 1810). Il reprend par exemple le rôle créé par le ténor Tacchinardi dans Traiano in Dacia de Nicolini.

Le tournant vocal a lieu autour de 1810 ; la légende veut que sa voix ait baissé des suites d'une maladie. Les conseils du vieux Paisiello l'auraient engagé à travailler sa nouvelle tessiture. Dans Le Cantatrici villane de Fioravanti à Trieste en 1811, il incarne indéniablement une partie de basse. Retrouvant le San Moisè en 1811-12 puis 1813, la basse prend part à six nouvelles productions signées Giuseppe Mosca ou Generali, mais aussi un jeune talent nommé Rossini. Galli crée donc L'Inganno felice, avec la diva Teresa Giorgi-Belloc, puis L'Italiana in Algeri, avec la Marcolini, deux partenaires régulières. Entretemps, il était passé par Milan, créant La Pietra del paragone.

La Scala est son théâtre d'élection pendant plusieurs saisons : même s'il paraît aussi à Trieste, Turin ou Rome (1815), Galli est un pilier des distributions milanaises entre 1812 et 1817. Il y crée encore plusieurs opéras de Rossini, comme Torvaldo e Dorliska avec le ténor Donzelli, ainsi que d'autres succès du moment comme Agatina de Pavesi (avec trois divas : la Correa, la Festa-Maffei et Rosa Pinotti) et Maometto de Winter. Dans ces œuvres, la basse a des rôles inhabituellement développés pour l'époque, aussi imposants dramatiquement que vocalement, avec d'abondantes coloratures. De Mozart, qu'on commence à jouer en Italie, il chante également Figaro, Papageno, Guglielmo et Don Giovanni.
Après un nouveau passage à Venise, il se rend à Barcelone où il interprète Rossini bien sûr (Figaro, Magnifico, Mustafà...), mais aussi Mayr, Paër, Coccia et Soliva. De retour en Italie, il retrouve notamment Milan entre 1820 et 1825, période pendant laquelle il se présente à nouveau à Naples où Rossini règne en maître (création de Maometto II), puis Venise où le maestro livre son chant du cygne italien (Semiramide). Ces deux opéras mettent particulièrement la voix de Galli en valeur. Le compositeur pésarais représente l'essentiel du répertoire de Galli lors de son séjour à Madrid en 1828-29, même s'il donne aussi Agnese de Paër par exemple. Galli passe également par Paris (1821, 1825) et Londres (1827) : on trouve sa vocalisation alourdie mais son interprétation toujours pénétrante. Les Français, assez prévenus contre les bouffonneries italiennes, commencent par le trouver trop exubérant, avant d'apprécier son jeu. Stendhal écrit, entre autres louanges dans sa Vie de Rossini : « L'Italie possède en 1825 quatre voix de basse excellentes : La Blache, Galli, Zucchelli et Remorini ». Il détaille l'interprétation de Galli en Fernando et Mustafà.
Après un passage à Rome, Galli est à Milan en 1830 pour Anna Bolena d'un compositeur de la nouvelle génération, Gaetano Donizetti, avec la Pasta. La carrière de Galli touche lentement à sa fin ; il porte l'art rossinien au Mexique entre 1831 et 1836. Après la prima donna Carolina Pellegrini, c'est Galli qui obtient le cachet le plus élevé. On le retrouve une dernière fois à Milan pour le rôle titre de Marino Faliero en 1840 puis à Barcelone l'année suivante pour une ultime Italiana in Algeri de Rossini, décidément son auteur fétiche.

Filippo Galli termine sa vie à Paris où il arrive en 1842. On lui accorde un poste d'enseignant en déclamation au convervatoire. Fort dispendieux, il termine sa vie dans la pauvreté.