Il faut 12 ans pour construire le bâtiment dessiné par l’architecte du Muséum, Jules André. Ses façades extérieures sont caractéristiques de l’architecture officielle de la fin du 19e siècle, en revanche l’intérieur reflète une parfaite maîtrise de l’architecture métallique : une grande nef centrale éclairée par une vaste verrière zénithale et structurée par de fines colonnes en fonte.


Mais ce bâtiment ne sera jamais fini.  En effet, l’ancien Cabinet d’Histoire naturelle qui devait être détruit pour permettre la construction de la dernière façade de la Galerie de Zoologie, subsiste jusqu’aux années 1960 entre la nouvelle galerie et la rue Geoffroy Saint-Hilaire. Aujourd’hui, à son emplacement se trouvent les réserves de la Bibliothèque Centrale du Muséum.

La Galerie de Zoologie est inaugurée en juillet 1889 et présente plus d’un million de spécimens organisés selon la classification systématique. Une presse enthousiaste salue le mariage de la science et du spectacle. « Au rez-de-chaussée, dans un hall immense, se trouvent les plus grands animaux (…) regroupés d’une façon originale et artistique que l’on n’est pas habitué à rencontrer dans les collections d’histoire naturelle (…) Cette fois on a cherché, autant que possible à faire décoratif et on a réussi. Dans ce grand espace, baigné par la lumière qui tombe à flots du plafond de vitrage et qui éclaire comme en plein air, les animaux empaillés donnent pour un moment l’illusion de la vie … ».
Alexis Lemaitre, « L'institut de France et nos Grands Etablissements Scientifiques » (1896)

Après la seconde guerre mondiale, le Muséum ne parvient pas à moderniser les présentations de la galerie et à soutenir son entretien tout en maintenant l’activité scientifique des laboratoires de recherche. Ainsi la galerie, dont les collections ont continué de croître depuis son ouverture, doit être fermée au public pour des raisons de sécurité en 1966.  La verrière endommagée lors de la Libération de Paris par des éclats d’obus est recouverte en 1966 d’un toit en zinc qui protège les collections des intempéries et de la lumière.
C’est le début d’un long sommeil.