L'Ecole polytechnique a été créée par la Convention en 1794. L'organisation des études, avec la place prépondérante des mathématiques, l'administration fondée sur le principe des conseils, le recrutement des élèves par un concours sélectif sont le fruit du travail de savants tels que Monge (qui s'appuie sur le modèle de l'Ecole du génie de Mézières) ou Berthollet et de politiques tels que Lazare Carnot ou Prieur de la Côte d'Or.
En 1804, par décret, Napoléon 1er soumet l'Ecole au régime militaire. Les collections d'objets comme celles d'ouvrages nécessaires à un enseignement scientifique appuyé sur l'expérience ont été constituées à partir des confiscations révolutionnaires. Elles n'ont cessé d'être enrichies soit par des apports exceptionnels comme les livres des bibliothèques particulières du pape Pie VI ou du cardinal Albani dans le cadre du traité de Tolentino en 1797, soit par accroissement tout au long du XIXe siècle, par des dons, legs et acquisitions dans tous les domaines de l'enseignement scientifique et général dispensé à l'Ecole.
Les collections patrimoniales de l'Ecole polytechnique font l'objet de deux expositions permanentes : les objets scientifiques anciens sur la mezzanine du salon d'honneur et une rétrospective du grand uniforme des élèves montrant l'évolution de leur tenue de cérémonie depuis la création de l'Ecole en 1794 jusqu'à nos jours, couloir des expositions.
Par ailleurs deux expositions temporaires se succèdent chaque année en mars et en octobre pour valoriser l'ensemble des collections.
Aujourd'hui, la bibliothèque est encyclopédique, avec une très forte dominante en sciences fondamentales. Elle offre des services de type documentaire à un public d'enseignants, d'élèves et de chercheurs, et des services de type culturel à l'ensemble des personnels de l'Ecole. Totalement informatisée avec le progiciel Aleph, la bibliothèque offre la consultation de son catalogue en ligne : www.bibliothèque.polytechnique.fr