La municipalité socialiste d'Étienne Billières décide de faire de ce projet la pièce maîtresse de sa politique d'éducation. Elle achète en 1928 le terrain de l'ancien couvent des Carmélites dont seule la chapelle a été conservée. Pol Neveux, Inspecteur général des bibliothèques, pilote le projet.

L'architecte de la ville Jean Montariol, chargé de mener à bien cette entreprise, y voit l'occasion d'édifier son chef d'œuvre. Les plans qu'il présente en 1929 illustrent ses conceptions fonctionnalistes, qui s'expriment au travers d'une division de l'espace par activité. Il imagine un édifice en trois parties : un premier corps de bâtiment accueillant le service administratif, un second hébergeant la salle de lecture et un dernier recevant le magasin des livres. En cela, il conçoit un projet à l'image des conceptions de Michel Roux-Spitz (architecte en chef de la Bibliothèque nationale) sur la répartition des espaces servants et espaces servis.