Le traité de Francfort mettant fin à la guerre franco-prussienne avait créé de fait une nouvelle entité territoriale détachée de l’Alsace et qui deviendrait en 1922 le département du Territoire de Belfort. Dans cette nouvelle entité fut fondée une société savante : la Société belfortaine d’émulation. Un arrêté préfectoral du 25 mars 1872 autorisa sa constitution. Le premier article de cet arrêté précisa ses missions : elle avait pour but « de développer le goût des choses littéraires et scientifiques, de conserver tout ce qui se rattache à l’histoire de Belfort et de l’Alsace, et spécialement de réorganiser la Bibliothèque de la ville ». Ses statuts, publiés dans son premier Bulletin, indiquèrent plus explicitement la tâche qui incombait à la SBE : il lui fallait « reconstituer » la bibliothèque – elle avait subi des pertes lors des bombardements de 1870 – et l’« accroître ».
Les Bulletins publiés par la SBE rendaient compte régulièrement du travail qu’elle accomplissait : enrichissement des collections, inventaire des livres et impression de catalogues détaillés. Et elle ouvrit une « Bibliothèque populaire », ce qui fut évoqué lors de l’Assemblée générale du 11 juillet 1878 : « Nous avons aussi créé, avec le concours de l’autorité municipale, une bibliothèque populaire installée dans un local spécial et qui est appelée à rendre de véritables services » (Bulletin n° 4, 1880, p. 18).
Cette bibliothèque fut dotée d’un fonds. Il témoigne de la volonté de diffuser le savoir auprès d’un lectorat plus large que celui de la « Bibliothèque » héritière de celle du collège et donc savante. Mais les nouveaux lecteurs ne prisaient guère les livres d’histoire, de géographie, de science mis à leur disposition, ce que déplore à plusieurs reprises la SBE. Ainsi dans le Bulletin n° 10, publié en 1891 (p. 20) : « Il est regrettable d’être obligé de dire que ce sont les romans qui attirent le plus les amateurs de littérature belfortains. » Les heures d’ouverture des deux bibliothèques restaient limitées, faute de crédits de fonctionnement et la SBE ne put réaliser un souhait exprimé dans le Bulletin n°5 de 1882 (p. 18) : « Un de nos désidérata serait la création d’une salle de lecture, le soir, en hiver. Cette institution nous semble commandée par le développement que prend la population ouvrière de la cité. »
Les collections des deux bibliothèques s’enrichirent par des achats faits avec les subventions de la ville et une contribution régulière de la SBE. S’y ajoutèrent de très nombreux dons de particuliers et des dépôts du ministère de l’Instruction publique.