Schon lange gab es wertvolle Sammlungen von Büchern und Notenmaterial, jedoch diese Autographe, Erstdrucke oder von Kopisten handschriftlich erstellte Abschriften waren ein wertvolles Gut und wurden schon seit dem 17. Jahrhundert in Klöstern oder in Fürstenhäusern wie Gold oder Silber sicher gehortet.
Eine der berühmtesten Musiksammlungen war die königliche Bibliothek Friedrichs des Großen, dem nahezu alle großen Komponisten seiner Zeit Stücke widmeten und ihm die entsprechenden Autographe zusandten oder bei Besuchen in Berlin oder Potsdam als Gastgeschenke mitbrachten. Dazu die vielen in seinem Auftrag geschriebenen Konzerte und Kammermusikwerke für die nahezu täglich stattfindenden Musikabende sowie ab 1742 Partituren für die neueröffnete Oper Unter den Linden. Seine Schwestern Wilhelmine von Bayreuth, Ulrike Königin von Schweden und Anna Amalia von Preußen folgten dieser Tradition ebenso wie die Nichte Anna Amalia von Weimar. Allerdings war hier nur für besondere Gäste Einsicht in die Bibliotheks-Regale, so wie für den österreichischen Gesandten Baron van Swieten, der sich etliche J.S. Bach-Werke kopieren ließ und in seinem Wiener Salon zu Gehör brachte, wo auch der junge Mozart hierdurch die Bach’sche Musik kennenlernte. Schon Mitte des 18. Jahrhunderts gab es die Idee zur Öffnung der Bibliotheken für die Bürger, zunächst allerdings nur für Lehrbücher und Literatur – zu wertvoll waren die Autographe, die ersten Notendrucke von Hand und die ebenfalls jeweils mühsam und teuer hergestellten Kopien. Bereits zwei Tage nach des Königs Tod 1786 war der Notenschatz aus Schloß Sanssouci verschwunden, und seine Berliner Schwester, deren Musiksammlung mit Origninalwerken von Bach, seinen Söhnen, seinen Schülern, sowie den Hofkomponisten Quantz, Graun, Hasse oder Kirnberger ein wertvolles ideelles Gut war, schrieb noch wenige Wochen vor ihrem Tod 1787 in ihr Testament: „.. und dass kein Blatt dieser wertvollen, unwiederbringlichen Musikalien verloren gehe“. Hierdurch sind nahezu alle dieseWerke heute in der Staatsbibliothek zu Berlin einzusehen.
Erst 1901 enstand in Berlin eine Bücherei mit Musikalien zur Ausleihe für jeden Bürger sowie einem großzügigen Lesesaal. Beim Bombardement in den letzten Kriegstagen des zweiten Weltkriegs wurde die gesamte Bibliothek zerstört, das Haus brannte bis auf die Grundmauern nieder. Es war hier nun nach 1948 das Vorstandsmitglied des Berliner Tonkünstlervereins, Herbert Schermall, der sich vehement für die neuen Musik- und Volksbüchereien einsetzte, für neue Bestände sorgte und alsbald in mehreren Bezirken Berlins Zweigstellen einrichten ließ, um die musikalische Volksbildung zu unterstützen. Sobald eröffneten die Musikbüchereien in Steglitz, im Charlottenburger Rathaus, wo sie auch heute wieder zu finden ist, sowie nach und nach in weiteren Stadtbezirken. Bei den heute, wegen der Fülle der Ausleihexemplare, notwendigen zeitweisen Aussortierung alter, nur noch selten ausgeliehener Exemplare, finden sich manchmal kleine Schätze, wie die auf dem Foto zu sehende Ausgabe von Flötenkonzerten von Friedrich II. mit dem Bibliotheksstempel des Berliner Tonkünstlervereins. Dies als weiteres sichtbares Zeichen, welchen Anteil an musikalischer Volksbildung der Tonkünstlerverband seit jeher in Berlin hatte.